Edición semanal · Vigilanc-IA
VigilancIA

Tema de la semana · Regulación y gobernanza

Cuando la mejor inteligencia artificial no esté al alcance de todos

El acceso a los modelos de IA más avanzados empieza a depender de algo más que la decisión de sus proveedores. Las restricciones geopolíticas y el creciente coste de uso pueden abrir una brecha entre los países y las empresas que dispongan de las mejores capacidades y aquellos que no puedan acceder a ellas. El riesgo ya no es solo perder temporalmente una herramienta crítica, sino tener que competir en condiciones desiguales frente a quienes sí puedan utilizarla.

La semana pasada, OpenAI anunció que restringía el lanzamiento de su nuevo modelo GPT-5.6 a petición de la Administración Trump, dentro de una revisión de ciberseguridad. Pocas horas después, Anthropic comunicó que el Departamento de Comercio de EE. UU. había autorizado una distribución limitada de Claude Mythos 5, dos semanas después de haberlo bloqueado de facto.

La autorización a Anthropic no supone una apertura general. El acceso queda restringido a organizaciones estadounidenses consideradas «de confianza» por la Administración. Un sistema de listas. Quién entra en esa lista no lo decide solo Anthropic, sino la Administración estadounidense, y esto introduce una dimensión geopolítica que hasta ahora no formaba parte de las políticas comerciales habituales de los proveedores. El acceso a los sistemas de IA más avanzados puede depender de una decisión gubernamental, incluso aunque el proveedor quiera seguir ofreciendo el servicio.

Por cierto, de Fable 5, la versión pública y segura de Mythos diseñada para usuarios generales y desarrolladores, no se sabe nada. Continúa sin cambios anunciados.

Lo importante no es solo este caso concreto, sino como puede cambiar la lógica del acceso a las IAs más avanzadas. Hasta ahora, utilizar un modelo cerrado dependía del contrato con el proveedor, de sus condiciones de uso, de los países en los que estaba disponible y de su política comercial. Era un marco imperfecto, pero relativamente previsible. Ahora, un Gobierno puede intervenir en la distribución del producto sin regular directamente al cliente final. El proveedor puede querer mantener el servicio, pero el acceso queda sometido a un criterio externo que la empresa usuaria no controla.

El riesgo, además, no se limita a que un modelo deje de estar disponible durante unos días o unas semanas. A medida que estos sistemas sean más capaces, el acceso a los modelos más avanzados puede convertirse en un factor de competitividad para las empresas y también para los países.

Una organización con acceso a modelos más potentes podrá, en algunos ámbitos, analizar más información, automatizar tareas más complejas, desarrollar productos con mayor rapidez o tomar decisiones con mejores herramientas. Si otras empresas no acceden a esos mismos sistemas, la diferencia no será solo tecnológica. También puede traducirse en productividad, costes, velocidad de innovación y capacidad para competir.

Algo parecido, a otra escala, puede ocurrir entre países.

Pero la desigualdad de acceso no tiene por qué venir solo de la geopolítica. También puede venir del precio. El anuncio realizado por Anthropic de empezar a facturar por tokens su modelo Fable 5, cuando vuelva a estar disponible, apunta a un coste considerablemente superior para los modelos más capaces. Si esta tendencia se consolida, el propio mercado puede separar a las organizaciones que pueden pagar de forma continuada por las mejores capacidades de aquellas que deben conformarse con modelos menos avanzados.

No sería una exclusión formal. Ningún Gobierno tendría que prohibir el acceso y ningún proveedor tendría que cerrar el servicio. Bastaría con que el coste de utilizar los modelos de mayor capacidad solo fuera asumible para determinadas empresas, sectores o países.

Esto no significa que el riesgo sea inmediato ni generalizado. La mayoría de los usos corporativos actuales no dependen de los modelos más recientes y además, tampoco está claro que usar siempre el modelo más potente produzca mejores resultados de negocio. En muchas tareas, un sistema más pequeño, especializado o incluso abierto puede ser suficiente.

Aun así, el episodio nos deja algunas lecciones. En el futuro, no todas las organizaciones podrán disponer necesariamente de las mismas capacidades de IA. Algunas quedarán fuera por razones geopolíticas. Otras, porque el coste de los modelos más avanzados no compensará o no será asumible. Y otras dependerán de proveedores, infraestructuras o países sobre los que apenas tienen capacidad de influencia.

La pregunta, por tanto, ya no es solo cuánto tiempo podrían operar nuestras organizaciones sin poder utilizar su modelo principal. También es en qué posición competitiva quedarían si otras empresas o países tuvieran acceso sostenido a capacidades de IA que para ellas estuvieran restringidas o resultaran demasiado caras.

La solución probablemente no es abandonar a los grandes proveedores ni migrar deprisa a modelos abiertos. Pero sí pone de manifiesto que hay que incorporar este riesgo a la estrategia de negocio y asumir que el acceso a la mejor tecnología disponible puede dejar de depender solo de una decisión comercial.

Claves de la semana

3 claves

01 · Regulación y gobernanza

Anthropic acusa a Alibaba de extraer las capacidades de Claude

La rivalidad tecnológica entre Estados Unidos y China entra en el terreno de la propiedad intelectual. Anthropic acusa a Alibaba de haber utilizado las respuestas de Claude para entrenar sus propios modelos y reproducir parte de sus capacidades sin autorización. Es una acusación de la compañía, no un hecho probado judicialmente, pero señala el riesgo creciente que supone para cualquier desarrollador tratar de impedir que terceros aprovechen sus modelos para entrenar los de la competencia.

En una carta del 10 de junio dirigida a los senadores el Gobierno de EE.UU. Tim Scott y Elizabeth Warren, un día antes de una audiencia del Senado sobre «IA y el sueño americano», Anthropic afirmó disponer de pruebas confidenciales sobre una campaña para extraer capacidades de Claude de forma ilícita. La compañía señaló al gigante tecnológico chino de comercio electrónico Alibaba como presunta responsable de una operación de clonación a gran escala, que describe como la más importante detectada hasta ahora.

El mecanismo señalado es la destilación. En términos sencillos, consiste en usar muchas respuestas de un modelo avanzado para entrenar otro sistema y reproducir parte de sus capacidades, sin acceder a su código ni a sus parámetros internos. Anthropic sostiene que Alibaba habría utilizado este procedimiento sin su autorización.

Conviene introducir algunas cautelas. Se trata de una acusación de la compañía, no de un hecho probado judicialmente. Además, las supuestas pruebas no son públicas porque Anthropic afirma que contienen información confidencial. Con los datos disponibles, no es posible valorar de forma independiente el alcance real de la operación ni atribuir responsabilidades.

El interés del caso no está tanto en los detalles técnicos como en lo que sugiere sobre el mercado de la IA. Si capacidades diferenciales de modelos avanzados pueden copiarse o reproducirse mediante métodos difíciles de detectar, la ventaja de un proveedor podría reducirse con más rapidez y alterar la competencia, los precios y la disponibilidad de ciertos sistemas.

La acusación también introduce dudas sobre la procedencia de algunas capacidades. Al contratar un sistema de IA, una empresa suele evaluar rendimiento, precio, seguridad y condiciones de uso, pero rara vez tiene visibilidad completa sobre cómo se han desarrollado esas capacidades o si el proveedor podría enfrentarse después a reclamaciones, restricciones comerciales o medidas regulatorias.

El caso también encaja en la rivalidad tecnológica entre Estados Unidos y China. Si las empresas chinas reducen más rápido la distancia con los modelos estadounidenses, el mercado podría ganar competencia y alternativas más baratas. Al mismo tiempo, podrían aumentar las restricciones, los controles de exportación y las dudas sobre qué modelos pueden utilizarse en determinados países, sectores o procesos sensibles.

Esto no significa que una empresa usuaria vaya a ser responsable de una eventual infracción cometida por su proveedor. Sí sugiere que la elección de un modelo no debería basarse solo en rendimiento o precio. La estabilidad del proveedor, la transparencia sobre el desarrollo del sistema, la jurisdicción en la que opera y su exposición a conflictos geopolíticos también pueden afectar a la continuidad y seguridad del servicio.

02 · Sociedad y trabajo

La IA empieza a cambiar la puerta de entrada al empleo

Hay presión real sobre el empleo —Oracle vincula despidos a su apuesta por la IA y se reducen las ofertas de nivel inicial— pero correlación no es causalidad: los datos no demuestran que toda reducción proceda exclusivamente de la IA. El contrapunto (AWS contratando becarios) confirma que el efecto es desigual.

Oracle ha comunicado a la Comisión de Valores de Estados Unidos que el uso creciente de la inteligencia artificial ha contribuido a reducir su plantilla de 162.000 a 141.000 empleados en un año, una caída del 12,9 %, y ha advertido de que la tendencia podría continuar. Lo relevante es que una gran compañía vincula parte de esos recortes con la IA en una comunicación regulatoria oficial.

Un estudio suizo recogido por Reuters apunta también a una reducción de las ofertas de empleo de nivel inicial durante la expansión de la IA generativa. Sus autores advierten, sin embargo, de que no toda la caída puede atribuirse a la tecnología. También influyen la situación económica y las decisiones concretas de cada empresa.

AWS (Amazon Web Services) ofrece un contrapunto. Su consejero delegado, Matt Garman, ha anunciado la contratación de 11.000 becarios y empleados junior este año. La compañía sostiene que la IA puede acelerar su aprendizaje y aumentar su productividad. En una empresa en expansión, la misma tecnología puede servir para justificar más contrataciones, no menos.

Los casos de Oracle y AWS sugieren que el efecto de la IA sobre el empleo depende en gran medida de la estrategia empresarial. Puede utilizarse para reducir costes, pero también para ampliar la capacidad de una organización.

Más allá de estos grandes casos, conviene pensar cómo aprenderán y adquirirán experiencia los nuevos profesionales y si desaparecen algunas de las tareas que tradicionalmente servían como puerta de entrada. La oportunidad puede estar no en contratar menos, sino en rediseñar esos puestos para que el talento joven trabaje desde el principio con IA y pueda asumir antes funciones de mayor valor.

03 · IA responsable

La seguridad se rompe cuando las empresas delegan en la IA sin controles

Las empresas empiezan a confiar a la IA tareas que pueden afectar a sus sistemas, datos y clientes. El problema aparece cuando el resultado se acepta sin revisión o cuando el sistema puede actuar sobre información externa sin distinguir una instrucción legítima de un intento de manipulación.

Bob Starr creó «Boomberg», una web que muestra cuánto dinero público de Estados Unidos reciben distintas empresas tecnológicas. Generó el sitio con IA y lo publicó sin una revisión técnica de seguridad. Meses después descubrió que la aplicación contenía una vulnerabilidad de inyección SQL (un lenguaje de programación diseñado específicamente para comunicarse, administrar y recuperar información almacenada en bases de datos relacionales).

El problema no fue que la IA introdujera deliberadamente un ataque. El código generado dejó abierta, por error, una vía que otra persona podía intentar aprovechar. Para un visitante normal, la web podía parecer funcionar correctamente. Pero un atacante podía enviar una entrada manipulada para intentar que el servidor la interpretara como una instrucción. Si lo conseguía, podría acceder a información o modificar datos sin autorización. No consta que el fallo llegara a explotarse. El riesgo estaba en que la vulnerabilidad permaneció abierta hasta que Starr la detectó y la corrigió.

Un riesgo parecido aparece cuando las empresas conectan modelos de IA a correos, documentos, páginas web o aplicaciones. Un atacante puede introducir instrucciones maliciosas dentro de la información que el modelo debe analizar. Si el sistema no distingue bien entre los datos que debe leer y las órdenes que debe obedecer, podría revelar información o ejecutar una acción no prevista. Es lo que se conoce como inyección de instrucciones o prompt injection.

La inyección SQL y la inyección de instrucciones son fallos diferentes (la inyección SQL altera consultas a bases de datos, mientras que la de instrucciones manipula modelos de IA), pero apuntan a una misma debilidad de gestión. No conviene asumir que el sistema sabrá distinguir por sí solo entre una entrada legítima y otra diseñada para manipularlo.

Que una aplicación generada con IA funcione no significa que esté preparada para operar con datos reales, usuarios externos o procesos críticos. El código debe revisarse antes de publicarse, las entradas externas deben tratarse con cautela y las acciones sensibles deben incorporar límites y validaciones adicionales. La IA puede acelerar la construcción de una solución, pero no sustituye los controles ni elimina la responsabilidad de la organización sobre su seguridad.

En el radar

7 entradas

01 Modelos y productos

Las restricciones estadounidenses aceleran las alternativas asiáticas

Las restricciones de exportación de EE. UU. están acelerando el surgimiento de alternativas asiáticas: Sakana lanza Fugu, una familia de modelos orquestadores multiagente, mientras startups asiáticas presentan Tulongfeng como respuesta al veto de modelos frontera. Son productos distintos entre sí y ninguno es un equivalente demostrado de Mythos. El impacto estratégico de fondo es que los modelos chinos no necesitan superar a OpenAI o Anthropic para reconfigurar el orden global de la IA; basta con que sean útiles, disponibles y ampliamente adoptados.

02 IA responsable

Un mismo algoritmo para fijar precios, bajo sospecha antimonopolio

Una demanda federal en California acusa a Marathon, Circle K y otras cadenas de gasolineras de utilizar Kalibrate, un software de precios con inteligencia artificial, para coordinar indirectamente sus tarifas y reducir la competencia. Los demandantes describen la plataforma como el «sistema nervioso central» de la supuesta conspiración.

El caso abre una cuestión relevante para otros sectores: cuando varias empresas competidoras confían decisiones comerciales sensibles al mismo proveedor o algoritmo, los precios pueden terminar moviéndose de forma similar sin necesidad de llamadas, reuniones o correos entre ellas. No prueba que toda fijación algorítmica de precios sea ilegal, pero advierte de que delegar estas decisiones no elimina la responsabilidad de la empresa ni el riesgo antimonopolio.

Fuente: ap-technology.

03 Tecnología e infraestructura

España moviliza más de 430 millones para IA, chips y computación avanzada

El Gobierno de España ha aprobado más de 430 millones de euros para inteligencia artificial, computación avanzada y semiconductores, en un movimiento relevante de política industrial. La mayor parte se dirige a capacidad de cómputo, empresas tecnológicas y fabricación de chips, no al desarrollo directo de un gran modelo español de IA.

La apuesta contribuye a reducir una de las principales debilidades de España y Europa: la dependencia exterior de infraestructura y semiconductores. La cifra resulta modesta cuando se compara con programas similares de otros países, pero el paso es positivo. La cuestión es si tendrá la escala y la continuidad necesarias para convertir esa infraestructura en modelos, productos y empresas capaces de competir internacionalmente.

Fuente: El País / SETT.

04 Tecnología e infraestructura

OpenAI presenta su primer chip propio, desarrollado con Broadcom

OpenAI ha presentado Jalapeño, su primer chip propio para servidores de IA, desarrollado en colaboración con Broadcom. Es un ASIC, es decir, un microchip diseñado desde cero y optimizado para una tarea concreta.

En este caso, está pensado para la inferencia: el trabajo que realiza la IA cada vez que un usuario escribe una consulta y el modelo genera una respuesta. Dicho de forma sencilla, no sirve para enseñar o entrenar al modelo, sino para hacerlo funcionar después, atendiendo las peticiones de servicios como ChatGPT o Codex.

El movimiento apunta más a una estrategia de integración vertical —reducir la dependencia de Nvidia y controlar una parte mayor de su infraestructura— que a una mejora técnica inmediata visible para el usuario.

Fuente: the-verge-ai.

05 Empresa y mercado

La IA reduce la ventaja de producir donde la mano de obra es barata

La inteligencia artificial está eliminando la ventaja de coste que justificaba fabricar lejos: los países con mano de obra barata pierden su argumento central. Más de un billón de dólares en producción industrial podría reasignarse entre países en los próximos años —cifra estimada, no previsión—. Para directivos con operaciones distribuidas, cualquier decisión de localización tomada antes de que la automatización fuera el factor dominante merece revisión.

Fuente: expansion-tecnologia.

06 IA responsable

Midjourney entra en imagen médica, aunque sin evidencia clínica suficiente

Midjourney, conocida por su generador de imágenes artísticas, ha anunciado un escáner de ultrasonidos que sumerge al usuario en agua y promete resultados "tan potentes como una MRI (resonancia magnética" con la comodidad de un spa. La única evidencia publicada es una imagen de laboratorio: ningún ensayo clínico, ninguna validación regulatoria. Los expertos piden datos antes de extrapolar, porque en medicina, la distancia entre una imagen de prueba y un diagnóstico real puede costar vidas.

Fuente: the-verge-ai.

07 Aplicaciones y productividad

Ford admite que su automatización con IA falló y recupera conocimiento experto

Ford ha reconocido públicamente que su excesiva dependencia de sistemas automatizados generó errores en fabricación y diseño, y que ha tenido que contratar técnicos con experiencia, algunos de ellos, exempleados, para corregirlos. La compañía ha alcanzado el primer puesto en el ranking de calidad inicial de JD Power, que mide los problemas detectados en vehículos nuevos durante sus primeros 90 días, después de asumir ese coste.

La lección aprendida y extrapolable es que automatizar no corrige por sí solo un proceso mal diseñado ni sustituye el conocimiento de quienes lo dominan. Si los datos, las instrucciones o la experiencia de partida son deficientes, la tecnología puede repetir los errores más deprisa y a mayor escala.

Fuente: the-verge-ai.

Alertas

1 alerta

Regulación y gobernanza

Five Eyes alerta de que los grandes ciberataques con IA podrían llegar en meses

Five Eyes es una alianza de cooperación e intercambio de inteligencia formada por Estados Unidos, Reino Unido, Canadá, Australia y Nueva Zelanda. Sus organismos de ciberseguridad han emitido un aviso conjunto: la inteligencia artificial está facilitando ataques más rápidos, baratos y accesibles, y podría contribuir a incidentes de gran escala en cuestión de meses.

No se trata de la notificación de un ataque ya ocurrido ni de una predicción segura. Es una alerta preventiva basada en la evaluación compartida de cinco de los servicios de inteligencia más relevantes del mundo.

La IA puede ayudar a encontrar sistemas vulnerables, adaptar código malicioso y crear mensajes de engaño más convincentes. Tareas que antes exigían especialistas y semanas de trabajo pueden ejecutarse ahora con menos conocimientos y en menos tiempo.

Para las empresas, el mensaje es reforzar cuanto antes el parcheado de sistemas, la autenticación, el control de accesos, la separación de las redes críticas y la detección temprana. La IA no cambia las medidas básicas de seguridad, pero puede reducir mucho el tiempo disponible para reaccionar.

Fuente: Reuters / UK NCSC.

¿Quieres ir más al fondo?

Además del informe semanal, Vigilanc-IA publica ediciones especiales: análisis de fondo sobre un tema o concepto, sin caducidad.

Ver una edición especial →