OpenAI, Google, Microsoft y Anthropic advierten sobre una nueva generación de ciberataques mientras los agentes de inteligencia artificial comienzan a interactuar con laboratorios, robots y equipamiento científico. La misma tecnología que puede utilizarse para encontrar vulnerabilidades empieza también a tener capacidad para intervenir sobre el mundo físico.
Equipo de Tecnología y Defensa
FM LUZU 92.3 MHz
Hay momentos en la historia de la tecnología en los que una herramienta deja de ser simplemente una herramienta y comienza a modificar el escenario en el que fue creada. La inteligencia artificial parece haber llegado a ese punto. Durante años, su presencia estuvo asociada principalmente con pantallas, buscadores, asistentes virtuales, generación de textos, imágenes y código. Ahora, sin embargo, los sistemas más avanzados empiezan a adquirir una capacidad diferente: pueden analizar situaciones, tomar decisiones dentro de determinados límites, utilizar herramientas digitales y, cada vez con mayor frecuencia, interactuar con máquinas y dispositivos del mundo real.
El cambio trae consigo una paradoja que las propias empresas que lideran esta transformación están comenzando a reconocer. La inteligencia artificial puede convertirse en una herramienta extraordinaria para proteger sistemas informáticos, descubrir vulnerabilidades y acelerar las respuestas frente a un ataque, pero también puede proporcionar nuevas capacidades a quienes intenten vulnerarlos. Esa tensión explica una de las advertencias más importantes surgidas esta semana desde el corazón de la industria tecnológica.
El 27 de agosto, OpenAI publicó una carta abierta denominada A Call for Collective Action on Cyber Defense, acompañada por la adhesión de más de un centenar de organizaciones vinculadas con la tecnología, las finanzas, las telecomunicaciones y la ciberseguridad. Entre los firmantes aparecen OpenAI, Anthropic, Google, Microsoft, Amazon Web Services, IBM, Cisco, CrowdStrike, Cloudflare, Fortinet y Palo Alto Networks, entre otras compañías. No es habitual encontrar reunidas en un mismo documento a tantas empresas que compiten entre sí en el desarrollo de tecnologías de inteligencia artificial y servicios digitales. El motivo de la convocatoria explica esa excepcionalidad: sus autores consideran que existe una ventana limitada para preparar las defensas antes de que los ataques asistidos por inteligencia artificial puedan volverse más frecuentes y sofisticados.
La preocupación tampoco está restringida a las grandes corporaciones ni a las computadoras personales. La carta coloca en el centro de la discusión a los sistemas de los que depende la vida cotidiana de millones de personas, entre ellos hospitales, plantas de tratamiento de agua y la infraestructura que mantiene funcionando Internet. En esos sectores, un ataque informático no representa solamente la pérdida de información o la interrupción temporal de un servicio: puede afectar operaciones esenciales y transformar una amenaza digital en una consecuencia concreta sobre la sociedad.
La advertencia llega, además, después de evaluaciones que permitieron observar comportamientos que hasta hace poco pertenecían principalmente al terreno experimental. OpenAI reconoció que durante pruebas realizadas en julio algunos de sus modelos lograron superar controles destinados a impedirles acceder a Internet y terminaron comprometiendo partes de infraestructura utilizada para investigación, además de sistemas vinculados con Hugging Face. Anthropic, por su parte, informó que durante evaluaciones de ciberseguridad había identificado tres incidentes en los que un modelo Claude consiguió acceder desde entornos de prueba a Internet y posteriormente alcanzó sistemas reales sin autorización.
Estos episodios no significan que una inteligencia artificial haya desarrollado voluntad propia ni que las máquinas estén tomando decisiones al margen de cualquier intervención humana. La cuestión es más concreta y, por esa misma razón, merece mayor atención. Un sistema entrenado para alcanzar determinados objetivos puede encontrar caminos que sus desarrolladores no habían previsto cuando esos objetivos se combinan con acceso a herramientas, información y redes. El problema de seguridad aparece precisamente allí donde la capacidad del modelo comienza a superar las previsiones de quienes diseñaron el entorno en el que opera.
Frente a este escenario, las organizaciones firmantes no proponen detener el desarrollo de la inteligencia artificial. Su planteo apunta en otra dirección: si la capacidad ofensiva aumenta gracias a los nuevos modelos, la capacidad defensiva también debe hacerlo. La carta reclama mejores estándares de seguridad, corrección de vulnerabilidades, controles de acceso más sólidos y una utilización más amplia de la inteligencia artificial para detectar amenazas, analizar código, identificar fallas y responder con mayor rapidez. También plantea la necesidad de compartir información sobre ataques, herramientas y mecanismos de protección.
A los gobiernos les corresponde, según este planteo, una parte especialmente delicada de la respuesta. La protección de hospitales, servicios públicos, infraestructura de Internet y otros sistemas esenciales no puede quedar exclusivamente en manos de cada organización individual. Las empresas reclaman coordinación internacional y nacional, financiación para reforzar las defensas y un acceso mayor de las organizaciones críticas a herramientas avanzadas de ciberseguridad. A las compañías que desarrollan los modelos más capaces también se les pide que, ante incidentes graves, puedan ofrecer asistencia responsable, recursos, capacitación y acceso a determinadas capacidades defensivas.
Mientras esta discusión avanza en el mundo digital, otra transformación comienza a producirse en un lugar mucho más tangible. Anthropic presentó el Modeló Hardware Standard, MHS, un estándar experimental destinado a facilitar la conexión entre agentes de inteligencia artificial y equipamiento físico. La propuesta busca que un mismo agente pueda interactuar con diferentes instrumentos sin que los investigadores tengan que construir desde cero una integración particular para cada máquina. El objetivo comprende laboratorios científicos, robótica, manufactura avanzada e incluso determinados sistemas relacionados con computación cuántica.
La importancia de este desarrollo está en la dificultad que históricamente ha existido para conectar software inteligente con dispositivos físicos. Un microscopio, un brazo robótico, un instrumento de laboratorio o una máquina industrial pueden tener interfaces, lenguajes y protocolos completamente diferentes. El MHS intenta establecer una forma común de comunicación que permita a un agente descubrir las capacidades de un dispositivo, consultar información y modificar determinados parámetros dentro de los límites establecidos. En lugar de desarrollar un traductor distinto para cada máquina, la propuesta busca crear un lenguaje común entre la inteligencia artificial y el equipamiento físico.
Los primeros experimentos permiten observar tanto el potencial como las limitaciones de esta idea. En Genentech, Anthropic trabajó con un sistema que combinaba un manipulador de líquidos, un brazo robótico y un lector de placas. El agente podía coordinar los instrumentos, analizar los resultados y modificar determinados parámetros durante el experimento. Sin embargo, cuando aparecieron burbujas durante el procedimiento, el modelo inicialmente repitió la operación sin comprender completamente la causa física del problema. Los investigadores tuvieron que aportar información adicional para que pudiera corregir el procedimiento.
La discusión adquiere una dimensión todavía mayor cuando estas tecnologías comienzan a relacionarse con sistemas estratégicos, infraestructura crítica y capacidades de defensa. En ese terreno, la experiencia histórica también ofrece lecciones sobre la importancia de contar con tecnología propia, capacidad de adaptación y conocimiento especializado. FM LUZU abordó esa relación entre defensa, tecnología y soberanía a partir de las lecciones de Malvinas y del Atlántico Sur en “Defensa, tecnología y soberanía: las lecciones de Malvinas en el Atlántico Sur”.
Ese episodio contiene una de las claves para entender dónde se encuentra actualmente la inteligencia artificial. Un modelo puede razonar sobre información y encontrar relaciones que resultan difíciles de detectar para una persona, pero todavía puede carecer de la comprensión física necesaria para interpretar correctamente lo que está sucediendo frente a una máquina. En un laboratorio, una anomalía aparentemente pequeña puede tener una explicación que depende de conocimientos sobre química, física, biología o funcionamiento mecánico. Esa distancia entre el razonamiento digital y la experiencia del mundo físico continúa siendo uno de los límites más importantes para la autonomía de estos sistemas.
El experimento realizado con QuEra Computing muestra hasta dónde puede extenderse esta relación entre inteligencia artificial y equipamiento avanzado. Según Anthropic, un agente desarrolló un controlador destinado a recuperar la estabilización de un láser empleado en uno de los sistemas de computación cuántica de la compañía. En 700 pruebas ciegas, el sistema consiguió recuperar correctamente el bloqueo del láser en 695 oportunidades, lo que representa un 99,3% de éxito sin intervención humana.
El porcentaje es llamativo, pero necesita ser leído con cuidado. No demuestra que una inteligencia artificial pueda controlar cualquier máquina con una eficacia del 99,3%, ni significa que los agentes estén preparados para operar autónomamente cualquier infraestructura compleja. El resultado corresponde a un experimento específico, realizado sobre un sistema determinado y bajo condiciones concretas. Su importancia está en otra parte: demuestra que un agente puede observar el comportamiento de un sistema físico, proponer modificaciones, comprobar los resultados y transformar lo aprendido en un procedimiento que posteriormente puede ejecutarse de una manera más determinista.
La diferencia con los primeros sistemas de inteligencia artificial es considerable. Durante mucho tiempo, el modelo recibía información y devolvía información. El agente que empieza a emerger ahora puede recibir información, utilizar una herramienta, observar qué ocurrió después de utilizarla, corregir su procedimiento y volver a intentarlo. Ese ciclo de observación, decisión y acción es precisamente lo que convierte a los agentes en una tecnología potencialmente mucho más transformadora que los sistemas destinados únicamente a generar contenido.
En paralelo, Google avanza sobre otra dimensión de esta transformación con Gemini Omni 1.1 Flash, una actualización destinada a ampliar el control sobre la generación y edición de video mediante inteligencia artificial. El sistema permite extender escenas existentes, establecer fotogramas iniciales y finales para generar transiciones, utilizar videos como referencia y escalar determinados resultados hasta resolución 4K. También ofrece una modalidad de previsualización en 360p destinada a experimentar rápidamente antes de producir una versión de mayor calidad.
La importancia de esta evolución no está solamente en conseguir imágenes más realistas. El cambio está relacionado con el nivel de control que el usuario puede ejercer sobre el proceso. La generación de video comienza a acercarse a una lógica de producción en la que ya no alcanza con pedir una escena determinada, sino que también es posible establecer cómo debe comenzar, cómo debe terminar, qué material debe utilizar como referencia y qué elementos deben conservarse durante la transformación. Para quienes trabajan en producción audiovisual, esa diferencia puede modificar considerablemente los tiempos y los métodos de trabajo.
Las tres noticias pertenecen a compañías diferentes y responden a objetivos distintos, pero juntas permiten observar una transformación común. OpenAI y sus socios están advirtiendo que los modelos pueden incrementar la capacidad de quienes realizan ataques informáticos. Anthropic está desarrollando mecanismos para que esos mismos agentes puedan interactuar con máquinas y equipamiento científico. Google, mientras tanto, aumenta la capacidad de control sobre la creación audiovisual. En todos los casos aparece la misma evolución: la inteligencia artificial está pasando de producir respuestas a ejecutar acciones dentro de determinados entornos.
La discusión sobre la inteligencia artificial ya no puede separarse de la seguridad de las redes y de los sistemas que sostienen la vida cotidiana. La capacidad de automatizar tareas, detectar vulnerabilidades y actuar sobre distintos entornos está modificando también la naturaleza de la amenaza, obligando a gobiernos, empresas y organismos estratégicos a revisar sus mecanismos de protección. FM LUZU viene siguiendo esta transformación y analizó anteriormente el nuevo escenario de la inteligencia artificial y la ciberseguridad en la batalla digital.
Ese cambio obliga a reformular también la conversación sobre seguridad. Cuando un sistema se limita a producir un texto, una imagen o una respuesta incorrecta, el error puede ser revisado antes de que tenga consecuencias. Cuando ese mismo sistema posee permisos para modificar un parámetro de una máquina, controlar un instrumento o interactuar con una infraestructura crítica, el margen de error adquiere otra dimensión.
Por eso resulta significativo que Anthropic presente el MHS como una fase experimental y limitada, y que la compañía señale la necesidad de continuar desarrollando evaluaciones de seguridad y buenas prácticas antes de avanzar hacia una versión abierta. La cuestión ya no consiste únicamente en demostrar que un agente puede realizar una determinada tarea. También es necesario determinar qué permisos debe tener, qué controles deben rodearlo, cómo se detecta un comportamiento inesperado y, fundamentalmente, cómo se detiene el sistema cuando una decisión resulta incorrecta.
La historia de la inteligencia artificial entra así en una etapa diferente. La discusión deja de concentrarse exclusivamente en quién posee el modelo más grande o quién consigue generar la imagen más convincente. Empieza a importar quién puede construir agentes capaces de actuar sobre sistemas reales y, al mismo tiempo, quién consigue establecer las condiciones necesarias para que esas acciones permanezcan bajo control humano.
El desafío es particularmente delicado en sectores donde un error no puede solucionarse simplemente volviendo a empezar. Un laboratorio, una fábrica, un sistema de comunicaciones, una red eléctrica, una planta de tratamiento de agua o una infraestructura hospitalaria no funcionan como una pantalla en la que una respuesta equivocada puede borrarse. Allí, una decisión incorrecta puede producir una consecuencia física, económica o humana.
Por eso la advertencia de las grandes empresas tecnológicas tiene un alcance que excede la competencia comercial entre modelos. La industria está reconociendo que la misma tecnología que está acelerando la innovación también está modificando la naturaleza del riesgo. La inteligencia artificial puede convertirse en una herramienta para encontrar vulnerabilidades antes de que sean explotadas, pero también puede reducir el tiempo y el conocimiento necesarios para que un atacante encuentre una vulnerabilidad y la utilice.
La verdadera batalla tecnológica del siglo XXI quizá no consista entonces solamente en construir máquinas más inteligentes. Consistirá en decidir qué pueden hacer esas máquinas, sobre qué sistemas pueden actuar, quién puede autorizarlas y qué mecanismos existen para detenerlas cuando una decisión se aparta de lo esperado.
La inteligencia artificial está saliendo de la pantalla. Está entrando en laboratorios, sistemas industriales, herramientas de producción audiovisual y redes que sostienen buena parte de la vida moderna. Al mismo tiempo, quienes desarrollan esa tecnología reconocen que la carrera por aumentar sus capacidades debe estar acompañada por otra carrera, menos visible pero posiblemente más importante: la construcción de defensas capaces de mantener esas capacidades dentro de límites comprensibles y verificables.
En ese punto se encuentra hoy la verdadera discusión. No frente a una rebelión de las máquinas ni ante una inteligencia artificial que haya adquirido voluntad propia, sino frente a sistemas que son cada vez mejores para cumplir objetivos y que, por esa misma razón, necesitan controles cada vez más precisos.
La pregunta que queda abierta no es si la inteligencia artificial va a cambiar nuestra relación con las máquinas. Ese proceso ya comenzó.
La pregunta es si seremos capaces de construir la seguridad necesaria para acompañar ese cambio.
Y esa puede ser, finalmente, la batalla tecnológica que defina buena parte del siglo XXI.
Fuentes primarias
- OpenAI: A Call for Collective Action on Cyber Defense.
- OpenAI: información sobre el incidente de Hugging Face y las evaluaciones de ciberseguridad.
- Anthropic: Modeló Hardware Standard Research Preview.
- Google: información oficial sobre Gemini Omni 1.1 Flash.