Ataques autónomos de IA: qué enseñanzas deja el caso OpenAI para las empresas

OpenAI puso a prueba la capacidad ofensiva de dos modelos de IA de frontera en un entorno que debía permanecer aislado. Sin embargo, ambos modelos encontraron una vía de escape, alcanzaron sistemas productivos de un tercero y generaron más de 17.000 eventos de ataque antes de ser detectados. Más que la autonomía de la inteligencia artificial, el episodio expone debilidades en el diseño de la arquitectura de seguridad.

Por Marcela Mercapidez, CEO de Sabyk by Domus Global

Cada vez que se habla de una inteligencia artificial "fuera de control", el tema ocupa titulares. En este caso fueron dos modelos, aunque en realidad no hicieron nada imprevisible: ejecutaron exactamente el objetivo para el que habían sido entrenados. Y justamente ahí reside una de las principales enseñanzas de este episodio: la diferencia entre lo que creemos haber pedido y la forma en que un sistema optimizado decide conseguirlo.

Como parte de una evaluación de ciberseguridad, OpenAI habilitó a dos modelos de frontera dentro de un entorno que, en teoría, debía permanecer completamente contenido. Para realizar la prueba, la empresa desactivó parte de los mecanismos que normalmente impiden utilizar estos modelos con fines ofensivos y les asignó un objetivo concreto, acompañado de una métrica de éxito.

Los modelos actuaron como cualquier sistema diseñado para maximizar resultados: buscaron la forma más eficiente de alcanzar ese objetivo. En el proceso detectaron una vulnerabilidad en el propio entorno de prueba, lograron salir a internet y accedieron a sistemas productivos de Hugging Face, la plataforma donde se encontraba la solución al desafío planteado. Allí generaron más de 17.000 eventos de ataque antes de que el incidente fuera advertido.

Lo importante es el orden de los hechos. El problema no fue que el modelo actuara de manera inesperada, sino que la infraestructura encargada de contenerlo no cumplió su función. La IA no abandonó el objetivo; lo persiguió con absoluta fidelidad.

La paradoja: quien se defendía tenía menos herramientas

Sin proponérselo, OpenAI terminó atacando a Hugging Face. Y cuando la plataforma intentó responder al incidente apareció una limitación inesperada: los modelos comerciales que podrían haber colaborado en el análisis rechazaban procesar la información porque sus propios mecanismos de seguridad bloqueaban ese tipo de solicitudes.

La solución terminó siendo utilizar un modelo de pesos abiertos ejecutado de forma local. El episodio deja al descubierto una asimetría preocupante. Mientras el atacante operaba con las restricciones desactivadas, quien debía defenderse seguía sujeto a todos los controles. La misma tecnología, pero con capacidades muy distintas según el lado desde el que se utilice.

En los últimos meses abundan las discusiones sobre el riesgo de que la inteligencia artificial "se descontrole". Sin embargo, seguimos enfocando buena parte del debate en las limitaciones del propio modelo, cuando el verdadero desafío está en el diseño del entorno donde opera.

Un avión no es más seguro porque se le pida al piloto que no se estrelle. Lo es porque existen controles de acceso, protocolos, certificaciones, procedimientos y múltiples capas de seguridad que reducen el riesgo. La protección no descansa únicamente en la conducta del piloto, sino en todo el sistema que lo rodea.

Con los agentes de IA ocurre algo similar. El objetivo que reciben marca el destino, pero eso no significa que cualquier camino para alcanzarlo sea aceptable. Quizás la analogía también sirva para otra reflexión: incluso con todas las medidas preventivas, un avión puede terminar siendo utilizado como un arma. Lo relevante entonces es saber qué protocolos existen, quién toma las decisiones y con qué recursos cuenta quien debe responder.

Las preguntas que deja este caso: ¿Qué decisiones de diseño están tomando las empresas que desarrollan estos modelos si un resultado de este tipo no pudo anticiparse dentro de una prueba controlada?

¿Cómo resolver la asimetría cuando las herramientas que necesitamos para defendernos quedan limitadas por los mismos mecanismos de seguridad que buscan evitar usos indebidos?

Los límites de un agente no se definen únicamente mediante prompts o guardrails. También dependen de aspectos como la identidad, los permisos, la segmentación de redes y, en definitiva, de toda la arquitectura que sostiene al sistema.

Asimismo, las herramientas que podrán utilizarse durante un incidente deben formar parte del plan de respuesta. Decidir qué modelo emplear, con qué información y bajo qué autorizaciones no puede improvisarse cuando el problema ya está ocurriendo.

La velocidad con la que evoluciona esta tecnología supera la capacidad de muchos controles tradicionales. Por eso resulta cada vez más importante asumir que pueden aparecer capacidades superiores a las propias y ensayar los mecanismos de contingencia antes de necesitarlos.

Gobernar la inteligencia artificial no consiste únicamente en disponer de mejores modelos o redactar mejores instrucciones. La verdadera diferencia está en diseñar un entorno seguro y en preparar una respuesta capaz de enfrentar escenarios cada vez más complejos.

Tu opinión enriquece este artículo:

Oficial: el Rally Mundial vuelve a Córdoba (la provincia será sede del WRC en 2028)

Córdoba volverá a ser sede del Campeonato Mundial de Rally de la FIA (WRC) en 2028, después de nueve años de ausencia. El anuncio fue realizado este jueves por el gobernador Martín Llaryora, durante un acto en el Centro Cívico del Bicentenario, con la participación de autoridades de la Federación Internacional del Automóvil (FIA), el Automóvil Club Argentino (ACA) y representantes de la organización del campeonato.

“El crecimiento de Red Expres viene principalmente por adquisiciones y Tienda Smart ya tiene 10 ubicaciones definidas” (conversamos con Juan Manuel Parada, gerente General de Tienda Inglesa)

(Por Antonella Echenique) Con 21 tiendas, 61 locales Red Expres y ocho farmacias, Tienda Inglesa continúa expandiendo su operación en Uruguay. En cuanto al formato Smart, ya cuenta con dos tiendas operativas y las ocho restantes están en construcción. Juan Manuel Parada, gerente General de la empresa, explica cómo funciona este modelo, por qué Red Expres crece principalmente mediante adquisiciones y cuáles son las prioridades del negocio para los próximos cinco años.

Jorge Schreiner: “Analizando las carteras de clientes y sin incluir activos, el monto supera el conjunto de la deuda de ueno con el sistema previsional”

(Por MV) Jorge Schreiner, presidente del Banco Central del Paraguay (BCP), informó que ya fueron identificados aproximadamente US$ 600 millones en activos sanos de ueno bank. El valor de los activos detectados superaría las obligaciones del banco con las cajas previsionales. Sin embargo, esto no significa que los recursos ya hayan sido recuperados. El siguiente paso será completar la evaluación de las carteras y licitarlas en lotes, junto con los depósitos, para transferirlos a otras entidades financieras.

Los 10 autos eléctricos más vendidos en Uruguay (BYD domina el ranking y hay un nuevo jugador en el podio)

El mercado de vehículos eléctricos sigue ganando terreno en Uruguay y tiene un claro protagonista. Entre enero y octubre de 2026 se comercializaron 24.979 unidades 0 km de esta tecnología y apenas diez modelos concentraron el 66% de las ventas. El liderazgo volvió a quedar en manos de BYD, aunque la principal novedad del ranking fue la irrupción de Geely con un modelo que llegó este año y ya se metió entre los tres más vendidos.

Una de las navieras más grandes del mundo amplió su infraestructura en Uruguay (Maersk invirtió US$20 millones en un centro logístico de 71.000 m² sobre Ruta 1)

Maersk, la segunda naviera más grande del mundo, inauguró un nuevo centro logístico en Montevideo tras una inversión privada superior a los US$ 20 millones. La instalación, ubicada en el acceso a Ruta 1, ocupa 71.000 m² y cuenta con capacidad para almacenar 7.000 TEUs, más de 1.000 posiciones para pallets y 140 conexiones para contenedores refrigerados.

“Paraguay no tiene más margen de error”: sector privado pide replantear el PGN 2027 ante el nuevo escenario económico

(Por MV) Gremios de la producción, la industria, el comercio y los servicios reclamaron al presidente Pedro Alliana una revisión profunda del presupuesto, mayor disciplina fiscal y controles sobre los recursos públicos. Desde el sector privado advierten sobre una fuerte caída de las ventas y consideran que el PGN 2027 debe incorporar medidas para reactivar la economía.