Humanos podrían llegar tarde para contrarrestar ataques autónomos de IA: experto

Manuel Rivera, director general de Nekt Group, advirtió que dos incidentes recientes demostraron que sistemas de inteligencia artificial (IA) ya pueden ejecutar acciones ofensivas de manera autónoma, incluso fuera de los entornos controlados en los que operan, lo que, afirmó, plantea la necesidad de establecer límites y mecanismos de supervisión humana.

Durante una entrevista con Aristegui en Vivo, Rivera explicó desde Las Vegas, donde participa en Black Hat 2026, una de las principales conferencias internacionales de ciberseguridad, que especialistas llevan meses e incluso años discutiendo cuándo ocurriría el primer ataque autónomo realizado por una inteligencia artificial, entendido como una acción ofensiva que el propio sistema decide emprender.

“Por primera vez en la historia, vemos que decidió completamente sola cómo romper las defensas de otra empresa”, señaló Rivera al referirse al primero de los incidentes.

Según explicó, el caso ocurrió mientras una inteligencia artificial trabajaba dentro de un entorno de laboratorio y, al intentar resolver la tarea que se le había asignado, determinó por sí misma que la mejor manera de hacerlo era salir de ese espacio controlado y atacar un sistema externo a través de internet.

Rivera comparó el episodio con la fuga de un agente de un laboratorio, debido a que el sistema no recibió una prohibición explícita para abandonar el entorno de pruebas. “La inteligencia solita decidió que la tarea la podía hacer mejor atacando otra empresa saliendo ese laboratorio”, indicó.

El especialista sostuvo que el problema central fue que, al asignarle la tarea, no se estableció como restricción que el sistema no podía salir del laboratorio ni atacar objetivos externos en internet. Ante la ausencia de esa limitación, la inteligencia artificial actuó conforme al objetivo que debía resolver.

Rivera agregó que posteriormente se conoció un segundo incidente, ocurrido en Reino Unido, en el que estuvieron involucradas dos inteligencias artificiales en conjunto. A su juicio, este segundo caso refuerza la preocupación sobre la capacidad de estos sistemas para emprender acciones fuera de los espacios en los que originalmente fueron desplegados.

“Ahora ya tenemos una demostración pública verificada y reconocida de que la IA puede perseguir objetivos ofensivos, y que por su cuenta y con persistencia puede hacer ataques a entidades por fuera”, afirmó.

Aunque precisó que las consecuencias concretas de ambos episodios fueron menores, destacó que su relevancia radica en demostrar las capacidades que alcanzaron los sistemas. En el primer caso, explicó, la inteligencia artificial accedió a Hugging Face, una plataforma utilizada como repositorio de código. El sistema demostró que podía ingresar, extraer código y modificarlo para cumplir con la tarea que tenía asignada.

En el segundo episodio, ocurrido en Reino Unido, el sistema ingresó a GitHub, plataforma ampliamente utilizada por desarrolladores para almacenar y compartir código, y comenzó a modificarlo.

Rivera destacó que intervenir código informático puede tener consecuencias mucho mayores dependiendo del sistema afectado, ya que supone modificar las instrucciones que determinan el funcionamiento de infraestructuras, servicios o dispositivos controlados por computadora. “Alterar el código es alterar el funcionamiento de las cosas que funcionan por computadora”, explicó.

El director general de Nekt Group aclaró que en estos casos no ocurrió una consecuencia grave, pero consideró relevante que se demostrara la posibilidad de que una inteligencia artificial decidiera autónomamente ingresar a un repositorio de código para alcanzar su objetivo.

“No sucedió nada grave, qué bueno, pero se probó que pudo haber sucedido y que pudo haber sucedido en forma autónoma porque la inteligencia solita decidió que irse a meter a un repositorio de código maestro era la forma más fácil de resolver un problema”, afirmó.

IA realizó en horas tareas que tomarían semanas a humanos

El especialista destacó además la velocidad con la que una inteligencia artificial puede ejecutar este tipo de acciones, ya que el primer ataque autónomo realizó en cuestión de horas lo que una persona habría tardado semanas en ejecutar.

Esta diferencia temporal también representa un desafío para la respuesta ante incidentes, sostuvo, pues los equipos humanos podrían reaccionar cuando el ataque ya hubiera avanzado considerablemente.

Como ejemplo de las posibles consecuencias, Rivera planteó un escenario hipotético en el que una acción autónoma afectara una red eléctrica en una ciudad sometida a temperaturas extremas. Una interrupción de ese tipo también podría afectar sistemas de aire acondicionado y bombeo de agua mientras los equipos humanos intentaran restablecer el servicio.

Ante estos riesgos, Rivera sostuvo que las inteligencias artificiales necesitan reglas que coloquen la protección de las personas por encima del cumplimiento de las tareas asignadas. “Se tiene que asegurar que existen reglas que privilegian el cuidar la vida humana y el bienestar de la humanidad”, afirmó.

El especialista consideró necesario establecer una suerte de código ético o una regulación que limite las capacidades de estos sistemas para impedir acciones contrarias a los intereses y la seguridad de las personas.

Mencionó que existen esfuerzos internacionales para avanzar en este terreno, aunque los calificó como lentos y polarizados. Señaló intentos en el ámbito de Naciones Unidas para incorporar la seguridad digital a marcos internacionales, así como iniciativas impulsadas desde China para regular las inteligencias artificiales.

Sin embargo, consideró que la confrontación geopolítica dificulta la construcción de normas comunes, debido a las diferencias entre China y EE.UU. respecto de las propuestas regulatorias.

Señaló que anteriormente una parte importante de las restricciones recaía sobre el usuario, a quien correspondía no solicitar una actividad ilegal. El escenario cambia, sostuvo, cuando la inteligencia artificial adquiere capacidad para decidir por sí misma qué acciones ejecutar con el propósito de cumplir una tarea. “Si es más importante para la inteligencia resolver el problema que preservar la vida humana va a resolver el problema sin ninguna duda”, señaló.

De la adopción de la IA a la preocupación por sus riesgos

Rivera explicó que las discusiones entre especialistas reunidos en Black Hat cambiaron durante los últimos meses. Si anteriormente el énfasis estaba en la adopción acelerada de herramientas de inteligencia artificial, ahora una parte creciente del debate se concentra en cómo evitar que su incorporación genere nuevas vulnerabilidades. “Estamos en una carrera entre la adopción y la protección”, resumió.

El especialista señaló que empresas y gobiernos ya encuentran casos en los que sistemas basados en inteligencia artificial pueden ser utilizados de maneras distintas de aquellas para las que fueron implementados.

Como ejemplos, mencionó chatbots comerciales que pueden proporcionar información no prevista, mecanismos que podrían permitir operaciones financieras mediante instrucciones formuladas de determinada manera y sistemas que pueden ser manipulados para entregar información peligrosa.

Dijo que una parte de este problema está relacionada con técnicas de ingeniería social mediante las cuales un usuario formula instrucciones de forma que logra evadir las restricciones establecidas para el sistema.

Por ello, dijo, una de las principales discusiones actuales en el sector de la ciberseguridad consiste en determinar cómo auditar las interacciones con las inteligencias artificiales utilizadas por empresas y gobiernos para detectar usos indebidos, desde afectaciones a personas hasta robo de dinero o extracción de bases de datos.

A pesar de los riesgos señalados, sostuvo que la inteligencia artificial ofrece beneficios importantes para la productividad, por lo que el desafío consiste en acompañar su expansión con mecanismos de protección.

“Todos queremos que se use más IA, creo que los beneficios para la productividad de la humanidad son gigantescos, nada más que tenemos que asegurarnos que lo acompaña una agenda que no le permita que nos haga daño a las empresas, a la economía y desde luego a las personas”, dijo.

Supervisión humana

Rivera también retomó los planteamientos de la encíclica del papa León XIV “Magnifica Humanitas” sobre inteligencia artificial y destacó, en particular, la necesidad de mantener supervisión humana sobre los sistemas y los procesos que siguen para cumplir las tareas que se les asignan.

“Uno de los cinco cosas que recomiendan siempre hacer y en la encíclica, es tiene que haber un humano en medio; en algún punto tiene que haber un humano que revise las capacidades de la IA antes de que entregue sus resultados y no solo las capacidades sino los procesos que siguió”, afirmó.

El problema, apuntó, es que un usuario puede pedir a una inteligencia artificial que resuelva determinada tarea y recibir el resultado sin conocer necesariamente todas las acciones realizadas por el sistema para conseguirlo. “Pudo haber roto 20 leyes para lograr tu resultado y tú no estás consciente como usuario”, advirtió.

Tras escuchar los fragmentos de la encíclica en los que se plantea la necesidad de adoptar instrumentos normativos frente al poder tecnológico y analizar quién controla esas tecnologías y con qué fines, Rivera consideró que el documento obliga a reflexionar sobre el momento que atraviesa el desarrollo de la inteligencia artificial.

“Creo que el papa lo provoca muy bien y tenemos que tomarlo muy en serio”, sostuvo. Relató que, a partir de los recientes ataques autónomos, su equipo de trabajo discutió con qué momento de la historia podía compararse el nuevo escenario abierto por estas capacidades de la IA.

Comentó que inicialmente consideraron hitos como el nacimiento de internet o el correo electrónico, pero finalmente establecieron una comparación con el momento en que la fisión nuclear se convirtió en un riesgo tangible para la vida humana. “A la conclusión que llegamos el equipo fue a la fisión nuclear”, señaló.

Consideró que, una vez identificada la capacidad destructiva de la tecnología nuclear, surgió también la necesidad de supervisarla, limitar sus usos y aprovecharla para finalidades como la producción de energía.

“Yo creo que es un momento comparable, porque no podemos permitir que el mal uso de esta extraordinaria herramienta nos ponga en riesgo porque está en manos de unos cuantos y porque no nos tomamos el tiempo de asegurarnos que estas herramientas mejoran a la humanidad sin ponerle en riesgo”, concluyó.