¿La humanidad en riesgo por la IA? | Por David Ordaz

Por David Ordaz 

No sabemos si realmente faltan cuatro años para que la humanidad cambie radicalmente debido al uso y desarrollo de Inteligencia Artificial, pero en los últimos días ha crecido una preocupación real sobre el esto y no es algo que debe pasar desapercibido.

Hace unos días, Jacob Coxon, un investigador de IA que abandonó la empresa Anthropic declaró en entrevista con la BBC que las personas que trabajan en esa tecnología sentían un “miedo genuino” ante la velocidad de sus avances y lo que esto podría suponer para la humanidad.

“Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato”, dijo.

Esta entrevista se dio después de que un tuit suyo se viralizara en todo el mundo tras su renuncia. Ahí señalaba que esas las high tech “están en una carrera directa hacia la creación de una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Esto ocurrió en un contexto muy simple. Su antiguo jefe, Dario Amodei (director de Anthropic), pidió que se ralentizara el desarrollo de la IA, advirtiendo los riesgos “graves” asociados y la necesidad de conceder tiempo a empresas y gobiernos para abordarlos. Esta decisión que fue apoyada por Sam Altman (OpenAI) y Elon Musk (xAI), quienes respaldaron establecer regulaciones en todo el sector, así como de implementar una supervisión independiente del desarrollo de modelos de IA.

De hecho, uno de los riesgos señalados en los comentarios de Amodei era la posibilidad de que un enjambre de bots actuara como una supercomputadora capaz de tomar el control de Internet. Coxon afirmó que este escenario podría materializarse en un plazo de seis meses a un año.

A todo esto también hay reacciones que han generado incertidumbre y preocupación. Por ejemplo, Evan Hubinger, científico de Anthropic comentó: “realmente creemos con total sinceridad que la IA podría acabar con todos los seres humanos. Personalmente, creo que existe una probabilidad superior al 10% de que esto ocurra en la próxima década”.

Por su parte, Geoffrey Hinton, informático y premio Nobel, conocido como “el padrino de la IA”, declaró que considerar una probabilidad del 10% de que la IA aniquile a la humanidad “no era descabellado”.

Como era de esperarse, el presidente de Estados Unidos, Donald Trump también se refirió al tema y declaró que su país lleva ventaja sobre China en materia de IA: “francamente, quiero que siga siendo así. Porque quien gana en IA, gana en todo“.

Esto, evidentemente incidirá en las elecciones intermedias de noviembre en suelo estadounidense y en medio del debate mundial sobre si la inteligencia artificial representa un peligro para la humanidad, republicanos y demócratas abrieron la discusión sobre esta tecnología. Al respecto, el expresidente Barack Obama instó al partido demócrata a convertir la regulación de esta tecnología en un eje de su agenda.

El pasado fin de semana, el alto comisionado de la ONU, Volker Türk señaló que debido al acelerado desarrollo de inteligencia artificial, “todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad (…) la actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”.

Por ejemplo, la IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, ha mostrado fallos que podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas.

Te puede interesar <‘Están perdiendo el control’: qué hay detrás de las alarmas sobre los hackeos autónomos de agentes de IA | Por Marcos Martínez Chacón

“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros… la IA ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva”, mencionó Türk.

Las advertencias de Naciones Unidas refieren que gobiernos y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA sobre la base del derecho internacional y los derechos humanos.

“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, concluyó.