IA podría dañar más a los niños que las redes sociales, advierte ex jefe de seguridad de Google

Tom Siegel, fundador del equipo de confianza y seguridad ⁠de Google, filial de Alphabet , pidió esta semana que se frene ⁠el desarrollo de ⁠la inteligencia artificial (IA) y advirtió que el sector tecnológico está repitiendo los mismos errores de la era de las redes sociales, lo que podría causar un daño aún mayor a los niños.

Las empresas de redes sociales están pagando enormes sumas y se enfrentan a miles de demandas por acusaciones de haber perjudicado a los usuarios jóvenes, mientras que los gobiernos de todo el mundo están trabajando para restringir el acceso de los menores a sus plataformas.

“Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños”, dijo a Reuters Tom Siegel, antiguo ⁠vicepresidente de confianza y seguridad ​de Google. “La idea de que el sector vaya a resolverlo ⁠por sí solo sin ayuda externa es poco realista”.

Las preocupaciones de Siegel reflejan un temor creciente entre algunos expertos del sector tecnológico e investigadores académicos de que la IA suponga una amenaza mayor para los niños de la ‌que representan las ‌redes sociales, cuando el sector se apresura a incorporar funciones cada vez más avanzadas a los chatbots que millones de jóvenes ya utilizan a diario.

Siegel anunció el martes que se había incorporado a Common Sense Media, ​una organización que defiende los derechos de los niños en Internet.

La organización sin ánimo ​de lucro, fundada en 2003, lleva ​a cabo investigaciones y evalúa la idoneidad de diversos medios de comunicación ‌para los niños. En mayo, puso en marcha el Instituto para la Seguridad de los Jóvenes en la IA, una organización de investigación destinada a evaluar el uso que hacen los niños de la IA, de la que Siegel será el primer director ejecutivo.

Anthropic y la Fundación OpenAI, la organización sin ánimo de lucro que controla OpenAI, se encuentran entre los patrocinadores del instituto.

Siegel dijo que tenía previsto desarrollar normas para exigir responsabilidades a las empresas de IA, y esperaba hacerlo colaborando con las empresas y con grupos independientes.

Antes trabajó en Google entre 2004 y 2019, pero abandonó la empresa tras llegar a la conclusión de que el sector tecnológico se había “estancado” en su capacidad para crear espacios ‌en línea seguros para los consumidores.

“Creo que nos enfrentamos a escenarios muy, muy graves en los que se está causando ⁠daño”, dijo.

Sugirió que las empresas podrían tomar medidas inmediatas para proteger mejor a los jóvenes, citando riesgos que van desde el suicidio y la psicosis hasta la “descarga cognitiva”, un término utilizado para describir ⁠la disminución del pensamiento crítico causada por el hecho de recurrir a la IA para responder a preguntas.

Anthropic y OpenAI podrían aplicar medidas de verificación de edad más estrictas para impedir que los menores accedan a sus chatbots, señaló.

Su antigua empresa, Google, podría implementar fácilmente una opción para desactivar los “Resúmenes de IA” y el “Modo ​IA” en su motor de búsqueda, añadió, del mismo modo ​que ​ya cuenta con un botón que permite a los usuarios filtrar el contenido sexualmente explícito.

Si bien estas medidas podrían afectar el uso o las ganancias a corto plazo, las empresas de IA que no actúen correrán el riesgo de enfrentar demandas y regulaciones que podrían afectar su negocio de manera más grave, agregó Siegel.

Al ser consultado sobre los comentarios de Siegel, un portavoz de Google señaló que los padres cuentan con controles para desactivar por completo el acceso de los niños al motor de búsqueda.

Un portavoz de OpenAI indicó que la empresa utiliza “señales de la cuenta y del comportamiento”, además de la edad declarada por el usuario, para identificar a los usuarios menores de edad.

Anthropic no respondió de inmediato a una solicitud de comentarios.

En Common Sense Media, Siegel señaló que una de las principales prioridades sería ampliar el uso de estándares independientes, similares a las pruebas de choque de automóviles, que midan el riesgo de las herramientas de IA disponibles públicamente. La eficacia dependerá en parte de la disposición de las empresas de IA a colaborar, algo que, según Siegel, no es seguro, pero sí lo suficientemente probable como para que él aceptara el puesto. (Reuters)