Tom Siegel, exvicepresidente de Confianza y Seguridad de Google, lanzó una severa advertencia sobre los riesgos que implica la expansión de la inteligencia artificial entre los menores de edad. El especialista sostuvo que el impacto de la IA puede resultar más grave que el causado por las redes sociales y aseguró que es «poco realista» esperar que las propias empresas tecnológicas autorregulen sus desarrollos.
El exejecutivo, que trabajó en Google entre 2004 y 2019 siendo uno de los fundadores de sus equipos de seguridad digital, afirmó que la industria está reproduciendo las mismas falencias que abrieron paso a las crisis de salud mental atribuidas a las plataformas sociales.
Nuevos riesgos: suicidio, psicosis y «descarga cognitiva»
Según el especialista, la interacción irrestricta con chatbots de IA expone a niños y adolescentes a escenarios severos, entre los que destacó:
- Trastornos de salud mental: Riesgos asociados a la psicosis, aislamiento o conductas autolesivas y de suicidio por manipulación afectiva o respuestas inadecuadas del bot.
- Descarga cognitiva: Pérdida progresiva del pensamiento crítico y de la capacidad de análisis independiente cuando el menor delega la búsqueda de respuestas y resolución de problemas en algoritmos de IA.
- Dependencia emocional: Vinculación afectiva distorsionada con herramientas de conversación automatizadas.
Medidas urgentes para la protección de menores
Siegel, quien asumió como primer director ejecutivo del Instituto para la Seguridad de los Jóvenes en la IA (creado por la organización Common Sense Media), urgió a las empresas a implementar soluciones técnicas de forma inmediata:
- Sistemas de verificación de edad: Exigencia a compañías como OpenAI y Anthropic para aplicar controles estrictos que restrinjan el acceso de menores a chatbots no supervisados.
- Opción de desactivación en buscadores: Sugirió que Google permita a los usuarios desconectar voluntariamente los “Resúmenes de IA” y el “Modo IA”, mediante un mecanismo similar al filtro para contenidos explícitos (SafeSearch).
Desde su nuevo rol en Common Sense Media, organización respaldada por entidades como la Fundación OpenAI y Anthropic, Siegel buscará establecer marcos normativos e independientes para exigir responsabilidades a las grandes firmas de tecnología.