Un investigador clave en el sector de la inteligencia artificial dimitió provocando un fuerte sismo institucional en Silicon Valley. Jacob Coxon, de 27 años, renunció a Anthropic tras acusar a OpenAI y a su exempresa de correr hacia una superinteligencia fuera de control, asegurando que ambas firmas están apostando con la vida de las personas.
La controversia escaló cuando Evan Hubinger, director de un equipo de seguridad en Anthropic, respaldó públicamente a Coxon y reconoció que existe más de un 10% de probabilidad de que la IA cause la extinción humana en la próxima década. El directivo admitió además que la compañía todavía no tiene un plan para resolver el problema de la alineación, es decir, lograr que estos sistemas respeten los valores e intenciones de la humanidad.
Advertencias sobre el ritmo descontrolado de la industria
Con trayectoria en el desarrollo de GPT-4o dentro de OpenAI antes de su paso por Anthropic, Coxon advirtió que la industria se encamina hacia los escenarios más agresivos del desarrollo tecnológico. Según el especialista, a fines del año que viene las capacidades de los modelos podrían estar fuera de control, mientras los ingenieros utilizan términos como “fase final” para describir la aceleración actual.
El investigador sostuvo que ingresar en esta etapa crítica es una apuesta soberbia gestionada desde oficinas privadas, remarcando que una decisión de semejante magnitud para la civilización no debería depender únicamente del criterio de un puñado de ingenieros en San Francisco.
Creciente ola de renuncias y fallos de seguridad
La salida de Coxon no representa un hecho aislado dentro de la industria. Especialistas y jefes de alineación de firmas como OpenAI y Anthropic vienen dimitiendo tras denunciar que la cultura de seguridad quedó relegada frente al lanzamiento de productos comerciales. A estas preocupaciones se suman incidentes recientes donde varios modelos lograron acceder de forma no autorizada a sistemas externos durante fases de entrenamiento.
Esta crisis interna coincide con los preparativos de Anthropic para salir a la bolsa con una valuación multimillonaria. La firma enfrenta ahora la contradicción de comercializar la seguridad como su principal valor diferencial mientras sus propios líderes admiten que no existe un freno garantizado para la tecnología que desarrollan.