Un investigador de seguridad de Anthropic elevó el nivel de alarma sobre el futuro de la inteligencia artificial al estimar en más de 10% la probabilidad de que una IA pueda acabar con todos los seres humanos durante la próxima década.
La declaración fue hecha públicamente por Evan Hubinger, quien dirige un equipo de seguridad en Anthropic, después de que el investigador Jacob Coxon anunciara su salida de la empresa y cuestionara la forma en que la industria está desarrollando sistemas cada vez más avanzados.
Coxon, de 27 años, trabajó previamente en OpenAI y participó en labores de preentrenamiento relacionadas con GPT-4o. En septiembre se incorporó a Anthropic, pero permaneció alrededor de dos meses antes de renunciar.
En un mensaje publicado en X, Coxon sostuvo que tanto OpenAI como Anthropic avanzan hacia una superinteligencia capaz de mejorarse a sí misma sin que, a su juicio, existan suficientes garantías para controlar sus riesgos.
La respuesta de Hubinger fue especialmente relevante porque provino de un investigador que continúa dentro de Anthropic. Según la información publicada, coincidió con parte de las críticas de Coxon y calculó en más de 10% el riesgo de que una IA pueda provocar la extinción humana en los próximos diez años.
Hubinger también reconoció que Anthropic todavía no cuenta con un plan para resolver completamente el problema de la alineación, es decir, conseguir que una inteligencia artificial extremadamente avanzada mantenga sus objetivos bajo control humano.
El debate no es nuevo. Investigadores de seguridad han abandonado anteriormente Anthropic y OpenAI con advertencias sobre la prioridad que la industria está dando al desarrollo de productos frente a la seguridad.
El caso adquiere mayor relevancia porque Anthropic busca posicionarse como una de las principales empresas de inteligencia artificial y, según la información citada, prepara una posible salida a bolsa con una valuación buscada de hasta 2 billones de dólares.
La advertencia, sin embargo, debe entenderse como una estimación de riesgo de investigadores, no como una predicción científica de que la humanidad vaya a desaparecer. El dato del 10% refleja la valoración de Hubinger y no una probabilidad consensuada por la comunidad científica.
El verdadero debate está en si el desarrollo de modelos cada vez más capaces avanzará más rápido que las herramientas necesarias para mantenerlos bajo control.
