Anthropic pidió una pausa temporal en el desarrollo de inteligencia artificial avanzada al advertir que los modelos más poderosos podrían evolucionar más rápido que la capacidad humana para supervisarlos.
La empresa tecnológica con sede en San Francisco publicó este 5 de junio un informe en el que plantea desacelerar el desarrollo de la llamada IA de frontera. Según la compañía, esta medida permitiría fortalecer las investigaciones de seguridad y los marcos regulatorios antes de que la tecnología alcance niveles más complejos. “Sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo”, señaló Anthropic.
La firma reconoció que una pausa unilateral tendría pocas posibilidades de éxito debido a la intensa competencia entre empresas de Estados Unidos y China. Por eso, propuso acuerdos internacionales acompañados de mecanismos de supervisión verificables. Anthropic comparó este desafío con los tratados de control nuclear, aunque admitió que monitorear el entrenamiento de modelos de IA resulta más difícil.
La principal preocupación de la compañía es la llamada “superación recursiva”, un escenario en el que la inteligencia artificial pueda mejorar sus propios sistemas de forma continua. Anthropic aseguró que sus modelos ya contribuyen a acelerar tareas de investigación y programación. “Las pruebas sugieren que el papel humano se está reduciendo”, advirtió el informe. Mientras tanto, el gobierno de Donald Trump comenzó a implementar revisiones preliminares para algunos sistemas avanzados antes de su lanzamiento.
Para trabajadores, estudiantes y usuarios comunes, el debate influirá en cómo se regula una tecnología que cada vez tiene más impacto en el empleo, la educación, la economía y la vida cotidiana.
Foto: Techcrunch
