El CEO de Anthropic advirtió que solo se usa el 10% del potencial de la IA y pidió desacelerar su desarrollo por seguridad

Dario Amodei aseguró en la conferencia Dreamforce 2026 que la velocidad del progreso tecnológico superó todas sus previsiones. Las declaraciones se dan tras la renuncia de un investigador clave que alertó sobre los peligros de una superinteligencia sin control.

El cofundador y CEO de Anthropic, Dario Amodei, lanzó una contundente advertencia sobre el estado actual de la inteligencia artificial durante la apertura del evento Dreamforce 2026 en San Francisco. El ejecutivo afirmó que la sociedad actualmente solo aprovecha entre el 5% y el 10% del valor potencial de estas herramientas, al tiempo que reconoció que el ritmo de evolución técnica dejó atrás cualquier predicción previa.

POTENCIAL DESAPROVECHADO Y AVANCE IMPREDECIBLE

Durante la presentación junto al CEO de Salesforce, Marc Benioff, Amodei remarcó que existe una brecha abismal entre la capacidad técnica de los modelos y su adopción real:

• Adopción rezagada: “Incluso si congeláramos el desarrollo de la IA en su estado actual, estaríamos utilizando apenas entre el 5% y el 10% de su valor potencial”, sostuvo el directivo.

• Velocidad sin precedentes: A pesar de haber investigado las leyes de escalamiento durante una década, admitió que no dimensionaron la rapidez con la que estos sistemas se volverían centrales en la economía y la sociedad global.

ALERTA POR RIESGOS DE EXTINCIÓN Y RENUNCIAS

El pronunciamiento de Amodei cobra un cariz crítico tras la reciente renuncia de Jacob Coxon, un investigador de preentrenamiento que dejó la empresa con una severa advertencia pública.

• Sistemas fuera de control: Coxon denunció que los principales laboratorios (como OpenAI y Anthropic) compiten por crear superinteligencias capaces de mejorarse a sí mismas sin resolver primero cómo mantenerlas alineadas con la seguridad humana.

• Advertencia interna: Evan Hubinger, responsable de investigaciones de alineación en Anthropic, respaldó parte del planteo al estimar en más de un 10% la probabilidad de que la IA provoque la extinción humana en la próxima década.

EL PLAN EN TRES PASOS PARA MARCAR EL RITMO

En respuesta a la controversia, Amodei presentó los ejes de su manifiesto We Must Pace the Frontier, enfocado en desacelerar la carrera de capacidades para dar prioridad a la seguridad:

• Evaluaciones externas: Incorporar auditores independientes dentro de los laboratorios de desarrollo.

• Estándares comunes: Acordar normas de seguridad unificadas entre las empresas de países democráticos.

• Coordinación internacional: Establecer mecanismos de supervisión global verificables.