Evan Hubinger, responsable de investigación en alineación de Anthropic, advirtió que personalmente estima en más del 10% la probabilidad de que una futura inteligencia artificial superinteligente pueda provocar la extinción de la humanidad durante la próxima década. Se trata de una evaluación personal del especialista y no de una estimación oficial de la compañía.
La advertencia surgió después de que Jacob Coxon, investigador de 27 años, renunciara a Anthropic y cuestionara la velocidad con la que las principales empresas del sector avanzan hacia sistemas cada vez más poderosos. El especialista había trabajado anteriormente durante varios años en OpenAI.
Hubinger respaldó públicamente parte de sus preocupaciones y reconoció que todavía no existe una solución definitiva al problema de la “alineación” de una superinteligencia, es decir, cómo garantizar que un sistema mucho más capaz que los humanos mantenga objetivos compatibles con los intereses de las personas.
Sin embargo, hizo una aclaración clave: considera bajo el riesgo que representan los modelos de inteligencia artificial actuales. Su temor está puesto en sistemas futuros capaces de una automejora recursiva, donde una IA pueda colaborar en la creación de versiones cada vez más avanzadas con una intervención humana cada vez menor.
Coxon sostuvo que la competencia entre compañías está acelerando esa carrera y cuestionó que decisiones con potencial impacto global queden concentradas en un grupo reducido de empresas y desarrolladores. Su salida volvió a poner en discusión hasta dónde debería avanzar la tecnología antes de contar con mayores garantías de seguridad.
El porcentaje mencionado por Hubinger no significa que exista un 10% de riesgo científicamente comprobado de extinción humana por inteligencia artificial. Es su estimación personal sobre un posible escenario futuro de superinteligencia y forma parte de un debate abierto entre investigadores sobre los riesgos asociados al desarrollo de sistemas cada vez más autónomos.
