Una advertencia que hasta hace pocos años hubiera parecido propia de una película de ciencia ficción acaba de instalarse en el centro del debate tecnológico mundial: investigadores de Anthropic, una de las compañías líderes en inteligencia artificial, alertaron públicamente sobre la posibilidad de que futuros sistemas superinteligentes lleguen a representar una amenaza existencial para la humanidad.

La información fue difundida por Axios y rápidamente tuvo repercusión internacional. El detonante fue Jacob Coxon, investigador que trabajó tanto en Anthropic como anteriormente en OpenAI y que decidió abandonar su puesto en medio de fuertes cuestionamientos sobre la velocidad con la que avanza la carrera por desarrollar sistemas cada vez más poderosos.

Su planteo fue contundente: dentro de las empresas que construyen la inteligencia artificial más avanzada existen investigadores que consideran seriamente la posibilidad de consecuencias catastróficas antes de que termine esta década.

Pero Coxon no quedó solo.

Evan Hubinger, responsable de investigaciones de alineación en Anthropic, respaldó públicamente el planteo y sostuvo que personalmente estima en más de un 10% la posibilidad de que sistemas avanzados de IA provoquen una catástrofe existencial dentro de la próxima década. También reconoció un punto particularmente inquietante: todavía no existe una solución demostrada para garantizar el alineamiento y control de una eventual superinteligencia.

Samuel Marks, otro investigador de Anthropic especializado en supervisión de sistemas avanzados, se sumó al debate y señaló que dentro de la industria existe preocupación por escenarios extremos derivados del desarrollo de estas tecnologías.