El exinvestigador de Anthropic, Jacob Coxon, generó una ola de debate en la industria de la inteligencia artificial tras anunciar su renuncia y cuestionar públicamente la responsabilidad de las empresas del sector frente a los posibles riesgos de esta tecnología. Sus publicaciones en X acumularon más de 170 millones de visualizaciones.

Las declaraciones de Coxon fueron respaldadas públicamente por decenas de trabajadores y exintegrantes de compañías de IA. La discusión llevó a directivos del sector a pronunciarse sobre la velocidad del desarrollo tecnológico. Según el texto, Dario Amodei, CEO de Anthropic, Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI, aceptaron una propuesta para incorporar supervisores independientes en las empresas de IA.

Una de las principales preocupaciones expresadas por investigadores es la posibilidad de que los sistemas alcancen capacidades de automejora recursiva, es decir, que puedan mejorar sus propias capacidades sin intervención humana.

El debate también ha generado cuestionamientos dentro de las propias empresas. Algunos investigadores consideran que permanecer en los laboratorios permite trabajar desde dentro para reducir riesgos, mientras otros han optado por salir y promover investigaciones y evaluaciones externas. Aidan Clark, vicepresidente de investigación de OpenAI, planteó públicamente la necesidad de determinar cuál debería ser un ritmo adecuado para el desarrollo de la IA.

No todos los especialistas comparten las previsiones más graves sobre el futuro de esta tecnología. El texto señala que algunos integrantes de la industria consideran que parte de las advertencias sobre posibles escenarios catastróficos puede estar influida por los círculos profesionales y sociales de quienes las expresan. Clement Delangue, CEO de Hugging Face, pidió considerar diferentes perspectivas y mantener una visión más amplia sobre los riesgos de la inteligencia artificial.