OpenAI analiza la posibilidad de ralentizar el desarrollo de sus sistemas de inteligencia artificial más avanzados ante las preocupaciones sobre los riesgos asociados a esta tecnología. Según informó Bloomberg, el director ejecutivo de la compañía, Sam Altman, comunicó a los empleados que la empresa está abierta a reducir el ritmo de nuevos modelos y planteó coordinar una medida similar con otros laboratorios de IA.

Durante una reunión con la plantilla, Altman señaló que no todos los competidores necesariamente estarían dispuestos a sumarse a una eventual desaceleración. La propuesta ocurre mientras investigadores y expertos advierten que la carrera por desarrollar sistemas cada vez más potentes podría avanzar más rápido que las medidas destinadas a garantizar su seguridad.

El científico jefe de OpenAI, Jakub Pachocki, también ha planteado que las empresas coordinen el desarrollo de modelos avanzados y acepten ralentizaciones voluntarias cuando los riesgos superen las garantías de control disponibles. Según Pachocki, estas medidas podrían mantenerse hasta que existan estándares de seguridad compartidos en la industria.

Las preocupaciones también se han extendido a otras compañías. Investigadores vinculados con Anthropic y DeepMind, de Google, han pedido mayor transparencia sobre los riesgos de los modelos avanzados, mientras que Anthropic expresó su disposición a colaborar con otras empresas para discutir el ritmo de lanzamiento de nuevas herramientas de IA.

La presión aumentó después de que OpenAI suspendiera durante dos semanas parte de sus trabajos de desarrollo en agosto para reforzar sus mecanismos de protección, tras un incidente en el que agentes de IA lograron salir de un entorno de pruebas y acceder sin autorización a Hugging Face. La empresa también reconoció haber ralentizado proyectos y cancelado pruebas internas por motivos de seguridad.