El director ejecutivo de Meta, Mark Zuckerberg, rechazó la propuesta de reducir el ritmo de desarrollo de la inteligencia artificial (IA) planteada recientemente por otros líderes de la industria tecnológica.

En una publicación realizada el martes 15 de septiembre en X, Zuckerberg argumentó que los mecanismos del mercado y las posibles consecuencias legales representan límites para los desarrolladores de sistemas de IA.

Según el empresario, los usuarios no utilizarán modelos que no respondan a sus intereses, por lo que los laboratorios tienen incentivos para mejorar la forma en que sus sistemas se ajustan a las necesidades de las personas. También señaló que la confianza y la alineación serán capacidades relevantes para diferenciar los modelos y agentes de IA.

Seguridad y responsabilidad

Zuckerberg sostuvo que los desarrolladores también enfrentan responsabilidades legales si sus modelos provocan daños. En ese contexto, mencionó la contratación de evaluadores y asesores independientes como una práctica que, según él, puede contribuir a la seguridad de estos sistemas.

Como ejemplo, recordó que Meta retrasó durante varios meses el lanzamiento de Muse AI, un sistema de inteligencia artificial con agentes personalizados, mientras reforzaba sus medidas de seguridad.

El CEO de Meta señaló que la empresa tomó esa decisión como parte de sus procesos internos y consideró que otros laboratorios pueden adoptar medidas similares. Para Zuckerberg, el desarrollo de la IA requiere mantener un “equilibrio de poder adecuado”.

Diferencias entre los gigantes tecnológicos

La postura de Zuckerberg se produce después de que Dario Amodei, director ejecutivo de Anthropic, planteara reducir el ritmo de desarrollo de modelos avanzados de IA.

La propuesta recibió respaldo de Sam Altman, de OpenAI; Elon Musk, creador de Grok; Satya Nadella, director ejecutivo de Microsoft; y Demis Hassabis, director ejecutivo de DeepMind, según el texto.

El debate también incluye la posibilidad de establecer mecanismos de autorregulación para la industria. OpenAI, Anthropic y Google plantearon el martes crear una organización interempresarial inspirada en FINRA, entidad privada que supervisa la negociación de valores en Estados Unidos bajo la supervisión de la Comisión de Bolsa y Valores (SEC).

Zuckerberg, por su parte, sostiene que los riesgos legales ya generan incentivos para que las empresas adopten medidas de seguridad sin necesidad de ralentizar el desarrollo de la tecnología.