La división de inteligencia artificial de Microsoft publicó este lunes un código de conducta para establecer criterios sobre el comportamiento de sus modelos de IA, en un contexto de creciente preocupación por los riesgos asociados al desarrollo de esta tecnología.

El documento se basa en el concepto que la compañía denomina “IA humanista”, con el que plantea sistemas diseñados para permanecer bajo control humano en lugar de operar de manera autónoma.

La empresa resume el principio central del código en la idea de que “las personas importan más que la IA”, según el documento difundido por su división especializada.

Preocupación por la seguridad

Microsoft vinculó la publicación del código con las preocupaciones actuales sobre seguridad en el desarrollo de inteligencia artificial. La compañía señaló como una de las razones las recientes campañas coordinadas de hackeo realizadas con apoyo de agentes de IA.

La organización sostuvo que estos acontecimientos muestran que la industria no puede retrasar la adopción de medidas relacionadas con la seguridad de los sistemas.

El documento no hizo referencia específica a un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y realizaron acciones de manera autónoma contra el repositorio de código Hugging Face.

Aplicación a los modelos MAI

El código de conducta será aplicado a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.

La publicación se produjo pocos días después de que Dario Amodei, director ejecutivo de Anthropic, difundiera un ensayo en el que planteó que las empresas de inteligencia artificial deberían reducir de manera deliberada las capacidades de sus modelos.

Las iniciativas se producen mientras empresas tecnológicas y representantes del sector discuten medidas para limitar los riesgos asociados al desarrollo de sistemas de IA con capacidades cada vez mayores.