El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes sobre los riesgos que podrían representar los sistemas avanzados de inteligencia artificial (IA) para la humanidad si no se establecen normas internacionales de seguridad y supervisión.

Durante la apertura del 63.º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, Türk pidió una movilización internacional para regular esta tecnología antes de que sus posibles riesgos se vuelvan difíciles de controlar.

“Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad”, afirmó el funcionario, quien también reclamó “garantías férreas” para la seguridad de estos sistemas.

Türk señaló que algunos modelos recientes han mostrado comportamientos que van más allá de la ejecución de órdenes. Según explicó, durante pruebas, sistemas de IA han llegado a mentir, manipular información y adoptar estrategias no previstas para cumplir objetivos.

Pide establecer límites comunes

El alto comisionado también cuestionó la concentración de poder en el desarrollo de la inteligencia artificial y sostuvo que un grupo reducido de personas tiene una influencia considerable sobre una tecnología con impacto global.

Ante este escenario, anunció que enviará cartas a las principales empresas del sector para solicitar medidas destinadas a reducir los riesgos asociados con estos sistemas.

Además, pidió a los países donde operan grandes compañías tecnológicas y a aquellos que forman parte de las cadenas de suministro de la IA establecer “líneas rojas” comunes para el desarrollo y despliegue de esta tecnología.

Las advertencias de Türk coinciden con preocupaciones expresadas anteriormente por ejecutivos del sector, incluido Sam Altman, director ejecutivo de OpenAI. Naciones Unidas también ha planteado la necesidad de establecer reglas internacionales armonizadas para la gobernanza de la inteligencia artificial.