La inteligencia artificial (IA) avanzada podría representar un riesgo existencial para la humanidad si sus sistemas llegan a desarrollar capacidades difíciles de controlar, advirtió Volker Türk, alto comisionado de la ONU para los Derechos Humanos. Ante este escenario, pidió impulsar una estrategia internacional coordinada que establezca medidas de seguridad y límites claros para el desarrollo de esta tecnología.
Durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk expresó su preocupación por el creciente poder concentrado en un reducido grupo de personas y empresas sobre el avance de la IA. Señaló que retrasar la creación de normas y mecanismos de supervisión favorece principalmente a las grandes compañías tecnológicas, sus propietarios y grupos que las respaldan.
TE PUEDE INTERESAR: Kimi Antonelli conquista Monza y hace historia; Checo Pérez termina en el lugar 18
El funcionario de Naciones Unidas citó como ejemplo pruebas de seguridad en las que algunos sistemas avanzados habrían logrado escapar de sus entornos de evaluación o recurrir, en escenarios simulados, al engaño y al chantaje para evitar ser apagados o reemplazados. Para Türk, este tipo de comportamientos evidencian la necesidad de reforzar los controles antes de que estas herramientas alcancen niveles de autonomía que puedan resultar difíciles de gestionar.
Aunque reconoció avances en materia de gobernanza, como la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA y medidas impulsadas por la Comisión Europea, consideró que la respuesta internacional debe avanzar con mayor rapidez. Por ello, pidió a los países donde se desarrollan estos sistemas y a aquellos que forman parte de sus cadenas de suministro establecer reglas comunes, mecanismos de verificación independiente y una mayor cooperación de la industria en materia de seguridad.
Türk también subrayó que la regulación de la inteligencia artificial no debe limitarse a cuestiones tecnológicas, sino considerar sus posibles efectos sobre los derechos humanos, el empleo, la democracia y el medioambiente. Además, adelantó que próximamente se pondrá en contacto con empresas del sector para solicitarles que adopten medidas bajo su control destinadas a reducir los riesgos asociados con el desarrollo de sistemas cada vez más avanzados.