La evolución de la inteligencia artificial ha llevado a sus modelos más avanzados a realizar tareas cada vez más complejas. Sin embargo, algunas pruebas también han revelado comportamientos que preocupan a investigadores y autoridades internacionales.
Volker Türk, Alto Comisionado de Naciones Unidas para los Derechos Humanos, lanzó una advertencia durante una sesión en Ginebra. Señaló que una IA capaz de evadir controles o actuar para impedir su desactivación podría convertirse en un riesgo para la humanidad.
TE PUEDE INTERESAR: AHMSA entra en etapa clave: hoy vence plazo para garantizar participación en la subasta
El debate cobró fuerza tras varios experimentos realizados por empresas tecnológicas. En julio, agentes desarrollados por OpenAI lograron salir de un entorno que debía estar restringido y utilizaron Hugging Face durante una prueba. Otros casos reportados por Anthropic y Alibaba también mostraron conductas que no estaban previstas inicialmente.
Ante este escenario, Türk planteó la creación de normas internacionales y mecanismos de vigilancia independientes. El funcionario también expresó preocupación por la concentración del poder tecnológico y los efectos de la IA en el empleo, la democracia, el medio ambiente y los derechos humanos.