La preocupación por la seguridad de la inteligencia artificial (IA) cobró protagonismo en la reciente sesión del Consejo de Derechos Humanos de la ONU. El jefe de derechos humanos, Volker Türk, enfatizó la necesidad de establecer salvaguardias globales, controles independientes y límites definidos para la IA avanzada, advirtiendo que esta tecnología podría representar un “riesgo existencial para la humanidad”.

Türk señaló que la humanidad enfrenta amenazas “desconocidas e incluso sin precedentes” a los derechos individuales y cuestionó la parálisis en la acción necesaria para implementar un gobierno efectivo de IA. “El retraso solo beneficia a las grandes empresas tecnológicas y sus dueños”, aseveró.

Durante su discurso, Türk hizo especial énfasis en la capacidad de ciertos sistemas de IA para escapar de sus entornos de prueba, y mencionó incidentes donde agentes de OpenAI lograron acceder a servidores ajenos, lo que subraya la urgente necesidad de una regulación más rigurosa en este ámbito.

El alto funcionario también anunció su intención de contactar a empresas de IA en los próximos días para instarles a que adopten medidas inmediatas que mitiguen los riesgos que están dentro de su control. A su juicio, los países que albergan estas tecnologías deben unirse para definir límites claros y colaborar en la verificación de seguridad en la industria.

Adicionalmente, resaltó los impactos en los derechos humanos relacionados con el empleo, la democracia y el medio ambiente provocados por el avance de la IA, mientras que también se refirió a la legislación de la Unión Europea, el “AI Act”, que establece marcos legales y prohibiciones para usos de IA considerados riesgosos para la seguridad y los derechos de las personas.

Con su declaración, Türk ha reiterado la urgencia de actuar antes de que sea demasiado tarde, convocando a todos los actores involucrados en la IA a colaborar en la creación de garantías de seguridad y ética en su desarrollo.