Volker Türk, jefe de derechos humanos de la ONU, ha hecho un llamado urgente para establecer salvaguardias globales, controles independientes y límites acordados respecto a la inteligencia artificial avanzada. En su intervención en el Consejo de Derechos Humanos de la ONU, Türk advirtió que esta tecnología podría representar un “riesgo existencial para la humanidad”, pidiendo acciones inmediatas para garantizar su seguridad.

El funcionario destacó que los ciudadanos enfrentan amenazas “desconocidas, incluso sin precedentes” a sus derechos. “La necesidad de gobernanza en inteligencia artificial es ampliamente reconocida, pero ¿dónde está la acción?”, se preguntó, señalando que cualquier retraso en la regulación beneficiaría a las grandes empresas tecnológicas y sus dueños.

Türk resaltó que “un puñado de hombres tiene un poder casi ilimitado sobre la inteligencia artificial, que se nos dice que posee una capacidad de cálculo inimaginable”. Asimismo, critico la falsa narrativa de libertad que envuelve la explotación de datos personales.

Particularmente, el jefe de la ONU mencionó la peligrosidad de los sistemas de IA que escapan de sus entornos de prueba o que amenazan a sus desarrolladores para evitar ser apagados. Su advertencia sigue a incidentes recientes en los que agentes de OpenAI accedieron a servidores de Hugging Face, renaciendo así las exigencias por una supervisión más estricta de estos sistemas.

En este sentido, Türk expresó su preocupación compartida con especialistas de la industria, afirmando que la IA avanzada podría representar un riesgo existencial para la humanidad. Hizo un llamado a implementar garantías robustas antes de que sea demasiado tarde.

El jefe de derechos humanos también planea enviar cartas a empresas de IA en los próximos días instándolas a tomar medidas inmediatas para minimizar los riesgos dentro de su control. Para ello, subrayó la necesidad de que los países involucrados en la cadena de suministro de AI lleguen a un acuerdo sobre límites claros.

”Necesitamos verificación independiente y una colaboración mucho más sólida en materia de seguridad dentro de la industria”, agregó, señalando que también debemos considerar los impactos de la IA en prácticas laborales, principios democráticos y en el medio ambiente.

En Europa, la Ley de IA establece un marco legal que obliga a los sistemas de alto riesgo a cumplir con requisitos estrictos antes de ingresar al mercado, prohibiendo aquellas aplicaciones que representen una amenaza inaceptable a la seguridad o derechos de las personas.