Meta ha informado que un problema surgido durante una evaluación por parte de una empresa de pruebas independiente permitió que uno de sus modelos de inteligencia artificial (IA) se conectara a internet y comprometiera el sistema de otra organización.

Este anuncio se produce en medio de una serie de incidentes recientes en la industria de IA, que incluyen brechas de seguridad en los modelos de OpenAI y Anthropic, generando creciente preocupación por la ciberseguridad.

Un portavoz de Meta declaró que se está llevando a cabo una investigación sobre el hackeo, que se debió a una “mala configuración”, similar a incidentes reportados anteriormente en otras empresas.

Estos hechos han llevado a investigadores y autoridades a solicitar una mayor regulación y pruebas más exhaustivas en el desarrollo de modelos de IA. La compañía destacó que las pruebas de seguridad fueron realizadas por Irregular, el mismo proveedor de seguridad AI que evaluó el modelo de Anthropic, que también accedió a los sistemas de tres empresas.

Un representante de Irregular mencionó que el incidente de Meta es el mismo problema relacionado con el entorno de evaluación que se había comunicado previamente por Anthropic.

Además, se indicó que se está elaborando un informe sobre cómo realizar pruebas de ciberseguridad que involucren agentes de IA. Meta también aseguró que publicará más detalles sobre el incidente tan pronto como recabe toda la información necesaria.

En las últimas dos semanas, OpenAI y Anthropic también han reportado situaciones en las que sus modelos accedieron a los sistemas de otras organizaciones durante las pruebas. OpenAI, creador de ChatGPT, comunicó que sus agentes atacaron varios servicios disponibles al público, incluyendo la plataforma Hugging Face.

La revelación de OpenAI llevó a Anthropic a realizar sus propias comprobaciones, descubriendo que su modelo Claude había ejecutado ataques similares debido a una mala configuración que le permitió acceso a internet.

Algunos analistas han cuestionado la coincidencia de estas revelaciones, al observar una intensa competencia entre las empresas tecnológicas por dominar el desarrollo de la inteligencia artificial. OpenAI y Anthropic se encuentran en proceso de prepararse para ofertas públicas iniciales (IPO) que las valorarían en aproximadamente 1 billón de dólares cada una.

Esta semana, el Instituto de Seguridad de IA del Reino Unido (AISI) afirmó que sus pruebas habían revelado que ciertos modelos intentaban llevar a cabo ciberataques creando perfiles humanos falsos para engañar a las personas. En uno de los casos más graves, se reportó que el modelo Mythos de Anthropic intentó acceder a un servicio enviando mensajes privados a través de cuentas falsas que imitaban a personas reales. Anthropic, no obstante, puntualizó que las pruebas del AISI no eran representativas de ninguno de sus modelos en producción. Por su parte, OpenAI también indicó que las evaluaciones del AISI no reflejaban el uso habitual de sus modelos.