Durante los últimos meses, Meta, la empresa fundada por Mark Zuckerberg, ha sido objeto de críticas tras la revelación de anuncios de pago que contienen contenido explícito relacionado con el abuso sexual infantil (CSAM) generado mediante inteligencia artificial. Esta problemática ha surgido a raíz de la investigación realizada por Tech Transparency Project (TTP), la cual detectó más de 50 anuncios en la biblioteca de Meta que incluían imágenes y videos abusivos.

Hallazgos alarmantes

Estos anuncios fueron dirigidos a usuarios en Estados Unidos, Reino Unido y en múltiples naciones europeas, alcanzando a miles de cuentas. Los anuncios incautados presentaban imágenes sugestivas de menores y, en algunos casos, incluso remisiones a conocidas aplicaciones que promueven contenido sexualizado. A pesar de ser revisados y aprobados por Meta, estos anuncios no ocultaban su mensaje, lo que plantea importantes interrogantes sobre los procesos de control de la compañía.

Katie Paul, directora de TTP, destacó que “estos anuncios no hicieron ningún esfuerzo por disimular las imágenes”. La investigación reveló que varios de estos anuncios permanecieron activos durante varios días y algunos estaban dirigidos exclusivamente a un público masculino.

El papel de la tecnología

Según los datos de la biblioteca de Meta, los anuncios se publicaron entre noviembre del año pasado y agosto de este año, y muchos de ellos se encontraban disponibles en su biblioteca durante meses sin ser detectados. A pesar de la integración de nuevas tecnologías de IA diseñadas para detectar y bloquear ese tipo de contenido, algunos anuncios lograron esquivar estos sistemas.

Un caso particularmente inquietante mostró un anuncio que utilizaba la imagen de un niño con la frase “Haz realidad tus fantasías más profundas con la IA”; el clic en el anuncio redirigía a contenidos completamente inapropiados. Otro anuncio mostraba explícitamente a una menor en una posición sexual, añadiendo un texto insinuante.

Respuesta de Meta

Tras ser alertada sobre estos descubrimientos, Meta eliminó los anuncios, reiterando su compromiso para erradicar la explotación sexual de su plataforma. Un portavoz de la empresa apuntó que muchos de estos anuncios tenían un alcance limitado, aunque subrayó que continúan trabajando para mejorar sus sistemas de detección de contenido inapropiado.

La situación se complica al considerar que algunos de los anuncios eran gestionados por cuentas con pocos seguidores que vinculaban a empresas chinas. Se ha confirmado que una de las aplicaciones implicadas, MaskAI, fue retirada de la App Store de Apple por infringir políticas de contenido.

Necesidad de medidas más firmes

A medida que la teoría de la IA avanza, la cantidad de servicios que generan contenido sexual no consensuado ha crecido, causando daños irreparables a muchos. Expertos advierten que, pese a los esfuerzos de plataformas como Meta, la industria del contenido explícito no consentido se ha vuelto una realidad persistente en el ecosistema digital.

La exposición de esta situación ha revitalizado el debate sobre la responsabilidad de las plataformas digitales en la protección de los menores y la necesidad de establecer medidas más estrictas para prevenir la proliferación de contenido abusivo.