La Fiscalía de San Francisco ha dirigido una carta a Meta, instando a la empresa a cesar la publicación de anuncios de pago que contienen contenido de abuso sexual infantil generado por inteligencia artificial (IA). En esta missiva, el fiscal municipal, David Chiu, exige respuestas sobre cómo ha sido posible que estos anuncios se hayan difundido en Facebook e Instagram, y destaca que la situación es inaceptable.

Anuncios dañinos en circulación

Informes recientes por WIRED revelan que Meta ha permitido la difusión de más de 350 anuncios que transforman imágenes fijas de menores en breves videoclips que muestran actos sexuales. Al hacer clic en estos anuncios, los usuarios son redirigidos a aplicaciones que manipulan imágenes mediante IA, algunas de ellas capaces de crear contenido íntimo no consentido.

Estos anuncios, detectados por el Tech Transparency Project (TTP), han sido repetidos en múltiples ocasiones y han llegado a más de 29,000 cuentas, incluso en Estados Unidos, Australia e India. A pesar de los esfuerzos de Meta para eliminar dichos contenidos, Chiu sostiene que la empresa no ha resuelto un problema conocido relacionado con anuncios sexualmente explícitos que involucran menores.

Preguntas sobre la efectividad de Meta

La carta del fiscal plantea interrogantes sobre las políticas publicitarias y los sistemas de seguridad de Meta, solicitando reuniones inmediatas con su equipo legal y de seguridad infantil. Además, Chiu menciona que los resultados sugieren problemas sistémicos en el manejo de estos casos por parte de la compañía.

Meta ha respondido argumentando que no hay evidencia de que estos anuncios hayan sido mostrados específicamente en San Francisco, lo que según ellos, los aleja de la jurisdicción de la Fiscalía. Sin embargo, el portavoz de la Oficina del fiscal argumenta que los consumidores de San Francisco todavía pueden acceder a estos anuncios, poniendo en duda la postura de Meta.

Compromiso de Meta y acciones futuras

Meta ha declarado que muchos de los anuncios señalados ya habían sido eliminados antes de su denuncia y reafirma que no tolera la explotación infantil en su plataforma. La carta emitida por la Fiscalía proporciona un plazo de 28 días para que Meta brinde una respuesta a sus demandas. Aun así, los analistas continúan enfatizando que los esfuerzos actuales de la empresa no son suficientes para abordar el problema de manera efectiva.

La situación no solo plantea preocupaciones sobre el bienestar de los menores, sino también sobre las implicaciones legales que Meta puede afrontar a raíz de estos hallazgos. Con la atención pública centrada en la explotación infantil en internet, el compromiso de Meta para reforzar sus políticas publicitarias se vuelve más crucial que nunca.