Recientemente, Meta se ha visto envuelta en una controversia relacionada con la publicación de anuncios que promovían aplicaciones con contenido inapropiado, específicamente aquellas que prometían «desnudar» a mujeres políticas mediante el uso de inteligencia artificial. Esta situación ha generado preocupación sobre la eficacia de los controles de calidad y moderación de contenido en las plataformas digitales.
La noticia se centra en la aparición de más de 50 anuncios en las plataformas de Meta que contenían material de abuso sexual infantil generado por inteligencia artificial, así como imágenes de menores acompañadas de declaraciones sexualmente sugestivas. Estos anuncios, que se difundieron entre noviembre de 2025 y agosto, llegaron a miles de personas en Estados Unidos, Reino Unido y varios países europeos.
El papel de las aplicaciones Kromix y MaskAI
Dos aplicaciones en particular, Kromix y MaskAI, han sido identificadas como herramientas que permitían a los usuarios subir imágenes y realizar intercambios de rostros en situaciones sexuales. Ambas aplicaciones estaban disponibles en la App Store, pero fueron eliminadas después de que Apple fuera contactada por WIRED. Un portavoz de Apple afirmó que Kromix había añadido contenido prohibido después de la revisión inicial, violando las directrices de revisión de aplicaciones de la compañía.
Apple ha reiterado su política estricta contra aplicaciones diseñadas para generar, distribuir o consumir pornografía, y ha asegurado que trabaja agresivamente para identificar y eliminar tanto las aplicaciones como las cuentas de desarrolladores que intentan evadir sus procesos y políticas.
La respuesta de Meta y el uso de inteligencia artificial
Tras ser contactada por WIRED, Meta eliminó los anuncios de su biblioteca publicitaria, reemplazándolos con mensajes que indicaban que habían sido retirados por violar las políticas de la empresa sobre abuso sexual infantil y explotación, así como sobre solicitud sexual adulta y desnudez. Sin embargo, algunos de estos anuncios fueron publicados después de que Meta anunciara la introducción de nueva tecnología de inteligencia artificial para detectar y bloquear anuncios que violan sus políticas al momento de la carga.
Meta ha estado aumentando su dependencia de la inteligencia artificial para revisar y moderar anuncios, mientras reduce el papel de los moderadores humanos. Esta estrategia ha sido criticada por la falta de control de calidad en los anuncios, a pesar de las declaraciones públicas de la compañía sobre la sofisticación de su tecnología de inteligencia artificial.
Implicaciones y preocupaciones sobre la moderación de contenido
La situación destaca la creciente preocupación sobre la capacidad de las plataformas tecnológicas para moderar contenido de manera efectiva, especialmente cuando se trata de material sensible o potencialmente dañino. La dependencia de la inteligencia artificial para estas tareas plantea preguntas sobre la precisión y la ética en la moderación de contenido, así como sobre la responsabilidad de las empresas tecnológicas en la protección de sus usuarios.
Además, el uso de aplicaciones que permiten la manipulación de imágenes para crear contenido sexualmente explícito plantea serias preocupaciones sobre la privacidad y el consentimiento, especialmente cuando se trata de figuras públicas o menores de edad. Las empresas tecnológicas enfrentan el desafío de equilibrar la innovación con la responsabilidad social y la protección de los derechos de los individuos.
El futuro de la moderación de contenido en plataformas digitales
La controversia en torno a Meta y las aplicaciones Kromix y MaskAI subraya la necesidad de un enfoque más riguroso y ético en la moderación de contenido en las plataformas digitales. A medida que la inteligencia artificial se convierte en una herramienta cada vez más común para estas tareas, es crucial que las empresas tecnológicas implementen medidas efectivas para garantizar que el contenido inapropiado no llegue a los usuarios.
El caso también resalta la importancia de la transparencia y la rendición de cuentas en el uso de tecnologías avanzadas, así como la necesidad de políticas claras y efectivas para proteger a los usuarios de contenido dañino. Las empresas tecnológicas deben trabajar en colaboración con reguladores, expertos en ética y la sociedad en general para abordar estos desafíos y garantizar un entorno digital seguro y respetuoso para todos.
