A Meta processou o fabricante de um popular aplicativo “Nudify” da AI, Crush AI, que supostamente executou milhares de anúncios nas plataformas da Meta. Além do processo, a Meta diz que está tomando novas medidas para reprimir outros aplicativos, como o Crush AI.
Em uma ação movida em Hong Kong, a Meta alegou a Linha do tempo da alegria HK, a entidade por trás da AI Crush, tentou contornar o processo de revisão da empresa para distribuir anúncios para os serviços de nudificar. A Meta disse em um post do blog que removeu repetidamente os anúncios da entidade por violar suas políticas, mas afirma que a alegria HK continuou a colocar anúncios adicionais de qualquer maneira.
A IA do Crush, que usa IA generativa para fazer imagens falsas e sexualmente explícitas de pessoas reais sem seu consentimento, supostamente executou mais de 8.000 anúncios para seus serviços de “desundimento da IA” na plataforma da Meta nas duas primeiras semanas de 2025, de acordo com o autor do boletim Faked Up, Alexios Mantzarlis. Em um relatório de janeiro, Mantzarlis afirmou que os sites da Crush AI receberam cerca de 90% de seu tráfego do Facebook ou Instagram e que ele sinalizou vários desses sites para a Meta.
A IA da AI supostamente evitou os processos de revisão de anúncios da Meta, criando dezenas de contas de anunciantes e com frequência nomes de domínio alterados. Muitas das contas de anunciantes da AI, de acordo com Mantzarlis, foram nomeadas “roupas da Eraser Annyone”, seguidas de diferentes números. A certa altura, o Crush AI tinha até uma página no Facebook promovendo seu serviço.
O Facebook e o Instagram dificilmente são as únicas plataformas que lidam com esses desafios. Como empresas de mídia social como X e Meta Race para adicionar IA generativa aos seus aplicativos, elas também lutaram para moderar como as ferramentas de IA podem tornar suas plataformas inseguras para os usuários, principalmente menores.
Os pesquisadores descobriram que os links para aplicativos de despiração de IA subiram em 2024 em plataformas como X e Reddit, e no YouTube, milhões de pessoas teriam sido servidas anúncios para esses aplicativos. Em resposta a esse problema crescente, o Meta e o Tiktok proibiram as pesquisas de palavras -chave por aplicativos AI Nudify, mas tirar esses serviços de suas plataformas se mostrou um desafio.
Em uma postagem no blog, a Meta disse que desenvolveu novas tecnologias para identificar especificamente os anúncios para os serviços de Nudify ou de despi “,” mesmo quando os próprios anúncios não incluem nudez “. A empresa disse que agora está usando a tecnologia correspondente para ajudar a encontrar e remover anúncios imitadores mais rapidamente, e expandiu a lista de termos, frases e emoji que são sinalizados por seus sistemas.
A Meta disse que também está aplicando as táticas que tradicionalmente usou para interromper as redes de maus atores a essas novas redes de contas que executam anúncios para os serviços da AI Nudify. Desde o início de 2025, disse a Meta, interrompeu quatro redes separadas promovendo esses serviços.
Fora de seus aplicativos, a empresa disse que começará a compartilhar informações sobre os aplicativos Ai Nudify através do Programa de Lanternas da Tech Coalition, um esforço coletivo entre Google, Meta, Snap e outras empresas para impedir a exploração sexual infantil on -line. A Meta diz que forneceu mais de 3.800 URLs únicos com essa rede desde março.
Na frente legislativa, a Meta disse que “continuaria apoiando a legislação que capacita os pais a supervisionar e aprovar os downloads de aplicativos para adolescentes”. A empresa apoiou anteriormente a Lei dos EUA, e disse que agora está trabalhando com os legisladores para implementá -la.