Centenas de anúncios de um aplicativo de IA para geração de nudes estavam circulando nas redes sociais da empresa
Tudo sobre Inteligência Artificial
A Meta anunciou nesta quinta-feira (12) que está processando a Joy Timeline, empresa responsável pelo aplicativo Crush AI, que usa IA para gerar nudes artificiais. A ação judicial acontece após a identificação de anúncios do app no Instagram, Facebook, Messenger e Threads (redes sociais da Meta).
A big tech já se deparou com esse problema antes, após centenas de anúncios de aplicativos de nudez terem sido encontrados em suas plataformas. A empresa removeu esses conteúdos, mas revelou que isso tem se tornado cada vez mais difícil.
O Crush AI é um aplicativo que usa inteligência artificial para gerar nudes. A Meta se referiu a esse tipo de app como “nudify” (do verbo “nudificar”).
O processo da big tech é contra a Joy Timeline, dona do aplicativo, e visa especificamente impedir que a companhia liste os anúncios do Crush AI nas redes sociais. Segundo a Meta, isso ocorre após a empresa de Hong Kong ter feito “múltiplas tentativas de contornar o processo de revisão de anúncios”.
Veja o que a Meta escreveu sobre o caso:
Esta ação judicial ressalta a seriedade com que encaramos esse abuso e nosso compromisso em fazer tudo o que pudermos para proteger nossa comunidade. Continuaremos a tomar as medidas necessárias – que podem incluir ações judiciais – contra aqueles que abusam de nossas plataformas dessa forma.
Meta, em postagem de blog
Uma investigação publicada recentemente pela CBS News encontrou centenas de anúncios de aplicativos de nudes nas redes sociais da Meta. Na época, a empresa respondeu ao jornal que os removeu, excluiu as contas responsávels e bloqueou URLs associadas aos apps.
A big tech também admitiu que tem se tornado cada vez mais difícil de aplicar suas políticas contra aplicativos de IA generativa, uma vez que as empresas têm encontrado formas de burlar os mecanismos da Meta.
E mesmo após a companhia ter afirmado que excluiu os anúncios, a CBS ainda conseguiu encontrar muitos deles espalhados pelas redes sociais.
Leia mais:
Quem é o público alvo desses anúncios?
- A investigação da CBS revelou que muitos dos anúncios encontrados durante a investigação eram destinados a homens com idades entre 18 e 65 anos nos Estados Unido, Reino Unido e União Europeia;
- Propagandas deste tipo violam as políticas de segurança e de moderação de conteúdo – e inclusive já são proibidas em alguns locais;
- No Brasil, a Câmara aprovou um projeto de lei para criminalizar nudes feitos por IA. Saiba mais aqui.
Vitoria Lopes Gomez é redatora no Olhar Digital
