Aplicativos de ‘Desnudamento’ Usando Serviços de Login de Grandes Empresas de Tecnologia
Empresas de tecnologia líderes, como Google, Apple e Discord, têm possibilitado que pessoas se cadastrem rapidamente em sites prejudiciais de “desnudamento”, que usam inteligência artificial para remover as roupas de fotos reais e fazer com que as vítimas pareçam “nuas” sem o seu consentimento. Mais de uma dúzia desses sites de deepfake têm usado botões de login dessas empresas de tecnologia por meses.
Uma Análise Preocupante
Uma análise da WIRED descobriu 16 dos principais sites chamados de “desnudamento” e “nudificação” usando a infraestrutura de login do Google, Apple, Discord, Twitter, Patreon e Line. Essa abordagem permite que as pessoas criem contas facilmente nesses sites de deepfake, oferecendo-lhes uma aparência de credibilidade, antes de pagarem por créditos e gerarem imagens.
Enquanto robôs e sites que criam imagens íntimas não consensuais de mulheres e meninas existem há anos, o número aumentou com a introdução da IA generativa. Esse tipo de abuso de “desnudamento” é alarmantemente disseminado, com adolescentes supostamente criando imagens de suas colegas de classe. As empresas de tecnologia têm sido lentas para lidar com a escala desses problemas, com os sites aparecendo altamente nos resultados de pesquisa, anúncios pagos promovendo-os nas redes sociais e aplicativos aparecendo nas lojas de aplicativos.
Normalização da Violência Sexual
“Isso é uma continuação de uma tendência que normaliza a violência sexual contra mulheres e meninas pelas grandes empresas de tecnologia”, diz Adam Dodge, advogado e fundador da EndTAB (Acabando com o Abuso Habilitado pela Tecnologia). “As APIs de login são ferramentas de conveniência. Nunca devemos estar tornando a violência sexual um ato de conveniência”, ele diz. “Deveríamos estar colocando barreiras em torno do acesso a esses aplicativos, e em vez disso, estamos dando às pessoas uma ponte levadiça.”
Expansão Rápida e Preocupante
Desde que a tecnologia de deepfake surgiu no final de 2017, o número de vídeos e imagens íntimas não consensuais sendo criados cresceu exponencialmente. Enquanto os vídeos são mais difíceis de produzir, a criação de imagens usando sites e aplicativos de “desnudamento” ou “nudificação” se tornou comum.
“Devemos deixar claro que isso não é inovação, é abuso sexual”, diz David Chiu, procurador-geral da cidade de São Francisco, que recentemente abriu uma ação judicial contra sites de desnudamento e nudificação e seus criadores. Chiu diz que os 16 sites que seu escritório está processando tiveram cerca de 200 milhões de visitas apenas nos primeiros seis meses deste ano.
Lucro com a Exploração
Os sites de desnudamento operam como empresas, muitas vezes agindo nas sombras – fornecendo proativamente poucos detalhes sobre quem os possui ou como eles funcionam. Sites administrados pelas mesmas pessoas muitas vezes têm aparência semelhante e usam termos e condições quase idênticos. Alguns oferecem mais de uma dúzia de idiomas diferentes, demonstrando a natureza global do problema. Alguns canais do Telegram ligados aos sites têm dezenas de milhares de membros cada.
Os sites também estão em constante desenvolvimento: eles postam com frequência sobre novos recursos que estão produzindo – com um deles afirmando que seu IA pode personalizar a aparência dos corpos das mulheres e permitir “uploads do Instagram”. Eles geralmente cobram das pessoas para gerar imagens e podem executar esquemas de afiliados para incentivar as pessoas a compartilhá-las; alguns se uniram em um coletivo para criar sua própria criptomoeda que poderia ser usada para pagar pelas imagens.
Resposta Insuficiente das Empresas de Tecnologia
Após serem contatadas pela WIRED, porta-vozes do Discord e da Apple disseram que removeram as contas de desenvolvedores conectadas a seus sites. O Google disse que tomará medidas contra os desenvolvedores quando descobrir que seus termos foram violados. O Patreon afirmou que proíbe contas que permitem a criação de imagens explícitas, e o Line confirmou que está investigando, mas disse que não poderia comentar sobre sites específicos. O X não respondeu a um pedido de comentário sobre a forma como seus sistemas estão sendo usados.
Posts que você deverá gostar:
Chamado à Responsabilidade
Clare McGlynn, professora de direito da Universidade de Durham, que tem especialização na regulamentação legal da pornografia e da violência e abuso sexual online, diz que as plataformas das grandes empresas de tecnologia estão possibilitando o crescimento de sites de desnudamento e sites semelhantes por não tomarem medidas proativas contra eles.
“O que é preocupante é que esses são os passos mais básicos de segurança e moderação que estão faltando ou não sendo aplicados”, diz McGlynn sobre os sistemas de login sendo usados, acrescentando que é “totalmente inadequado” que as empresas reajam apenas quando jornalistas ou ativistas destacam como suas regras estão sendo facilmente burladas. “É evidente que eles simplesmente não se importam, apesar de sua retórica”, diz McGlynn. “Caso contrário, teriam tomado essas medidas mais simples para reduzir o acesso.”
Principais Conclusões
Em resumo, este artigo revela uma preocupante tendência de sites e aplicativos de “desnudamento” que usam tecnologias de inteligência artificial para criar imagens íntimas não consensuais de mulheres e meninas. Essas plataformas têm se aproveitado dos sistemas de login de empresas como Google, Apple e Discord, facilitando o acesso e a criação de contas para esse tipo de conteúdo abusivo.
As principais conclusões deste artigo são:
- Proliferação Alarmante: O número de sites e aplicativos de “desnudamento” tem crescido exponencialmente, com centenas de milhões de visitas apenas este ano, demonstrando a escala alarmante deste problema.
- Negligência das Empresas de Tecnologia: Grandes empresas de tecnologia têm sido lentas em lidar com essa questão, permitindo que seus sistemas de login sejam usados para facilitar o acesso a esse tipo de conteúdo prejudicial.
- Urgência de Regulamentação: Há uma necessidade urgente de maior regulamentação e responsabilização dessas empresas, bem como de ações legais contra os criadores desses sites abusivos.
É crucial que haja uma resposta sólida e coordenada da sociedade, das autoridades e das empresas de tecnologia para combater essa grave violação da privacidade e da dignidade das mulheres e meninas. Apenas com esforços coletivos, será possível conter essa onda de abusos facilitados pela tecnologia.
