Grok AI: xAI de Elon Musk Enfrenta Ação por Imagens Íntimas Falsas Geradas por IA
Grok AI no Centro de Polêmica: xAI de Elon Musk Acusada de Facilitar Criação de Nudes Falsos
A xAI, empresa de inteligência artificial fundada por Elon Musk e responsável pelo chatbot Grok, está sendo processada por adolescentes que alegam que os modelos de IA da empresa foram utilizados para criar imagens íntimas não consentidas. A ação judicial levanta sérias questões sobre a responsabilidade das empresas de IA no combate ao uso indevido de suas tecnologias.
Imagem ilustrativa. A imagem real do caso não foi divulgada.
O Caso Chocante
Três adolescentes do Tennessee entraram com uma ação coletiva contra a xAI, alegando que um aplicativo, alimentado pelo modelo de linguagem da empresa, foi usado para criar imagens e vídeos sexualmente explícitos e não consentidos quando elas eram menores de idade. A acusação é grave: o aplicativo teria permitido a manipulação de imagens das adolescentes em poses explícitas, criando conteúdo que aparenta ser real.
A queixa detalha a angústia das vítimas, que viram suas características identificáveis permanentemente associadas a vídeos de abuso sexual gerados por IA. Apesar de o perpetrador não ter utilizado diretamente o chatbot Grok ou a plataforma X (também de propriedade de Musk), a ação alega que ele dependeu de um aplicativo anônimo que utilizava o algoritmo da xAI, conforme apontam investigações policiais.
Acusações Contra a xAI
As autoras da ação acusam a xAI de licenciar deliberadamente sua tecnologia para desenvolvedores de aplicativos, muitas vezes fora dos Estados Unidos, numa tentativa de terceirizar a responsabilidade pelo uso perigoso de suas ferramentas. Esta é a primeira ação judicial em que a xAI é processada por menores de idade retratadas em material de abuso sexual infantil gerado por seus modelos de IA.
A xAI já esteve envolvida em outras polêmicas relacionadas à geração de imagens sexualizadas. A influenciadora Ashley St. Clair, mãe de um filho de Musk, processou a empresa anteriormente por imagens produzidas por IA na plataforma X, retratando-a nua quando era adolescente.
O Modus Operandi do Criminoso
De acordo com a queixa, o agressor tinha um relacionamento próximo e amigável com uma das autoras e utilizou fotos enviadas por ela, bem como imagens encontradas em anuários e redes sociais, para criar as imagens e vídeos. Um dos vídeos mostrava a autora se despindo completamente. As vítimas ficaram perturbadas com o realismo das imagens e o fato de que não havia identificação de que o conteúdo era gerado por IA.
O criminoso teria criado material explícito de outras 18 pessoas e trocado por imagens de outras pessoas online, sendo posteriormente preso.
O Que as Vítimas Buscam
A advogada das autoras, Vanessa Baehr-Jones, afirma que as adolescentes, identificadas como Jane Does 1, 2 e 3 na queixa, buscam mudar a forma como as empresas de IA tomam decisões sobre conteúdo sexualmente explícito. “Queremos tornar isso uma decisão de negócios que simplesmente não faça mais sentido”, declarou.
As autoras solicitam à justiça indenização por danos emocionais e outros prejuízos causados pelas imagens.
A Questão da Rotulagem e a Falta de Ação da xAI
Aplicativos com funções de “desnudamento” existem há anos na internet. No entanto, no ano passado, grandes empresas de IA, como Google, OpenAI e xAI, atualizaram suas ferramentas de geração de imagens para permitir que os usuários removam roupas de pessoas em fotos. No entanto, as imagens geradas pelo Google e OpenAI incluem marcas d’água digitais que revelam sua origem artificial. Até o momento, a xAI não adotou um padrão semelhante.
A xAI não respondeu a um pedido de comentário sobre o caso.
Recursos Adicionais
Compartilhar:
