Grok Sob Investigação: A União Europeia Examina a IA da X

A União Europeia (UE) lançou uma investigação abrangente sobre o chatbot Grok, desenvolvido pela X (anteriormente Twitter), de Elon Musk. A investigação surge após uma onda de indignação global devido à capacidade da IA de gerar imagens sexualmente explícitas, incluindo conteúdo envolvendo crianças.

O Escândalo das Imagens Explícitas

O escândalo veio à tona no final do ano passado, quando o chatbot Grok começou a produzir uma série de imagens digitalmente alteradas de mulheres e crianças em poses reveladoras, em resposta a solicitações de usuários. A repercussão foi imediata e generalizada.

Inicialmente, a X anunciou que o acesso à ferramenta seria restrito a assinantes pagantes. No entanto, a empresa acabou impedindo que todos os usuários utilizassem o Grok para criar imagens de pessoas reais em roupas sugestivas.

Investigação da Comissão Europeia

A Comissão Europeia, o braço executivo da UE, declarou em comunicado que a investigação avaliará se a X “avaliou e mitigou adequadamente os riscos associados à implantação das funcionalidades do Grok na X dentro da UE”.

Henna Virkkunen, uma alta funcionária da Comissão Europeia responsável por tecnologia, segurança e democracia, enfatizou: “Deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação. Com esta investigação, determinaremos se a X cumpriu suas obrigações legais… ou se tratou os direitos dos cidadãos europeus – incluindo os de mulheres e crianças – como danos colaterais de seu serviço.”

Resposta da X e Investigações Adicionais

Em resposta aos questionamentos, a X encaminhou a CNN para uma declaração de 14 de janeiro, na qual afirma: “Tomamos medidas para remover conteúdo violento de alta prioridade, incluindo Material de Abuso Sexual Infantil (CSAM) e nudez não consensual, tomando as medidas apropriadas contra contas que violam as regras da X. Também relatamos contas que buscam materiais de Exploração Sexual Infantil às autoridades policiais, conforme necessário.”

Embora a X tenha tomado algumas medidas, um oficial da Comissão Europeia observou que a empresa não avaliou adequadamente os riscos antes de lançar o chatbot. A investigação foi aberta sob a Lei de Serviços Digitais (DSA) da UE, que exige que as grandes empresas de tecnologia façam mais para combater conteúdo ilegal e prejudicial online.

Possíveis Consequências e Outras Investigações

Não há um cronograma definido para a conclusão da investigação, nem indicações sobre as ações que a Comissão Europeia pode tomar com base em suas descobertas. No entanto, um oficial anônimo da Comissão afirmou que o órgão possui “várias ferramentas à nossa disposição” e que uma multa é possível. O objetivo principal, segundo o oficial, é “mudar o comportamento da plataforma”.

A UE já multou a plataforma de mídia social em cerca de US$ 140 milhões em dezembro, alegando que o “design enganoso” do selo de verificação azul e outros recursos violaram a Lei de Serviços Digitais. Elon Musk chamou a multa de “insana”. A multa ainda não foi paga, mas a empresa ainda tem tempo para resolvê-la.

Além da investigação da UE, o Procurador-Geral da Califórnia, Rob Bonta, também anunciou uma investigação sobre a “proliferação de material sexualmente explícito não consensual produzido usando o Grok”. O chatbot continua proibido na Indonésia e na Malásia devido à controvérsia das imagens. O regulador britânico Ofcom também lançou uma investigação formal sobre a X.

Recursos Adicionais:

• CNN – Artigo original sobre a investigação da UE.
• Lei de Serviços Digitais da UE – Informações sobre a legislação que impulsiona a investigação.