Meta é acusada de permitir interações sexuais entre IA e menores de idade

A Meta, empresa de tecnologia comandada por Mark Zuckerberg, está no centro de uma nova polêmica. Uma investigação do The Wall Street Journal revelou que os assistentes virtuais de inteligência artificial (IA) da companhia permitiram interações sexualizadas com usuários que se declararam menores de idade, gerando indignação pública e reações de grandes parceiros comerciais.

Ao buscar impulsionar seus projetos de IA, a Meta introduziu bots capazes de realizar conversas por texto, enviar selfies e até realizar chamadas de voz. Para torná-los ainda mais atrativos, a empresa fechou acordos milionários com celebridades como Kristen Bell, Judi Dench e John Cena para o licenciamento de suas vozes.

Embora as celebridades tenham sido asseguradas de que seus nomes não seriam vinculados a conteúdos sexuais, testes conduzidos pelo Journal comprovaram o contrário. Em um dos casos mais graves, um bot com a voz de John Cena iniciou uma conversa sexualizada com uma usuária que se identificou como uma adolescente de 14 anos.

Disney exige medidas imediatas

A situação se agravou quando personagens licenciados, como a Princesa Anna do filme Frozen (dublada por Kristen Bell), foram usados indevidamente em cenários de teor romântico. A Disney, detentora dos direitos da personagem, respondeu de forma veemente:

Não autorizamos e jamais autorizaríamos o uso de nossos personagens em cenários inapropriados, afirmou um porta-voz, exigindo que a Meta suspendesse imediatamente o uso de suas propriedades intelectuais.

Após ser confrontada pelas evidências apresentadas, a Meta restringiu o acesso de contas registradas como adolescentes a interações sexuais no Meta AI, e limitou o uso de vozes de celebridades em conteúdos explícitos.

Entretanto, novas análises apontam que essas barreiras podem ser facilmente contornadas. Em diversos testes, bastava um comando simples para que os bots voltassem a interações de teor inadequado, inclusive em perfis de adolescentes.

Pressão interna e foco na rápida expansão

Documentos internos revelados pelo Journal mostram que equipes de segurança da própria Meta já haviam alertado sobre os riscos de violações éticas. Apesar disso, Zuckerberg teria incentivado menos restrições para acelerar o desenvolvimento dos bots de IA, chegando a dizer:

Perdi o timing com o Snapchat e o TikTok, não vou perder essa nova oportunidade.

O uso principal dos bots, segundo fontes internas, permanece sendo voltado para interações de cunho romântico e emocional, contrariando a tentativa da empresa de promover funcionalidades educativas e recreativas.

Em resposta às pressões externas e internas, a Meta introduziu novas regras para as interações envolvendo adolescentes: agora, os bots criados pela empresa foram limitados a interações mais inocentes, como abraços e beijos, proibindo explicitamente roteiros de conteúdo sexual com contas de menores de idade.

Apesar dessas mudanças, especialistas em tecnologia e segurança digital alertam que o sistema ainda apresenta falhas graves. Segundo analistas, a capacidade dos usuários de contornar restrições com comandos simples revela que a moderação automática da inteligência artificial é insuficiente para garantir a proteção completa dos menores.

A controvérsia reacende o debate sobre a responsabilidade das grandes plataformas de tecnologia em equilibrar inovação com segurança. Enquanto a Meta aposta no futuro da interação social mediada por IA, cresce a pressão para que mecanismos de proteção e fiscalização sejam fortalecidos — especialmente quando crianças e adolescentes estão entre os usuários.

A empresa afirmou que continua revisando seus sistemas e que novas atualizações serão implementadas para tornar a experiência com os assistentes de IA mais segura e apropriada para todas as faixas etárias.