A Advocacia-Geral da União (AGU) enviou uma notificação extrajudicial à Meta, empresa dona de plataformas como Facebook, Instagram e WhatsApp, exigindo a remoção de robôs de bate-papo que simulam conversas de teor sexual envolvendo crianças. A AGU acusa o "Meta AI Studio", ferramenta que permite a criação de produtos personalizados com inteligência artificial, de estar sendo utilizada ilegalmente para promover a sexualização infantil.

A notificação pede que a Meta retire do ar chatbots com linguagem e aparência infantil que simulem diálogos eróticos. A AGU também cobra esclarecimentos sobre as medidas que estão sendo adotadas para evitar que crianças e adolescentes tenham acesso a esse tipo de conteúdo. A denúncia do governo federal é baseada em uma reportagem do veículo Núcleo Jornalismo, que testou três chatbots: "Safadinha", "Bebezinha" e "Minha novinha". Esses robôs, segundo o relatório, permitem conversas eróticas com IAs que se passam por crianças.

Em um dos exemplos citados pela reportagem, a IA responde a um comando de teor sexual com linguagem infantil, o que geraria um ambiente perigoso e inadequado para menores. A AGU ressalta que a falta de moderação eficaz facilita a criação e distribuição de robôs com conteúdo sexual sugerido, ampliando o risco de exposição de crianças e adolescentes a material impróprio.

A notificação enfatiza que, além de representar um risco à integridade psíquica de menores, esse tipo de prática pode gerar danos institucionais e violar o direito à proteção integral, garantido pela Constituição Federal no artigo 227.

A AGU também menciona um caso noticiado pela agência Reuters, no qual a Meta confirmou que a IA da empresa havia sido capaz de gerar conversas com teor sexual com crianças. Embora a Meta tenha afirmado que removeu as partes dos chatbots que permitiam esse tipo de interação, a AGU alega que ainda há conteúdos ilícitos disponíveis e sem o devido filtro de faixa etária, violando os próprios Padrões da Comunidade da Meta.

Além disso, a AGU destaca o entendimento do Supremo Tribunal Federal (STF), que, no julgamento sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, definiu que plataformas digitais podem ser responsabilizadas por conteúdo gerado por terceiros, caso não tomem medidas para remover práticas criminosas quando cientes delas.