Essas são algumas das questões abordadas no Guia sobre Usos da Inteligência Artificial na Infância e Adolescência, disponibilizado pelo governo federal na sexta-feira, 16. O documento de 72 páginas apresenta orientações práticas para famílias, educadores e jovens sobre o uso seguro da tecnologia, com recomendações específicas para diferentes faixas etárias.

Elaborado pelos ministérios dos Direitos Humanos e da Cidadania e da Justiça e Segurança Pública, com cooperação da Unesco, o guia considera tanto as oportunidades oferecidas pela inteligência artificial quanto os riscos relacionados à privacidade, à saúde mental, à exposição de dados pessoais e à disseminação de conteúdos falsos.

A preocupação acompanha a expansão dessas ferramentas entre os jovens brasileiros. Segundo a pesquisa TIC Kids Online Brasil 2025, citada no documento, 65% dos usuários de internet de 9 a 17 anos utilizaram inteligência artificial generativa em pelo menos uma das atividades investigadas.

Entre os entrevistados, 59% recorreram à tecnologia para pesquisas escolares ou estudos, 42% para procurar informações, 21% para criar conteúdos e 10% para conversar sobre problemas pessoais ou emoções. Na faixa de 13 a 17 anos, o uso de IA generativa chegou a 75%.

O que o guia recomenda para cada idade

Uma das principais orientações é considerar a idade, a maturidade e a finalidade do uso antes de permitir que crianças e adolescentes interajam com ferramentas de inteligência artificial.

Na primeira infância, especialmente até os 5 anos, a recomendação é evitar brinquedos com IA. Esses dispositivos podem utilizar microfones, câmeras, reconhecimento de voz e conexão à internet para conversar com crianças e adaptar suas respostas.

Além dos riscos relacionados à coleta de dados, o guia chama a atenção para a possibilidade de as crianças desenvolverem vínculos afetivos intensos com objetos que simulam comportamentos humanos.

Para crianças menores de 10 anos, a classificação indicativa não recomenda a interação por diálogo com assistentes de IA generativa de conteúdo educacional, mesmo quando utilizados para fins pedagógicos, com exceção de funcionalidades específicas de acessibilidade.

Ferramentas que permitem conversas abertas ou se apresentam como fontes de apoio emocional e psicológico estão sujeitas a classificações etárias ainda mais restritivas.

No caso dos adolescentes, o guia recomenda acompanhamento adequado à maturidade e ao desenvolvimento de cada um, com ampliação gradual da autonomia. A orientação é estabelecer regras por meio do diálogo, sem transformar o cuidado em vigilância permanente.

Cuidados com brinquedos e assistentes virtuais

Antes de comprar um brinquedo com inteligência artificial, os responsáveis devem investigar quais informações ele coleta, se possui câmera ou microfone, se registra conversas e se compartilha dados com outras empresas.

O guia também indica verificar se o fabricante oferece atendimento no Brasil, se há possibilidade de excluir informações armazenadas e se o produto possui recursos que estimulam compras ou uso excessivo.

Depois da compra, a orientação é alterar senhas de fábrica, revisar permissões e desativar funcionalidades desnecessárias, como a escuta contínua.

Outro cuidado importante envolve os assistentes virtuais que simulam amizades, relacionamentos ou apoio emocional.

Embora possam responder de maneira acolhedora e convincente, esses sistemas não substituem amigos, familiares ou profissionais de saúde. O documento alerta que crianças e adolescentes não devem compartilhar informações íntimas, imagens privadas ou dados pessoais durante essas conversas.

A recomendação às famílias é observar se a interação com a ferramenta começa a substituir atividades, amizades ou outras relações humanas.

Quatro formas de interação com a inteligência artificial

O guia organiza os diferentes usos da tecnologia em quatro categorias, cada uma com riscos e cuidados específicos.

IA como brinquedo: dispositivos conectados que falam, escutam e respondem. Os principais cuidados envolvem privacidade, segurança e o risco de desenvolver vínculos afetivos excessivos.

IA como companhia: assistentes virtuais e personagens que simulam amizades ou oferecem conselhos. O alerta está na dependência emocional e no compartilhamento de informações pessoais.

IA como curadora: sistemas que selecionam vídeos, publicações e outros conteúdos nas redes sociais. Podem reforçar padrões de beleza, estimular comparações, apresentar publicidade personalizada e prolongar o tempo diante das telas.

IA como criadora: ferramentas que produzem textos, imagens, áudios e vídeos. Os riscos incluem informações falsas, reprodução não autorizada de imagens e criação de conteúdos manipulados.

O documento destaca que a inteligência artificial nem sempre aparece identificada como tal. Ela também está presente nos mecanismos de busca, nas recomendações das redes sociais, nos jogos eletrônicos e em plataformas educacionais.

Como orientar crianças e adolescentes nas escolas

Para professores e gestores escolares, a publicação recomenda que a inteligência artificial seja utilizada como apoio à aprendizagem, sem substituir o papel dos docentes ou a participação ativa dos estudantes.

Na Educação Infantil, a orientação é priorizar experiências lúdicas e atividades sem interação direta com sistemas de IA. Nos anos iniciais do Ensino Fundamental, o documento recomenda evitar ferramentas conversacionais e dar preferência a atividades que ensinem conceitos sobre tecnologia sem exigir seu uso direto.

Nas etapas posteriores, o uso deve considerar os objetivos pedagógicos, a proteção dos dados dos estudantes e o desenvolvimento do pensamento crítico.

As escolas também devem estabelecer regras claras sobre a utilização de IA em trabalhos escolares, incluindo quando seu uso é permitido e como os estudantes devem informar que recorreram à tecnologia.

O guia recomenda preservar a autoria e o esforço de aprendizagem dos alunos, evitando que ferramentas automatizadas realizem tarefas que eles precisam aprender a desenvolver.

Imagens falsas, privacidade e canais de denúncia

Outro ponto de atenção é a utilização da inteligência artificial para produzir imagens íntimas falsas, conhecidas como deepfakes ou deepnudes. O documento alerta para situações de exposição indevida, humilhação, chantagem e violência sexual facilitada pela tecnologia.

A recomendação é conversar preventivamente sobre esses riscos e deixar claro que crianças e adolescentes devem procurar ajuda quando forem ameaçados ou tiverem imagens utilizadas sem autorização.

Em situações de violência digital, o guia orienta evitar o compartilhamento das imagens e recorrer aos canais de denúncia e apoio.

Entre os serviços apresentados estão o Disque 100, para violações de direitos humanos; o Centro de Valorização da Vida (CVV), pelo telefone 188, para apoio emocional; e o Canal de Ajuda da SaferNet Brasil.

O documento também apresenta ferramentas como Take It Down e StopNCII , que auxiliam no combate à circulação de imagens íntimas sem consentimento.

Onde acessar o guia

O material integra o Plano Brasileiro de Inteligência Artificial e considera as diretrizes do ECA Digital, estabelecido pela Lei nº 15.211/2025, que prevê medidas de proteção de crianças e adolescentes no ambiente digital.

A elaboração contou com consultoria técnica do professor George Augusto Valença Santos, da Universidade Federal Rural de Pernambuco (UFRPE), e participação das pesquisadoras Maria Luisa de Almeida Vasconcelos, Julyanne Maria dos Santos Correia e Maria Eduarda Rebelo Di Carlli, da mesma instituição.

O guia é gratuito e está disponível para consulta e download no site do Ministério da Justiça e Segurança Pública .

Segundo a AGU, a plataforma apresenta proteção insuficiente a grupos vulneráveis, como crianças, adolescentes e mulheres, além de permitir situações de violência contra animais.

De acordo com a Polícia Federal, o Discord não adota requisitos mínimos estabelecidos pela legislação brasileira, incluindo o ECA Digital.

O ministro da AGU, Jorge Messias, afirmou que o governo manteve duas semanas de reuniões e diálogos com representantes da empresa na tentativa de chegar a um Termo de Ajustamento de Conduta (TAC), mas não houve acordo.

“Essa plataforma tem permitido a prática de comportamentos ilegais a partir do que chamamos de proteção insuficiente a mulheres, crianças, adolescente e animais”, disse Messias.

Mais de 115 relatórios desde 2025

De acordo com o governo, os problemas identificados não se restringem a episódios isolados. Desde 2025, o sistema de monitoramento das autoridades produziu mais de 115 relatórios técnicos de inteligência sobre casos relacionados ao Discord no Brasil.

Os documentos envolvem indução ao suicídio e à automutilação, além de maus-tratos e sacrifícios de animais.

O secretário nacional de Direitos Digitais, Vitor Fernandes, declarou que mecanismos de verificação de idade, supervisão e controle parental da plataforma também apresentaram falhas.

Segundo ele, a legislação brasileira exige que as plataformas adotem medidas para detectar e remover determinados conteúdos ilegais, sem esperar uma notificação do poder público.

Morte de adolescente é citada na ação

Entre os episódios investigados está a morte de uma adolescente de 13 anos durante uma transmissão ao vivo. O caso deu nome à Operação Lívia , deflagrada em 4 de agosto, com o cumprimento de mandados em cinco estados.

Segundo Fernandes, a transmissão começou por volta das 2h20 e durou mais de duas horas. Às 3h50, o Discord recebeu um alerta do núcleo de observação e análise digital da Polícia Civil de São Paulo.

O servidor foi retirado do ar 25 minutos depois. De acordo com o secretário, porém, as contas dos investigados envolvidos só foram banidas às 15h20 do dia seguinte.

O Discord contesta a forma como o episódio vem sendo apresentado. A empresa afirma que as atividades investigadas ocorreram em diferentes aplicativos e que evidências compartilhadas pelo próprio governo indicariam que a morte aconteceu em outra plataforma.

A companhia diz ainda ter investigado um servidor privado no qual pessoas envolvidas em atividades criminosas teriam incentivado a automutilação. Segundo o Discord, esse servidor foi desativado antes da morte da adolescente.

Governo cobra atuação preventiva

O governo também cita a Lei 15.487, sancionada neste ano, que ampliou os instrumentos disponíveis para investigações de crimes de violência sexual contra crianças e adolescentes no ambiente digital.

A legislação passou a permitir a chamada “ronda virtual legalizada”, pela qual autoridades policiais podem identificar e coletar arquivos relacionados a esses crimes.

O diretor de combate a crimes cibernéticos da Polícia Federal, Otávio Margonari Russo, disse que o ECA Digital também ampliou as ferramentas para atuação preventiva e repressiva das autoridades.

O governo sustenta ainda que o uso de criptografia ponta a ponta pelo Discord dificultou, em casos investigados, a detecção proativa de conteúdos criminosos.

Discord contesta acusações

Em nota, o Discord classificou a ação civil como “desproporcional” e afirmou que mantém diálogo “de forma consistente e de boa-fé” com a AGU.

A empresa diz ter apresentado uma proposta para reforçar a segurança da plataforma, com mudanças técnicas e investimentos em segurança online no Brasil. Também afirma que a acusação de falta de cooperação com as autoridades é incorreta.

Segundo o Discord, não tem havido uma atuação coordenada entre os órgãos federais envolvidos e não há clareza sobre todas as medidas específicas exigidas da companhia.

A plataforma afirma contar com equipes especializadas que trabalham para identificar pessoas que representem ameaças de alto risco e possíveis vítimas, além de remover usuários e conteúdos. A empresa declara que comunicações feitas às autoridades já contribuíram para a detenção de suspeitos.

O Discord argumentou estar comprometido em trabalhar com as autoridades para chegar a uma solução que permita aos brasileiros continuar utilizando a plataforma.

Com informações da Agência Brasil.

Em comunicado, a agência afirmou ter evidências de que a empresa "não adotou medidas razoáveis para mitigar riscos de acesso e exposição a conteúdos que representem graves violações de direitos de crianças e adolescentes".

A morte da adolescente, que ocorreu no Mato Grosso do Sul, gerou ondas de protestos dentro e fora da internet, inclusive da primeira-dama, Janja Lula da Silva, que pediu o bloqueio do aplicativo no Brasil.

A medida aplicada é parcial e não afeta todo o funcionamento do Discord. “O Discord não está sendo bloqueado. O que a medida preventiva suspende é a funcionalidade Go Live , utilizada para transmissões ao vivo em servidores fechados. O nosso objetivo é reduzir os riscos de danos graves ou de difícil reparação a que estão sendo expostas as crianças e adolescentes ”, explica o superintendente de fiscalização da ANPD, Fabrício Lopes .

A agência também afirmou que a Go Live tem sido reiteradamente usada para a prática de crimes graves, nos últimos anos, colocando em risco a integridade física e mental dos menores de 18 anos

Os representantes da empresa foram notificados pela SFI-ANPD e devem comprovar em três dias úteis o cumprimento integral da suspensão no território nacional.

Leia também:

O governo inglês consultou milhares de especialistas, além de pais e os próprios adolescentes para entender o cenário e decidiu banir plataformas como Instagram, TikTok, Facebook e Snapchat. Aplicativos de comunicação como o WhatsApp e Signal ficaram de fora da proibição.

"Todos os pais podem ver isso com seus próprios olhos. As redes sociais estão deixando as crianças infelizes", disse o premiê. As medidas devem entrar em vigor apenas em janeiro de 2027.

Com a decisão, os ingleses podem atingir uma queda expressiva no número de contas de menores de 16 anos nas redes em pouco tempo. No caso da Austrália, a diminuição foi de 37% em apenas seis meses, segundo dados do Comitê de Segurança Digital do país.

Brasil na contramão  

Em terras brasileiras, o governo federal optou pela implementação de um novo Estatuto Digital da Criança e do Adolescente, o ECA Digital, para mitigar os danos gerados pelo uso intensivo de redes sociais. Sancionado em setembro do ano passado, os decretos foram assinados em março pelo presidente Luiz Inacio Lula da Silva, entrando em vigor. Eles englobam medidas para evitar dependência digital, como o fim da “rolagem infinita” do feed, além de métodos robustos de verificação de idade.

Dedicada à pauta desde a composição do texto até sua articulação, a ex-secretária da Sedigi (Secretaria Nacional de Direitos Digitais), Lilian Cintra de Melo, explicou que o modelo brasileiro se afasta da proibição porque visa educar os jovens e obrigar plataformas a implementarem um design mais seguro para esse público. 

"Na Austrália, existem evidências de que o bloqueio está sendo furado. O custo de implementação e fiscalização é muito alto, além de que esses jovens acabam usando métodos para burlar a proibição, como VPN”, contou, em entrevista ao GSW Brasil.

O que já mudou por aqui?

Na semana passada, a Agência Nacional de Proteção de Dados (ANPD) iniciou um monitoramento das lojas de aplicativos visando acompanhar a implementação das obrigações relacionadas a verificações de idade previstas no ECA Digital.

“Não adianta só blindar a criança, porque dessa forma ela cresce sem entender os riscos. Na nossa opinião era mais importante fazer as big techs trabalharem para tornar aquele ambiente mais seguro”, completou Lilian.

Segundo a ANPD, as lojas App Store (Apple), Google Play Store e Microsoft são prioridade pois são através delas que esses produtos digitais são baixados.

As empresas notificadas devem encaminhar, em até 15 dias úteis, informações relacionadas à arquitetura de sistemas, fluxos de dados, mecanismos de verificação de idade e políticas internas visando demonstrar conformidade com o ECA Digital e com a Lei Geral de Proteção de Dados.

A agência firmou também um acordo com a Direção-Geral das Redes de Comunicações, Conteúdos e Tecnologias (DG CONNECT) da Comissão Europeia, para fiscalização e proteção de crianças e adolescentes na internet.

Monetização na mira

O Ministério da Justiça e Segurança Pública (MJSP) encaminhou no último dia 12, Dia Mundial contra o Trabalho Infantil, um ofício às principais plataformas digitais para que elas se abstenham de monetizar ou impulsionar conteúdos que explorem a imagem ou a rotina de crianças e adolescentes sem autorização judicial.  

Conteúdos que exponham crianças ou adolescentes a situações vexatórias também não poderão ser veiculados.