Essa é a avaliação do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC (UFABC) e autor de obras sobre tecnologias digitais. “O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou.

Dentre as medidas anunciadas no acordo firmado na Casa Branca, feito com a OpenAI, Meta, Anthropic, Google, Nvidia e X, está a implementação de “controles internos” para monitorar os modelos de IA para “garantir que seus modelos não invadam ou acessem sistemas técnicos de maneiras não intencionais”.

“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, completou Amadeu.

Outra medida é o estabelecimento de parceria com um auditor ou avaliador externo independente para que as companhias verifiquem se os controles e os sistemas de monitoramento estão funcionando adequadamente. O professor da UFABC contesta essa proposta. “Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, questionou.

Benefícios frágeis

O especialista em governança de IA Ettore Arpini, fundador da organização Plures, que apoia a formação de profissionais para atuação em IA, destacou à Agência Brasil que o acordo voluntário das IAs pode criar benefícios reais.

Porém, alerta que o compromisso pode ser abandonado quando as proteções se tornarem comercialmente prejudiciais.

Arpini cita o exemplo da Moratória da Soja na Amazônia, que foi um acordo voluntário que envolveu empresas do setor para não plantar soja na Amazônia e evitar o desmatamento do bioma. “Isso deu certo por 20 anos, de forma voluntária, até que mudou o ambiente político e econômico e as empresas que faziam parte saíram do acordo e a moratória morreu”, disse.

(Em agosto deste ano, porém, o STF reconheceu a validade da Moratória da Soja.)

Saúde Pública

Amadeu destaca que a IA traz riscos ambientais (devido ao alto consumo de energia e água), de violação de privacidade (devido à capacidade de vigilância em massa de populações), assim como riscos à democracia e à saúde pública.

Ele explica que várias pesquisas realizadas na indústria farmacêutica, em parceria com big techs por meio de modelos de IA, podem envolver riscos para a saúde da população e, por isso, precisam de regulação do Estado.

“Sabemos que, quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, comentou.

Entre os riscos, o especialista cita a possibilidade de o uso da IA levar as pessoas a tomar medicamentos por conta própria ou mesmo fazer diagnósticos com uso da máquina.

“Quando nós estamos tratando de fenômenos ligados à saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu.

Temor social

O governo Trump tem rejeitado impor limites ao desenvolvimento da IA, mesmo diante de pedidos da própria indústria e pressão social interna.

Pesquisa de opinião realizada pela Ipsos e Reuters revelou que 73% da população dos EUA acreditam que as empresas de IA não tomam medidas suficientes para impedir os danos da tecnologia para a sociedade e 39% acreditam que a IA está tendo um impacto negativo na sociedade.

Um dos riscos apontados é que os sistemas banalizem ataques cibernéticos por meio da invasão de sistemas de outras empresas e instituições. Outros riscos associados à IA são os impactos sobre o mercado de trabalho ou o uso “malicioso” da tecnologia por criminosos para aplicar golpes cibernéticos.

Democracia

A IA ainda pode ser usada para influenciar a opinião pública por meio da manipulação da informação que circula nas redes sociais, segundo o International AI Safety Report 2026, elaborado por 100 especialistas de mais de 30 países.

“Diversos estudos laboratoriais demonstraram que a interação com sistemas de IA pode levar a mudanças mensuráveis nas crenças das pessoas”, aponta o relatório.

Outro risco apontado é em relação ao desenvolvimento de armas químicas e biológicas.

“Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional.

O texto ainda precisa ser homologado pelo MEC e publicado no Diário Oficial da União. As instituições terão prazo de 12 meses para se adaptar às novas diretrizes.

A regulamentação permite o uso da IA como apoio à educação, mas estabelece limites de acordo com o impacto que a tecnologia pode ter sobre os estudantes. Para isso, as utilizações da tecnologia foram divididas em quatro níveis de risco: baixo, moderado, alto e excessivo. A classificação leva em conta o impacto que a IA pode ter sobre o aluno. Quanto mais a ferramenta interferir em avaliações ou em decisões sobre sua vida escolar ou acadêmica, maior é o nível de risco.

O que muda nas escolas

Na educação infantil e até o 5º ano do ensino fundamental, os alunos não poderão usar ferramentas de IA sozinhos. A tecnologia poderá fazer parte de atividades planejadas e acompanhadas pelos professores, mas as crianças não terão acesso livre a esses sistemas.

Para os estudantes mais velhos, o uso poderá ser ampliado de forma gradual. As escolas também deverão ensinar os alunos a compreender e usar a IA de forma crítica, incluindo seus limites, riscos e vieses nas respostas. Também deverão ser capacitados a avaliar as informações produzidas pela tecnologia.

As novas regras atingem as avaliações. A IA não poderá corrigir, avaliar nem sugerir notas para redações, questões dissertativas e outros trabalhos que dependam da interpretação do que foi produzido pelo aluno. Em provas objetivas, poderá ser usada como apoio, mas o resultado terá de ser atribuído por uma pessoa.

Resultados de detectores que apontam se um trabalho foi produzido com inteligência artificial não poderão determinar punição de um estudante se apenas eles forem aplicados. Ou seja, não basta a tecnologia.

Quais são os quatro níveis de risco da IA

De acordo com as diretrizes, no nível mais baixo de risco ficam usos que não interferem diretamente na avaliação ou em decisões sobre os alunos. É o caso de ferramentas para organizar e adaptar materiais didáticos, planejar aulas, oferecer recursos de acessibilidade ou revisar textos sem finalidade de avaliação.

O risco é considerado moderado quando há maior interação com o estudante, como em tutores virtuais, ferramentas de apoio à escrita e sistemas que dão orientações durante a aprendizagem. Esses recursos poderão ser usados, mas seu funcionamento terá de ser acompanhado pelas instituições.

No alto risco estão aplicações capazes de ter consequências mais importantes para o aluno. É o caso de ferramentas usadas na correção de avaliações objetivas, no monitoramento durante provas e em processos de seleção, certificação, concessão de benefícios ou questões disciplinares. A IA poderá auxiliar, mas não decidir sozinha.

Já os usos classificados como de risco excessivo serão proibidos. Entre eles estão reconhecimento de emoções, pontuação social, vigilância biométrica contínua e criação de perfis psicológicos ou comportamentais para classificar ou punir estudantes. Dados educacionais também não poderão ser usados para publicidade direcionada ou exploração comercial.

Como são as regras para as universidades

As instituições de ensino superior terão de criar políticas próprias para o uso da inteligência artificial no ensino, na pesquisa, na extensão e na gestão.

A IA poderá ser objeto de estudo e também ferramenta de apoio às atividades acadêmicas. As regras de cada instituição deverão tratar de pontos como autoria, integridade acadêmica, transparência, responsabilidade intelectual e proteção de direitos.

Na pesquisa científica, o uso da tecnologia deverá ser informado quando tiver participação relevante em etapas como elaboração de textos, análise de dados, revisão bibliográfica ou programação.