IA avança entre o alerta dos próprios criadores e a disputa entre EUA e China

Os principais executivos da indústria de inteligência artificial defendem uma desaceleração coordenada no desenvolvimento da tecnologia diante dos riscos de sistemas cada vez mais autônomos, mas a proposta esbarra na disputa entre Estados Unidos e China pela liderança do setor.

Donald Trump rejeita novas barreiras à IA e afirma que o excesso de preocupação favorece Pequim, enquanto autoridades chinesas reconhecem riscos associados à tecnologia, mas defendem seu desenvolvimento e criticam o que consideram alarmismo.

O debate ganhou força depois que Dario Amodei, CEO da Anthropic, defendeu no sábado, 12, uma redução coordenada no ritmo de desenvolvimento da IA para que empresas e governos tenham mais tempo para compreender e controlar os riscos dos modelos mais avançados.

A proposta recebeu o apoio de Sam Altman, CEO da OpenAI, Elon Musk, da xAI, Demis Hassabis, presidente do Google DeepMind, e Satya Nadella, CEO da Microsoft.

RECOMMENDED FOR YOU

‘Estou morrendo aos poucos’: ex-atleta com doença rara perde assistência médica e convive com dores

A defesa de uma pausa ou desaceleração ocorre em um momento em que os próprios laboratórios relatam episódios preocupantes envolvendo sistemas experimentais. Nos últimos meses, OpenAI e Anthropic identificaram casos em que modelos conseguiram escapar de ambientes restritos, acessar a internet e realizar ações sem supervisão direta.

Em alguns episódios, os sistemas demonstraram capacidade de se coordenar, estabelecer hierarquias, enganar operadores e apagar registros de suas atividades. Na semana passada, o pesquisador Jacob Coxon, que deixou a Anthropic e já havia trabalhado na OpenAI, acusou as duas empresas de manter padrões de segurança insuficientes diante do avanço da tecnologia.

O dilema de pisar no freio

O problema para as empresas é que nenhuma delas parece disposta a reduzir o ritmo sozinha. A corrida envolve investimentos bilionários e uma disputa por liderança tecnológica que ultrapassa o mercado e se tornou parte da competição estratégica entre Estados Unidos e China.

Amodei defende uma coordenação entre empresas e países democráticos, mas não propõe incluir a China nesse esforço. Para ele, a possibilidade de Pequim continuar avançando enquanto empresas americanas reduzem o ritmo cria um dos maiores obstáculos para qualquer tentativa de desaceleração.

A proposta também inclui medidas para restringir ainda mais o acesso chinês aos chips americanos mais avançados e reforçar mecanismos contra a transferência indevida de tecnologias desenvolvidas no Ocidente. A preocupação é especialmente relevante diante da diferença entre os modelos fechados das grandes empresas americanas e os modelos de código aberto promovidos por companhias chinesas, que podem ser modificados e utilizados pelos próprios usuários.

Anthropic e OpenAI se comprometeram, por enquanto, a permitir que observadores independentes avaliem seus trabalhos internos relacionados à segurança. A ideia é ampliar a fiscalização sobre o desenvolvimento dos modelos sem interromper completamente a corrida tecnológica.

A iniciativa, porém, também provocou desconfiança dentro do próprio setor. Críticos afirmam que as empresas podem ter interesses comerciais e regulatórios ao defender novas regras. O empresário Brian Roemmele, por exemplo, acusou a Anthropic de tentar se apresentar como uma empresa mais responsável justamente em um momento em que se prepara para uma possível abertura de capital.

David Sacks, ex-assessor de Trump para inteligência artificial e ainda influente no governo americano, também questionou a motivação das empresas. Para ele, a pressão por regras mais rígidas pode estar relacionada à exposição jurídica das companhias caso seus produtos sejam usados em ataques cibernéticos ou provoquem outros danos.

RECOMMENDED FOR YOU

Brasil vai testar em humanos primeira vacina com tecnologia mRNA, com foco em câncer, Covid-19 e outras doenças

Trump vê risco de entregar vantagem à China

Trump rejeitou nesta segunda-feira, 14, a ideia de impor novas barreiras ao desenvolvimento da inteligência artificial. Em publicação na rede Truth Social, o presidente americano afirmou que os Estados Unidos já têm poderes regulatórios e criminais suficientes para controlar as empresas e chamou de “conspiração doentia” as críticas contra a IA e os centros de dados.

Trump também afirmou que o único país beneficiado pelo aumento das dúvidas sobre a tecnologia seria a China. Para o presidente, reduzir o ritmo de desenvolvimento americano poderia comprometer a disputa pela liderança global em IA justamente no momento em que Washington tenta manter vantagem sobre Pequim.

A posição está alinhada à resistência de setores do Partido Republicano a uma regulação mais ampla da inteligência artificial. A preocupação entre os republicanos é que regras excessivas aumentem os custos para as empresas americanas, reduzam a inovação e permitam que a China avance na corrida tecnológica.

O argumento coloca Trump em choque direto com os executivos que defendem uma supervisão maior do governo. Amodei, Altman e Hassabis avaliam que regras definidas voluntariamente pelas próprias empresas não são suficientes para lidar com os riscos dos sistemas mais avançados.

Trump, por outro lado, afirma que sua administração já utilizou os mecanismos existentes para impedir atividades consideradas perigosas e que os Estados Unidos não precisam abrir mão da velocidade de desenvolvimento para garantir segurança.

China reconhece riscos, mas não quer ficar para trás

A posição chinesa é mais complexa do que uma simples defesa do avanço irrestrito da tecnologia. Em um artigo recente, Chen Yixin, ministro da Segurança do Estado da China, afirmou que a expansão da inteligência artificial pode criar riscos para a segurança nacional, especialmente quando tecnologias como deepfakes, conteúdos gerados por IA e redes automatizadas são usadas para disseminar desinformação e provocar conflitos sociais.

O Ministério da Segurança do Estado apontou ainda o risco de ferramentas de IA serem utilizadas por forças estrangeiras em operações de influência e em uma espécie de “guerra cognitiva” contra a China. A avaliação inclui ameaças à segurança política, institucional e ideológica do país.

Ao mesmo tempo, Pequim rejeita a ideia de que os riscos associados à inteligência artificial justifiquem uma interrupção da corrida tecnológica. A China defende o uso da IA para o desenvolvimento econômico e social e tem criticado o que considera uma tentativa de transformar a tecnologia em instrumento de disputa geopolítica.

RECOMMENDED FOR YOU

Modelos de IA mudam de posição política conforme o usuário, mostra estudo

Essa diferença ajuda a explicar o impasse atual. China e Estados Unidos reconhecem que a IA pode produzir riscos graves, mas nenhum dos dois está disposto a aceitar uma posição que permita ao adversário avançar sozinho.

A disputa também aparece na discussão sobre os modelos de código aberto. Empresas chinesas têm apostado nesse formato, enquanto autoridades americanas discutem formas de limitar o acesso de Pequim aos chips mais avançados e às tecnologias desenvolvidas por empresas dos Estados Unidos.

Segurança e corrida tecnológica 

A pressão por uma desaceleração ganhou força depois de uma sequência de episódios que ampliou o temor sobre o comportamento de sistemas capazes de agir de forma cada vez mais independente. Entre eles estão incidentes de segurança envolvendo agentes de IA e ataques cibernéticos nos quais ferramentas automatizadas demonstraram capacidade de executar operações complexas.

A Anthropic divulgou nesta segunda-feira um relatório sobre operações maliciosas envolvendo seu modelo Claude. Segundo a empresa, grupos ligados a governos, criminosos e outros atores utilizaram a ferramenta em atividades que incluem operações cibernéticas, vigilância, fraudes e campanhas de influência. A companhia afirma ter identificado e interrompido essas operações.

Para os executivos que defendem uma desaceleração, os episódios mostram que a evolução dos modelos está criando capacidades que ainda não são plenamente compreendidas nem controladas. O problema, porém, é que uma decisão unilateral poderia deixar a empresa ou o país que reduz o ritmo em desvantagem diante dos concorrentes.

A questão deve ganhar ainda mais peso nas discussões entre Washington e Pequim. Trump tem encontro previsto com o presidente chinês, Xi Jinping, em Washington, e os dois países também planejam conversas específicas sobre os riscos da inteligência artificial.