Governos não conseguirão controlar emancipação da IA, diz ex-analista da CIA

No livro "The Revolt of the Public" ("A revolta do público", em tradução livre), publicado em 2014 e que permanece sem edição brasileira, o ex-analista da CIA Martin Gurri projetou que a ascensão das redes sociais provocaria o colapso das elites.

Ao longo da última década, essa interpretação foi amplamente utilizada para compreender movimentos como o dos Coletes Amarelos, na França, e a ascensão da direita radical registrada em boa parte do mundo, incluindo o Brasil.

Nesta entrevista ao Atlantico.FR, veículo parceiro do Global South World Brasil, Gurri avalia que a inteligência artificial representa uma nova etapa dessa emancipação política dos cidadãos, e que os governantes não têm instrumentos suficientes para controlá-la.

Leia a entrevista completa

Atlantico Em The Revolt of the Public, o senhor descreveu as redes sociais como um tsunami que submergiu as elites sem colocar nada sólido em seu lugar. A IA representa uma segunda onda desse mesmo tsunami ou algo qualitativamente diferente? Os políticos levaram anos para compreender o Twitter e o Facebook — e muitos jamais conseguiram fazê-lo. O senhor acredita que a IA é ainda mais opaca para eles ou, ao contrário, lhes oferece novos instrumentos de controle?

Martin Gurri São perguntas excelentes. Creio que a IA seja a conclusão lógica do tsunami digital: esse dilúvio de informações aleatórias que se apresenta como conhecimento organizado, como verdade. Evidentemente, não é isso que ela é.

A IA se parece com um "idiota sábio": possui uma memória monstruosamente vasta e a capacidade de organizar informações em argumentos convincentes. Esses argumentos às vezes se aproximam da verdade, outras vezes não. O futuro pertencerá àqueles que souberem distinguir uma coisa da outra.

Nos Estados Unidos, alguns políticos — especialmente do campo populista — compreenderam o poder da IA. Mas, de maneira geral, as elites, tanto na América quanto na Europa, não possuem nem o interesse nem a formação necessários para lidar com uma inovação revolucionária que ameaça seu controle sobre as instituições.

O governo Biden pretendia utilizar seus poderes regulatórios para neutralizar a IA. Na Europa, difundiu-se a ideia de que é melhor ser sufocado por uma montanha de regulamentações do que inovar.

Dos dois lados do Atlântico, as velhas elites desejam retornar ao século XX, quando podiam silenciar o público e governar a sociedade de cima para baixo. Mas essa máquina do tempo reacionária não existe — e jamais existirá.

Atlantico A IA agora permite que qualquer cidadão examine um orçamento público, analise um projeto de lei ou confronte um especialista. Trata-se de uma verdadeira democratização do conhecimento ou corremos o risco de confundir acesso à informação com capacidade de compreendê-la? Em seu livro, o senhor distinguia a capacidade de destruir a legitimidade das elites da capacidade de construir algo novo. A IA dará ao público meios para construir ou apenas para contestar com mais eficiência?

Martin Gurri A IA pode seguir dois caminhos. O primeiro colocaria todas as informações já registradas desde o surgimento da humanidade nas mãos de cada indivíduo. Apenas pela expansão de sua consciência, essas pessoas deixariam de ser comuns e evoluiriam para algo semelhante a uma inteligência híbrida -- metade humana, metade máquina.

Seria a revolta do público acelerada. Como as elites governantes dependem mais da hierarquia do que do conhecimento, elas se tornariam menos instruídas, menos eloquentes e, no fim, menos inteligentes do que um ser humano potencializado pela IA.

O outro caminho seria a concentração da IA nas mãos de um pequeno círculo de poderosos, que a utilizariam para reforçar a hierarquia existente ou criar uma nova elite tecnocrática.

Ao monopolizar o acesso a essa inteligência ampliada, essas pessoas acabariam se parecendo com os deuses do Olimpo: vaidosos, arbitrários e quase imortais, consultados pelos mortais como se fossem oráculos.

O restante da população seria abandonado a uma espécie de barbárie confortável, passando a temer o conhecimento como um domínio reservado às elites. Esses são os dois extremos.

Em certos momentos — como durante a Revolução Francesa — a história realmente chega às conclusões mais radicais. Na maior parte das vezes, porém, as coisas permanecem confusas. Se eu fosse um apostador, o que não sou, apostaria que a IA seguirá um caminho intermediário entre a elevação do público e a divinização das elites. Mas apenas o futuro poderá dizer.

Atlantico O senhor escreveu que o impacto da IA dependerá da força moral da nossa civilização. Mas, se a IA se adapta para dizer a cada usuário exatamente aquilo que ele deseja ouvir, ela não destrói justamente as condições necessárias para essa força moral existir — o debate compartilhado e uma realidade comum?

As redes sociais fragmentaram o espaço público em bolhas. A IA personalizada vai ainda mais longe: ela não apenas filtra a informação, mas a produz sob demanda. Trata-se de uma diferença de grau ou de natureza?

Martin Gurri Não compartilho dessa premissa. A disputa para definir o que será a IA ainda está em andamento e, portanto, não podemos caracterizar seus efeitos de forma definitiva.

Um dos cenários possíveis é que a IA reúna toda a reflexão e sabedoria acumuladas pela humanidade desde o Paleolítico. Em outras palavras, ela poderá tornar-se a base comum da próxima etapa da vida civilizada.

Em vez de aprofundar as divisões criadas pelas redes sociais, poderá funcionar como uma força de integração intelectual. De Homero ao Homem-Aranha, de Monteverdi aos Beatles, compartilharíamos as mesmas referências ao discutir mudanças políticas.

Aliás, as únicas pessoas verdadeiramente presas em uma bolha informacional hoje são justamente as elites governantes, que desprezam o universo digital. O público, por sua vez, está imerso na internet e bombardeado continuamente por opiniões divergentes. Pode ser fanático ou niilista — e frequentemente é as duas coisas ao mesmo tempo —, mas sabe perfeitamente o que cada lado pensa sobre cada tema político ou social.

Já aqueles cuja informação provém exclusivamente de grandes jornais, como o The New York Times ou o Le Monde, tornam-se voluntariamente surdos e cegos enquanto dançam à beira do precipício.

Atlantico Diante de cidadãos mais preparados para argumentar e potencialmente presos às próprias convicções, qual é a estratégia racional para um político? Adaptar-se ou tentar regular a IA para recuperar o controle? Regimes autoritários já utilizam a IA para vigiar e moldar a opinião pública. As democracias, por sua vez, hesitam. Isso representa uma fraqueza estrutural?

Martin Gurri Antes de tudo, todos os seres humanos, ao longo da história, sempre foram prisioneiros de suas próprias certezas. Não devemos imaginar que uma mudança na estrutura da informação tenha alterado a natureza humana.

A única diferença — e ela é importante — é que agora podemos expressar publicamente essas convicções, enquanto antes isso era impossível ou passível de punição.

O tsunami informacional é, por natureza, contrário à hierarquia. O público comeu o fruto da árvore do conhecimento, e os governos não podem regular ou reprimir esse fenômeno para retornar à inocência perdida.

As ditaduras sempre exploraram as novas tecnologias. Hitler, por exemplo, dominava perfeitamente o uso do rádio. Mas algumas tecnologias favorecem muito mais o controle vertical do que outras.

A internet — como a imprensa fez por cinco séculos — impõe às autoridades desafios muito maiores do que os jornais ou os telejornais. Precisamos de uma classe política que compreenda o universo digital, se sinta confortável nele e não tema suas consequências. Essa não é a classe política que temos hoje.

Atlantico Com a renovação natural das gerações, surgirá uma nova geração de líderes políticos. Em uma década, a IA terá servido mais para emancipar o cidadão comum ou para consolidar o poder daqueles que a controlam?

Martin Gurri Provavelmente, ambos. Haverá um processo darwiniano, no qual a IA será utilizada de maneiras boas e ruins por diferentes sociedades, grupos sociais e indivíduos. As aplicações mais bem-sucedidas sobreviverão e se multiplicarão.

Atlantico Elas favorecerão a liberdade ou a tirania?

Martin Gurri Como sempre, sou pessimista no curto prazo, mas otimista no longo prazo.