ENTREVISTA: ‘A indústria de IA não se importa com nada além de si mesma’

Esqueça ferramentas e chatbots. Para compreender a indústria de inteligência artificial, você precisa entender de imperialismo e ideologia. Ou melhor: religião. Essa é a visão de Karen Hao, jornalista autora de “Empire of AI” (Império da IA), ainda sem edição brasileira, livro que mergulha na história da OpenAI, criadora do ChatGPT, e está há semanas na lista dos mais vendidos dos EUA.

Hao, que trabalhou em veículos como The Atlantic e MIT Technology Review, passou anos cobrindo o mercado de tecnologia, particularmente o desenvolvimento de IA e os conflitos internos da empresa de Sam Altman. Seu livro é revelador não apenas por mostrar bastidores e disputas corporativas entre bilionários do Vale do Silício, mas por escancarar a IA como uma nova forma de imperialismo que reproduz as mais arcaicas formas de exploração da humanidade.

Tudo isso tendo como combustível não apenas a busca por lucros incessantes, mas principalmente uma tal “inteligência artificial geral”, a AGI, na sigla em inglês – que, dizem, pode salvar (ou destruir) a humanidade. 

Essa corrida, com protagonistas homens brancos megalomaníacos como Elon Musk e Sam Altman, tem como combustível energia e água consumidos em quantidades colossais por data centers, conteúdo de filmes, livros e jornais raspados sem autorização nem pagamento e dados produzidos por trabalhadores mal pagos em países pobres bem longe da Califórnia. 

A história da OpenAI é uma fábula para contar uma história muito maior sobre imperialismo e uma nova ordem mundial que se aproxima. “Governar a IA é governar o futuro da humanidade”, escreveu Hao no livro. 

Turbinada com bilhões da Microsoft, e fixada na ideia de alcançar a AGI, a OpenAI sintetiza um modelo de visão do mundo e desenvolvimento construído de forma agressiva, extraindo o maior número possível de dados, recursos naturais e trabalho precário de nós – os países do Sul Global – para gerar muita riqueza para eles. 

Mas Karen Hao explica que essa indústria não é apenas sobre lucro – até porque, até agora, a indústria da IA não tem sido lucrativa. “Eles buscam esse desejo de modelar completamente a inteligência humana e criar o que eles percebem como deuses digitais”, explicou ela, em entrevista ao Intercept Brasil.

Nesse contexto geopolítico, o Brasil está naquela velha posição: fornecedor de matéria-prima e mão de obra barata. Mas somos particularmente relevantes neste momento. Além do boom de data centers, a OpenAI está se preparando para lançar um escritório por aqui, o primeiro da América Latina. E já deu pistas de que pretende brigar para afrouxar as regras de IA que estão em discussão para poder operar com mais tranquilidade. 

No início de setembro, Nicolas Andrade, diretor de políticas públicas da empresa na América Latina, publicou um artigo em que clama pela criação de um ambiente regulatório que “estimule a inovação” no Brasil  e dá alfinetadas no projeto para regulamentar a IA, em tramitação no Congresso, que estabelece regras duras para sistemas de alto risco.

Andrade afirma que já são mais de 50 milhões de brasileiros que usam o ChatGPT mensalmente – a maioria jovens, que o lobista da OpenAI chama de “nativos da IA” que “usarão seu conhecimento tecnológico para promover o crescimento econômico futuro”. Diz, também, que  “agora é o momento da IA no Brasil”.

Quando falei para Hao sobre esse artigo, ela me disse: “ao seguir sua liderança, vocês estão apenas caindo na armadilha”. “As empresas estão se envolvendo com muitos países diferentes e se aproveitando dessa insegurança que muitos sentem sobre estarem atrasados na próxima era da revolução”, explicou. Essa indústria de IA, para ela, defende um tipo de avanço tecnológico que apenas leva à consolidação de seus impérios. 

E há, sim, maneiras de se usar a IA para real benefício da humanidade – mas isso não vai acontecer enquanto esses mesmos imperadores ditarem as regras, em um discurso quase místico. Karen Hao defende que é preciso explicar como esses sistemas funcionam – e, assim, quebrar a magia.

Confira a entrevista completa:

Intercept Brasil – Depois de ler o seu livro, fica claro que não é sobre tecnologia. É sobre ideologia e poder. A IA é quase uma religião. Você pode explicar que ideologia é essa e o que as pessoas precisam saber para entender as mentes dos tech bros e suas empresas?

Karen Hao – A ideologia que está realmente movendo a indústria da IA é essa ideia de que é possível criar um tipo de software que poderá recriar ou capturar completamente a inteligência humana, e então teremos uma profunda mudança civilizacional, tanto positiva quanto negativa.  

Eu chamo isso de religião da inteligência artificial geral, a AGI. Há duas facções dessa religião. Há os boomers, que acham que a AGI trará utopia, e os doomers, que pensam que a AGI irá devastar a humanidade e potencialmente matar todo mundo. Mas eles compartilham a mesma religião porque eles têm essa crença inabalável de que a AGI é possível e é iminente – o que, na verdade, não se sustenta por um consenso científico. Uma pesquisa recente mostrou que 75% dos pesquisadores de IA, na verdade, pensam que as tecnologias atuais não são suficientes para criar a AGI.

Então, é puramente uma crença, e há um fervor em torno dessa crença. E quando você fala com pessoas que fazem parte desse sistema de crenças, elas podem ficar extremamente irritadas se você as contradiz sobre as coisas que elas consideram verdadeiras, porque você não está realmente tendo um debate baseado em evidências, mas sim um debate de crenças.

LEIA TAMBÉM:

• Como plataformas de inteligência artificial podem discriminar mulheres, idosos e faculdades populares em processos seletivos
• Como a indústria de inteligência artificial lucra criando uma nova classe trabalhadora sem direitos no Brasil

Não há realmente nada que você possa apontar para desafiá-los. É como uma questão de sentir ou não. Então, fico muito feliz que você tenha começado por esta parte, porque acho que muitas pessoas pensam que a indústria de IA é apenas a típica história de negócios, onde se trata apenas de “ah, essas empresas estão preocupadas com seus resultados financeiros”. Mas não isso o que está acontecendo.

Você precisa entender o motivo do lucro e o motivo ideológico. Existem muitas decisões que a indústria de IA está tomando sem qualquer base para, de fato, gerar lucro. Essa indústria não é lucrativa. As decisões de negócios que eles estão tomando, na verdade, não fazem sentido financeiro. E é por isso que o contexto ideológico é importante para perceber que o que eles buscam não é apenas a criação de mais riqueza para si mesmos, mas sim esse desejo de modelar completamente a inteligência humana e criar o que eles percebem como deuses digitais.

No Brasil, a mídia geralmente tem uma abordagem excessivamente entusiasta ou alarmista sobre inteligência artificial, como se ela fosse salvar ou destruir o mundo. Qual é o papel da mídia na normalização e na propagação dessa ideologia?

A mídia desempenha um papel enorme na normalização das narrativas que o Vale do Silício projeta sobre sua tecnologia. E o maior erro que vejo é a mídia citar pessoas que fazem parte da indústria de IA – e que têm enormes incentivos para distorcer a verdade – como se fossem especialistas nessa tecnologia. 

As manchetes que vemos o tempo todo e as pessoas citadas em artigos sobre IA acabam estando de alguma forma ligadas financeira ou ideologicamente à indústria. Então, obviamente, todas as narrativas que essas pessoas projetam são aquelas em que tentam pintar a tecnologia como toda-poderosa, em parte porque é o que acreditam e em parte porque isso as ajudará a vender mais seus produtos e serviços.

A mídia criou essa percepção bifurcada de que só existem boomers e doomers. Muitas pessoas têm a percepção de que a AGI é iminente e que vai trazer utopia ou matar todos nós. Essas são as narrativas mais comuns. E mesmo quando dou entrevistas sobre o meu livro, as pessoas me perguntam: “você é uma boomer ou uma doomer?”. Há essa percepção profundamente arraigada de que essas são as únicas duas opções, e também de que a IA é inevitável.

Muitas vezes, as pessoas me fazem perguntas como: “obviamente, não há como voltar atrás, então o que podemos fazer em um contexto onde a IA estará em todo lugar? Como sobrevivemos?”. Todas essas coisas são a indústria de tecnologia nos alimentando exatamente do que eles precisam que pensemos para que eles se tornem mais poderosos. E a mídia caiu nessa armadilha de dar plataforma a todas essas ideias repetidamente.

Você acha que a AGI está chegando? Ou melhor: você acredita na AGI?

Não tenho ideia se a AGI está chegando ou não, porque não há definição de AGI. A OpenAI, por exemplo, define publicamente a AGI como sistemas altamente autônomos que superam os humanos na maioria dos trabalhos economicamente valiosos. Se basearmos a AGI em uma definição de automação do trabalho, acho que isso pode acontecer, com certeza. Já estamos vendo as pressões da IA sobre as oportunidades de emprego na economia. 

A OpenAI também define privadamente a AGI em seu contrato com a Microsoft como um sistema de IA que gera centenas de bilhões de dólares em receita. Também acho que isso poderia acontecer se estivermos falando puramente de uma definição de geração de lucro. Mas não é assim que as pessoas geralmente pensam sobre isso. Elas pensam nisso como um sistema de IA que alcançará a inteligência de nível humano, e não temos ideia do que inteligência de nível humano significa. Não há consenso científico sobre como medir isso.

‘O que está acontecendo agora já é assustador, já deveríamos ter medo e já deveríamos estar reagindo para mudar’.

Então, esse tipo de AGI vai chegar? Quem sabe? Não temos como aferir ou definir esse marco. Por isso, acho que é uma pergunta que distrai e que, mais uma vez, ajuda a indústria de tecnologia a nos desviar dos problemas reais. 

Eu nunca passei tempo pensando se a AGI será assustadora porque, para mim, o que está acontecendo agora é muito mais relevante e é no que deveríamos focar. E o que está acontecendo agora já é assustador, já deveríamos ter medo e já deveríamos estar reagindo para mudar.

O que você pensa sobre as discussões sobre estarmos em uma bolha da IA? Faz sentido para você?

Com certeza. Eu absolutamente acredito que a IA é uma bolha enorme no momento. Esses negócios não são viáveis. Eles estão queimando níveis extraordinários de dinheiro. A OpenAI acabou de dizer aos investidores que está projetando uma queima de caixa de 115 bilhões de dólares de agora até 2029. E isso foi uma diferença de 80 bilhões de dólares a mais em relação à sua projeção anterior. Eles originalmente projetaram que iriam gastar apenas 35 bilhões, e não estão fazendo nem remotamente nenhum tipo de lucro para compensar esse nível de despesa. 

Acima disso, já há sinais de que a adoção de IA generativa nas empresas está diminuindo, porque elas não estão obtendo o valor que justifica a compra de uma assinatura desses modelos. Então, de onde essas empresas vão tirar o dinheiro? Quem sabe? Quer dizer, com certeza eles vão começar a monetizar os dados dos usuários. Mas eles vão ser bem-sucedidos em criar um modelo lucrativo para tapar esse buraco? É muito nebuloso.

E então, se a IA – especificamente a IA generativa – demonstrar que na verdade não está realmente entregando valor às pessoas, todas as empresas e países mais ricos vão ter um estouro de bolha, vai ser como múltiplos estouros de bolhas. Vai ser potencialmente a bolha mais dramática em muito tempo.

Vamos falar sobre os problemas reais que você mencionou. Temos publicado uma série sobre data centers de IA no Brasil, e esse boom é muito semelhante ao que aconteceu no Chile, que você narra no livro. Fica claro como a IA reproduz as lógicas mais antigas da humanidade, como extrativismo, colonialismo e exploração. Gostaria que você nos contasse como essas lógicas antigas acontecem em países como o Brasil.

Eu me concentro especificamente na exploração de mão de obra e no extrativismo ambiental que estão sendo usados para sustentar a indústria de IA. E não é coincidência que grande parte da exploração de mão de obra esteja acontecendo na África, cuja relação histórica com o colonialismo foi a escravidão e exploração de mão-de-obra, e que grande parte do extrativismo de recursos esteja acontecendo na América Latina, onde o conceito de “extrativismo” foi cunhado por acadêmicos latino-americanos, incluindo brasileiros. 

O que estamos vendo agora é que a indústria de IA está buscando um paradigma de escala tão agressivo que requer quantidades extraordinárias de minerais, terra, energia e água doce para produzir chips, construir, operar e resfriar data centers para treinar e implementar seus modelos de IA. Muitos desses vetores de extração estão se acumulando sobre diferentes países da América Latina. 

LEIA TAMBÉM:

• Moradores se unem para barrar data center do TikTok no Ceará
• Como um grupo de vizinhos venceu o Google e barrou um data center no Chile

No meu livro, foco no Chile e no Uruguai. O Chile não está apenas sendo palco de mineração no norte, mas também no centro do país, em Santiago, pela terra e recursos hídricos para os data centers. Mas o Brasil também tem visto os mesmos efeitos, com essas empresas clamando para construir data centers massivos, especialmente em áreas já afetadas por desastres.

Sim. No sul do Brasil.

Sim. Então, há uma intersecção de desastres: os causados pelo clima, e então a exploração dessas áreas por empresas de tecnologia que oferecem data centers como se fossem uma solução para a destruição, fingindo ser uma injeção econômica benéfica em uma área que precisa desesperadamente de recursos, quando na verdade é apenas mais extração de recursos e mais devastação ecológica.

A América Latina viveu os primeiros impactos de como a indústria da tecnologia está operando desse modo colonialista. Mas agora também estamos vendo o mesmo tipo de extrativismo em todo o mundo, na Ásia, Europa e EUA. Não há lugar na Terra que não esteja passando por isso.

E como é a relação entre as empresas de IA e os governos dos países do Sul Global? Pergunto porque, no Brasil, o governo atual é de esquerda, com uma retórica de soberania, mas ao mesmo tempo está aprovando data centers e políticas benéficas para as empresas de tecnologia, como incentivos fiscais. Estamos testemunhando um lobby sofisticado. Qual é o risco de ter nossa regulamentação imposta por lobistas da IA? Como podemos proteger nossa soberania e nossa indústria?

A maior ameaça de deixar a OpenAI ter esse tipo de influência é que a empresa e a indústria de IA já demonstraram que não se preocupam com nada além de si mesmas.  Eles se envolveram em todo esse extrativismo e exploração de mão de obra e se aliaram ao governo Trump, que está ativamente minando a democracia nos EUA e no mundo neste momento. 

Está muito claro que a indústria de tecnologia não defende nenhuma das coisas que queremos fortalecer em nosso futuro: direitos humanos, direitos trabalhistas, instituições democráticas, jornalismo. E isso não é apenas no Brasil.

Eles se estão se engajando e se aproveitando da insegurança que muitos países sentem de ficar para trás na próxima era da revolução. Projetam a ideia de que, para acompanhar, você precisa fazer exatamente o que eles estão fazendo. E se você quiser fazer exatamente o que eles estão fazendo, então você não pode ter regulação, porque o que eles estão fazendo requer acesso irrestrito a todos os recursos, dados, mão de obra e assim vai. 

Mas isso é uma falácia completa, porque o que eles estão fazendo não é inovação que beneficia o público em geral. É um avanço tecnológico que leva à consolidação imperial do poder em suas próprias mãos. 

Ao seguir a liderança deles, os países estão apenas caindo na armadilha que eles montaram. E, no final, quem sofre são os próprios cidadãos do país, que perderão a capacidade de se autogovernar e de ter agência sobre seus próprios recursos e talentos. 

Espero que percebam que esse jogo do Vale do Silício deve ser ignorado, e que os países devem redefinir suas próprias regras para o tipo de inovação em IA que realmente traga benefícios para seu próprio povo e nação.

No livro, você termina com um pouco de esperança, mencionando que o problema não é a tecnologia em si, mas a escala e a ideologia por trás dela. Então, como podemos criar oportunidades para comunidades desenvolverem suas próprias tecnologias de uma forma que faça sentido para elas, e não para a OpenAI? Como podemos fomentar a inovação real em nossos próprios termos?

Primeiramente, deveria haver uma reimaginação de que tipos de sistemas de IA devem ser construídos. Em vez de buscar esses modelos gigantes e escalados, as pessoas deveriam pensar em sistemas de IA pequenos e específicos para tarefas. Isso, por si só, já abre muitas oportunidades, porque você não precisa de tantos dados e de supercomputadores massivos para treiná-los.

A pergunta para as diferentes comunidades no Brasil seria: “Do que vocês realmente precisam?”. Deixando a tecnologia de lado, quais desafios vocês enfrentam? Em seguida, avaliar se algum desses desafios é de natureza computacional e se beneficiaria da IA.

Existe a armadilha de tentar resolver problemas sociais com tecnologia, o que não funcionará. Mas há certas necessidades computacionais em que a IA poderia ir muito bem. Reconhecimento de fala para línguas indígenas, integração de energia renovável na rede elétrica, ou otimização de cadeias de suprimentos pelo país. Com menos recursos, menos energia, ou reduzindo o consumo de energia de prédios para que eles sejam mais sustentáveis. 

‘Existe a armadilha de tentar resolver problemas sociais com tecnologia, o que não funcionará’.

Uma vez que isso seja definido, podemos pensar em como engajar a comunidade para coletar os dados necessários e gerir o desenvolvimento e implementação do modelo. Uma vez que a base de dados é criada, podemos nos certificar que está apoiando aquela comunidade e seus objetivos o tempo todo.

O governo poderia desempenhar um papel enorme ao estimular esse tipo de inovação mais localizada e participativa, fornecendo financiamento e recursos de treinamento para cientistas de dados e desenvolvedores de IA no nível local, então diferentes localidades poderiam realmente ter um modelo de desenvolvimento dentro de seu contexto.

O governo poderia criar uma instituição que forneça esses recursos de consultoria para diferentes comunidades interessadas em trabalhar com esses tipos de projeto. Então, esse tipo de instituição poderia emprestar expertise, emprestar habilidades, recursos computacionais, em um modelo que é gerido pelo público e por políticos eleitos e tenha transparência. 

Eu acho que podemos nos mover na direção de um modelo mais distribuído ou federado de desenvolvimento de IA, e eu acho que assim chegaremos a um ponto em que teremos um desenvolvimento de IA muito mais democrático, orientado pela comunidade e benéfico.