Autores: Jose Luis Peñarredonda, Clip.
A indústria de tecnologia é hoje um dos agentes mais poderosos do mundo, e a inteligência artificial é a sua maior aposta para expandir essa influência. Karen Hao, jornalista sino-americana e autora do livro Império de IA (Empire of AI, em inglês), descreve as origens e a evolução da OpenAI e mostra como a empresa atua como um império que “extrai recursos preciosos para alimentar sua visão de IA”.
O CLIP (Centro Latinoamericano de Investigación Periodística), que coordenou com a Pública o projeto A Mão Invisível das Big Techs, entrevistou a jornalista, que cobriu o mercado de tecnologia por anos e trabalhou em veículos como a revista The Atlantic e o MIT Technology Review.
Como você chegou à metáfora de um império e por que chama a OpenAI especificamente assim?
Esse conceito se baseia em pesquisas que comecei a ler em 2018 e 2019, quando acadêmicos já identificavam paralelos entre a indústria de IA e os impérios. Percebi que, conforme o tempo passava e a indústria aumentava seu poder, essa metáfora se tornava a única para explicar toda a influência dessas empresas no mundo. No meu livro, traço quatro paralelos principais entre os impérios antigos e os impérios de IA.
Primeiro, eles reivindicam recursos que não são seus, usando dados de indivíduos ou propriedade intelectual de artistas e escritores para treinar modelos. Segundo, exploram uma quantidade extraordinária de mão de obra, utilizando pessoas em todo o mundo que recebem muito pouco, mas produzem muito para as empresas.
Em terceiro lugar, elas monopolizam a produção de conhecimento. Nos últimos dez anos, elas financiaram a maioria dos pesquisadores de IA, o que impede uma visão mais precisa das capacidades e limitações das tecnologias. Se a maioria dos pesquisadores de clima tivesse sido financiada por empresas de combustíveis fósseis, não teríamos uma noção precisa da crise climática. Por fim, os impérios sempre mantêm a narrativa de que estão em uma missão moral ou corrida existencial, apresentando-se como o “império do bem”, para levar progresso e modernização para a humanidade. Basicamente, elas prometem que todo mundo vai chegar em um “paraíso de IA”.
Você acha que essas características imperialistas são exclusivas da OpenAI ou são compartilhadas com outras empresas, como a Amazon?
São definitivamente compartilhadas com outras empresas. Eu foco na OpenAI no livro porque ela definiu a era atual, ao tomar decisões que levaram ao desenvolvimento de modelos em grande escala. Mas agora todas as maiores empresas de tecnologia estão fazendo o mesmo.
A América Latina tem estado constantemente na mira desse abuso de poder. Por que essas empresas, e a OpenAI em particular, estão interessadas em vir para esta região?
Elas vão a todos os lugares do mundo, mas destaquei a América Latina porque a região possui uma longa história de extrativismo, o que torna os paralelos com as práticas da IA muito mais claros. Além disso, alguns movimentos de resistência muito bonitos estão surgindo na América Latina, e grupos ao redor do mundo estão aprendendo com suas táticas. Um exemplo marcante é o de Oscarina Fuentes, uma refugiada venezuelana que saiu do país durante a crise econômica e foi para a Colômbia. Por causa das dificuldades de viver em outro país, ela acabou pegando um trabalho comum para muitos refugiados venezuelanos e se juntou à indústria de anotação de dados. É um segmento que atende empresas de IA, realizando tarefas como identificar carros em imagens e treinar carros autônomos e, eventualmente, fazer anotação de dados para chatbots.
Os venezuelanos eram uma proporção tão grande da indústria de anotação de dados na época porque, justamente nos anos em que o país vivia sua pior crise econômica, a indústria de IA tentava entrar no setor de carros autônomos e encontrar uma mão de obra muito mais ampla e barata para anotar dados. E o que eles descobriram, acidentalmente, foi que, se fossem à Venezuela, poderiam encontrar essa mão de obra, porque havia pessoas desesperadas e dispostas a trabalhar por qualquer preço. Essa “caça à precarização” tornou-se uma fórmula para a indústria em todo o mundo.
Você acha que essa busca por precariedade é uma característica de outros tipos de extrativismo laboral ou da extração de outros recursos?
Sim, e isso é uma grande característica dos impérios. A razão pela qual o império de IA se tornou tão grande é porque ele não distribui todos os lucros que consegue, todo o valor que extrai dos recursos e do trabalho usado para criar esse valor.
Ele não paga pelos recursos nem pela propriedade intelectual que ele usa para criar o valor de seus modelos. Os modelos de IA não existiriam sem o trabalho desses trabalhadores. E é por isso que as empresas conseguem se tornar rapidamente as mais valiosas do mundo, porque não estão realmente distribuindo esse valor.
O que você gostaria que os leitores latino-americanos tirassem do seu livro?
Eu gostaria que soubessem que é possível reagir. Encontro pessoas ao redor do mundo que sentem falta de ação, sentem que existem poderes superiores que simplesmente ditam o que deve ser suas vidas, vindos de empresas que estão longe, em São Francisco ou na China.
Mas quero que as pessoas saibam que elas podem reagir, independente de onde elas morem, do tipo de trabalho que tenham. Todos têm uma voz e podem dizer algo sobre o futuro do desenvolvimento tecnológico. Existem exemplos no Chile e no Uruguai de membros de comunidades, sem experiência tecnológica, que se mobilizaram contra a instalação de centros de dados para garantir que seus recursos não fossem explorados sem benefícios para os moradores locais. E acho que podemos aprender com a experiência deles e aplicá-la a muitas outras coisas, nas formas como resistimos, moldamos e ganhamos mais controle sobre o desenvolvimento tecnológico.
Como o seu livro tem sido recebido na indústria de tecnologia e na própria OpenAI?
Ouço opiniões variadas. Algumas pessoas na indústria acham o livro altamente preciso e bem documentado, enquanto outras, especialmente no Twitter, dizem que detestaram e que é um ataque para matar a inovação. Na OpenAI, sei que algumas pessoas muito seniores leram o livro e o consideram bastante preciso. Dizem que documentou muito bem um período fundamental da empresa e o nascimento da era da IA. No entanto, não acho que eles concordem que o que fazem é prejudicial. Algumas pessoas discordaram da comparação com impérios.
Você acha que eles concordam com a ideia de que talvez estejam desenvolvendo uma forma de pensar que pode ser prejudicial para o resto do mundo?
Não, não acho que eles vão tão longe. Eu separaria executivos de funcionários, porque acredito que os executivos têm um grau de compromisso muito mais profundo com a organização do que o funcionário comum, que está apenas tentando viver uma vida melhor e sustentar seus filhos. Toda empresa tem uma narrativa que conta para si mesma, sobre por que está fazendo o bem no mundo. E, basicamente, dentro da indústria de IA, existe essa ideia de que a IA pode eventualmente avançar até o ponto do que chamam de inteligência artificial geral (AGI), que é um sistema de IA que igualaria a inteligência humana ou excederia a inteligência humana.
E há uma ideologia que acredita que, se chegarmos a isso, haverá tantos benefícios e tanta abundância para o mundo que todos os problemas serão resolvidos. Se eles realmente acreditam que a AGI poderia levar a essa nova e bela era da civilização na qual ninguém mais está brigando, tem fome ou é machucado, então não importa o que é necessário para chegar lá — vale tudo.
Acho que muitos dos executivos da OpenAI, em graus variados, realmente acreditam na bondade do que estão fazendo. Então, mesmo que vejam as críticas e reconheçam que certas coisas que documentei no livro não são agradáveis, eles se sentem mal, mas acham que é um preço que vale a pena pagar pelo que virá no futuro.
Você acha que eles conseguem exportar essa ideologia para os governos?
Sim, e a OpenAI tem tido muito sucesso nisso, pois Sam Altman é extremamente persuasivo. Ele é muito bom em persuadir investidores a entrarem na sua empresa, funcionários a trabalharem na Open AI e governos a não regulamentarem a indústria. E parte do que ele faz quando está depondo no Congresso [dos EUA] ou em reuniões com formuladores de políticas é mostrar para eles essas visões de abundância total, de um mundo no qual tudo o que eles sempre quiseram, vai acontecer. Isso faz com que muitos governos sejam “capturados” pela indústria e deixem de cumprir seu papel de fiscalizar e responsabilizar essas empresas.
O que os governos deveriam estar fazendo efetivamente para regular isso?
O primeiro passo é aumentar a transparência. Os governos muitas vezes ficam um pouco preocupados, e talvez com razão, de que, se regulamentarem rápido demais, isso vai matar a inovação. Mas eu defenderia, primeiro, simplesmente exigir que as empresas sejam mais transparentes sobre suas atividades, porque não podemos realmente saber quais são os impactos e como garantir que esses impactos sejam positivos sem saber o que está acontecendo. Por exemplo, precisamos saber quais dados são usados para treinar modelos, onde os centros de dados estão localizados e quanta energia e água eles consomem.
Tudo o que sabemos no momento sobre os impactos ambientais, de saúde pública e climáticos dos data centers vem principalmente de pesquisadores que fazem trabalhos e avaliações em modelos de código aberto que são semelhantes, mas não iguais, aos modelos fechados da OpenAI, Google e outras empresas. Também precisamos saber que existem desenvolvedores de modelos — as OpenAI e Google do mundo — e existem desenvolvedores de aplicativos e startups que podem estar construindo coisas usando esses modelos no backend. Muitas vezes, não sabemos, quando usamos um aplicativo, se ele está alimentando de dados as mesmas cinco maiores big techs do mundo e se elas estão, na verdade, coletando todos os nossos dados de saúde quando vamos ao médico ou os dados dos nossos filhos quando eles vão para a escola.
O segundo passo é que os governos também precisam investir mais em cultivar uma expertise independente. Quando não existem especialistas independentes, as empresas podem dizer o que quiserem e não há ninguém para avaliá-las. Mas se o governo puder financiar mais o desenvolvimento de um ecossistema mais robusto de pesquisadores em IA, trabalhando em universidades ou organizações sem fins lucrativos, pessoas com conhecimento técnico atuando no interesse público, isso estabelece a base para projetar regulamentações que sejam eficazes e não gerem consequências inesperadas.
Quais são os principais campos de batalha da regulamentação tecnológica e da regulamentação de IA neste momento?
Data centers se tornaram um dos maiores campos de batalha do momento. Eu estava justamente revisando os números da “Mão Invisível das Big Techs”. Os dados do projeto mostraram que “infraestrutura tecnológica” é o termo mais usado em todas as ações de influência que as empresas estão conduzindo na América Latina. As empresas provavelmente falam de “infraestrutura tecnológica”, “infraestrutura tecnológica”, “infraestrutura tecnológica”, “data centers”, “energia” para todos os governos, tentando fazer com que eles oficializem a capacidade de essas empresas construírem onde quiserem e terem acesso a toda a energia que desejarem. Isso me pareceu um terreno muito fértil para o jornalismo, porque exatamente o que fazemos é tentar remover a obscuridade desses tipos de intençao.
E quanto ao jornalismo? O que está sendo feito hoje é suficiente?
Para mim o jornalismo, e especialmente o jornalismo investigativo, é um dos mecanismos mais importantes com os quais podemos quebrar o poder dos impérios. Uma das coisas que precisamos fazer, não apenas jornalistas, mas todos em geral, é corroer o monopólio deles sobre a produção de conhecimento. E a melhor maneira de fazer isso é a transparência via mecanismos muito específicos, seja regulamentação ou jornalismo investigativo.
Jornalistas ao redor do mundo já estão fazendo um trabalho notável nesse sentido, ao revelar até que ponto as empresas estão operando globalmente, intimidando comunidades ou influenciando formuladores de políticas.
Seu livro foi concluído na época da ascensão de Donald Trump nos EUA. O que mudou no mundo da IA com a volta dele à Casa Branca?
A metáfora do império ficou ainda mais pertinente, porque agora temos dois impérios em jogo: os impérios de IA e o império americano. Ele está literalmente falando sobre ser o presidente de fato da Venezuela, invadir a Groenlândia, talvez entrar no Canadá. Isso é atividade imperialista literal, exatamente como impérios de antigamente.
O que mudou desde que terminei meu livro é que agora estamos em um mundo onde esses dois impérios — que têm objetivos diferentes, mas estão atualmente muito alinhados — estão usando essa aliança para corroer democracias ao redor do mundo. O governo Trump percebeu que a indústria de IA é um de seus maiores ativos agora. Os impérios da IA, são a única coisa que faz parecer que a economia dos EUA está indo bem e que, portanto, ainda dá algum grau de legitimidade ao governo Trump.
Há algo muito crítico a se entender: a capacidade do império americano de continuar se expandindo está, de certa forma, se alimentando dos impérios da IA. Trump está disposto a apoiar esses impérios e permitir que eles também se expandam de forma imprudente no mundo inteiro.
Como podemos reconciliar a utilidade da tecnologia com a forma como ela é implantada hoje? Existem futuros alternativos?
As pessoas pensam que IA é apenas o ChatGPT ou o Gemini, mas existem tecnologias de IA com arquiteturas totalmente diferentes, modelos pequenos e eficientes que podem ser treinados em um laptop. Eles não precisam dessas estruturas enormes de infraestrutura, e podem ser treinados em dados altamente selecionados, em vez de toda a internet. Por isso, não precisam de moderação de conteúdo nem se envolver nesse tipo de exploração de trabalho.
Um exemplo inspirador é o da Tahiku Media, uma estação de rádio sem fins lucrativos que transmite na língua Maori, na Nova Zelândia, e que construiu uma ferramenta de reconhecimento de fala para sua língua. Diferente das grandes empresas, eles primeiro pediram o consentimento da comunidade e educaram as pessoas sobre o processo. Como o modelo era pequeno e havia apoio comunitário, as pessoas doaram seus dados voluntariamente e ele foi treinado em poucos dias. Enquanto as Big Techs projetam uma visão de mundo única, a Tahiku Media projetou um modelo que respeita a história e as necessidades locais. Espero que no futuro tenhamos muitos modelos assim, desenhados pelas comunidades e para as comunidades.
Fonte: Via apublica.org
