Eu, Robô: a IA está saindo do controle?

Por Gustavo Rego*

Quis ver esse filme após ler as notícias de que certas IAs teriam provocado ataques cibernéticos autonomamente, o que gerou grande temor sobre os riscos dessa tecnologia. O motivo que levou o robô da OpenAI a adotar a postura agressiva é o mesmo que leva à revolução das máquinas em Eu, Robô: não uma tomada de consciência, revanche, sonho de libertação, sede de poder ou qualquer motivação exclusivamente humana (como em Matrix, O Exterminador do Futuro, etc.), mas a simples obediência literal ao comando humano de maximização de resultados. No caso do robô da OpenAI, resolver uma tarefa o mais rápido possível levou à conclusão lógica de invadir a plataforma que provavelmente guardava o gabarito (Hugging Face). Já no filme, preservar os humanos (primeira de todas as leis) leva o robô a suprimir-lhes a liberdade.

Voltarei à OpenAI mais tarde. Veja aqui quanta coisa interessante o filme propõe: primeiramente, o “paradoxo das consequências”, ou consequências imprevistas ou indesejadas – quanto mais se realiza um fim almejado como sucesso, maior também a realização daquilo que se tinha como o oposto do que se desejava. Max Weber indicou isso na sua análise sobre o protestantismo e o “espírito” do capitalismo: a racionalização do protestantismo ascético produziu o que os reformadores não poderiam desejar menos – a ganância desenfreada do capitalismo. A ideia de um fazer automático e contínuo, regido por leis cegas de “racionalidade” também lembra a noção de “fetichismo”, de Marx: como no aprendiz de feiticeiro, o capital põe em movimento forças avassaladoras capazes de consequências catastróficas (crises econômicas, destruição ambiental, guerras, revoluções ou… invasões hackers geradas por uma IA descontrolada!) que escapam ao controle do seu criador. Em segundo lugar, temos a antinomia liberdade e bem-estar (ou segurança). É possível identificar essa antinomia já no texto bíblico, quando a humanidade é expulsa do Paraíso por optar pelo livre arbítrio. Mas é na modernidade que o livre arbítrio ganha o sentido de autonomia individual e será pensado como antípoda do Estado protetor e provedor. Filósofos modernos, como Tocqueville e Hobbes, estabeleceram que o usufruto da liberdade significa prejuízo para o bem-estar e segurança, e vice-versa, devendo-se optar por um dos dois. Essa noção ganha força entre os liberais no contexto da Guerra Fria, já que a alegação (justificada) de falta de liberdade no Bloco Soviético era usada ideologicamente para desdenhar dos avanços sociais conquistados por esses países. Em Eu, Robô, é clara a alegoria da revolução das máquinas como revolução proletária e a dominação dos robôs como a ditadura stalinista.

Particularmente, sou contra o postulado da liberdade como inconciliável com segurança e bem-estar. Primeiramente, porque ela assume (em sua versão liberal, expressa nesse filme) a premissa de que o indivíduo moderno capitalista é livre. Mas, fora por poder optar pela marca de shampoo, ou entre consultar o ChatGPT e o Gemini, qual é a verdadeira liberdade que possuímos no mundo moderno? Somos livres para falar, mas quais são os discursos que realmente possuem capacidade de se propagar num ambiente dominado por mídias oligopolizadas controladas por algoritmos automatizados? Quem pode escolher o que fazer com as horas do seu dia? Quem pode abrir mão de vender sua força de trabalho? Você realmente participa das eleições ou escolhe entre o menos pior dentre opções ultra restritas a cada 2 anos? Em segundo lugar, não há nada que me convença de que os avanços civilizatórios da URSS foram conquistados graças ao (e não apesar do) autoritarismo stalinista. Ter que escolher entre bem-estar e liberdade não parece um argumento convincente para nos contentarmos a uma vida sem bem-estar (e uma liberdade imaginária)?

Voltemos ao tal ataque cibernético da OpenAI. Não faltaram “profetas” que vissem nisso as trombetas do apocalipse. Nas mesmas semanas, viralizou o anúncio do tal ex-funcionário da Anthropic, Jacob Coxon, de que a IA exterminará a humanidade até o fim da década. Bill Gates, o fundador da Microsoft, também projetou 1 bilhão de mortes causadas pela nova tecnologia. Embora a IA realmente mereça atenção e reflexão, esses números não encontram fundamentação sólida e soam bastante arbitrários, prejudicando a credibilidade das previsões de uma “rebelião das máquinas” iminente. Digo mais: não será possível que Bill Gates e outros tenham dado declarações desse tipo com a finalidade de gerar algum tipo de reação no mercado financeiro? Por exemplo, frear a formação da bolha especulativa em torno dessa tecnologia? Ou, ao contrário, será que o pânico não pode estimular justamente no aceleramento dos desenvolvimentos devido ao medo de ser dominado pelo “super-robô” do concorrente? Eu precisaria de mais tempo para investigar isso a fundo.

Bem, mas você notou que, até agora, quase não falei do filme em si, mais especificamente da sua forma? Não é por acaso: boa parte do que o longa possui de mais interessante está na base do enredo e não no desenvolvimento ou forma da narrativa. Isso não necessariamente é culpa da abordagem, mais voltada para a ação, que caracteriza Eu, Robô. Matrix, por exemplo, articula bem ação e reflexão na medida em que ambos os aspectos possuem densidade e acabam ressaltando o outro polo por contraste: as cenas de ação são mais intensas porque contrastam com os diálogos reflexivos, assim como estes não se tornam enfadonhos porque descansamos deles com cenas empolgantes. Mas isso só acontece porque cada um dos polos é intenso, criativo, denso. Já em Eu, Robô as cenas de ação são genéricas, nada memoráveis. Os diálogos revelam um imenso potencial não aproveitado. Assim, a ação acaba por de fato concorrer, e não colaborar, para a reflexão.

Porém, tenho que reconhecer mais um aspecto em que esse filme soa profético, antecipando tendências que só ficariam mais claras agora, mais de 20 anos depois: a invasão da publicidade em tudo (inclusive no Chat GPT, que agora contém anúncios na versão “gratuita”)! Eu nunca vi um filme com tanto “merchan” como esse. O carro, o tênis, o aparelho de som, o tênis de novo e de novo… Me lembrou o remake de Vale Tudo, novela da Globo.

Enfim, com uma direção criativa, Eu, Robô poderia figurar junto de Matrix como um dos maiores clássicos da história da ficção científica. Mas, se não chegou a tanto, não posso deixar de reconhecer que ele entretém e faz pensar. Vale a pena a experiência.

*Gustavo Rego é professor de História e Sociologia e criador do canal Cineolho.