Post de 27/05/2024

Por que não usar inteligência artificial?

A "nova Revolução Industrial" é um golpe.

❤️ apoia.se/iedamarcondes

No livro “NeuroTribes: The Legacy of Autism and the Future of Neurodiversity”, o autor Steve Silberman faz um apanhado histórico do autismo. Num dos capítulos, aborda a comunidade da ficção-científica e, logo em seguida, fala daqueles que se inspiraram no gênero. Ele cita Lee Felsenstein, diagnosticado com Síndrome de Asperger e criador do “Osborne 1”, o primeiro computador portátil produzido em massa:

Criado em 1973, anos antes do “Osborne 1”, “Community Memory” era como um quadro de avisos computadorizado, onde as pessoas podiam fazer perguntas, vender objetos e coisas do tipo. Acabou se tornando um instrumento da contracultura, articulando movimentos estudantis pela liberação gay e contra a guerra do Vietnã. E foi também o que deu a Felsenstein a sensação de pertencer a uma comunidade.

Já nos anos de 1960, o pioneiro Douglas Engelbart falava do computador pessoal como uma possível ferramenta de comunicação e informação para o aprimoramento do intelecto humano – Steve Jobs se referia ao PC como “uma bicicleta para a mente”. Do lado oposto, John McCarthy, que cunhou o termo “inteligência artificial”, queria uma máquina pensante que fosse poderosa o suficiente para substituir a inteligência humana.

No centro dos debates tecnológicos e filosóficos, a inteligência artificial do século XXI se faz presente nos resumos do Google (que, às vezes, apresenta manchetes do jornal satírico “The Onion” como se fossem fatos); nas monstruosas imagens geradas pelo DALL-E (como a que Eduardo Paes fez para homenagear os paulistas), ou nos erros criminosos do ChatGPT.

Essas respostas inventadas pela IA são chamadas de “alucinações”. De fato, alguns bilionários estão delirando. Sam Altman, CEO da OpenAI, queria que a atriz Scarlett Johansson fosse a voz da nova versão de sua inteligência artificial. Ela recusou, mas ele seguiu adiante e contratou uma imitadora – tudo para emular a assistente virtual de “Ela”, distopia que o brilhante empresário não entendeu muito bem.

Hoje em dia, vasculhamos o lixão da internet atrás de uma fonte confiável. Cavucamos as montanhas de anúncios suspeitos e mergulhamos no chorume da desinformação gerada por robôs. Cada um por si, e tudo contra todos. Na revolução das máquinas, parece que o exterminador do futuro não irá nos matar a tiros, mas com uma receita de cloro gasoso.

Numa tentativa pífia, resolvi salvar a internet desses bilionários que mal conseguem interpretar a obra de Spike Jonze – e que estão destruindo uma comunidade sonhada por quem queria encontrar uma forma mais fácil de se conectar à humanidade, em vez de ultrapassá-la. Abaixo, vou elencar os motivos para não usar IA, nem de brincadeira. Não acho que eu vá convencer alguém, mas guardarei na manga a carta do “eu avisei”.

1 – A inteligência artificial é burra

Como já demonstrado no caso das manchetes do “The Onion”, a IA não sabe diferenciar o que é verdade e o que é mentira, o que é fato e o que é brincadeira. Ela não pensa, só regurgita o material que foi usado para treiná-la.

E se o material saiu do Reddit, a IA não distingue o que é ironia ou sarcasmo. Ela vai recomendar, por exemplo, que você coma uma pizza de cola. Ou que você pule de uma ponte, caso esteja deprimido. Aliás, o próprio CEO do Google admitiu que não sabe como solucionar essas “alucinações”.

Isto não é bem um defeito. Não é à toa que a IA vem sendo empurrada com força total em pleno ano de eleições americanas – e justo quando Biden vem fazendo um esforço antitruste. Bilionários como Elon Musk e Mark Zuckerberg desprezam a imprensa tradicional e trabalham ativamente para sabotá-la. Daí, você tem fenômenos bizarros, como a percepção dos americanos de que eles estão vivendo uma recessão, sendo que os marcadores não indicam isso.

Uma população ignorante, sem acesso rápido à informação (e revoltada com uma situação inventada, propagada em redes sociais que alardeiam o fim do mundo) é muito mais fácil de manipular politicamente. E Trump já deixou claro que vai deixar os grandes empresários fazerem o que bem entendem.

O impacto disto, infelizmente, não fica circunscrito aos Estados Unidos.

2 – A IA não é “inevitável”

Considerando como parte da mídia publica os releases dessas empresas sem nenhum tipo de questionamento ou checagem (afinal, algumas redações já foram substituídas por robôs), muitos caem no conto de que a inteligência artificial é a invenção mais importante depois da roda, a nova Revolução Industrial, a próxima fase evolutiva do ser humano, a segunda chegada de Jesus Cristo…

É importante lembrar que CEOs mentem. E mentem com o propósito de atrair mais investidores e de agradar acionistas. Elon Musk promete carros totalmente autônomos, todos os anos, desde 2014. O que temos, até o momento, é uma chuva de processos alegando fraude. E inúmeros vídeos como o de um Tesla que acelera na direção de um trem em movimento.

Muitos “visionários” incensados pela revista Forbes acabaram presos, como Elizabeth Holmes, da infame Theranos, ou Sam Bankman-Fried, da corretora de criptomoedas FTX. Lembra do “Pharma Bro”? Martin Shkreli também foi ovacionado, antes de cair em desgraça.

Embora a imprensa exerça um papel fundamental na manutenção da democracia, ela também nos empurra a conversa mole de dezenas de “jovens gênios” que irão revolucionar alguma indústria e mudar as nossas vidas.

Também nos disseram que eram inevitáveis: Google Glass, televisões 3D, televisões curvas, Segways, Quibi, NFT, VR, Metaverse, Apple Vision Pro…

3 – O custo humano da IA

Algo que os CEOs não querem que você saiba é o quanto essas tecnologias ainda dependem do discernimento humano. Como o Mágico de Oz que se esconde atrás de uma cortina, essas empresas firmam contratos em países de terceiro mundo. E, assim, a “magia” da IA se torna possível graças ao trabalho escravo. Não é exagero.

Em uma carta aberta ao presidente americano, funcionários do Quênia alegam que as práticas da Meta, da OpenAI e da Scale AI se resumem a uma “escravidão dos tempos modernos”.

Um dia típico de trabalho na África envolve mais de 8 horas por dia assistindo vídeos de assassinatos, estupros, pornografia, pedofilia e bestialismo. Os funcionários que treinam a tecnologia são pagos menos de US$ 2 por hora e lidam com estresse pós-traumático. Em Nairobi, quando tentaram formar um sindicato, a Meta logo demitiu 300.

Recentemente, descobriram também que as lojas físicas da Amazon – que possibilitavam com que os consumidores comprassem os produtos sem passar pelo caixa, pois o pagamento seria feito de forma “inteligente” – dependiam da mão de obra de uma equipe de mil indianos que tinham de conferir 700 em cada 1000 compras.

Na Europa, quase metade das “startups de IA” não utilizam inteligência artificial de maneira significativa. É tudo um grande esquema para aproveitar o hype e tirar uns trocados, já que as startups relacionadas à IA podem receber um investimento até 50% maior do que as outras – o que só fica mais lucrativo ainda quando a base do seu serviço é a precarização do trabalho alheio.

Se a promessa da IA parece ser muito boa para ser verdade, é porque é balela mesmo.

4 – IA é roubo

O material utilizado para treinar as IAs foi chupinhado da internet sem autorização. O Reddit, por exemplo, fechou um acordo com o Google – mas o material publicado no Reddit é produzido pelos usuários. Textos, fotos pessoais, tudo pode ser utilizado pela IA, sem distinção. E, até o momento, não há muito o que fazer para evitar que isso aconteça.

Rotineiramente, os nossos dados já são vendidos às empresas e, pela ausência de repercussões legais, sofremos tentativas diárias de golpes. Imaginem, então, como será lidar com uma IA treinada com as nossas vozes, que telefona aos nossos contatos para pedir dinheiro emprestado.

IAs também já “desnudam” mulheres para qualquer usuário que tiver acesso a uma foto comum da vítima e fomentam o mercado de pornografia infantil (reforço aqui que a IA não cria imagens partindo do nada, ela é abastecida com fotos de crianças reais, mesmo em situações inocentes).

Mas vamos além dos problemas de privacidade, que já são bem escabrosos. Em um ambiente acadêmico, sabemos que é preciso citar as fontes de um trabalho na bibliografia – para respeitar o esforço de quem veio antes, é claro, mas também para fornecer uma via de conhecimento ao pesquisador que vier em seguida. A IA suga essas informações e as cospe de volta sem contexto, embaralhadas e descaracterizadas, rompendo esse fio condutor.

Para quem não dá valor algum à arte, um filme ou uma música podem ser mero um passatempo. Mesmo ignorando a capacidade que a arte tem de documentar a nossa história, de revelar os aspectos mais escondidos da realidade humana e de inspirar mudanças importantes na sociedade – assim como a ficção-científica inspirou o Vale do Silício – a arte é também um ganha-pão.

A Amazon já vem vendendo livros gerados em IA que são, basicamente, plágios de livros reais. E não, baixar um pdf e ler um livro de maneira ilegal não é a mesma coisa que copiar o tal livro, apagar o nome do autor e comercializá-lo para milhares de consumidores que desconhecem a falcatrua.

Se pelo menos incentivassem o uso da IA apenas para os trabalhos que ninguém quer fazer, como declarar o imposto de renda ou dar entrada num pedido de visto – mas não, os bilionários querem escritores que não escrevem, músicos que não tocam, artistas que não criam, pessoas que não sentem. Querem roubar tudo o que nos torna humanos e esvaziar as nossas vidas de significado.

5 – A arte feita em IA é irrelevante

No Bluesky, publicaram o trabalho de um cara que amarrou umas canetas com barbantes, colocou um papel branco embaixo e deixou o movimento do barco em que ele estava formar um desenho. Isto é mais legítimo do que a arte feita em IA.

Primeiro, a ideia partiu dele. Segundo, ele escolheu as canetas, quais seriam as cores e de que tipo. Terceiro, ele posicionou as canetas. Talvez, tenha até escolhido navegar durante uma tempestade, para que o barco balançasse ainda mais. E decidiu quando o desenho estava pronto.

A arte implica em escolhas e escolhas dependem de uma subjetividade. Mesmo sem a intenção de expressar um sentimento ou um conceito específico, foi ele quem tomou essas decisões – em vez de só digitar o prompt “faça um traço aleatório” que vasculharia uma vastidão de dados anônimos armazenados numa central.

No cinema, a chamada “teoria do autor” é muito incompreendida. Alguns acreditam, erroneamente, que a função dela é desvalorizar o caráter coletivo da sétima arte, a fim de contribuir com a mítica em torno de um único gênio artístico.

Na verdade, a teoria só propõe que os filmes do Wes Anderson, por exemplo, têm uma característica distinta (no sentido de “diferente”). Mesmo que o diretor conte com uma equipe enorme e que tenha de adaptar as suas ideias a um certo mercado.

Ele até pode remeter a outras obras, mas os seus filmes se diferem de uma massa de produtos sem identidade, que são produzidos sob uma lógica puramente comercial. A teoria do autor trata da sobrevivência da expressão artística sob o capitalismo. Dessa forma, um “filme do Wes Anderson” que não é feito pelo Wes Anderson é completamente irrelevante.

A arte não é a cópia perfeita da realidade, ou a cópia perfeita do trabalho de outra pessoa, mas uma forma de expressão – seja de um sentimento, de uma visão de mundo ou apenas a manifestação de um ímpeto particular, onde cada escolha (por mais boba que pareça) acaba revelando um pouco mais de nós mesmos.

Uma pintura feita por uma foca adestrada é mais válida do que uma arte feita em IA. Ao menos, ela revela algo sobre a natureza da foca.

6 – O gigantesco impacto ambiental da IA

Pressupondo que o leitor que chegou até aqui não precisa ser convencido de que a mudança climática existe e que nós mesmos estamos causando catástrofes sem precedentes como a do Rio Grande do Sul, vamos falar do impacto ambiental da IA, que vai muito além do canudinho de plástico ou dos dois minutos a mais no banho.

Em um texto anterior, comentei que, de acordo com pesquisadores, uma sessão de cinco prompts no ChatGPT equivale a uma garrafa de 500ml de água sendo despejada no chão. E que, entre 2021 e 2022, o centro de dados da Microsoft consumiu quase 6 bilhões de litros de água – isto é, mais de 2500 piscinas olímpicas para refrescar os supercomputadores de uma única central.

A Microsoft, que tinha assumido o compromisso de zerar as emissões de carbono até 2030, viu um aumento de 30% no total de emissões desde 2020, por causa da inteligência artificial. A Agência Internacional de Energia estima que, até 2026, a IA pode consumir tanta energia elétrica quanto o Japão inteiro.

Uma busca comum no Google (sem IA) gasta 0,3 watt-hora de energia, já a resposta de um prompt no ChatGPT gasta 2,9 watt-hora. Com cerca de 200 milhões de solicitações por dia, o ChatGPT consome 17 mil vezes mais eletricidade do que a média das casas nos Estados Unidos no mesmo período.

Como alguém de humanas, entendo que esses números todos não transmitem muito bem a dimensão real do estrago – como visualizar 2500 piscinas olímpicas de água desperdiçada? – mas basta ligar o noticiário para ter uma ideia.

É impossível se considerar de esquerda e defender o uso de IA.

❤️ apoia.se/iedamarcondes