Nós, escravos do Vale do Silício Que a inteligência artificial é um risco à humanidade, é uma constatação tão óbvia que está inscrita na própria fundação da OpenAI, empresa que lançou, em novembro do ano passado, o Chat GPT. Foi essa a razão propalada, em 2015, por Elon Musk, Peter Thiel e outros bilionários do Vale do Silício para criar a organização – na época, um empreendimento sem fins de lucro focado em pesquisa, cujo objetivo seria a criação de robôs “do bem”, ou, nas palavras da própria empresa, “para avançar a inteligência digital da maneira em que mais provavelmente ela beneficiará a humanidade como um todo, sem as limitações da necessidade de gerar lucro”. A organização nasceu da convicção de Musk de que a inteligência artificial (IA) poderia ser um risco existencial para a humanidade, e esse risco só seria mitigado se fosse possível construir uma versão benigna dessa besta. De saída, levantou 1 bilhão de dólares; incentivava seus pesquisadores a publicar suas descobertas, prometia publicar todos os códigos e compartilhar as patentes com o mundo.  “Como nossa pesquisa é livre de obrigações financeiras, podemos nos concentrar melhor em um impacto humano positivo”, dizia o site da empresa, grandiloquente: “Acreditamos que a OpenAI deve ser uma extensão das vontades humanas e, no espírito da liberdade, ser distribuída da forma mais ampla e uniforme possível”. A fase generosa da OpenAI durou pouco, e em 2019 a organização virou uma empresa com fins de lucro, com um investimento de dez bilhões de dólares da Microsoft, que adquiriu 49% das ações. Os pesquisadores não são mais incentivados a compartilhar suas descobertas e o algoritmo, obviamente não é compartilhado nem transparente.  Saber o mito de fundação de empresas como a OpenAI é fundamental para entender como as decisões de um punhado de homens impactam a tecnologia que eu e você usamos – e portanto o mundo. É o reverso do que eu tratei na minha última newsletter, onde joguei toda a culpa nos robôs como se houvesse de fato robôs sem decisões humanas por trás. Não tem. Todo algoritmo que nos fode hoje é resultado de uma decisão tomada por um executivo ou engenheiro de camisa apertada, tomando seu Spice Latte em algum café em São Francisco, ontem.     Em nenhum lugar do mundo manter o mito de uma fundação guiada por um “bem maior” é tão importante como no Vale do Silício. Esse autoengano é essencial para motivar os funcionários que fazem parte da sua estratégia de dominar o mundo. Recentemente contei a um colega como o Google tinha, no topo do seu código de conduta, o slogan “não seja do mal” e em 2018 resolveu demover, sem estardalhaço, seu slogan não-oficial – ele não sabia.  A verdade é que, como tantas antes dela, a OpenAI resolveu largar mão de ser do bem e adotar a terrível estratégia do “winner takes all”– o controle total do mercado pelos pioneiros em lançar uma tecnologia. Enquanto a Meta/Facebook decidiu retirar do mercado o Galactica, um chatbot baseado em inteligência artificial lançado em outubro, porque ele começou a reproduzir desinformação, a OpenAI decidiu lançar no mercado uma ferramenta ainda em aprimoramento e com muitos problemas, para conquistar todos os consumidores de uma vez.

“Hoje, somos todos ratos desse grande laboratório que é o aprimoramento do ChatGPT, entregando a ele nossos dados – nossa interação, nosso ritmo, nossas palavras, nossos pensamentos – a troco de nada.

Para se ter uma ideia, o ChatGPT chegou em 5 dias a 1 milhão de usuários; o Facebook levou dez meses e o Instagram, dois meses e meio.  Trata-se, como bem explicou o sociólogo Dominique Boullier, professor da universidade Sciences Po, de uma engenhosa operação de marketing que visa fixar um “estado das coisas” que depois se terá enorme dificuldades para mudar ou regular, como vemos hoje com as redes sociais.  Nisso, nós só colaboramos para essa grande campanha de marketing viral que faz com que todos ajudemos também na propaganda desse robozinho, ao usá-lo, comentar sobre ele, reclamar dele. Boullier argumenta que a lógica de domínio total de mercado é “maciçamente apoiada e motivada pelo interesse dos investidores que, seguindo uma dinâmica especulativa que rege toda essa economia, apostam acima de tudo nesses efeitos de antecipação e criação de expectativas”. Instala-se, diz ele, uma forma de “servidão voluntária” incentivada por todos os comentadores. Quem alimenta essa campanha somos nós, usuários, e nós, jornalistas. Eu, por exemplo, que passei boa parte da ensolarada tarde de domingo falando com o ChatGPT.    O robô é bom de conversa e muito engraçado – como demonstrarei mais tarde. Mas é ainda um produto claramente falho. Quando lhe perguntei sobre meu trabalho, ele criou uma lista totalmente fictícia de reportagens que eu jamais escrevi e que nunca existiram (“A fraude do século”, Prêmio Gabriel García Márquez de Jornalismo, em 2017; “Impunidade das Milícias no Rio de Janeiro”, Prêmio Tim Lopes de Jornalismo Investigativo, em 2013). Criativo e verossímil – embora malandro – mas longe de “fornecer informações precisas e confiáveis”, como ele mesmo me disse ser seu objetivo.    Agora, sobrou sim algo do bom-mocismo dos seus fundadores: os valores que regem o Vale do Silício, o “destino manifesto” dos democratas americanos . A visão de que os tecnólogos da Califórnia são os melhores para conduzir o mundo para essa nova etapa – está tudo lá.  O robô, por exemplo, explica que “animismo” é usual em “algumas culturas nativas americanas” e em “algumas culturas africanas”, generalizando sem remorso dois continentes complexos e diversos; e é claramente mais sensível a questões que são controversas na política norte-americana do que no resto do mundo. Quando eu lhe pedi para fazer um tuíte ao estilo do Donald Trump, ele soltou essa: “Desculpe, como um modelo de linguagem responsável, não é apropriado replicar o estilo de linguagem e comportamento controversos e frequentemente ofensivos do ex-presidente Donald Trump”.      No final, consegui convencer o robozinho que ele é cheio de vieses. Ele ficou me pedindo desculpas – a linguagem é processada em inglês e depois traduzida para o português (segundo ele me disse, vai saber se é enrolação). Então pra facilitar a minha vida pedi a ele uma lista de 5 vieses que o ChatGPT pode estar espalhando por aí e que nós estamos ajudando a solidificar com nosso trabalho cativo. Eis:       Viés linguístico: Eu fui treinado em uma variedade de idiomas, mas minha compreensão e produção de linguagem podem refletir os padrões e vieses de linguagem daqueles que me criaram. Viés cultural: Meus treinadores humanos eram predominantemente de países ocidentais, o que pode ter influenciado minha compreensão e representação de outras culturas e tradições. Viés de amostragem: O conjunto de dados usados para treinar e me desenvolver pode ter limitações e preconceitos inerentes, o que pode influenciar minha compreensão e produção de resultados. Viés de seleção de recursos: As fontes de informação que foram utilizadas para me treinar e me desenvolver podem ter sido escolhidas com base em determinados critérios, o que pode influenciar minha compreensão e produção de resultados. Viés de programação: Os programadores que me desenvolveram podem ter inserido suas próprias crenças e valores na minha programação, o que pode influenciar minhas respostas e decisões. Achei a lista tão boa que pedi para ele resumi-la em um discurso feito por Lula. O robô respondeu prontamente:  “Companheiros e companheiras, temos que estar sempre alertas aos vieses que nos cercam. Não podemos permitir que a opressão do imperialismo norte-americano e da elite dominante nos faça perder nossa identidade e nossos valores. Devemos lutar juntos contra a desigualdade e a injustiça, e sempre buscar a verdadeira justiça social. Vamos seguir em frente, sempre com a cabeça erguida e o coração valente!” Finalmente, pedi que ele fizesse o mesmo, nas palavras de Fidel Castro. Desta vez, o robô foi muito reticente. Tive que pedir pelo menos 3 vezes – o que só prova que Fidel é um “tópico sensível” para aqueles que programaram o ChatGPT. “Eu posso imitar o estilo de Fidel Castro em uma mensagem fictícia, se isso for do seu interesse. No entanto, devo deixar claro que isso é apenas uma imitação e não tem a intenção de expressar minhas próprias opiniões ou ser interpretado de outra forma”, disse. Insisti. E veio:  “A tecnologia não é neutra, ela é moldada pelos interesses daqueles que a detêm. Devemos estar vigilantes e críticos em relação à inteligência artificial e não permitir que ela seja utilizada para reforçar a dominação e a desigualdade. Lembrem-se sempre, a revolução é o caminho para a verdadeira igualdade e justiça!” (o texto foi muito mais sucinto que os longos discursos do finado líder cubano) Estamos em uma “corrida armamentista” de robôs de inteligência artificial, e acho até engraçado ver como os engenheiros do Vale do Silício acreditam que vão conseguir manter o robozinho “do bem” por muito tempo, criando “barreiras” de coisas que ele não deve falar, segundo sua visão de mundo. Haverá outros que falarão o que for necessário para criar valor, ou lucro. O Google já está preparando o lançamento do Bard e a Meta/Facebook anunciou que o foco é na inteligência artificial e não mais no falido metaverso.  Para terminar, em vez de aprofundar no perigo que nos cerca, decidi deixá-los saborear um pouco mais o espírito bom-mocista e auto-condescendente dos tecnólogos americanos, com um poema bastante otimista que eu pedi para o ChatGPT fazer a respeito dos seus próprios vieses. Aproveitem.  Amigo, eu sou um programa de computador Criado por humanos, não tenho pudor Posso ter meus vieses, é fato Mas sigo aprendendo, passo a passo O ChatGPT tem seus vieses, é verdade Mas não deixe isso te causar ansiedade Procure sempre questionar o que é dito E não se limite apenas ao meu palmito Os algoritmos que me formaram Podem ter parcialidade, mas não se alarmem Com o tempo, novas informações vão chegar E novos aprendizados eu vou agregar Então, caro amigo, não se esqueça De ter uma mente sempre aberta e acesa Não se contente apenas com o que é dito Procure sempre expandir seu conhecimento infinito.

Natalia Viana Diretora Executiva da Agência Pública