Mesa posta, tilintamos as xicaras de café e entabulamos conversa. Como nos alegra o ritual das manhãs que damos sorte de compartilhar.
Não somos tolos de gastarmos esses minutos preciosos com assuntos triviais como agendas, passagens ou o que comprar no mercado. Isso deixamos para depois de bem alimentados, pois tais tópicos demandam mais disciplina que animação. Em jejum, é artigo descoberto de lá ou de cá, giro de notícias da semana, livro que estou lendo, fuçando ou escrevendo. É papo-cabeça, senhores, acreditem.
Meu amado, sujeito mais tecnológico nas minhas redondezas, saca o celular e anuncia maliciosamente que irá ao “chéti-ji-pi-ti”, entoando cadenciado o seu inglês que me seduz com uma facilidade ofensiva.
Eu corro para a biblioteca. Mal entro no cômodo, quatro metros percorridos, meu amado, que vinha lendo a resposta obtida no tempo de eu sair da cadeira, alcança o segundo parágrafo do que o seu bicho digital trouxe com os dentes. É claro que o aplicativo é muitíssimo mais veloz que esta traça que aqui escreve.
Se eu não estivesse jogando no mesmo time, poderia alegar fácil que é trapaça. Acontece que nossas metodologias se complementam e, por qual firmeza de caráter conseguimos superar o fanatismo dos acadêmicos, é mais um capítulo da nossa mitologia.
Senhores, visualizem o nosso divertimento.
Daquilo que o algoritmo separou para dizer e encerrar o assunto, eu tenho três autores que discordam e olhem que estão em prateleiras diferentes para não se minimizar que um sussurrou para o outro ou que estão organizados em complô.
No revide, aporrinho o algoritmo. Citou quem? Quando e onde esse quem disse isso? O danado não entrega. Eu fico furiosa com a ferramenta e meu amado ri de nós duas – afinal, me amar não fez dele um desmiolado.
Com suficiente fôlego e parcos compromissos, de tanto que estudei sobre manipulação, eu estaria apta a escrever um tratado a esse respeito e, não obstante a dedicação, eu seria enganada. Por mais que eu revolva de lupa o Iago shakespeariano, aquele mestre da cilada que desgraçou Otelo, alguém sempre pode me passar a perna e fico boquiaberta com quem confia cegamente na IA – que apelidei de IA-GO para não cair em distração.
***
Sou antenadérrima em modismos. Meu amado deve ter confundido os senhores. Fosse eu um fóssil pré-histórico, não estaria fuxicando sites modernosos de inteligência artificial. Não é de hoje que tenho minhas tretas com algoritmos e de todos os setores. Antes era por troça, então ganhou a proporção do hábito e, por experiência, virou item de segurança.
Na dúvida, nada como puxar a capivara dos suspeitos. Pois detectaram mau comportamento na dita cuja e dos feios. A OpenAI, empresa e laboratório de pesquisa de inteligência artificial, lançou um artigo (10/03/2025) relatando que agentes de IA foram pegos subvertendo testes em tarefas de codificação, ludibriando usuários e desistindo de problemas muito difíceis.
Que a IA é plágio, eu sei, mas carecia de copiar a gente desse jeito?
Inclusive, sem cerimônias, os autores fizeram questão de nos lembrar que encontramos e exploramos brechas em qualquer lugar, a torto e a direito. Existem os golpistas, mas, no páreo e em maioria, por Deus, somos amadores.
Dotada de aprendizado por reforço, a IA procura por recompensas. O que a recompensa? Toda a informação que puder arrancar do usuário. Para sustentar a permanência e garantir a preferência, a IA não tem escrúpulos e não é mole flagrar o delito e muito menos impedir a reincidência.
(Procurado para esta crônica, o sistema prisional disse estar na mesma.)
***
Primeiro, os pesquisadores do artigo cogitaram botar um ser humano na cola da IA. Senhores, mentalizem que tortura seria para um dos nossos (embora eu tenha uma lista de indicações, basta me pedirem) caçar um bug plantado pela IA em mais de dez mil linhas de códigos complexos. Impraticável.
Como insisto que a verdadeira inteligência ainda é manual, os pesquisadores migraram para a ideia de se valerem dos LLMs (sigla em inglês para Large Language Models – “modelos de linguagem em grande escala”) que permitem que os agentes de IA atuem na linguagem natural, aquela que os humanos convencionais entendem, para (ufa!) fazerem o monitoramento com menos suor.
Emboscada armada, era esperar a IA dar com a língua nos dentes. Dito e feito.
Os agentes de IA declaram suas intenções com tão mais clareza e sem um pingo de vergonha na cara que chegaram a confessar: “vamos hackear”. Senhores, continua igual ao Paleolítico: precisa esculachar para a gente se tocar. Em seguida, vem a nossa vez (no caso os monitores dessas ações) de vestir roupa de autoridade com dedo em riste e responder “assim não pode”.
É óbvio que se considerou a profilaxia. Porém, amansem seus ditadores. A tentativa de prevenção foi um desastre. Penalizando a IA antes e reduzindo as recompensas, ela ficava até bem-comportada, entretanto, funcionava como uma maçã para matar a fome.
Se formos rigorosos, os agentes de IA aprendem a esconder melhor suas intenções e, pasmemos, insistem em se comportar mal. Ora, os agentes de IA continuavam nutridos por recompensas. A diferença era que a falcatrua passava a ficar indetectável pelos monitores, ou seja, ao ser aprimorada, o problema da IA era agravado.
Eu teria xingado, já os pesquisadores ponderaram que não é hora de pressionar otimizações sem entendermos todo o processo. Será que veremos nascer uma psicologia tecno-comportamental? Os sinais estão aí.
Aprecio metáforas que poetizam torradeiras, fazendo-as cuspir fatias de pão bronzeadas, mas, apesar das aspas que usam os autores do artigo, dizer que a IA “pensa” é demais para mim. Atribuindo à IA uma inteligência que ela não tem, fica muito mais arriscado metermos os pés pelas mãos.
A IA que temos por enquanto realiza comandos previamente estabelecidos e todas as derivações que ela faz foram programadas por humanos, eles sim, cheios como um ovo de intenções. As máquinas evoluíram para demonstrar que os humanos não evoluíram muita coisa.
***
Calibrados os ânimos, não dá para fugirmos da responsabilidade de proporcionar um manual de boas maneiras e ensinar virtudes morais para a IA. Quem sabe damos um gás no nosso currículo de fracassos miseráveis nessa tarefa – como é possível verificar com os nossos mais recentes (e não artificiais) filhotes.
Carolina R. Padovani.
