História da capa: a IA alucina. Será que ela pode delirar?
Eu ri e foi assim que me criei um problemaço: averiguar se fazia sentido, do ponto de vista psicopatológico, dizer que a IA alucina e, quiçá, se poderia delirar. Senhores, depois desta crônica não poderei mais fingir que a minha loucura é assintomática.
***
A psicopatologia virou terreno de herança: todo mundo quer dar sugestão no contrato e sair com algum pedaço. A área vem sendo destroçada pelo pragmatismo mercadológico e pelo empoderamento canalha que laminou como único atributo do clínico carimbar o laudo para manter um mínimo de liturgia.
Como podem notar, é um lote diferenciado, porque ninguém se mete na cardiologia, enquanto a psiquiatria não tem um dia de sossego. A tecnologia a deixaria em paz? De jeito nenhum, afinal, chegou a hora da revanche.
***
Quando lá na década de 1990 durante a proliferação dos computadores, a neurociência fuçava nossos mecanismos avariados ao lado da psicologia e juntas elas aproveitaram para catar um punhado de metáforas computacionais. Input entra, output sai; cérebro era hardware, mente era software e as doenças mentais foram convertidas em potentes alterações de processamento de informação. Comportamentos anômalos eram, consequentemente, erros de julgamento.
Para fins didáticos, tal simplificação era de uma vantagem impressionante, porém escandalosamente limitada – só que daí a culpa é das metáforas. O pão que se despede bronzeado da frigideira surge visualmente poético e continua sem um tico de melanina.
(O conhecimento de um determinado domínio é capaz de deixar muita gente extremamente chata quanto a correlações metafóricas.)
Temos de admitir que a psicopatologia é versada no furto: tem metáforas espaciais, físicas, mecânicas, óticas, hidráulicas e até cinéticas.
Depressão é pressão para baixo (espaço), ansiedade é pensamento acelerado (movimento), concentração é foco da atenção (luminosidade). Com essas amostras trazidas à roda, pergunto se os senhores já viram uma tristeza empurrando alguém para o chão, um pensamento correndo desembestado ou leitores com pupilas acesas?
O discurso metafórico prospera na psicopatologia porque a análise das condições psíquicas é, e continuará sendo, precária. É difícil para quem se queixa, é difícil para quem examina. Entretanto, não é bagunçado.
Há uma rica semiologia onde mora a arte e a ciência do diagnóstico psicopatológico, erguida no estudo dos sinais e sintomas, e que norteia o exame do psiquismo. Toda investigação é uma construção mental complexa e o método é tão dissimulado que parece que os clínicos são esmerados no bate-papo. Saíamos como curiosos demais ou, inclusive, deveras intrometidos. Isso foi antes dessa balbúrdia de escalas de autorrelato.
(Como o sofrimento psíquico envolve uma batelada de fatores nem sempre considerados pelo próprio paciente, resta-nos lamentar a ascensão dessa novidade.)
***
O exame psíquico é o pilar da psiquiatria e, para quem não o conhece, compõe-se de várias partes.
Por exemplo (e para o que nos interessa aqui), a alucinação é alocada no setor de sensopercepção e o delírio, no setor de pensamento (juízo). Mais um detalhe: a ilusão habita o mesmo setor da alucinação.
Por que mencionei ilusão? Porque, psicopatologicamente falando, a IA não alucinou. Segundo a atitude noticiada, a IA sofreu uma ilusão.
Para a tecnologia, observa-se a alucinação da IA na entrega de resultados incorretos ou enganosos, em respostas imprecisas ou inventadas (mesmo que plausíveis, daí o risco) e acontece quando a informação que é gerada está em conflito com a fonte de dados existente ou quando a informação gerada não pode ser verificada por fontes disponíveis.
Dentro da psicopatologia, a alucinação é definida classicamente como percepção sem objeto, isto é, uma percepção na ausência de estímulos externos.
(A percepção é, em si, um fenômeno sensorial, então, como alguém pode perceber algo sem objeto? A clínica mostra que é possível e esse é um desafio conceitual da psicopatologia à forma como os processos normais são postulados.)
Na minha concepção, fontes de dados, embora impalpáveis, são tipo objetos, ou seja, estímulos externos à maneira dos barulhos. Ora, quando a IA se vale de informações, há alguma materialidade, portanto, a IA não alucina em cima do nada.
A ilusão, em contrapartida, refere-se à transformação de uma percepção real em uma percepção falseada, deformada, e é aceita como realidade (pelo menos em um primeiro momento). Como é característico da ilusão introduzir elementos para completar ou corrigir estímulos externos, ela depende, portanto, de dados.
Logo, nas minhas conjecturas, a IA se ilude.
Conforme pesquisei, quanto menor a imprecisão da informação recebida (se desatualizada ou pouco clara), maiores são as chances da IA fabricar o conteúdo. Quando ela sabe uma parte, calha de presumir o restante. Porém, a IA não compreende o que produziu, por isso não julga. Como se tem contornado o defeito? Curadoria mais cuidadosa de dados, ajustes mais finos e o velho feedback humano (eu falei que a verdadeira inteligência ainda era manual).
A ilusão, para a psicopatologia, resolve-se ao fazer a pessoa prestar atenção e muitas das adversidades da IA têm sido corrigidas por revisores humanos. Infelizmente, a atenção não remove a alucinação que ocorre em nossa espécie. Como estou no meio de uma tecnopsiquiatria, vou dizer que a ilusão se arruma relativamente fácil; a alucinação dá mais trabalho, mas o delírio é um pepinão.
Como vimos, ilusão e alucinação são alterações perceptivas. O delírio é mais cognitivo (com a devida licença para alegar a existência dessa separação).
O delírio afeta o juízo e torna o sujeito indiferente à confrontação. Quem delira não está nem aí se os senhores acreditam ou não, e não quer discussão, permanece irredutível. Eis a melhor definição de delírio que achei: os bizarros são impossíveis, os não-bizarros são improváveis. Disponham, senhores.
***
Agora, a IA pode delirar?
Primeiro é importante esclarecer que, para a psicopatologia, as alucinações não são inteiramente distantes dos delírios, porque não há, em humanos, percepção sem interpretação.
(O assunto é espinhoso a léguas.)
Em segundo lugar, uma das formas apontadas para se tratar a alucinação da IA é via a transparência de processos. Se isso se tornar impossível, aviso que o delírio não pode ser seguido psicologicamente até sua origem, pois nunca conseguimos alcançar as etapas do seu raciocínio. A dica foi dada, senhores.
Uma última coisa. Se a IA puder delirar, o feedback humano será ineficaz. Iremos precisar de antipsicóticos artificiais. Interessantemente os originais atuam, em teoria, reduzindo a hiperatividade dopaminérgica e a IA funciona por sistema de recompensa. Bom, a psiquiatria tecnológica ainda é incipiente, mas com certeza irão precisar de bons especialistas.
(As informações técnicas foram retiradas de livros de psicopatologia e de artigos sobre inteligência artificial. As bobagens entrelaçadas são todas minhas.)
Carolina R. Padovani.
