Pensar Rápido, Devagar e Artificialmente
Este artigo, baseado na investigação de Steven Shaw e Gideon Nave na Wharton School, expande a distinção de Daniel Kahneman entre pensamento intuitivo (Sistema 1) e deliberado (Sistema 2) com um Sistema 3: a Inteligência Artificial (IA). Três experiências com mais de 1.300 participantes demonstram o risco de "rendição cognitiva", que envolve aceitar respostas da IA sem as examinar criticamente.
A ideia de Daniel Kahneman sobre o pensamento rápido e lento — a distinção entre os julgamentos rápidos e intuitivos que as pessoas fazem automaticamente e o raciocínio cuidadoso e deliberado empregue quando um problema exige um esforço real — moldou a forma como economistas, gestores e executivos compreendem o julgamento e a escolha durante décadas. No seu livro seminal e na ciência comportamental que inspirou, Kahneman denominou estes sistemas de Sistema 1 e Sistema 2. Mas uma nova investigação do investigador de pós-doutoramento Steven Shaw e do professor Gideon Nave, da Universidade de Wharton, defende que a sua estrutura carece hoje de algo fundamental: foi construída para um mundo em que todo o pensamento acontecia dentro da mente humana. Esse mundo já não existe.
Shaw e Nave abordam esta lacuna com uma nova Teoria dos Três Sistemas, propondo que a interação com a IA criou um terceiro modo de cognição humana que influencia o funcionamento dos outros dois modos. O Sistema 3, defendem, é tão influente na tomada de decisões atuais como a intuição e a deliberação. Num artigo intitulado “Thinking — Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender”, apresentam três experiências envolvendo mais de 1.300 participantes e quase 10.000 ensaios individuais. As suas descobertas têm implicações significativas para qualquer pessoa que gerencie pessoas, lidere organizações ou tome decisões de alto risco na era da IA.
A opção de outsourcing
As pessoas sempre procuraram opiniões externas antes de tomarem decisões. Recorrer à experiência, como a de um médico, de um advogado ou de um consultor financeiro, é tão antigo como a sociedade humana e não é necessariamente imprudente. Mas, como observa Shaw, “um especialista é especialista apenas num domínio e não estará sempre disponível para qualquer assunto”. E, como os especialistas são humanos, os seus conselhos transportam as marcas reconhecíveis de uma mente humana: incerteza, reservas e a ocasional admissão de não ter a resposta. Estes sinais levam a pessoa que recebe o conselho a avaliá-lo, questioná-lo e ponderá-lo com base no seu próprio julgamento.
“
A utilização de uma calculadora delega uma tarefa matemática específica, enquanto o raciocínio humano permanece no comando. A rendição cognitiva é diferente: é o momento em que a IA não está apenas a executar uma tarefa especializada, mas a tomar a decisão, e a pessoa adota essa decisão como sua sem se aperceber que a transferência ocorreu.
Gideon Nave, PhD
Carlos e Rosa de la Cruz - Professor Associado; Professor Associado de Marketing, The Wharton School
A IA muda isso completamente. Como descreve Shaw, a IA é “uma especialista em todos os tipos de domínios diferentes, e temos acesso a ela sempre que quisermos. Fala com confiança, demonstra pouca dúvida e raramente diz que um assunto está fora da sua área de atuação. Não se trata do conselho de uma mente humana falível. É algo novo”.
E esta novidade cria uma opção que não existia antes: a opção de adiar completamente o pensamento, sobre qualquer questão, a qualquer momento. Shaw e Nave chamam ao fenómeno resultante rendição cognitiva: a aceitação acrítica das respostas da IA em vez do próprio raciocínio.
A assinatura da rendição cognitiva
Para testar quando e como ocorre a rendição cognitiva, Shaw e Nave criaram uma experiência. Os participantes, divididos em dois grupos, resolveram problemas de raciocínio do conhecido Teste de Reflexão Cognitiva, concebido para revelar quando as pessoas ignoram a intuição inicial e pensam com mais cuidado. Um grupo resolveu os problemas sozinho. O outro tinha acesso a um chatbot de IA que podiam consultar as vezes que quisessem. Mas o que os participantes do segundo grupo não sabiam era que o chatbot tinha sido programado para fornecer a resposta correta ou uma resposta errada que soasse confiante.
Os resultados foram inequívocos. Quando os participantes consultaram a IA e esta estava correta, a sua precisão aumentou 25 pontos percentuais acima do valor inicial. Quando a IA estava errada, a precisão caiu 15 pontos percentuais abaixo do valor inicial dos participantes que não tiveram acesso à IA. Por outras palavras, o perigo não era a IA em si, mas sim a deferência para com a IA.
Talvez o mais perturbador tenha sido a descoberta de Shaw e Nave de que, mesmo quando a IA dava respostas erradas em cerca de metade das vezes, a confiança dos participantes nas suas próprias respostas aumentava. O acesso à IA inflacionava a certeza em todos os aspetos, independentemente de essa certeza se justificar ou não. Os sinais internos que normalmente levariam a uma reflexão mais profunda, como a sensação de que algo não faz sentido, parecem ser suprimidos quando o Sistema 3 está em ação.
Nave afirma que é isto que distingue a rendição cognitiva do conceito mais familiar de descarregamento cognitivo. “A utilização de uma calculadora descarrega uma tarefa matemática específica, enquanto o raciocínio humano permanece no controlo. A rendição cognitiva é diferente: é o momento em que a IA não está apenas a executar uma tarefa especializada, mas a tomar a decisão, e a pessoa adota essa decisão como sua sem se aperceber que a transferência ocorreu”. Shaw acrescenta: “O locus de controlo muda da pessoa para o Sistema 3. Esta distinção não tinha um nome antes deste artigo”.
Quem está mais em risco — e o que pode ajudar
Nem todos se rendem da mesma forma. Shaw e Nave mediram diversas diferenças individuais nos seus estudos, e os padrões são consistentes. As pessoas que confiam mais na IA são substancialmente mais propensas a seguir conselhos incorretos da IA e menos propensas a questioná-los. As pessoas com uma inclinação mais analítica, que gostam de refletir sobre os problemas e têm uma maior capacidade de raciocínio, estão mais protegidas. São mais propensas a perceber quando algo está errado e a contestar uma resposta falhada.
As implicações para as organizações são significativas. O risco é maior quando as pessoas mais dispostas a utilizar a IA são também as menos propensas a questionar o que esta lhes diz. Mas os dados revelam também um aspeto mais otimista. Quando os participantes receberam incentivos para a precisão e feedback imediato sobre cada resposta, mostraram-se muito mais propensos a questionar e ignorar os conselhos incorretos da IA.
“Um bom sistema de IA é aquele que te ajuda quando está certo e não te prejudica quando está errado”, diz Nave. “Neste momento, se a IA estiver errada, pode acabar numa situação pior do que estaria sem ela. O objetivo é encontrar formas de levar as pessoas a um ponto em que beneficiem da IA quando está correta e não saiam a perder quando está errada.”
Esta distinção é importante porque nem toda a abdicação cognitiva é prejudicial. Em tarefas estruturadas e bem definidas, onde a IA é simplesmente mais precisa do que o julgamento humano, recorrer a ela pode ser totalmente racional. O desafio, tanto para os indivíduos como para as organizações, é saber quando é que recorrer à IA é a decisão correta e quando é que a decisão exige um julgamento humano.
O que significa para as organizações
Os ganhos de eficiência da IA são reais e, em muitos contextos, a justificação para a sua utilização é óbvia. Mas a Teoria dos Três Sistemas coloca uma questão mais incisiva aos líderes: não se deve utilizar a IA, mas se a forma como está a ser utilizada está a corroer silenciosamente as capacidades humanas das quais as organizações dependem.
O risco é mais agudo em domínios onde o discernimento, a responsabilidade e o pensamento crítico não são incidentais, mas essenciais, como na saúde, no direito, na educação e na consultoria de gestão. Os trabalhadores que se submetem rotineiramente à IA sem a questionar podem ver a sua capacidade de raciocínio independente deteriorar-se gradualmente por falta de utilização. E, ao contrário de uma quebra de produtividade, esta deterioração é invisível até ao momento em que mais importa: a reunião com o cliente onde não há IA para consultar, o diagnóstico que exige discernimento que nenhum algoritmo pode fornecer, a decisão estratégica que exige uma visão humana genuína.
A investigação sugere duas abordagens principais para lidar com isso. As interfaces de IA podem ser construídas com recursos que incentivem os utilizadores a pausar e verificar antes de aceitar uma resposta, sinais que indiquem quando a IA é incerta ou avisos que peçam aos utilizadores que considerem a resposta antes de agir. E as organizações podem investir na formação dos seus colaboradores para que reconheçam quando estão a render-se e quando devem resistir.
A Teoria dos Três Sistemas não é um alerta contra a IA. É um apelo para que as organizações sejam intencionais na forma como a utilizam: para compreender quais as decisões que beneficiam das capacidades da IA e quais as que exigem julgamento humano que nenhum algoritmo consegue replicar, e para construir as condições, os incentivos e os hábitos que preservem a prática do pensamento independente. Numa era de entrega cognitiva, esta pode ser a competência mais importante de todas: saber quando pensar depressa, quando pensar devagar e quando pensar por si próprio.
Albardeiro
Comentários
Enviar um comentário