O ChatGPT está nos deixando estúpidos?

Em 2008, a revista The Atlantic gerou polêmica com uma matéria de capa provocativa: O Google está nos deixando estúpidos?

Naquele ensaio de 4.000 palavras, posteriormente expandido em um livro, o autor Nicholas Carr sugeriu que a resposta era sim, argumentando que a tecnologia, como os mecanismos de busca, estava piorando a capacidade dos americanos de pensar profundamente e reter conhecimento.

No centro da preocupação de Carr estava a ideia de que as pessoas não precisavam mais lembrar ou aprender fatos quando podiam procurá-los instantaneamente online. Embora possa haver alguma verdade nisso, os mecanismos de busca ainda exigem que os usuários usem o pensamento crítico para interpretar e contextualizar os resultados.

Hoje, uma mudança tecnológica ainda mais profunda está ocorrendo. Com o surgimento de ferramentas de IA generativas, como o ChatGPT, os usuários da Internet não estão apenas terceirizando a memória - eles podem estar terceirizando o próprio pensamento.

As ferramentas de IA generativa não apenas recuperam informações; elas podem criá-las, analisá-las e resumi-las. Isso representa uma mudança fundamental: É possível dizer que a IA generativa é a primeira tecnologia que pode substituir o pensamento e a criatividade humanos.

Isso levanta uma questão crítica: O ChatGPT está nos tornando estúpidos?

Como professor de sistemas de informação que trabalha com IA há mais de duas décadas, observei essa transformação em primeira mão. E como muitas pessoas delegam cada vez mais tarefas cognitivas à IA, acho que vale a pena considerar o que exatamente estamos ganhando e o que corremos o risco de perder.

IA e o efeito Dunning-Kruger

A IA generativa está mudando a forma como as pessoas acessam e processam as informações. Para muitos, ela está substituindo a necessidade de examinar as fontes, comparar pontos de vista e lutar contra a ambiguidade. Em vez disso, a IA fornece respostas claras e refinadas em segundos. Embora esses resultados possam ou não ser precisos, eles são inegavelmente eficientes. Isso já levou a grandes mudanças na forma como trabalhamos e pensamos.

Mas essa conveniência pode ter um custo. Quando as pessoas confiam na IA para concluir tarefas e pensar por elas, podem estar enfraquecendo sua capacidade de pensar criticamente, resolver problemas complexos e se envolver profundamente com as informações. Embora as pesquisas sobre esse ponto sejam limitadas, o consumo passivo de conteúdo gerado por IA pode desestimular a curiosidade intelectual, reduzir a capacidade de atenção e criar uma dependência que limita o desenvolvimento cognitivo de longo prazo.

Para entender melhor esse risco, considere o efeito Dunning-Kruger. Esse é o fenômeno no qual as pessoas com menos conhecimento e competência tendem a ser as mais confiantes em suas habilidades, porque não sabem o que não sabem. Em contrapartida, as pessoas mais competentes tendem a ser menos confiantes. Isso geralmente ocorre porque elas conseguem reconhecer as complexidades que ainda não dominam.

Essa estrutura pode ser aplicada ao uso de IA generativa. Alguns usuários podem depender muito de ferramentas como o ChatGPT para substituir seu esforço cognitivo, enquanto outros o utilizam para aprimorar suas capacidades. No primeiro caso, eles podem acreditar erroneamente que entendem um tópico porque podem repetir o conteúdo gerado pela IA. Dessa forma, a IA pode inflar artificialmente a percepção de inteligência de uma pessoa e, ao mesmo tempo, reduzir o esforço cognitivo.

Isso cria uma divisão na forma como as pessoas usam a IA. Algumas permanecem presas no "Pico do Monte Estúpido", usando a IA como substituta da criatividade e do pensamento. Outros a utilizam para aprimorar suas capacidades cognitivas existentes.

Em outras palavras, o que importa não é se uma pessoa usa IA generativa, mas como. Se usado sem críticas, o ChatGPT pode levar à complacência intelectual. Os usuários podem aceitar seus resultados sem questionar as suposições, buscar pontos de vista alternativos ou realizar uma análise mais profunda. Mas quando usado como um auxílio, ele pode se tornar uma ferramenta poderosa para estimular a curiosidade, gerar ideias, esclarecer tópicos complexos e provocar o diálogo intelectual.

A diferença entre o ChatGPT nos tornar estúpidos ou aprimorar nossas capacidades está na forma como o usamos. A IA generativa deve ser usada para aumentar a inteligência humana, não para substituí-la. Isso significa usar o ChatGPT para dar suporte à investigação, não para encurtá-la. Significa tratar as respostas da IA como o início do pensamento, não como o fim.

IA, pensamento e o futuro do trabalho

A adoção em massa da IA generativa, liderada pelo crescimento explosivo do ChatGPT —ele atingiu 100 milhões de usuários em dois meses após seu lançamento— deixou, na minha opinião, os usuários da Internet em uma encruzilhada. Um caminho leva ao declínio intelectual: um mundo em que deixamos a IA pensar por nós. O outro oferece uma oportunidade: expandir nossa capacidade intelectual trabalhando em conjunto com a IA, aproveitando seu poder para aprimorar o nosso.

Costuma-se dizer que a IA não vai tirar seu emprego, mas alguém que usa IA vai. Mas parece claro para mim que as pessoas que usam a IA para substituir suas próprias habilidades cognitivas ficarão presas no Pico do Monte Estúpido. Esses usuários de IA serão os mais fáceis de substituir.

São aqueles que adotam a abordagem aumentada para o uso da IA que alcançarão o caminho da iluminação, trabalhando em conjunto com a IA para produzir resultados que nenhum deles é capaz de produzir sozinho. É para lá que o futuro do trabalho acabará indo.

Este ensaio começou com a questão de saber se o ChatGPT nos tornará estúpidos, mas gostaria de terminar com uma pergunta diferente: Como usaremos o ChatGPT para nos tornar mais inteligentes? As respostas a ambas as perguntas dependem não da ferramenta, mas dos usuários.

Este texto foi publicado no The Conversation. Clique aqui para ler a versão original.