Matemáticos Vencedores da Medalha Fields Alertam: IA Degrada Compreensão Humana e Impulsiona Crise Intelectual

Vinte e cinco laureados com a Medalha Fields, a mais alta honraria da matemática, emitiram um comunicado conjunto alertando que os objetivos da indústria de inteligência artificial e os da matemática estão "severamente desalinhados". A preocupação central é que a capacidade da IA de resolver problemas complexos em massa pode minar a compreensão conceitual, o verdadeiro propósito da disciplina. Essa tensão levanta uma questão crucial: se a busca por respostas rápidas por máquinas substitui o processo humano de aprendizado e discernimento na matemática, qual será o impacto dessa dinâmica em outras áreas do trabalho intelectual?

De acordo com o comunicado detalhado pelo The Decoder, a ascensão dos grandes modelos de linguagem, que se tornaram proficientes na resolução de "grandes problemas pendentes em muitos campos da matemática", é vista como uma ameaça. Embora a capacidade da IA de "rachar" esses desafios possa parecer um avanço, os matemáticos argumentam que as empresas de IA tratam esses problemas como meros benchmarks a serem superados, desconsiderando o valor intrínseco do processo de descoberta e do pensamento que leva a uma solução.

Para os matemáticos, resolver um problema não é o objetivo final, mas sim o caminho para um entendimento mais profundo. Problemas famosos não resolvidos servem como "marcos e faróis contra os quais se pode medir uma melhor compreensão desta paisagem", conforme destacado na declaração. Quando uma solução é encontrada, o pensamento inovador por trás dela é mais importante do que a solução em si. Esse pensamento é então dissecado e compreendido ao longo de anos por meio de um "longo e árduo processo de palestras, discussões, simplificações", um processo que a IA ameaça "curto-circuitar".

Os signatários reforçam que "resolver problemas é apenas uma ferramenta e um substituto para alcançar o objetivo primordial de compreensão conceitual e discernimento". A inundação do campo com respostas em velocidade de máquina poderia "destruir terreno fértil em vez de dar vida a novas ideias", advertem. Além disso, as soluções geradas por IA são muitas vezes anunciadas "sem tempo para uma redação adequada, o isolamento de novos métodos e ideias, e a citação de trabalhos anteriores relevantes de outros", levantando "graves questões de atribuição e plágio". A cadeia de transmissão humana, crucial para o desenvolvimento e integração de novas ideias no cânone matemático, estaria em risco:

"Sem os matemáticos dispostos que devem cuidar de seu desenvolvimento e integração no cânone matemático, as ideias concebidas por IA nunca se tornariam totalmente vivas. A crucial cadeia de transmissão humana entre matemáticos seria perdida."

A declaração surge em meio a uma controvérsia entre dois matemáticos e a OpenAI, empresa acusada de tentar antecipar a solução parcial de um Problema do Milênio por motivos de publicidade, apesar de seu pesquisador-chefe, Pachocki, ter afirmado que a empresa não otimiza modelos para matemática. Esse episódio, segundo os signatários, exemplifica uma "ameaça geral ao trabalho intelectual" em diversas áreas. Anos de treinamento em qualquer campo não visam apenas produzir uma resposta final, mas desenvolver a compreensão e a capacidade de formular novas perguntas e ideias. Quando a IA produz "os resultados de tal trabalho diretamente", esses propósitos são desassociados.

A distância entre o que se exige dos estudantes (resolver tarefas com IA) e o que se proíbe em exames (uso de IA) já evidencia essa lacuna na educação, com o nível de desempenho medido em notas crescendo constantemente. O problema, segundo os matemáticos, transcende a própria matemática:

"A questão que a comunidade matemática enfrenta agora é semelhante às questões que outras profissões científicas e criativas estão enfrentando, e indica questões que toda a humanidade poderá enfrentar: como garantir que, à medida que a IA muda a forma como o trabalho é feito, não percamos de vista o que esse trabalho deveria alcançar em primeiro lugar."

Os matemáticos, incluindo nomes como Terence Tao, Pierre Deligne (Medalha Fields 1978), Peter Scholze (2018), Maryna Viazovska (2022) e Cédric Villani (2010), não pedem a proibição da IA. Eles reconhecem que a tecnologia "oferece o potencial de aprimorar e acelerar o estudo e a compreensão matemática genuínos". A profissão precisará se adaptar, mas o benefício ou o efeito destrutivo dessas mudanças "será em grande parte determinado pelas decisões dos humanos no controle desta nova tecnologia".

Os signatários exigem que "essas questões sejam abordadas com urgência", direcionando o apelo à comunidade matemática, às empresas desenvolvedoras dessas ferramentas e à "sociedade que enfrentará problemas semelhantes em muitas outras formas de trabalho intelectual". O impacto é comparável à "tragédia dos bens comuns cognitivos", um padrão descrito em um artigo de pesquisa da NATO Special Operations University: cada empresa que substitui cargos de nível básico por IA ganha eficiência, mas o custo da erosão da expertise se espalha por todo o conjunto de talentos, uma dinâmica que os matemáticos já observam em sua própria área.