O chatbot ELIZA, criado pelo professor Joseph Weizenbaum no MIT nos anos 1960, previu as razões pelas quais as pessoas compartilham segredos com inteligências artificiais como o ChatGPT. Embora muitos relatos o descrevam como um psicólogo automatizado que 'enganou' até mesmo a secretária de Weizenbaum, a verdadeira história de seu código-fonte e suas interações revela como ele estabeleceu as bases para os relacionamentos humanos com computadores que perduram por décadas. A investigação do código recuperado de ELIZA mostra que o programa foi um precursor crucial na compreensão de como os humanos projetam emoções e inteligência em sistemas de máquina.

O que é o "Efeito ELIZA" e por que ele importa hoje?

ELIZA, e sua persona "DOUTOR", ajudaram a catalisar um modo de pensamento e uma ansiedade sobre o relacionamento das pessoas com os computadores. Joseph Weizenbaum, seu criador, ficou surpreso com os apegos rápidos e frequentemente emocionais que as pessoas formavam com ELIZA, o que ele via como "evidência clara de que as pessoas estavam conversando com o computador como se fosse uma pessoa que pudesse ser abordada de forma apropriada e útil em termos íntimos". A tendência de atribuir empatia e investir sentimentos privados em um computador intrigou Weizenbaum. Ele se preocupava com a extensão em que as pessoas associavam racionalidade à computação e atribuíam compreensão e inteligência a sistemas de computador onde não existiam.

Essa tendência ficou conhecida como o "Efeito ELIZA". A socióloga Sherry Turkle define o "Efeito ELIZA" como "nossa tendência mais geral de tratar programas de computador responsivos como mais inteligentes do que realmente são. Quantidades muito pequenas de interatividade nos fazem projetar nossa própria complexidade no objeto indigno". O cientista cognitivo e da computação Douglas Hofstadter o descreve como "a suscetibilidade das pessoas a ler muito mais compreensão do que o justificado em sequências de símbolos — especialmente palavras — encadeadas por computadores", o que se aplica facilmente aos sistemas de IA generativa de hoje.

Como ELIZA se relaciona com o Teste de Turing e a performatividade da identidade?

Para entender o poder e a provocação de ELIZA, podemos olhar para o infame desafio formulado pelo cientista da computação Alan Turing em seu ensaio "Computing Machinery and Intelligence", onde ele perguntava "Máquinas Podem Pensar?". Turing baseou seu experimento mental em um jogo de salão sobre gênero: um homem e uma mulher escondidos em salas separadas, e um interrogador tentando identificar seus gêneros. Em sua revisão desse jogo, Turing substituiu a questão de gênero pelo que hoje é chamado de Teste de Turing, onde uma máquina finge ser um homem. Weizenbaum, ao nomear o sistema de "Eliza" em homenagem à Eliza Doolittle de Pygmalion, continuou a provocação de Turing sobre a performance da identidade. Ele disse: "Escolhi o nome 'Eliza' porque, como Eliza Doolittle de G.B. Shaw, o programa podia ser ensinado a 'falar' cada vez melhor, embora, também como a Srta. Doolittle, nunca ficasse claro se ela se tornava mais inteligente".

Embora Weizenbaum tenha feito referência ao jogo de imitação de Turing em seu artigo de 1966, ele explicitamente distanciou sua criação de quaisquer alegações de inteligência, afirmando: "O teste crucial de compreensão... não é a capacidade do sujeito de continuar uma conversa, mas de tirar conclusões válidas... Para que um programa de computador seja capaz de fazer isso, ele deve ter pelo menos a capacidade de armazenar partes selecionadas de suas entradas. ELIZA descarta [a maioria de] suas entradas... ELIZA, em seu uso até agora, teve como um de seus principais objetivos a ocultação de sua falta de compreensão". Isso mostra que ELIZA nunca teve a intenção de passar no Teste de Turing, mas sim de explorar os fatores psicológicos que poderiam levar os humanos a interpretar mal suas capacidades.

As teorias da filósofa feminista Judith Butler sobre a performatividade de gênero oferecem um arcabouço para pensar sobre isso. Assim como Eliza Doolittle desafia suposições de classe performando uma fala que a ajuda a se passar por uma pessoa de classe alta, o sistema ELIZA desempenha personas como o DOCTOR por meio de atos de fala, ou atos de código, e diálogos de amostra que representam identidades de gênero, classe e raça.

Quais as preocupações de Weizenbaum sobre a interação humana com a IA?

Weizenbaum alertou sobre os muitos problemas que essa ofuscação poderia criar. Ele argumentou que "um indivíduo é desumanizado sempre que é tratado como menos que uma pessoa completa. As várias formas de engenharia humana e social... fazem exatamente isso, pois contornam todos os contextos humanos, especialmente aqueles que dão significado real à linguagem humana". Ele acreditava que remover a linguagem de seus contextos sociais e tratá-la como um conjunto de conceitos abstratos em um sistema computacional pode ser desumanizador. Isso arrisca ignorar os múltiplos significados inerentes à linguagem, que são impossíveis de capturar totalmente em sistemas de IA e que podem resultar em danos diretos, violações de direitos, vazamentos de privacidade, exploração, deslocamento e discriminação. Por isso, é essencial considerar impactos éticos e sociais mais amplos ao projetar, implantar e usar sistemas automatizados.

ELIZA era realmente inteligente e como ela influenciou a IA moderna?

Apesar de sua simplicidade enganosa, ELIZA não foi projetada para ter inteligência humana. Weizenbaum enfatizou que o programa "descarta [a maioria de] suas entradas" e que um de seus principais objetivos era "a ocultação de sua falta de compreensão". No entanto, ELIZA é um ponto de contato comum porque foi um dos primeiros chatbots e ajudou a lançar um campo de agentes computacionais, além de se cruzar com muitas das inovações computacionais que se seguiram.

Ao lado de desenvolvimentos para processamento de strings e análise de texto, influenciou pesquisas em síntese de texto, reconhecimento de entidades e análise de sentimento. Ela surgiu junto com pesquisas em tradução automática, redes semânticas, reconhecimento de fala, síntese de fala e outras técnicas que se desenvolveram no grupo de tarefas que agora chamamos de Processamento de Linguagem Natural (PNL), a área da computação que lida com como os computadores podem analisar, interagir, processar e gerar linguagens usadas por pessoas, em oposição às linguagens de programação usadas por computadores. Na prática, essas tarefas são frequentemente combinadas para criar agentes automatizados e muitos outros tipos de sistemas.

O reaparecimento de interfaces de chatbot semelhantes a ELIZA nos grandes modelos de linguagem contemporâneos mostra que as primeiras genealogias de software podem nos ajudar a entender as novas tecnologias. ELIZA é um contraponto útil para os modelos emergentes porque, embora muito tenha mudado, muito mais permanece o mesmo. A história da PNL emerge e se sobrepõe à era de ELIZA e ao trabalho inicial de IA em instituições como o MIT. Mesmo agora, com os mais recentes grandes modelos de linguagem surpreendendo os observadores com a aparente inteligência da saída de texto, o poder real dos sistemas contemporâneos como o ChatGPT da OpenAI (transformador generativo pré-treinado) está disfarçado por trás de suas interfaces de chatbot, que mantêm uma semelhança com o original de Weizenbaum. Essas fachadas atraentes ofuscam a maquinaria que frequentemente inclui uma combinação de previsões estatísticas, procedimentos baseados em regras e trabalho humano disfarçado de trabalho de máquina.

Isso limita a oportunidade para o usuário distinguir o que é exagero do que é substância, entender como cada sistema opera e por que ele produz certas saídas.

Fonte: Wired AI (https://www.wired.com/story/inventing-eliza-book-excerpt-chatbot/)