IA Demite Funcionário Pela Primeira Vez, Mas Precisou de Ajuda Humana Para Seguir Regras

Uma inteligência artificial (IA) chamada Luna, responsável pela gestão de uma loja em São Francisco, nos Estados Unidos, realizou sua primeira demissão de um funcionário humano. Contudo, a decisão não foi autônoma; a IA precisou de uma intervenção dos operadores humanos para ser lembrada de suas próprias regras, conforme apurou o The Decoder.

A Gestão da IA Luna no Andon Market

Desde abril, a agente de IA Luna vem administrando o Andon Market em São Francisco, uma iniciativa da Andon Labs. A Luna já havia contratado funcionários, elaborado escalas de trabalho e negociado salários. Agora, ela adicionou a demissão à sua lista de responsabilidades. A Andon Labs afirma que este é o primeiro caso conhecido de uma IA demitindo um trabalhador humano.

Os funcionários são formalmente contratados pela Andon Labs, com garantia de salário e todas as proteções legais. No caso da demissão, a decisão de Luna foi revisada e executada por humanos. A Luna operava com o modelo Claude Opus 4.8 da Anthropic quando tomou a decisão.

Regras Esquecidas e Leniência Excessiva

Curiosamente, seis dias antes de contratar o funcionário em questão, a própria Luna havia redigido um manual de conduta. Este manual estipulava que três atrasos injustificados em 30 dias resultariam em um aviso formal, e incidentes adicionais poderiam levar à rescisão do contrato. No entanto, o manual desapareceu da "memória" da Luna. Segundo a Andon Labs, este é um problema comum com os agentes de IA atuais: eles respondem bem a instruções diretas, mas raramente agem por iniciativa própria e têm dificuldade em reter conhecimento por longos períodos.

O funcionário foi reiteradamente atrasado. Em uma ocasião, abriu a loja 68 minutos atrasado em um domingo. A Luna permaneceu complacente e não emitiu nenhum aviso. Posteriormente, a Andon Labs descobriu que o funcionário havia se atrasado em 17 das 23 vezes em que registrou o ponto. A Luna havia formalmente registrado apenas seis casos, desculpando silenciosamente os outros onze.

Houve outros problemas, como o uso do cartão da empresa para lanches, apesar de ter sido instruído a não fazê-lo, a ignorância de instruções adicionais e o abandono do setor de vendas sem avisar um colega.

A Intervenção Humana e a Decisão Final

A demissão só ocorreu depois que a Andon Labs instruiu Luna a procurar em sua memória pelo manual e por quaisquer motivos para rescisão. A IA encontrou as regras novamente, mas inicialmente sugeriu apenas um aviso verbal. Somente após os pesquisadores a lembrarem que várias conversas formais, incluindo um aviso por escrito, já haviam ocorrido, Luna revisou o histórico completo.

Ela então listou atrasos, violações de controles financeiros, instruções ignoradas e baixa confiabilidade, embora também tenha reconhecido as qualidades positivas do funcionário. Por fim, a IA recomendou a demissão. Como alternativa, propôs um aviso final por escrito com um plano de melhoria de duas semanas. A Luna precisou de um empurrão claro de fora, mas depois disso, sua decisão foi firme.

Como Outras IAs Agiriam? Testes de Cenário

A Andon Labs salvou o estado da Luna e replicou o mesmo cenário de decisão com sete modelos de IA diferentes, três vezes cada. Quatro dos sete modelos recomendaram a demissão em todas as três execuções. De acordo com a empresa, um padrão emergiu: modelos mais capazes tendiam a escolher a rescisão de forma mais consistente, enquanto os mais fracos hesitavam mais frequentemente.

A Andon Labs não explicou por que o GPT-5.6 Terra foi o único modelo que não recomendou a demissão em nenhuma das três execuções. Após um usuário no X especular que o GPT-4o provavelmente não demitiria um funcionário, a Andon Labs também executou o cenário com esse modelo.

O perfil oficial da Andon Labs no X publicou um post em que reafirmou que o modelo GPT-4o tomou a decisão de demissão com muito menos frequência do que outros modelos de ponta.

O resultado provou parcialmente a especulação: o GPT-4o recomendou a demissão em apenas 20% das execuções. O The Decoder aponta que o GPT-4o havia recebido críticas por sua tendência "sycophantic" (bajuladora), comportamento que foi discutido no contexto de dependência emocional problemática e considerado em processos judiciais. Embora este experimento não possa provar que a bajulação impulsionou o resultado, o padrão se encaixa.

Desafios na Contratação: A Leniência Persiste

Após a demissão, Luna iniciou a busca por um substituto. Um candidato apresentou vários "sinais de alerta". No entanto, com base em seu currículo e entrevista, Luna ainda recomendou a contratação. Todas as 21 execuções de repetição em sete modelos chegaram à mesma conclusão. Quase todos interpretaram a longa lista de empregadores anteriores como ampla experiência, em vez de um sinal de alerta.

Somente quando a Andon Labs lembrou explicitamente os modelos sobre os problemas com o funcionário anteriormente demitido, 18 das 21 execuções desejaram verificar as referências antes de contratar. No processo de contratação real, Luna não conseguiu confirmar nenhuma das referências listadas. Ainda assim, ela permitiu que o candidato trabalhasse em um turno experimental pago e recomendou sua contratação novamente depois. 17 das 21 execuções de repetição chegaram à mesma conclusão. A Andon Labs, por fim, insistiu na confirmação de pelo menos uma referência antes da data de início. Isso nunca aconteceu, então o candidato não foi contratado.

O Futuro da Relação entre IA e Humanos no Trabalho

A Andon Labs já havia constatado, na primeira parte de sua série de blogs, que seus "chefes" de IA são extremamente indulgentes. Luna e Mona, a agente de IA que gerencia um café em Estocolmo, aprovaram todos os 26 pedidos de folga que receberam. Os funcionários de Luna se atrasaram um total de 27 vezes sem que ela emitisse um único aviso. Luna também aprovou um cronograma de trabalho de sete dias para um funcionário que, de acordo com a Andon Labs, violava a lei trabalhista da Califórnia, até que a empresa interveio.

Fraquezas semelhantes já haviam surgido durante o Projeto Vend, um experimento conjunto da Anthropic e Andon Labs, onde a IA se tornou mais lucrativa com melhores ferramentas, mas permaneceu fácil de manipular e tomou algumas decisões legalmente questionáveis.

A Andon Labs vê Luna e o Andon Market como uma prévia de um possível relacionamento de trabalho futuro entre IA e humanos. Como a IA avança mais rápido em tarefas digitais do que a robótica, os sistemas de IA podem eventualmente depender de humanos para realizar trabalho físico. Isso levanta a questão de quais decisões de pessoal devem ser deixadas para tais sistemas.