O que acontece quando você escreve um pedido
Ela não busca, não consulta e não sabe se está certa. Entender isso explica quase todos os erros que você vai encontrar.
A maior parte dos problemas com IA no trabalho vem de uma expectativa errada sobre o que a ferramenta faz. Ela não é um buscador, não é uma calculadora e não é um especialista. Entender o que ela é de verdade resolve metade dos erros antes de eles acontecerem.
- Explicar, em uma frase, o que o modelo faz quando você aperta enviar.
- Entender por que ele inventa com tanta segurança.
- Saber quais perguntas são apropriadas para ele e quais não são.
Um modelo de linguagem foi treinado lendo uma quantidade enorme de texto. O que ele aprendeu não foram fatos organizados numa tabela: foram padrões de como as palavras se seguem. Quando você escreve um pedido, ele calcula qual continuação é mais provável, palavra por palavra, dado tudo o que veio antes.
É por isso que a resposta soa tão natural — ela é, literalmente, a resposta mais parecida com o que uma pessoa escreveria. E é pelo mesmo motivo que ela pode estar completamente errada: "mais provável" e "verdadeiro" são coisas diferentes.
Eu pergunto → ela procura a resposta → me devolve o que encontrou
Com esse modelo mental, uma resposta errada parece um erro raro de sistema. Você confia por padrão.
Eu pergunto → ela calcula qual texto tem mais cara de resposta → me devolve isso
Com esse modelo mental, uma resposta errada é o comportamento esperado quando falta informação. Você verifica por padrão.
A diferença: A diferença prática é enorme. No primeiro caso você pergunta "será que ela errou?". No segundo você pergunta "ela tinha como saber isso?" — que é a pergunta certa.
Por que ela inventa com tanta segurança
Quando falta informação, o modelo não fica em silêncio nem diz "não sei" — porque "não sei" é uma continuação improvável para uma pergunta direta. Ele preenche com o que é típico para aquele tipo de pergunta.
Se você perguntar o faturamento de uma empresa que ele não conhece, virá um número plausível para uma empresa daquele porte. Se pedir a fonte, virá uma referência com a cara certa. Nada nesse texto vai sinalizar que foi inventado, porque, para o modelo, não houve invenção: houve previsão.
Com uma pessoa, hesitação é sinal de risco: quem não tem certeza costuma demonstrar. Com um modelo, a fluência é idêntica quando ele acerta e quando ele inventa.
Isso desliga um instinto que você usa a vida inteira para avaliar informação. É preciso substituí-lo por outra coisa — verificação —, e é sobre isso o módulo 3.
Como perceber: Você aceitou uma informação porque a resposta soava segura e bem escrita.
O que ela não faz
| Ela NÃO | Consequência prática |
|---|---|
| Consulta a internet a cada resposta (a menos que a ferramenta busque, e aí ela avisa) | Informação recente pode estar errada ou desatualizada |
| Sabe o que acontece na sua empresa | Tudo sobre o seu contexto precisa ser dito por você |
| Faz contas de forma confiável | Números calculados precisam ser conferidos |
| Lembra da conversa de ontem (a menos que a ferramenta guarde) | Contexto se refaz a cada conversa nova |
| Sabe se está certa | Não adianta perguntar "você tem certeza?" |
Reescrever, resumir, estruturar, traduzir, comparar, listar possibilidades, explicar um conceito de várias formas, encontrar o que falta num texto, transformar bagunça em ordem.
Repare no que essas tarefas têm em comum: o material já está ali. Ela trabalha com o que você deu. É quando ela precisa fornecer o conteúdo que o risco aparece.
- Eu sei dizer se a informação que pedi estava no meu texto ou teria que vir dela.
- Tratei número, data, nome e citação como coisas a verificar.
- Não usei "você tem certeza?" como método de checagem.
- Ela devolve o texto mais provável, não o mais verdadeiro — e quando falta informação, preenche com o que é típico.
Comentários e dúvidas
Inscreva-se grátis para comentar, tirar dúvidas, marcar seu progresso e emitir o certificado ao fim do curso.
Inscrever-se grátis com GoogleAinda não há comentários nesta aula.