A nova estratégia de defesa da OpenAI

A OpenAI revelou que utilizou uma nova tecnologia chamada GPT-Red para testar a segurança de seus modelos antes do lançamento. Trata-se de um 'super-hacker' de inteligência artificial criado especificamente para atuar como um adversário, treinando outros modelos a identificar e bloquear ameaças cibernéticas. A iniciativa foi fundamental para o desenvolvimento do recém-lançado GPT-5.6, que a empresa classifica como sua versão mais resiliente até o momento.

Como mais modelos capazes se tornam disponíveis, nós teremos já desenhado o sistema que pode descobrir novos modos de ataque, afirma Dylan Hunn, cientista de pesquisa da OpenAI e co-criador do GPT-Red.

O que muda na prática

• Eficiência no Red-Teaming: Enquanto equipes humanas de testes conseguem identificar falhas em cerca de 13% dos cenários de teste, o GPT-Red alcançou uma taxa de sucesso de 84% através de treinamento por 'auto-jogo' (self-play).
• Bloqueio de injeções de prompt: O modelo foi treinado intensivamente para detectar ataques de injeção de prompt, onde hackers tentam manipular a IA para vazar dados confidenciais ou gerar conteúdos prejudiciais.
• Descoberta de novas vulnerabilidades: O sistema identificou táticas inéditas, como o 'fake chain of thought', em que a IA é induzida a inserir informações falsas em seu próprio processo de raciocínio, enganando o modelo sobre fatos verificados.
• Resistência a ataques: Segundo a OpenAI, a eficácia de ataques contra o GPT-5.6 caiu para menos de 23%, comparado a mais de 90% de sucesso contra o GPT-5 anterior.

Limitações e o papel humano

Apesar do avanço, o GPT-Red ainda apresenta limitações, especialmente em cenários que exigem interações de conversação prolongadas ou o processamento de imagens para injeções de prompt. A OpenAI ressalta que a ferramenta funciona de forma complementar aos especialistas humanos, que continuam sendo essenciais para identificar brechas que a IA ainda deixa passar. A empresa também esclareceu que, devido ao alto custo computacional e à complexidade do desenvolvimento, o GPT-Red não será disponibilizado publicamente. O futuro da segurança em IA dependerá da colaboração contínua entre a automação de defesa e a expertise humana na identificação de vetores de ataque complexos. Fonte: MIT Technology Review (https://www.technologyreview.com/2026/07/15/1140514/meet-gpt-red-an-llm-super-hacker-openai-built-to-make-its-models-safer/), The Decoder (https://the-decoder.com/openai-is-now-using-ai-to-attack-its-own-ai-and-its-working-better-than-humans-ever-did/)