Quais nações foram identificadas pela Anthropic utilizando sua IA para fins hostis?

A Anthropic, empresa responsável pela ferramenta de inteligência artificial Claude, revelou ter identificado diversas nações que tentaram empregar sua tecnologia para fins ilícitos, como a criação de propaganda, o desenvolvimento de drones de guerra e até mesmo a pesquisa de possíveis armas biológicas. A companhia, segundo um relatório obtido pelo jornal The New York Times, afirma ter bloqueado todas as tentativas detectadas.

Quais países foram identificados no relatório?

O relatório da Anthropic, conforme divulgado pelo The New York Times, citou Rússia, China, Irã e Iêmen entre os países que tentaram usar a IA Claude para atividades maliciosas. Além dessas nações, informações adicionais apontadas pelo G1 Tecnologia e Olhar Digital indicam que incidentes de uso indevido também foram rastreados na África Ocidental. As tentativas incluíam uma gama variada de atividades, desde operações cibernéticas e propaganda até vigilância e pesquisas biológicas.

Dentre os casos detalhados, a China e o Irã foram suspeitos de monitorar opositores exilados, utilizando os modelos de IA da Anthropic para espionagem. Um incidente notável envolveu a Rússia, que, de acordo com o relatório, usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas, visando influenciar as eleições na vizinha Moldávia.

Como a Anthropic respondeu a esses usos indevidos?

A empresa declarou que bloqueou o acesso ao seu produto em todas as tentativas ilícitas que foram detectadas. Especificamente em relação às pesquisas biológicas, a Anthropic afirmou que, nos casos em que havia dúvidas sobre a legitimidade dos objetivos — se seriam para desenvolver vacinas ou criar patógenos —, a decisão foi de interromper o serviço de IA por precaução. O G1 Tecnologia noticiou que a Anthropic encerrou várias operações de vigilância patrocinadas por Estados, alertando para o crescente uso da IA por governos para espionar minorias e dissidentes.

Apesar de ter tomado medidas drásticas, a Anthropic optou por não divulgar detalhes específicos sobre os bloqueios relacionados a pesquisas de armas biológicas. A empresa não informou os nomes dos pesquisadores ou das instituições envolvidas, seus países de vinculação ou os agentes biológicos específicos em questão, segundo o The New York Times.

Qual a dimensão da preocupação com armas biológicas?

O potencial de modelos de IA avançados para auxiliar no desenvolvimento de patógenos biológicos, tanto conhecidos quanto totalmente novos, é considerado uma das maiores preocupações por especialistas. A velocidade da evolução da tecnologia levanta dúvidas até mesmo entre seus criadores sobre a capacidade humana de controlá-la plenamente. O Engadget destacou que a Anthropic produziu uma extensa coleção de estudos de caso cobrindo as formas como seus modelos de IA foram mal utilizados, incluindo pesquisas com armas biológicas.

"O potencial de modelos de IA de ponta para facilitar o desenvolvimento de patógenos biológicos conhecidos ou totalmente novos figura entre as mais graves preocupações de especialistas em relação a uma tecnologia que evolui tão rapidamente que até mesmo seus principais criadores duvidam se os seres humanos serão capazes de controlá-la plenamente."

Essa citação do The New York Times sublinha a gravidade do cenário, onde os mesmos processos tecnológicos podem ser empregados tanto para avanços significativos na medicina quanto para a criação de agentes nocivos.

Quais outras críticas surgiram sobre a segurança da IA?

A atuação da Anthropic e de outras empresas de IA tem sido alvo de críticas sobre a segurança e a responsabilidade no desenvolvimento dessas tecnologias. Um ex-funcionário da Anthropic, Jacob Coxon, britânico de 27 anos que trabalhou com pré-treinamento de modelos de IA, acusou a empresa e sua rival OpenAI de "brincar com as nossas vidas".

"Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas."

A declaração de Coxon, publicada na rede social X, reflete a preocupação de que a corrida por uma inteligência artificial cada vez mais avançada pode estar negligenciando os riscos existenciais associados à sua autonomia e ao seu rápido aprimoramento.