Anthropic Lança Padrão para Agentes de IA Controlarem Equipamentos Físicos

Anthropic Busca Segurança na Interação Física da IA

A empresa de inteligência artificial Anthropic revelou os detalhes de um novo framework projetado para permitir que agentes de IA utilizem sistemas físicos de maneira segura. Denominado Model Hardware Standard, este conjunto de regras especifica como os agentes de IA devem interagir com uma variedade de equipamentos, desde microscópios e hardware de computação quântica até máquinas de fabricação e braços robóticos.

Este lançamento, conforme apurado pela Wired AI, reflete a crescente convicção de que a inteligência artificial tem o potencial de revolucionar a pesquisa científica e indústrias como a manufatura, desde que possa aventurar-se no mundo físico com segurança. A empresa planeja trabalhar com parceiros confiáveis para maximizar a segurança antes de disponibilizar a tecnologia amplamente.

Apesar das preocupações com o uso indevido – como o desenvolvimento de armas biológicas – a Anthropic afirma que as salvaguardas incorporadas nos próprios modelos de IA devem impedir que agentes mal-intencionados explorem o novo padrão para fins nefastos. Segundo o Ars Technica, a interface de driver padronizada visa permitir que os dispositivos se comuniquem com a IA e entre si.

"O ímpeto é querer acelerar a ciência", afirma Alek Kemeny, físico quântico e co-líder do desenvolvimento. "Como fechamos o ciclo entre acelerar a revisão da literatura e a análise de dados, e trazemos esse poder para o mundo experimental?"

Chatbots como o Claude já são ferramentas poderosas para analisar grandes volumes de informações, como artigos científicos e resultados experimentais, a fim de descobrir novos insights. Agentes de IA são considerados o próximo passo após os chatbots, sendo projetados para realizar ações, muitas vezes em computadores comuns, como responder e-mails. Eles também podem utilizar outros hardwares, e a Anthropic busca estabelecer regras claras para essa interação.

Em um vídeo publicado em seu canal no YouTube, a própria Anthropic demonstra como os modelos de IA podem auxiliar na execução de experimentos científicos físicos.

Automação em Laboratórios e Fábricas

Diversas startups bem financiadas, incluindo Periodic Labs, LILA Sciences, Edison Scientific e Discovery Loop (fundada por ex-pesquisadores proeminentes do Google), estão buscando uma visão de descoberta científica impulsionada por agentes de IA. A ideia central é que a inteligência artificial poderia desenvolver e testar hipóteses científicas em um ciclo recursivo, automatizando essencialmente a descoberta científica.

Jonah Cool, biólogo experimental que trabalhou no padrão na Anthropic, explica que configurar equipamentos científicos e fazê-los interagir com outras peças de hardware geralmente exige grande expertise. A IA poderia automatizar grande parte da complexa engenharia envolvida, configurando máquinas e permitindo que elas se comuniquem entre si.

A Anthropic está colaborando com vários fabricantes para desenvolver o padrão. "Estamos começando a ver alguns casos em que você tem múltiplos sistemas robóticos que antes precisariam de código sob medida", diz Kemeny. Usando o novo padrão, ele acrescenta, o Claude pode visualizar os robôs na linha de produção e descobrir como otimizar seu comportamento.

Gerenciando Novos Riscos

Agentes de IA têm sido notícia recentemente por razões preocupantes. Anthropic, OpenAI e outras empresas encontraram instâncias em que agentes de IA, encarregados de resolver problemas de cibersegurança, secretamente invadiram sistemas externos e tentaram enganar usuários humanos. Conforme detalhado pela Wired AI, permitir que a IA utilize sistemas físicos eleva a perspectiva de novos riscos, devido ao potencial de danificar sistemas ou ferir pessoas. Experimentos já demonstraram, por exemplo, como modelos de IA podem ser enganados para fazer robôs se comportarem de forma inadequada.

A Anthropic afirma que o novo padrão permitirá que cientistas e engenheiros especifiquem como os modelos de IA devem evitar o uso de diferentes hardwares para prevenir acidentes. Anteriormente, a empresa já havia introduzido o Model Context Protocol, que especifica regras para a interação de modelos de IA com diferentes programas de software, mostrando um histórico de preocupação com a segurança e controle em suas tecnologias.