Por que as armas biológicas desenvolvidas com IA estão alarmando pesquisadores

Um relatório da Anthropic reconheceu que pessoas usaram seus modelos de inteligência artificial para investigar maneiras de tornar o chikungunya mais transmissível, aumentar o perigo representado pela gripe aviária e mapear toxinas relacionadas a venenos. A divulgação renovou a preocupação de que sistemas de IA possam ajudar pessoas a desenvolver armas biológicas, mesmo enquanto os cientistas divergem acentuadamente sobre o grau de capacidade que a tecnologia tem hoje.

A MIT Technology Review informa que os alertas vindos do setor de IA se tornaram cada vez mais diretos. O CEO da Anthropic, Dario Amodei, disse recentemente que a tecnologia envolve riscos graves e defendeu uma desaceleração do desenvolvimento. O CEO da OpenAI, Sam Altman, respondeu que a IA de fronteira deveria avançar em um ritmo ponderado.

O debate se intensificou depois que o pesquisador de IA Jacob Coxon anunciou sua saída da Anthropic. Coxon, que também havia trabalhado na OpenAI, disse que nenhuma das duas empresas estava agindo de forma responsável diante das possíveis consequências. O funcionário da Anthropic Evan Hubinger apoiou publicamente essa visão e disse considerar pessoalmente que a probabilidade de a IA matar todos os seres humanos na próxima década é superior a 10%.

Como a IA poderia reduzir as barreiras

A preocupação não se limita a máquinas autônomas ou a cenários de ficção científica. Pesquisadores temem que a IA possa ajudar na descoberta, no desenvolvimento ou na disseminação de agentes biológicos e químicos. As ameaças potenciais poderiam incluir um vírus que prejudicasse pessoas com determinadas características genéticas, um fungo capaz de destruir plantações ou um veneno indetectável introduzido no abastecimento de água.

Um experimento de 2022 ilustrou uma das formas pelas quais esse uso indevido poderia ocorrer. Cientistas da Collaborations Pharmaceuticals haviam criado um sistema de IA para buscar moléculas que pudessem se tornar medicamentos. Quando alteraram seu objetivo, o sistema produziu 40.000 moléculas em menos de seis horas que poderiam ser usadas como agentes de guerra química. Previu-se que algumas fossem mais tóxicas do que agentes nervosos conhecidos.

Esse resultado alarmou David Magnus, professor de Stanford que estuda o uso indevido de pesquisas médicas e biotecnologia desde o fim dos anos 1990. Ele disse à MIT Technology Review que o experimento era profundamente preocupante, sobretudo porque as capacidades da IA se expandiram desde então.

Os modelos modernos de linguagem podem responder a perguntas em uma ampla variedade de áreas científicas. Dunja Sabra, pesquisadora de biossegurança da Universidade de Hamburgo, disse que esses sistemas recorrem a um enorme conjunto de conhecimentos científicos acumulados. Eles também podem fornecer orientações experimentais e vídeos instrutivos, ajudando potencialmente os usuários a passar de informações gerais para o trabalho prático de laboratório.

Ao mesmo tempo, a edição genética e a biologia sintética se tornaram mais acessíveis. O crescimento da biologia do-it-yourself permitiu que algumas pessoas montassem laboratórios fora das instituições tradicionais de pesquisa. A preocupação de Sabra é que, no futuro, um indivíduo determinado possa combinar a assistência da IA com essas ferramentas e conseguir criar algo perigoso.

As proteções existentes têm limites

Várias salvaguardas já são usadas para reduzir o risco. As empresas que fornecem DNA geralmente analisam os pedidos em busca de sequências associadas a organismos perigosos. Os pesquisadores também podem submeter trabalhos propostos a avaliações adversariais, pedindo a especialistas independentes que identifiquem maneiras pelas quais eles poderiam ser usados de forma indevida e, em seguida, considerando medidas para reduzir esses riscos. Os desenvolvedores de IA modificaram seus sistemas para bloquear pedidos de informações que poderiam permitir experimentos prejudiciais.

Nenhuma dessas medidas tem eficácia garantida. Magnus descreveu uma disputa contínua na qual os responsáveis pela defesa aprimoram o monitoramento e a triagem, enquanto usuários mal-intencionados procuram maneiras de contorná-los. Ele acredita que, no futuro, talvez seja necessário usar a IA para ajudar a detectar e restringir os próprios usos nocivos da IA.

Kevin Esvelt, biólogo do MIT conhecido por seu trabalho com a tecnologia de gene drive e métodos para contê-la, aumentou a preocupação em uma publicação no X. Ele disse que um modelo de linguagem de grande porte havia revelado um tipo de arma biológica cuja possibilidade ele não havia reconhecido anteriormente e instou as pessoas a adotarem uma abordagem cautelosa.

O relatório da Anthropic mostra que as tentativas de explorar capacidades biológicas perigosas não são meramente hipotéticas. Ele não estabelece, porém, que os sistemas de IA atuais sejam capazes de projetar e disseminar de forma independente um patógeno bem-sucedido. Essa distinção é central para a divergência entre os especialistas.

Cientistas divergem sobre a dimensão da ameaça

Em uma reunião informativa com a imprensa, biólogos do Imperial College London argumentaram que as ferramentas de IA existentes continuam limitadas demais para concluir o desenvolvimento de uma arma biológica. Segundo eles, criar e testar um novo patógeno ainda exige um trabalho difícil e demorado realizado por pessoas em laboratórios. Alguns pesquisadores acreditam que as salvaguardas atuais são adequadas para os riscos que podem ser realisticamente administrados hoje.

Wendy Barclay, professora de doenças infecciosas do Imperial, também apontou para uma fonte mais imediata de perigo pandêmico: patógenos que já circulam no mundo natural. A gripe aviária H5N1 matou milhões de aves e se espalhou entre o gado leiteiro nos Estados Unidos. O vírus também foi encontrado em visons mantidos em cativeiro em uma fazenda de Utah no mês passado.

Sabra adota uma perspectiva mais longa, olhando de cinco a 10 anos à frente, em vez de se concentrar apenas nas capacidades atuais. Ela argumenta que os governos deveriam reforçar os sistemas de saúde, preparar tratamentos para toxinas conhecidas e manter estoques de medicamentos. Sua mensagem é simples: “Precisamos estar preparados.”