Por qué las armas biológicas desarrolladas con IA están alarmando a los investigadores

Un informe de Anthropic ha reconocido que algunas personas han utilizado sus modelos de inteligencia artificial para investigar formas de hacer que el chikungunya sea más transmisible, aumentar el peligro que representa la gripe aviar y cartografiar toxinas relacionadas con venenos. La revelación ha reavivado la preocupación de que los sistemas de IA puedan ayudar a desarrollar armas biológicas, incluso mientras los científicos discrepan profundamente sobre las capacidades actuales de esta tecnología.

MIT Technology Review informa de que las advertencias dentro de la industria de la IA son cada vez más directas. El director ejecutivo de Anthropic, Dario Amodei, dijo recientemente que la tecnología entraña graves riesgos y sostuvo que su desarrollo debería ralentizarse. El director ejecutivo de OpenAI, Sam Altman, respondió que la IA de vanguardia debería avanzar a un ritmo mesurado.

El debate se intensificó después de que el investigador de IA Jacob Coxon anunciara su salida de Anthropic. Coxon, que también había trabajado en OpenAI, dijo que ninguna de las dos empresas estaba actuando de forma responsable ante las posibles consecuencias. El empleado de Anthropic Evan Hubinger respaldó públicamente esa opinión y dijo que, personalmente, consideraba superior al 10 por ciento la probabilidad de que la IA mate a toda la humanidad en la próxima década.

Cómo la IA podría reducir las barreras

La preocupación no se limita a las máquinas autónomas ni a escenarios de ciencia ficción. A los investigadores les preocupa que la IA pueda ayudar a descubrir, diseñar o liberar agentes biológicos y químicos. Entre las posibles amenazas podría haber un virus que perjudicara a personas con determinados rasgos genéticos, un hongo capaz de destruir cultivos o un veneno indetectable introducido en el suministro de agua.

Un experimento de 2022 ilustró una de las vías hacia ese uso indebido. Unos científicos de Collaborations Pharmaceuticals habían creado un sistema de IA para buscar moléculas que pudieran convertirse en medicamentos. Cuando modificaron su propósito, el sistema produjo en menos de seis horas 40.000 moléculas que potencialmente podían utilizarse como agentes de guerra química. Se predijo que algunas serían más tóxicas que los agentes nerviosos conocidos.

Ese resultado alarmó a David Magnus, profesor de Stanford que estudia el uso indebido de la investigación médica y la biotecnología desde finales de la década de 1990. Dijo a MIT Technology Review que el experimento era profundamente preocupante, sobre todo porque las capacidades de la IA se han ampliado desde entonces.

Los modelos lingüísticos modernos pueden responder preguntas de un amplio abanico de disciplinas científicas. Dunja Sabra, investigadora de bioseguridad de la Universidad de Hamburgo, afirmó que estos sistemas se nutren de un enorme corpus de conocimientos científicos acumulados. También pueden proporcionar orientación experimental y vídeos instructivos, lo que potencialmente ayuda a los usuarios a pasar de la información general al trabajo práctico de laboratorio.

Al mismo tiempo, la edición genética y la biología sintética se han vuelto más accesibles. El auge de la biología de aficionados ha permitido a algunas personas establecer laboratorios fuera de las instituciones de investigación tradicionales. La preocupación de Sabra es que, con el tiempo, un individuo decidido pueda combinar la asistencia de la IA con estas herramientas y logre crear algo peligroso.

Las protecciones existentes tienen límites

Ya se utilizan varias salvaguardas para reducir el riesgo. Las empresas que suministran ADN suelen examinar los pedidos en busca de secuencias asociadas con organismos peligrosos. Los investigadores también pueden someter los trabajos propuestos a revisiones adversariales, pidiendo a expertos independientes que identifiquen formas en que podrían utilizarse indebidamente y considerando después medidas para reducir esos riesgos. Los desarrolladores de IA han modificado sus sistemas para bloquear solicitudes de información que podrían permitir experimentos dañinos.

Ninguna de estas medidas garantiza su eficacia. Magnus describió una contienda permanente en la que los defensores mejoran la supervisión y los controles mientras los usuarios maliciosos buscan formas de eludirlos. Cree que, con el tiempo, podría ser necesario utilizar la IA para ayudar a detectar y restringir los usos dañinos de la propia IA.

Kevin Esvelt, biólogo del MIT conocido por su trabajo sobre la tecnología de impulso genético y los métodos para contenerla, aumentó la preocupación en una publicación en X. Dijo que un modelo lingüístico de gran tamaño había revelado un tipo de arma biológica cuya posibilidad no había reconocido anteriormente, y exhortó a la gente a adoptar un enfoque prudente.

El informe de Anthropic demuestra que los intentos de explorar capacidades biológicas peligrosas no son meramente hipotéticos. Sin embargo, no demuestra que los sistemas actuales de IA puedan diseñar y desplegar de forma independiente un patógeno eficaz. Esa distinción es fundamental en el desacuerdo entre los expertos.

Los científicos discrepan sobre la magnitud de la amenaza

En una sesión informativa para los medios, biólogos del Imperial College London sostuvieron que las herramientas de IA existentes siguen siendo demasiado limitadas para completar el desarrollo de un arma biológica. Crear y probar un patógeno novedoso aún requiere un trabajo difícil y prolongado por parte de personas en laboratorios, afirmaron. Algunos investigadores creen que las salvaguardas actuales son adecuadas para los riesgos que pueden gestionarse de forma realista hoy.

Wendy Barclay, profesora de enfermedades infecciosas del Imperial, también señaló una fuente más inmediata de peligro pandémico: los patógenos que ya circulan en el mundo natural. La gripe aviar H5N1 ha matado a millones de aves y se ha propagado entre el ganado lechero en Estados Unidos. El virus también fue detectado el mes pasado en visones en cautividad de una granja de Utah.

Sabra adopta una perspectiva más amplia y mira de cinco a 10 años hacia el futuro, en lugar de centrarse únicamente en las capacidades actuales. Sostiene que los Gobiernos deberían reforzar los sistemas sanitarios, preparar tratamientos para toxinas conocidas y mantener reservas de medicamentos. Su mensaje es sencillo: «Tenemos que estar preparados».