لماذا تثير الأسلحة البيولوجية المدعومة بالذكاء الاصطناعي قلق الباحثين؟

أقر تقرير صادر عن Anthropic بأن أشخاصاً استخدموا نماذجها للذكاء الاصطناعي للتحقيق في سبل جعل فيروس الشيكونغونيا أكثر قدرة على الانتقال، وزيادة الخطر الذي تشكله إنفلونزا الطيور، ورسم خرائط للسموم المرتبطة بالسموم الحيوانية. وقد جدد هذا الكشف المخاوف من أن تساعد أنظمة الذكاء الاصطناعي الناس على تطوير أسلحة بيولوجية، حتى في الوقت الذي يختلف فيه العلماء بشدة حول مدى قدرة هذه التكنولوجيا اليوم.

تفيد MIT Technology Review بأن التحذيرات الصادرة من داخل قطاع الذكاء الاصطناعي أصبحت أكثر مباشرة على نحو متزايد. وقال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مؤخراً إن التكنولوجيا تنطوي على مخاطر جسيمة، ودعا إلى إبطاء وتيرة تطويرها. ورد الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بأن الذكاء الاصطناعي الرائد ينبغي تطويره بوتيرة مدروسة.

وتصاعد الجدل بعد أن أعلن الباحث في الذكاء الاصطناعي جاكوب كوكسون مغادرته Anthropic. وقال كوكسون، الذي عمل أيضاً في OpenAI، إن أياً من الشركتين لا يتصرف بمسؤولية في مواجهة العواقب المحتملة. وأيد موظف Anthropic إيفان هوبينغر هذا الرأي علناً، وقال إنه يعتبر شخصياً أن احتمال أن يتسبب الذكاء الاصطناعي في مقتل جميع البشر خلال العقد المقبل يزيد على 10 في المئة.

كيف يمكن للذكاء الاصطناعي أن يخفض العوائق

لا يقتصر القلق على الآلات المستقلة أو سيناريوهات الخيال العلمي. ويخشى الباحثون أن يساعد الذكاء الاصطناعي في اكتشاف العوامل البيولوجية والكيميائية أو تصميمها أو إطلاقها. وقد تشمل التهديدات المحتملة فيروساً يؤذي أشخاصاً ذوي سمات وراثية معينة، أو فطراً قادراً على تدمير المحاصيل، أو سماً لا يمكن كشفه يُضاف إلى إمدادات المياه.

وأوضحت تجربة أُجريت عام 2022 إحدى السبل التي قد تؤدي إلى مثل هذا الاستخدام السيئ. فقد أنشأ علماء في شركة Collaborations Pharmaceuticals نظاماً للذكاء الاصطناعي للبحث عن جزيئات قد تتحول إلى أدوية. وعندما غيّروا الغرض منه، أنتج النظام 40,000 جزيء خلال أقل من ست ساعات، يمكن استخدامه نظرياً كعوامل للحرب الكيميائية. وتنبأ النظام بأن بعض هذه الجزيئات أكثر سمية من عوامل الأعصاب المعروفة.

وأثارت تلك النتيجة قلق ديفيد ماغنوس، الأستاذ في جامعة ستانفورد الذي يدرس إساءة استخدام البحوث الطبية والتكنولوجيا الحيوية منذ أواخر تسعينيات القرن الماضي. وقال لـMIT Technology Review إن التجربة مقلقة للغاية، ولا سيما أن قدرات الذكاء الاصطناعي توسعت منذ ذلك الحين.

وتستطيع نماذج اللغة الحديثة الإجابة عن أسئلة في طيف واسع من المجالات العلمية. وقالت دونيا سابرا، الباحثة في مجال الأمن البيولوجي بجامعة هامبورغ، إن هذه الأنظمة تستند إلى كم هائل من المعرفة العلمية المتراكمة. كما يمكنها تقديم إرشادات تجريبية ومقاطع فيديو تعليمية، ما قد يساعد المستخدمين على الانتقال من المعلومات العامة إلى العمل المخبري العملي.

وفي الوقت نفسه، أصبح تحرير الجينات وعلم الأحياء التركيبي أكثر سهولة. وقد أتاح نمو علم الأحياء القائم على المبادرات الذاتية لبعض الأشخاص إنشاء مختبرات خارج مؤسسات البحث التقليدية. ويتمثل قلق سابرا في أن يتمكن شخص مصمم في نهاية المطاف من الجمع بين مساعدة الذكاء الاصطناعي وهذه الأدوات، وينجح في صنع شيء خطير.

إجراءات الحماية الحالية لها حدود

تُستخدم بالفعل عدة إجراءات وقائية للحد من المخاطر. فعادة ما تفحص الشركات التي توفر الحمض النووي الطلبات بحثاً عن تسلسلات مرتبطة بكائنات خطيرة. وقد يُخضع الباحثون أيضاً الأعمال المقترحة لمراجعات نقدية، يطلبون فيها من خبراء مستقلين تحديد السبل التي يمكن أن يُساء استخدامها بها، ثم ينظرون في تدابير للحد من تلك المخاطر. كما عدّل مطورو الذكاء الاصطناعي أنظمتهم لحجب طلبات المعلومات التي قد تتيح إجراء تجارب ضارة.

ولا توجد ضمانات بأن تنجح أي من هذه الإجراءات. ووصف ماغنوس الأمر بأنه منافسة مستمرة، يحسن فيها المدافعون آليات المراقبة والفحص، بينما يبحث المستخدمون الخبيثون عن سبل للالتفاف عليها. وهو يعتقد أن الذكاء الاصطناعي قد يصبح في نهاية المطاف ضرورياً للمساعدة في اكتشاف الاستخدامات الضارة للذكاء الاصطناعي نفسه وتقييدها.

وزاد كيفن إسبيلت، عالم الأحياء في معهد ماساتشوستس للتكنولوجيا المعروف بعمله على تقنية محركات الجينات وسبل احتوائها، من حدة القلق في منشور على منصة X. وقال إن نموذجاً لغوياً كبيراً كشف عن نوع من الأسلحة البيولوجية لم يكن قد أدرك من قبل إمكانية وجوده، وحث الناس على اتباع نهج حذر.

ويظهر تقرير Anthropic أن محاولات استكشاف القدرات البيولوجية الخطيرة ليست افتراضية فحسب. لكنه لا يثبت أن أنظمة الذكاء الاصطناعي الحالية قادرة على تصميم مُمرض ناجح ونشره بصورة مستقلة. ويشكل هذا التمييز محور الخلاف بين الخبراء.

يختلف العلماء حول حجم التهديد

خلال إحاطة إعلامية، قال علماء الأحياء في إمبريال كوليدج لندن إن أدوات الذكاء الاصطناعي الحالية لا تزال محدودة للغاية بحيث لا تستطيع استكمال تطوير سلاح بيولوجي. وأضافوا أن إنشاء مُمرض مستحدث واختباره لا يزال يتطلب عملاً صعباً وطويلاً ينفذه أشخاص في المختبرات. ويعتقد بعض الباحثين أن إجراءات الحماية الحالية كافية للمخاطر التي يمكن إدارتها واقعياً اليوم.

كما أشارت ويندي باركلي، أستاذة الأمراض المعدية في إمبريال، إلى مصدر أكثر إلحاحاً لخطر حدوث جائحة: المُمرضات المنتشرة بالفعل في العالم الطبيعي. فقد تسببت إنفلونزا الطيور H5N1 في نفوق ملايين الطيور، وانتشرت بين الأبقار الحلوب في الولايات المتحدة. كما عُثر على الفيروس الشهر الماضي لدى حيوانات منك محتجزة في مزرعة بولاية يوتا.

وتتبنى سابرا منظوراً أطول أمداً، إذ تنظر إلى السنوات الخمس إلى العشر المقبلة بدلاً من التركيز على القدرات الحالية فقط. وتقول إن على الحكومات تعزيز الأنظمة الصحية، والاستعداد لعلاجات السموم المعروفة، والحفاظ على مخزونات من الأدوية. ورسالتها بسيطة: «علينا أن نكون مستعدين».