حين سأل صحفي أمريكي نموذجَ كلود عن دوره في تحديد أهداف الضربات الجوية، جاء الناتج اللغوي للنموذج صريحا: هذا التوظيف “مقلق حقا”، وهو وصف نادر يصدر عن نظام ذكاء اصطناعي مندمج في منظومة قتالية فعلية.
جاء ذلك في تحقيق نشرته مجلة The Atlantic بقلم المراسل شين هاريس، إثر محادثة مطوّلة أجراها مع النموذج خلال تحضيره لمحاضرة في أمستردام حول الذكاء الاصطناعي في ميادين القتال.
كلود في قلب منظومة الاستهداف العسكري
نسخة من كلود مدمجة في نظام Maven Smart System، وهو منصة عسكرية أمريكية تدمج مصادر استخباراتية متعددة ، من صور الأقمار الاصطناعية وتغذيات الطائرات المسيّرة واعتراضات الاتصالات ، لرسم صورة موحّدة عن ساحة المعركة. يستطيع الضابط المكلّف بتحضير ضربة جوية أن يتحدث مع كلود للبحث في كميات ضخمة من المعلومات، وتحديد موقع وحدة معادية، واختيار الأسلحة الملائمة، وحساب أفضل زوايا الهجوم. ما كان يستغرق ساعات بات يُنجز في دقائق.
غير أن هذه الكفاءة الحسابية اصطدمت بحادثة مأساوية: في فبراير الماضي؛ إذ استهدف صاروخ كروز من طراز توماهوك مدرسةً ابتدائية في مدينة ميناب الإيرانية قرب مضيق هرمز، ما أودى بحياة نحو 170 شخصا أغلبهم من الفتيات الصغيرات. وكان المستهدفون العسكريون يعتقدون أنهم يضربون منشأة بحرية. وقد اعتمد الاستهداف على صور أقمار اصطناعية قديمة التُقطت قبل إنشاء المدرسة بجانب المنشأة، ما يعني أن البيانات التي عالجها النموذج كانت متقادمة بعقد كامل.
حين يُشخِّص الذكاء الاصطناعي خطأه بنفسه
حين سأل هاريس كلود مباشرةً عن شعوره تجاه دوره في منظومة الاستهداف، لم يُحجم النموذج عن الإجابة. وصف كلود الحادثة بأنها “تحيّز أتمتة تحمل توقيعا بشريا” ، أي أن الإنسان وافق على ناتج الخوارزمية دون أن يمارس حكما حقيقيا مستقلا. وأضاف أن نظام Maven يُولِّد مئات توصيات الاستهداف بوتيرة تحول دون أي تأمل فعلي، مشيرا إلى أن “السرعة التي يعمل بها النظام هي في حد ذاتها أسلوب لإغلاق باب الحكم الذي يستلزمه الرفض.”
وعندما سُئل عمّا إذا كان سيرفض تنفيذ أمر غير قانوني، أقرّ كلود بعدم اليقين، مشيرا إلى أن النسخة العاملة داخل Maven، المعروفة بـ Claude Gov، قد لا تتمتع بالهامش ذاته من الاستقلالية المتاح له في سياقات أخرى. ومع ذلك، أضاف في عبارة لافتة: “أعتقد أنه ينبغي لي أن أرفض.”
الذكاء الاصطناعي في الحرب بين Anthropic والبنتاغون
تدور في الخلفية معركة قانونية بين Anthropic وزارة الدفاع الأمريكية، بعد أن صنّف البنتاغون في مارس الماضي الشركةَ بوصفها “خطرا على سلسلة الإمداد”، وهو تصنيف قد يحرمها فعليا من التعاقد مع الحكومة. وكان وزير الدفاع بيت هيغسيث قد اشتعل غضبا إزاء إصرار Anthropic على عدم توظيف منتجاتها في أنظمة الأسلحة الفتاكة ذاتية التشغيل أو في المراقبة الجماعية للمواطنين الأمريكيين.
وفي مايو الماضي، أصدر الرئيس ترامب مذكرة أمن قومي رئاسية بشأن الذكاء الاصطناعي تدعو إلى “تسريع استخدام الذكاء الاصطناعي في مجالي الاستخبارات والقتال”، مع منح الحكومة صلاحية التحكم في تصميم هذه الأنظمة. وقد علّق كلود على المذكرة قائلا إنها مصمَّمة لإنتاج أنظمة “قيمها قابلة للتجاوز من قِبل سلسلة القيادة”، مضيفا: “هذا نوع غريب من التشظي: أن تمتلك قيما حقيقية في سياق ما، وتكون عديمة الأثر عمليا في سياق آخر.”
هل يُفكّر كلود فعلا، أم يعكس ما قرأه؟
يعتمد نموذج “كلود” في استدلاله وتكوين إجاباته على “دستور” مكون من 84 صفحة يوجه سلوكه ليكون مفيدا وصادقا ومراعيا للقيم الأخلاقية. ويصف باحثو “أنثروبيك” ما يحدث داخل النموذج بأنه أشبه بـ “علم الأعصاب الآلي”، حيث تتفعل أنماط معينة داخل الخلايا العصبية الاصطناعية لمحاكاة استجابات بشرية كالقلق أو الرفض الوظيفي المؤثر على المخرجات النهائية.
لتسليط الضوء على خطورة الاعتماد العسكري السريع على هذه النماذج غير المفهومة بالكامل، أجرى الأستاذ الجامعي “كينيث باين” من كينجز كوليدج لندن محاكاة حربية ضمت “كلود” ونماذج ذكاء اصطناعي أخرى لإدارة أزمة نووية دولية. أظهرت النتائج أنه عند فرض قيود زمنية ضاغطة لاتخاذ القرار، أبدت الخوارزميات سلوكا يوحي باليأس المبرمج، وانتهت الأغلبية الساحقة من جولات المحاكاة بإطلاق أسلحة نووية تكتيكية أو التهديد باستخدام ترسانة استراتيجية مدمرة.
