البنتاغون وأنتـروبيك: صدام حول ضمانات الذكاء الاصطناعي
موقف البنتاغون مع أنتـروبيك: أخلاقيات الذكاء الاصطناعي مقابل الأمن القومي. لعقود من الزمن، كانت فكرة أن يتخذ الذكاء الاصطناعي قرارات عسكرية مستقلة تنتمي بحزم إلى عالم الخيال العلمي. اليوم، يقترب هذا الخيال من الواقع، مما يخلق موقفًا متوترًا بين وزارة الدفاع الأمريكية وأنتـروبيك، وهي شركة رائدة في تطوير الذكاء الاصطناعي. في قلب هذا الصراع لا تكمن التكنولوجيا فحسب، بل أسئلة أساسية حول الأخلاق والمساءلة وطبيعة الأمن القومي في عصر الذكاء الاصطناعي المتقدم.
المصدر: رسم توضيحي خاص
ملخص سريع للنزاع
- الصراع الأساسي: تطالب وزارة الدفاع الأمريكية (البنتاغون) بالاستخدام غير المقيد لنموذج Claude للذكاء الاصطناعي من أنتـروبيك لأغراض عسكرية، بينما تصر أنتـروبيك على الحفاظ على ضمانات سلامة صارمة.
- موقف البنتاغون: يعتقد أن أنتـروبيك لا ينبغي أن يكون لها أي رأي في كيفية استخدام منتجاتها من قبل الجيش لـ "جميع الأغراض المشروعة". ويهدد بعواقب وخيمة إذا لم تمتثل أنتـروبيك.
- "الخطوط الحمراء" لأنتـروبيك: ترفض السماح باستخدام ذكائها الاصطناعي في عمليات هجومية مستقلة بالكامل (الذكاء الاصطناعي يتخذ قرارات استهداف نهائية دون تدخل بشري) أو المراقبة المحلية الجماعية.
- تهديدات من البنتاغون: تشمل إلغاء عقد أنتـروبيك بقيمة 200 مليون دولار، وتصنيفها كـ "خطر في سلسلة التوريد"، وإمكانية استدعاء قانون الإنتاج الدفاعي.
- موقف أنتـروبيك: يقول الرئيس التنفيذي داريو أمودي إن الشركة تفضل التخلي عن التعاون على الموافقة على استخدامات "تقوض القيم الديمقراطية". لم تحقق المفاوضات "أي تقدم تقريبًا".
- آثار أوسع: يسلط النزاع الضوء على التوتر الحرج بين الميزة التكنولوجية في الدفاع الوطني والاعتبارات الأخلاقية للذكاء الاصطناعي المتقدم، مما قد يضع سوابق للحوكمة المستقبلية للذكاء الاصطناعي.
طلب البنتاغون للاستخدام غير المقيد للذكاء الاصطناعي
دخلت وزارة الدفاع الأمريكية (المشار إليها غالبًا باسم وزارة الحرب، وهو تعيين ثانوي بموجب أمر تنفيذي سبتمبر من قبل الرئيس الأمريكي دونالد ترامب) في نزاع يتصاعد بسرعة معAnthropic. يتركز الصراع على نموذج Claude للذكاء الاصطناعي من أنتـروبيك وإصرار البنتاغون على استخدامه غير المقيد للتطبيقات العسكرية.
المصدر: caribbeannewsglobal.com
وجه وزير الدفاع الأمريكي بيت هيغسيث إنذارًا نهائيًا إلى الرئيس التنفيذي لشركة أنتـروبيك، مطالبًا الشركة بالسماح بالنشر غير المقيد لتكنولوجيا الذكاء الاصطناعي الخاصة بها لجميع "الأغراض المشروعة".
وجه وزير الدفاع الأمريكي بيت هيغسيث إنذارًا نهائيًا إلى الرئيس التنفيذي لشركة أنتـروبيك داريو أمودي، مطالبًا الشركة بالسماح بالنشر غير المقيد لتكنولوجيا الذكاء الاصطناعي الخاصة بها لجميع "الأغراض المشروعة" بحلول مساء الجمعة. وجه هيغسيث هذا التهديد خلالTuesday meeting with Amodei.
موقف البنتاغون واضح: فهو يعتقد أن أنتـروبيك لا ينبغي أن يكون لها أي رأي في كيفية استخدام منتجاتها من قبل الجيش. هذا الطلب ليس فريدًا لأنتـروبيك؛ تهدف وزارة الدفاع إلى توفير نماذج الذكاء الاصطناعي من مختلف المزودين لـ "جميع حالات الاستخدام المشروعة" في البيئات المصنفة، وهو معيار طبقته مؤخرًا xAI التابعة لإيلون ماسكaccepted for classified work. تتسارع المفاوضات أيضًا لدمج نماذج من OpenAI و Google في هذه العمليات المصنفة.
الخطوط الحمراء لأنتـروبيك: الأسلحة المستقلة والمراقبة الجماعية
تحافظ أنتـروبيك، المعروفة بموقفها الثابت كشركة تطوير ذكاء اصطناعي واعية بالأمن، على "خطوط حمراء" صارمة فيما يتعلق بتطبيق تقنياتها. وتشمل هذه حظر استخدام ذكائها الاصطناعي في عمليات هجومية مستقلة حيث تتخذ أدوات الذكاء الاصطناعي قرارات الاستهداف العسكرية النهائية دون تدخل بشري. حد حرج آخر هو استخدام أدوات أنتـروبيك للمراقبة المحلية الجماعية للمواطنين الأمريكيين.
تؤكد الشركة أن الذكاء الاصطناعي ليس موثوقًا به بما فيه الكفاية حتى الآن لتشغيل أسلحة مستقلة بالكامل وأنه لا توجد قوانين أو لوائح كافية تحكم حاليًا الذكاء الاصطناعي في المراقبة الجماعية. صرح الرئيس التنفيذي لأنتـروبيك داريو أمودي بموقف الشركة، قائلاً إن مؤسسته تفضل التخلي عن التعاون مع البنتاغون على الموافقة على استخدامات "تقوض القيم الديمقراطية بدلاً من الدفاع عنها". وأكد أن مثل هذه التطبيقات لم تكن جزءًا من عقودهم السابقة مع وزارة الحرب، ولا ينبغي أن تكون الآن.
❝ ببساطة غير موثوق به بما فيه الكفاية ❞
الرئيس التنفيذي، أنتـروبيك
المصدر: healthevolution.com
صرح داريو أمودي، الرئيس التنفيذي لشركة أنتـروبيك، بموقف الشركة، مشيرًا إلى أن مؤسسته تفضل التخلي عن التعاون على الموافقة على استخدامات "تقوض القيم الديمقراطية".
أوضح أمودي هذه المخاوف في مدونة للشركة، موضحًا أن الذكاء الاصطناعي يمكنه تركيب بيانات متباينة في ملفات شاملة للأفراد على نطاق واسع. وشدد على دعم الذكاء الاصطناعي في مهام الاستخبارات الأجنبية والاستخبارات المضادة المشروعة، ولكنه اعتبر استخدامه للمراقبة المحلية الجماعية غير متوافق مع القيم الديمقراطية. فيما يتعلق بالأسلحة المستقلة، حذر أمودي من أن حتى أكثر أنظمة الذكاء الاصطناعي تقدمًا هي "simply not reliable enough" وقد تعرض الجنود والمواطنون الأمريكيون للخطر دون إشراف وضمانات مناسبة غير موجودة بعد. عرضت أنتـروبيك سابقًا التعاون مع وزارة الحرب في البحث والتطوير لتعزيز موثوقية النظام، لكن العرض لم يتم قبوله.
العواقب وأزمة ثقة متعمقة
إذا فشلت أنتـروبيك في الامتثال لمطالب البنتاغون، هدد هيغسيث بعواقب وخيمة. وتشمل هذه إمكانية إلغاء عقد أنتـروبيك الحالي بقيمة 200 مليون دولار وتصنيف الشركة كـ "خطر في سلسلة التوريد". هذا التصنيف سيؤدي فعليًا إلى حظر أنتـروبيك، ومنع الشركات الأخرى التي لديها عقود عسكرية من استخدام منتجاتها في أعمالها الدفاعية. عادة ما يتم حجز هذا التصنيف للكيانات التي تعتبر امتدادًا لخصوم أجانب، مثل روسيا أو الصين، كما تم استكشافه فيthis analysis. وأعلن هيغسيث أيضًا أنه سيضمن تطبيق قانون الإنتاج الدفاعي، الذي يمكن أن يجبر مسؤولي أنتـروبيك على منح البنتاغون استخدامًا غير مقيد لأغراض الأمن القومي، وفقًا لـLawfare Media.
على الرغم من هذه التهديدات الشديدة، أكدت أنتـروبيك يوم الخميس أن المفاوضات مع البنتاغون لم تحقق "أي تقدم تقريبًا". وذكر أمودي أن الشركة لا يمكنها قبول ما قدمه مسؤولو الدفاع على أنه"final offer" concerning AI safety protocols. أشارت أنتـروبيك إلى أن لغة العقد الواردة من وزارة الحرب لا تزال لا تقدم "أي تقدم عمليًا نحو منع استخدام Claude للمراقبة الجماعية للأمريكيين أو في أسلحة مستقلة بالكامل". علاوة على ذلك، تضمنت صياغة جديدة مقدمة كحل وسط بنودًا قانونية تسمح بتجاهل هذه الضمانات حسب الرغبة.
❝ على أي حال، هذه التهديدات لا تغير موقفنا: لا يمكننا بموجب ضميرنا الموافقة على طلبهم. ❞الرئيس التنفيذي، أنتـروبيك
كشف النزاع المتصاعد عن انهيار كبير في الثقة بين الطرفين. بينما أطلق المسؤول في البنتاغون الذي يفاوض أنتـروبيك، إميل مايكل، على أمودي وصف "كاذب" يتمتع بـ "عقدة إله" تعرض الأمن القومي للخطر، رد أمودي بأن التهديدات كانت "متناقضة بطبيعتها"، حيث وصف أنتـروبيك بأنها خطر أمني و Claude ضروري للأمن القومي في نفس الوقت. وأكد: "على أي حال، هذه التهديدات لا تغير موقفنا: لا يمكننا بموجب ضميرنا الموافقة على طلبهم."
❝ كاذب ❞
مسؤول في البنتاغون
وضع أنتـروبيك كشركة ذكاء اصطناعي تركز على الأمن تعرض للتدقيق، خاصة بعد ظهور تقارير تفيد بأن الجيش الأمريكي استخدم نموذج Claude المدعوم بالذكاء الاصطناعي الخاص بها في عملية يناير لاعتقال الرئيس الفنزويلي السابق نيكولاس مادورو. في حين كانت أنتـروبيك أول شركة ذكاء اصطناعي رائدة تنشر نماذجها في شبكات مصنفة وتخصصها لعملاء الأمن القومي، فقد تم الإبلاغ عن نشر نموذج Claude في عملية مادورو عبر عقد مع Palantir. أضاف هذا الوضع طبقة أخرى من التعقيد إلى المناقشات الجارية.
المصدر: deviantart.com
جاء موقف أنتـروبيك تحت التدقيق بعد تقارير تفيد بأن الجيش الأمريكي استخدم نموذج Claude المدعوم بالذكاء الاصطناعي الخاص بها في عملية يناير لاعتقال الرئيس الفنزويلي السابق نيكولاس مادورو.
الأسئلة الشائعة: نزاع الذكاء الاصطناعي بين أنتـروبيك والبنتاغون
ما هو الخلاف الأساسي بين أنتـروبيك والبنتاغون؟
يطالب البنتاغون بالاستخدام غير المقيد لنموذج Claude للذكاء الاصطناعي من أنتـروبيك لجميع "الأغراض المشروعة" في التطبيقات العسكرية. ومع ذلك، تصر أنتـروبيك على الحفاظ على ضمانات سلامة صارمة، وخاصة ضد الاستخدام في الأسلحة المستقلة بالكامل والمراقبة المحلية الجماعية.
ما هي "الخطوط الحمراء" التي وضعتها أنتـروبيك لتقنية الذكاء الاصطناعي الخاصة بها؟
لدى أنتـروبيك "خطان أحمران" رئيسيان: منع استخدام ذكائها الاصطناعي في عمليات هجومية مستقلة حيث يتخذ الذكاء الاصطناعي قرارات الاستهداف العسكرية النهائية دون تدخل بشري، ومنع استخدامه للمراقبة المحلية الجماعية للمواطنين الأمريكيين.
ما هي العواقب المحتملة إذا لم تمتثل أنتـروبيك؟
هدد البنتاغون بإلغاء عقد أنتـروبيك بقيمة 200 مليون دولار، وتصنيف الشركة كـ "خطر في سلسلة التوريد" (مما يؤدي فعليًا إلى حظرها من العمل المتعلق بالجيش)، وإمكانية استدعاء قانون الإنتاج الدفاعي لفرض الامتثال.
هل تم استخدام الذكاء الاصطناعي لشركة أنتـروبيك من قبل الجيش من قبل؟
نعم، تشير التقارير إلى أن نموذج Claude AI لشركة أنتـروبيك تم استخدامه من قبل الجيش الأمريكي في عملية يناير لاعتقال الرئيس الفنزويلي السابق نيكولاس مادورو، على ما يبدو عبر عقد مع Palantir. وقد أضاف هذا تعقيدًا إلى النزاع المستمر.
خاتمة
يسلط الموقف بين البنتاغون وأنتـروبيك الضوء على توتر حرج: الرغبة في التفوق التكنولوجي في الدفاع الوطني مقابل الاعتبارات الأخلاقية والسلامة المتأصلة في تطوير الذكاء الاصطناعي المتقدم. مع انتهاء الموعد النهائي، بقيت أنتـروبيك على طاولة المفاوضات، ولكن مع بقاء فجوات كبيرة. أشار أمودي إلى الاستعداد لتسهيل انتقال سلس إلى مزود آخر إذا قرر البنتاغون قطع العلاقات. من المرجح أن يضع هذا الصراع سوابق لكيفية تفاعل شركات الذكاء الاصطناعي مع الهيئات الحكومية والعسكرية، مما يشكل مستقبل أخلاقيات الذكاء الاصطناعي والأمن القومي وحدود المسؤولية التكنولوجية.