هل يتحكم الذكاء الاصطناعي فى منظومة الأمن القومي الأمريكي؟!
أشرف التهامي
في قلب قرارات الأمن القومي الأمريكي تكمن مفارقة، وتتمثل هذه المفارقة فى أن هذه القرارات من بين أكثر القرارات التي يمكن للحكومة اتخاذها أهمية، ولكنها غالبا ما تكون الأقل شفافية وديمقراطية.
“الصندوق الأسود”
لقد توسع “الصندوق الأسود” لاتخاذ القرارات المتعلقة بالأمن القومي الأمريكي – والذي تحركه التصنيفات الواسعة النطاق ويتميز بصعوبة حقيقية في الإشراف على تصرفات السلطة التنفيذية – ففي الولايات المتحدة مع استمرار نمو السلطة التنفيذية.
وعلى مدى العقدين الماضيين، أدى هذا التوسع إلى تآكل كبير في الضوابط والتوازنات الدستورية التي يتم الاعتماد عليها للإشراف على السلطة الرئاسية.
وعلى الرغم من أن الكونجرس الأمريكي يعمل في بعض الأحيان بجد ليكون بديلا مخلصا، فإن ضعف الموظفين والخبرة المحدودة والسياسة تعقد هذه الجهود.
وفي الوقت نفسه، تخضع المحاكم إلى حد كبير للسلطة التنفيذية في هذه الأمور، ونتيجة لهذا، أصبح من الصعب بشكل متزايد التأكد من أن السلطة التنفيذية تتصرف بما يتفق مع قيم القانون العام مثل الشرعية والمساءلة ومتطلبات تبرير القرارات.
نشر الذكاء الاصطناعي في عمليات صنع القرار والعمليات
إن التقدم السريع في مجال الذكاء الاصطناعي يزيد من هذا الاتجاه، فقد بدأت وكالات الدفاع والاستخبارات، بما في ذلك وكالة الأمن القومي، ووكالة الاستخبارات المركزية، ووزارتي الدفاع والأمن الداخلي، في نشر الذكاء الاصطناعي في عمليات صنع القرار والعمليات.
على سبيل المثال، تستخدم وزارة الدفاع الأمريكية أدوات الرؤية الحاسوبية المدعومة بالذكاء الاصطناعي لتحديد الأنشطة المهددة – وفي نهاية المطاف الأهداف المحتملة – من بين آلاف الساعات من لقطات الطائرات بدون طيار.
يتم دفع العمليات السيبرانية بشكل متزايد بواسطة الذكاء الاصطناعي، مما يزيد من احتمالية حدوث صدام بين الأدوات السيبرانية المستقلة الأمريكية والأجنبية وتصعيد الهجمات إلى صراع مسلح – دون أي قرار بشري إيجابي للقيام بذلك.
لن يمر وقت طويل قبل أن يأخذ الذكاء الاصطناعي مقعدًا في غرفة العمليات.
ومع ذلك، غالبًا ما تكون أنظمة الذكاء الاصطناعي “صناديق سوداء”: لا يستطيع المستخدمون وحتى المبرمجون عمومًا الوصول إلى العمليات الداخلية للخوارزميات، مما يجعل من الصعب جدًا على المستخدمين فهم سبب أو كيفية وصول النظام إلى التوصية التي توصل إليها.
إن إضافة الذكاء الاصطناعي إلى الصندوق الأسود الحالي للأمن القومي الأمريكي يعني أن القرارات المتعلقة بالأمن القومي الأميركي تُتخذ داخل صندوق أسود مزدوج. وهذا يعني أن مجموعة الجهات الفاعلة التي تسعى إلى التحقق من السلطة التنفيذية في مجال الأمن القومي سوف تجد صعوبة متزايدة في القيام بذلك، وحتى أولئك الذين يتخذون قرارات الأمن القومي لا يستطيعون فهم كيفية اتخاذها بشكل كامل.
وسيكون من الأهمية بمكان الاعتماد بشكل كبير على كل من المجموعة التقليدية من الجهات الفاعلة التي تتحقق من وتوازن عملية صنع السياسات التنفيذية السرية ــ الكونجرس، والمحاكم، ومحامي السلطة التنفيذية، والمفتشين العامين، والمبلغين عن المخالفات ــ وعلى البدائل لهذه الجهات البديلة التقليدية لضمان امتثال الحكومة الأميركية لقيم القانون العام. وسوف يحتاج هؤلاء الفاعلون إلى الإبداع، مع الاعتراف بأنه لا توجد رصاصة فضية واحدة لمشكلة الصندوق الأسود المزدوج.
جعل الرقابة الحالية أكثر صعوبة
إذا كانت الرقابة على الأنشطة المصنفة تتعلق إلى حد كبير بضمان تصرف الحكومة بشكل قانوني وفعال ومساءلة، ومع متطلبات التبرير، فإن الذكاء الاصطناعي سوف يضاعف من مشاكل الرقابة العسكرية والاستخباراتية الحالية.
إن الصعوبات في تحديد أنشطة السلطة التنفيذية غير القانونية سوف تتضاعف بسبب التحديات المتمثلة في فهم ما إذا كان استخدام أداة معينة من أدوات الذكاء الاصطناعي يتوافق مع القانون.
وسوف تتضاعف صعوبة الحصول على معلومات كافية لتقييم ما إذا كان اختيار سياسة معينة للأمن القومي هو الخيار الأمثل بسبب الصعوبة في فهم جودة توصيات وتوقعات الذكاء الاصطناعي التي تشكل هذا الاختيار.
وسوف تتضاعف صعوبة تحديد من هو المسؤول عن اختيار سياسة غير قانونية أو غير مدروسة بسبب التحدي المتمثل في تحديد المسؤول عن الأخطاء الخوارزمية الكبيرة. وسوف يؤدي عدم الشفافية وعدم القدرة على تفسير خوارزميات الذكاء الاصطناعي إلى تعقيد سهولة تجنب السلطة التنفيذية للدفاع عن قرارات الأمن القومي بسبب التصنيف.
فكيف يمكن للجمهور الديمقراطي أن يثق في أنه ينبغي له أن يثق في كل من الأنظمة والأشخاص الذين يعتمدون على هذه الأنظمة للتصرف بمسؤولية باسمهم؟
وتصبح أسئلة الأمن القومي الصعبة أكثر صعوبة عندما تتضمن الأسئلة أدوات الذكاء الاصطناعي.
إن التعبير عن المخاوف بشأن الأنشطة التنفيذية المصنفة بشكل عام – أو بشأن “الصندوق الأسود المزدوج” على وجه الخصوص – لا يعني أن المسؤولين التنفيذيين يتصرفون بنية سيئة أو عدم كفاءة. ولكن الرقابة لا تزال ضرورية: فالتاريخ مليء بالأمثلة حيث انحرفت الحكومة عن المسار، وخاصة عندما تعمل في سرية.
والسرية يمكن أن تسهل الإهمال والتفكير الجماعي وغير ذلك من العادات المربكة. وعلينا أن نفترض أن مسؤولي الأمن القومي الأمريكي يعانون من نفس التحيزات المعرفية التي نعاني منها جميعًا، والتي يمكن أن تتفاقم في بيئات العمل المشبعة بالسرية.
إن منح الجهات الفاعلة الخارجية ذات وجهات النظر والمهام والطموحات المختلفة حق الوصول والتعبير عن آرائها يساعد في مواجهة هذه التحيزات.
إن استخدام الذكاء الاصطناعي لأغراض الأمن القومي أمر لا مفر منه؛ بل إنه قد وصل بالفعل. ومع قيام المجتمعات العسكرية والاستخباراتية بتضمين أنظمة الذكاء الاصطناعي بشكل أعمق في عملياتها، فإنها تحتاج إلى مجموعة صحية من الضوابط على هذه الأنظمة.
وسوف يتطلب ضمان امتثال السلطة التنفيذية لقيم القانون العام الاجتهاد من جانب مجموعة واسعة من الجهات الفاعلة. وسوف تحتاج الولايات المتحدة إلى الاعتماد على وكلاءها التقليديين، وخاصة اللجان الكونجرسية التي تشرف على المجتمع العسكري والاستخباراتي والدبلوماسيين.
ويمكن للكونجرس، على سبيل المثال، أن يسن قانون إطاري لتنظيم الذكاء الاصطناعي لأغراض الأمن القومي عالي الخطورة، باستخدام قانون العمل السري كنموذج.
وحتى إذا لم يتمكن الكونجرس من الاتفاق على قانون إطاري، فيجب عليه سن تشريع يلزم السلطة التنفيذية بتقديم تقارير إليه حول استخدامها للذكاء الاصطناعي لأغراض الأمن القومي.
وهناك العديد من النماذج لتقديم التقارير المتعلقة بالأمن القومي الأمريكي إلى الكونجرس، بما في ذلك تقديم التقارير عن العمليات السيبرانية الهجومية، وتقارير صلاحيات الحرب التي تستغرق 48 ساعة وستة أشهر، والتقارير السنوية عن استخدام قانون مراقبة الاستخبارات الأجنبية، ومتطلبات الإخطار بالتغييرات التي تطرأ على الإطار القانوني لاستخدام القوة العسكرية.
لجنة مشتركة للذكاء الاصطناعي
أو يمكن للكونجرس إنشاء لجنة مشتركة للذكاء الاصطناعي، بما في ذلك لجنة فرعية تركز على الذكاء الاصطناعي المرتبط بالأمن القومي. ويمكن للجنة، التي يجب أن يكون لها طاقم دائم، أن تعمل كمؤسسة فكرية داخلية، وتوفر الخبرة الدائمة في تقنيات الذكاء الاصطناعي وتأثيراتها المجتمعية.
يجب على المحامين التنفيذيين أيضًا أن يلعبوا دورًا مهمًا: يمكنهم تقديم مدخلات سياسية وقانونية مبكرة حاسمة لتقييم ما إذا كان ينبغي استخدام خوارزمية التعلم الآلي على الإطلاق في سياق معين، وما هي أنواع البيانات والمعلمات التي يجب أن تستخدمها الخوارزمية أو تتجنبها.
سواء أقر الكونجرس قانونًا إطاريًا للذكاء الاصطناعي أم لا، فيجب على السلطة التنفيذية إنشاء عملية بين الوكالات لمراجعة أدوات الذكاء الاصطناعي عالية المخاطر. يمكن للسلطة التنفيذية أن تصمم هذه العملية على تلك التي أنشأها الرئيسان باراك أوباما وجو بايدن حول استخدام عمليات القتل المستهدفة، والعمليات السيبرانية الهجومية.
ستحتاج السلطة التنفيذية أيضًا إلى الاعتماد على بدائل السرية غير التقليدية، بما في ذلك الحلفاء الأجانب والولايات والمحليات وشركات التكنولوجيا الأمريكية.
يتمتع هؤلاء الفاعلون بخبرة محددة حول التهديدات والأهداف الجديدة.
إن الحلفاء الأجانب، على سبيل المثال، من المرجح أن يكون لديهم بعض الرؤية فيما يتعلق بأنواع الأدوات التي يطورها الجيش الأميركي أو يستحوذ عليها أو ينشرها. وإلى الحد الذي تريد أو تحتاج فيه الولايات المتحدة إلى العمل مع هؤلاء الحلفاء لتحقيق أهدافها العسكرية أو مكافحة الإرهاب أو الاستخباراتية، فإن هؤلاء الشركاء لديهم نفوذ على الإجراءات الأميركية وقد يخدمون في تقييدها.
وحتى الجمهور لديه دور يلعبه. فمن خلال التعبير عن آرائه حول أنظمة الذكاء الاصطناعي غير السرية التي قد يكون لها نظائر سرية خلف ستار التصنيف، يمكن للجمهور التأثير على أنواع أدوات الذكاء الاصطناعي التي تطورها شركات “الاستخدام الشائع” مثل جوجل وآبل وأوبن إيه آي، والتي بدورها قد تؤثر على أنواع الأدوات التي يمكن لمسؤولي الأمن القومي اختيار استخدامها.
الخلاصة
إن هذا لا يمثل سوى لمحة عن أنواع الجهات الفاعلة التي ينبغي لها أن تشارك في الحد من حجم وغموض الصندوق الأسود المزدوج وأنواع النهج التي يمكنها أن تتبناها.
إن السلطة التنفيذية تحتاج إلى موافقة الكونجرس والجمهور الأميركي والشركات الأميركية في اختياراتها المتعلقة بالأمن القومي من أجل تعظيم الشركات التي ستعمل مع وكالات الأمن القومي الأميركية، وحشد الدعم من الحلفاء والدول غير الملتزمة، وتجنب ردود الفعل العنيفة في المستقبل ضد أنشطة الأمن القومي العدوانية المفرطة.
إن النضال من أجل التحقق من الأنشطة التي تحدث خلف ستار السرية يشكل جزءاً من المشروع الديمقراطي الجاري في الولايات المتحدة. ولا يوجد مثال أفلاطوني واحد لكيفية تحقيق التوازن بين السرية والشفافية: يجب أن يظل الجمهور مشاركاً نشطاً في هذا المشروع المشترك.
……………………….
المصدر: justsecurity
