هل تختلف الأسئلة الأخلاقية التي يطرحها الذكاء الاصطناعي عن بقية الأسئلة التي طرحتها التكنولوجيا من قبل بما فيها انشطار النواة والقنبلة النووية على علماء مثل نيلز بور وروبرت أوبنهايمر؟ وما الذي يمكن أن نتعلمه من نقاشهم؟ وأين تفقد المقارنة بُعدَيها النفعي والأخلاقي معاً؟ ربما البداية تتعلق بسلطة من بيدهم اتخاذ القرار: قلة تملك التقنية، فيما يتحمل تبعاتها أناس لا بدَّ لهم فيها. القنبلة سلاح غايته التدمير، بينما يدخل الذكاء الاصطناعي فيمكن الحديث عنه في إطار ثنائي الاستخدام؛ إذ يمكن قراءته في إطار منفعة البشرية، وكذلك في تدميرها، وقد شاهدنا خلال العامين الماضيين كيف استُخدم الذكاء الاصطناعي في أعمال عسكرية مدمرة، وربما وباستدراك يمكن القول ذاته عن الطاقة النووية.

في الثامن من سبتمبر (أيلول) الماضي، أعلن جاكوب كوكسون، الباحث في تدريب النماذج لدى «أنثروبيك» والسابق في «أوبن إيه آي»، استقالته. وحذّر من أن المنافسة تدفع الشركتين إلى تطوير أنظمة تستطيع تحسين قدراتها بنفسها وقد تتجاوز قدرة البشر على ضبطها. يمكن الاختلاف معه في تقدير احتمال هذا الخطر، لكن اعتراضه يطرح سؤالاً قائماً بذاته: بأي تفويض يحدد مجلس إدارة شركة مقدار الخطر الذي ينبغي للآخرين أن يقبلوه؟

بالطريقة نفسها وفي يوليو (تموز) 1944، حذّر نيلز بور، مؤسس معهد الفيزياء النظرية بجامعة كوبنهاغن والمشارك في المشروع الذري للحلفاء، الرئيس روزفلت، من أن التفوق العسكري المؤقت قد يخلّف خطراً دائماً، ودعا إلى اتفاق دولي مبكر. كان يرى أن ما تعدّه دولة ضماناً لأمنها قد يدفع دولة أخرى إلى تسريع تسلّحها. وهذا وجه الشبه مع سباق الذكاء الاصطناعي: قد تدرك كل شركة فائدة التمهّل، لكنَّها تخشى أن تمنح منافسيها فرصة للسبق. وعندئذ يصبح الاتفاق على شروط الاختبار أهم من حسن نية أي شركة بمفردها. وقصة الذكاء الاصطناعي كما شهدنا في الانتخابات النصفية لتجديد الكونغرس الأميركي، اتخذت حيزاً معتبراً في اختيارات الناخبين، على الأقل فيما يعرف بـ«الداتا سنترز» أو مراكز البيانات وتأثيرها في البيئة.

وفي يونيو (حزيران) 1945، اقترحت لجنة ترأسها جيمس فرانك، أستاذ الكيمياء الفيزيائية بجامعة شيكاغو، اختبار قوة القنبلة في مكان غير مأهول إذا كان الهدف هو استعراض قوة الدمار الذي أحدثته وردع الأعداء. كذلك طالب ليو زيلارد، الفيزيائي في مختبر الجامعة التابع لمشروع مانهاتن، بإعلان شروط الاستسلام وإمهال اليابان قبل اللجوء إلى السلاح. وذكّر بأنَّ هزيمة ألمانيا أزالت الخطر الذي دفعه إلى العمل على القنبلة. ويقابل ذلك سؤالان اليوم: هل اختُبر النظام في ظروف تكشف عيوبه قبل تعريض الناس لخطر القنبلة؟ وهل تملك جهة مستقلة وقف استخدام السلاح النووي إذا تغيّرت المعطيات التي بررت إطلاقه؟

أميركا استخدمت القنبلة ضدّ هيروشيما وناغازاكي رغم أنَّ ألمانيا كانت قد هزمت، ولم يكن هناك داعٍ لاستعراض القوة.

بعد هيروشيما بيومين، اعترض ألبير كامو، رئيس تحرير «كومبا»، على حماسة الصحافة للقنبلة. وكتب برتراند راسل، الفيلسوف والمحاضر في كلية ترينيتي بجامعة كمبردج، عن اجتماع الانتصار العلمي والفشل الأخلاقي والسياسي. أما جورج أورويل، الروائي والصحافي، فسأل في «تريبيون» عن شكل العالم حين تتركز القوة في أيدٍ قليلة. وفي حالة الذكاء الاصطناعي، يمكن أن تصل الأداة إلى ملايين الناس، بينما يظل قرار ما تجمعه عنهم وكيف تستخدمه في أيدي عدد قليل من الشركات. انتشار الأداة شيء، وتوزيع السلطة عليها شيء آخر.

وفي نوفمبر (تشرين الثاني) 1945، اعترض أوبنهايمر، المدير العلمي لمختبر لوس ألاموس خلال مشروع مانهاتن، على انفراد دولة بمسؤولية سلاح يمسّ البشرية كلها. وبعد نحو عقد، وصف غونتر أندرس، الفيلسوف والكاتب المقيم في فيينا، الفجوة بين قدرتنا على صنع الأشياء وقدرتنا على تخيّل عواقبها. وللفجوة اليوم صورة عادية: قد يطمئن المسؤول إلى أن نسبة الخطأ واحد في المائة، بينما يقضي شخصٌ وقع عليه ذلك الخطأ شهوراً يحاول معرفة لماذا حُرم من وظيفة أو إعانة.

هنا يتَّضح ما لا تفسّره المقارنة بالقنبلة؛ ففي الطب يمكن للطبيب مراجعة توصية النظام قبل أن يتصرف على أساسها؛ وفي التوظيف قد لا يعرف المتقدم أصلاً أن برنامجاً استبعد طلبه؛ وفي الحرب قد تأتي مراجعة توصية الاستهداف بعد فوات الأوان. لذلك يتحدد الواجب الأخلاقي بحسب أثر القرار وإمكان الرجوع عنه. وقد يكفي في بعض الحالات أن يعرف الإنسان كيف يطلب مراجعة قرار، بينما تقتضي حالات أخرى وجود شخص يملك سلطة إيقاف التنفيذ قبل وقوع الضرر. وهنا يأتي دور مؤسسات تعمل بوصفها فرامل ضد استئثار فرد أو جماعة بتك القوة الخارقة.

لا أرى أنَّ أسئلة اليوم حول الذكاء الاصطناعي من منظور أخلاقي ترقى إلى الأربعينات من القرن الماضي. والسؤال هو: هل كان الوازع الأخلاقي في الأربعينات أرقى مما نحن عليه الآن؟ ربما هذا استعجال مني في الحكم؛ فقد سجّل بعض العلماء اعتراضاتهم، ولكن القنبلة ألقيت على بشر وأبادتهم في نهاية الأمر. واليوم يعترض بعض الباحثين من داخل شركات الذكاء الاصطناعي، ولدينا مبادئ معلنة، منها توصية «اليونسكو» لأخلاقيات الذكاء الاصطناعي. والمعيار في الحالتين هو أثر الاعتراض في القرار. قد يكون الاعتراض شجاعاً، لكن قيمته العملية تظل محدودة إذا كان بوسع من يملك السلاح أو النظام أن يمضي في طريقك من دون مراجعة أو مؤسسات قادرة على إيقافه.

درس القنبلة هو أنَّ القدرة على صنع شيء لا تمنح صاحبه حق فرض مخاطره على الآخرين. ويضيف الذكاء الاصطناعي إلى هذا الدرس أنَّ الضرر قد يقع في قرار يومي لا يراه الجمهور، وقد لا يعرف المتضرر حتى أنَّ آلة شاركت في اتخاذه. وحين نطبّق الدرس على نظام بعينه، يصبح الامتحان محدداً: من يستطيع إيقافه قبل أن يضرّ بالناس؟ وإذا وقع الضرر، فمن يشرح القرار للمتضرر ويملك سلطة تصحيحه؟

هذا هو تحدي الكونغرس الأميركي الجديد وكذلك تحدي برلمانات العالم كلها؛ فالفارق بين الإنسان وما سواه هو ذلك الضمير الحي والوازع الأخلاقي؛ فهل ننجح في عالم الذكاء الاصطناعي من منظور أخلاقي فيما فشلنا فيه في استخدام القنبلة؟ هذا هو السؤال.