الذكاء الاصطناعي المسؤول نموذج تشغيل، وليس سياسة

قد تمتلك المؤسسة سياسة للذكاء الاصطناعي ولجنة مراجعة وبياناً واضحاً للمبادئ الأخلاقية، ومع ذلك تعجز عن الإجابة عن سؤال عملي: من يستطيع إيقاف نظام منشور عندما يصبح سلوكه غير مقبول؟

قد لا تظهر الفجوة إلا بعد الإصدار. يعترض عميل على نتيجة، أو تكشف صلاحية معلومات لجمهور غير مناسب، أو يغير تحديث للنموذج معالجة الطلبات. تصف السياسة السلوك المرغوب. أما المستجيبون فيحتاجون إلى صلاحية وأدلة ووسيلة عملية للتصحيح.

السياسات ضرورية؛ فهي تحدد الالتزامات والاستخدامات المحظورة وتؤسس لقرارات متسقة. لكن أثرها يعتمد على ترجمة الالتزامات إلى العمل. فلا يحدد بيان عن الإنصاف ما إذا كان مسار معين يضر بعض المستخدمين، ولا يمنح اشتراط الرقابة المراجع المعلومات أو الوقت اللازمين لتدخل ذي معنى.

موقف نورماتيك أن الذكاء الاصطناعي المسؤول يجب أن يكون قدرة تشغيلية. تصبح المسؤولية واقعاً عبر خيارات المؤسسة بشأن الغرض وسلوك النظام والصلاحية والأدلة والتشغيل المستمر. وهذا يوسع حجتنا بأن نموذج تشغيل الذكاء الاصطناعي لا يُفوّض إلى إدارة للذكاء الاصطناعي. ولا يمكن تفويضه كاملاً إلى فريق حوكمة أيضاً.

الاختبار هو قدرة المؤسسة على ربط وعودها بما تفعله أنظمتها فعلياً، والاستجابة عند التباعد بينهما.

تحتاج المبادئ إلى ضوابط ومسؤولين وأدلة

تجعل أربعة عناصر هذه الصلة قابلة للاستخدام. تحدد المبادئ الالتزامات الموجهة للقرارات. وتشكل الضوابط ما يستطيع النظام ومستخدموه فعله. وتسند المساءلة مسؤولية اختيار تلك الترتيبات وتشغيلها وتغييرها. وتتيح الأدلة تقييم فعاليتها.

لنتأمل نظاماً توضيحياً يصنف شكاوى العملاء ويوجهها إلى فرق الخدمة. قد يفرض مبدأ حصول الناس على معاملة مناسبة بغض النظر عن أسلوب التعبير عن قلقهم. ويجب أن يؤثر ذلك في تعريف الاستعجال والأدلة المعتبرة ومعالجة عدم اليقين. وإلا قد تحظى لغة مصقولة أو فئة شكوى يسهل التعرف عليها باهتمام أكبر من مشكلة خطيرة ضعيفة التعبير.

يمكن أن تقصر الضوابط النظام على التوجيه والتلخيص، وتمنعه من إغلاق شكاوى غير محلولة، وتفرض المراجعة عند تعارض الأدلة. ويبقى مسؤول أعمال مسؤولاً عن نتيجة الخدمة، ويصون المسؤولون التقنيون التوجيه والوصول والمراقبة. وتبين سجلات التقييم والتشغيل الحالات المتأخرة أو المعاد إسنادها أو المصنفة خطأً كمحلولة.

لكل عنصر دور مختلف. فقد يتدهور ضبط بلا مسؤول دون ملاحظة. ولا يستطيع مسؤول بلا صلاحية تصحيحه. وقد يوثق سجل بلا مراجعة مشكلة دون تغيير شيء. يوفر المبدأ الاتجاه، لكن الروابط تحدد قوته العملية.

يوفر إطار إدارة مخاطر الذكاء الاصطناعي NIST AI RMF 1.0 أساساً مناسباً. فهو ينظم إدارة المخاطر حول الحوكمة ورسم السياق والقياس والإدارة، مع امتداد الحوكمة عبر الوظائف ودورة حياة النظام. وهو إرشاد طوعي، لا قانون ولا دليل على فعالية تنفيذ معين. وتدعم بنيته دمج الحوكمة في العمل المستمر. الوظائف الأساسية لإطار NIST

لذلك يتجاوز القرار التنفيذي تبني إطار. فهو يشمل توفير الموارد والصلاحيات اللازمة لتطبيق الالتزامات على أنظمة محددة وتبعاتها.

تبدأ المسؤولية بغرض مسار العمل

يبدأ التصميم المسؤول قبل اختيار النموذج. فغرض المسار يحدد مصالح من تُحسب، والنتائج المهمة، والمفاضلات التي يُسمح للنظام بإجرائها.

في مثال الشكاوى، قد يكافئ تعظيم الحالات المسجلة مكتملة سلوكاً يختلف عن حل المشكلات الأصلية. ويمكن للنظام أداء مهمته بدقة والمساهمة في نتيجة غير مرغوبة إذا اختير الهدف بصورة سيئة. ولن تعالج دقة نموذج أعلى هذا الخطأ التصميمي.

وقد يكشف المتأثرون بالمسار تبعات لا تراها فرق التنفيذ أولاً. فقد يصعب على عميل تصحيح ملخص غير دقيق. وقد يكتشف موظفون أن تصنيف أولوية آلياً يُعامل كقرار نهائي رغم أنه صُمم كمشورة. وينبغي أن تؤثر هذه الملاحظات في التصميم ومعايير القبول، لا أن تُعامل كملاحظات سهولة استخدام فقط.

يجب أن يوضح التصميم القرارات المسندة للذكاء الاصطناعي والبرمجيات التقليدية والبشر. ويحدد استخدام المعلومات المسموح وحدود الأفعال ومسارات عدم اليقين وسبل التصحيح. وقد تحتاج استخدامات مقترحة إلى تضييق أو تأجيل إذا تعذر فهم تبعاتها أو ضبطها بما يكفي. وهذا قرار تصميمي جوهري، لا إخفاق في تبني الذكاء الاصطناعي.

تعزز إرشادات منظمة التعاون الاقتصادي والتنمية لعام 2026 للعناية الواجبة في الذكاء الاصطناعي المسؤول أهمية الآثار خارج المؤسسة الناشرة. فهي تربط السياسات وأنظمة الإدارة بتحديد الآثار السلبية ومعالجتها وتتبع النتائج والإبلاغ عن الإجراءات وتقديم المعالجة أو التعاون فيها حيث يلزم. وهذه توصيات حوكمة، لا قائمة امتثال عالمية. إرشادات العناية الواجبة للذكاء الاصطناعي المسؤول

وتستنتج نورماتيك أن المسؤولية يجب أن تشمل ما يحدث للشخص المتأثر. فتحسين الكفاءة الداخلية مع تصعيب الاعتراض على نتيجة خاطئة وصف ناقص للنجاح.

يجب أن تعبر المساءلة الوظائف دون غموض

يتطلب الذكاء الاصطناعي المسؤول خبرات متعددة، لكن قائمة بالوظائف المشاركة لا تحدد من يستطيع القرار أو التصرف.

تحدد القيادة الأولويات وتحسم التعارضات الجوهرية بين المنفعة المتوقعة والتعرض. ويبقى مسؤولو الأعمال مسؤولين عن النتيجة وأثر المسار في الناس. وتترجم فرق المنتجات التوقعات إلى متطلبات وقرارات قبول. وتنفذ الهندسة السلوك وتختبره، وتعالج فرق البيانات والأمن جودة المعلومات والوصول والحماية. ويحدد مختصو القانون والامتثال والمخاطر المتطلبات والمراجعة المناسبة، وتصون العمليات القدرة بعد الإطلاق.

الحدود المهمة هي القرارات بين هذه المسؤوليات. يجب أن يحدد أحد ما إذا كانت نتائج تقييم عالقة تمنع الإصدار، ومن يعتمد تجربة محدودة، ومن يوقف قدرة عند ظهور مشكلة خطيرة. وينبغي إسناد الصلاحية قبل أن يجعلها خلاف أو حادث عاجلة.

تستطيع وظيفة مركزية للذكاء الاصطناعي المسؤول تقديم الأساليب والمشورة والمراجعة والتحدي المستقل. ويجب أن تملك تفويضاً واضحاً لإثارة المخاوف ومساراً إلى القيادة عند عدم حلها. ويكمل دورها مسؤولية التنفيذ، ولا يستوعب كل التزامات الأعمال والهندسة والتشغيل.

تحتاج هذه الترتيبات إلى تمويل وحوافز. فمسؤول عملية مكلف برصد الضرر يحتاج إلى الأدلة وأشخاص قادرين على التحقيق. ولا ينبغي قياس فريق يُطلب منه تأخير الإصدار عند قصور الضوابط بسرعة الإطلاق وحدها. وتضعف المساءلة الرسمية حين تكافئ المؤسسة السلوك المقوض لها.

ويضيف الموردون حدوداً أخرى. فقد يشغل المورد النموذج الأساسي، لكن المؤسسة المتبنية تختار المسار وترتيبات الوصول وتبعات الاستخدام. وتحتاج إلى معلومات وترتيبات تعاقدية كافية لإدارة الاعتماد، بما يشمل التغييرات والحوادث. فلا تنتهي المساءلة عند الشراء.

ينبغي أن تتناسب الرقابة مع التبعات

يظل التقدير البشري أساسياً، لكن فحص شخص لكل مخرج ليس استراتيجية كاملة. يجب تصميم الرقابة وفق تبعات الفعل وعدم اليقين وقابلية العكس والحساسية والالتزامات المنطبقة والموثوقية المثبتة.

قد يبرر تصنيف مستند داخلي سهل التصحيح ترتيباً مختلفاً عن قرار يمس وظيفة شخص أو ائتمانه أو رعايته الصحية أو خدماته العامة. وتختلف هذه القرارات فيما بينها أيضاً. وتعتمد الحماية المناسبة على الاستخدام المحدد ومتطلباته، لا وجود الذكاء الاصطناعي وحده.

قد يناسب التوجيه الآلي للشكاوى حدوداً مقيمة. أما رفض شكوى أو إنشاء التزام مؤثر فمسألة مختلفة. ويجب أن تعكس صلاحية النظام هذا الفرق، حتى لو استطاع النموذج نفسه توليد المخرجين.

تتطلب المراجعة المجدية أدلة القرار ورؤية عدم اليقين وقدرة عملية على الاعتراض أو الإيقاف. فقد لا يستطيع مراجع يرى توصية مصقولة فقط كشف افتراضاتها الناقصة. وقد يتحول صاحب قائمة عمل لا تُدار إلى مصدر اعتماد اسمي بدلاً من تقدير متأنٍ.

ويجب أن تعمل الضوابط حين لا يدرك النظام عدم يقينه. فقد تكشف مراقبة الأفعال المكتملة والعينات المناسبة مشكلات لم تصل إلى قائمة الاستثناء. وكما ناقشنا في مؤسسة المستقبل تعمل عبر إدارة الاستثناءات، يهم مسار التصعيد الفعال لكنه لا يكفي مصدراً وحيداً للطمأنينة.

إذن الرقابة المتناسبة اختيار تصميمي تدعمه الأدلة. وغرضها جعل الصلاحية البشرية فعالة حيث تلزم، مع السماح للعمل المناسب بالمضي ضمن الحدود.

تعتمد الخصوصية والشفافية على البنية التقنية

يجب أن يصمد الالتزام بالخصوصية عبر مسار المعلومات الفعلي. فقد يمر الطلب بتوجيه للنموذج وخدمة استرجاع ونموذج خارجي وسجل تطبيق ومخرج يُرسل إلى شخص آخر. وقد لا تغطي ضوابط قاعدة البيانات الأصلية وحدها هذه الاستخدامات كلها.

على المؤسسة تحديد بيانات المهمة وملاءمة استخدامها للغرض وأماكن انتقالها ومن يصل إليها ومدة الاحتفاظ بها. ولا ينبغي تضمين مادة حساسة لمجرد توافرها. ويجب أن تنعكس الأذونات وقيود الغرض في الأنظمة المحيطة، بما فيها السجلات وتاريخ المحادثات المحفوظ.

والتمييز بين القراءة والإفصاح مهم خصوصاً. فقد يُخوّل موظف خدمة الاطلاع على ملاحظات داخلية دون نسخها في رد عميل. ويمكن لنظام يحترم حقوق الموظف أن يفصح بصورة غير مناسبة إذا تجاهل الجمهور والغرض.

وتحتاج الشفافية أيضاً إلى غرض عملي. فقد يحتاج المشغل إلى معرفة الإصدار الذي تصرف والسجلات المستخدمة والفعل المنفذ ومن اعتمد قراراً مؤثراً. وقد يحتاج العميل إلى بيان واضح بالعوامل المؤثرة في حالته وطريق للتصحيح. وهذه احتياجات مختلفة للمعلومات.

تربط مبادئ منظمة التعاون الاقتصادي والتنمية الشفافية بمعلومات ذات معنى للمتأثرين وبالقدرة على الاعتراض على المخرج. وتدعو إلى قابلية تتبع تناسب السياق. فتمنح الشفافية دوراً في المساءلة بدلاً من اختزالها في تنويه عام أو شرح تقني. مبادئ الذكاء الاصطناعي للمنظمة

لا ينبغي اعتبار شرح مولد سجلاً تدقيقياً أميناً لمجرد معقوليته. تحتاج المؤسسة إلى سجلات للمدخلات الفعلية والمراجع المناسبة والأذونات والأفعال والموافقات تكفي للغرض. وتحتاج تلك السجلات إلى ضوابط وصول واحتفاظ خاصة؛ فالتسجيل غير الانتقائي قد ينشئ مشكلة خصوصية أخرى.

يجعل التقييم المسؤولية قابلة للملاحظة

الضمان المقصود ادعاء بشأن السلوك المطلوب. ويختبر التقييم دعم هذا الادعاء في ظروف الاستخدام المتوقعة.

في مسار الشكاوى، لا تقدم دقة التصنيف الإجمالية إلا صورة جزئية. إذ يلزم فحص الحالات العاجلة الفائتة والملخصات غير المسندة والإفصاح غير المناسب وأفعال النظام الخاطئة ومعالجة المعلومات غير المألوفة أو المتعارضة. وحيث يلزم، يُفحص وقوع الأخطاء أو التأخيرات بصورة غير متناسبة على فئات أو أساليب تواصل معينة.

اختيار المقاييس يحتاج إلى تقدير متخصص. فقد تخفي نتيجة مجمعة مشكلة خطيرة في فئة صغيرة مؤثرة. وقد تختلف آثار أنواع الخطأ، ولا تُحسم بعض المفاضلات بتحسين درجة واحدة. ويجب أن يوضح قرار القبول تلك الخيارات وعدم اليقين المتبقي.

ينبغي أن يشمل التقييم المسار كله: الاسترجاع ومخرج النموذج والأدوات والأذونات والتصعيد وسلوك المستخدم. فقد يرتبط نموذج قادر بالسجل الخطأ، أو تُنفذ توصية صحيحة خطأً، أو يُتجاوز ضبط تقني سليم في الممارسة. واختبار الإجابات المنعزلة يترك هذه التفاعلات دون فحص.

يجب أن تتناسب الأدلة مع نطاق الادعاء. فالنجاح في مجموعة اختبارات ضيقة يدعم استنتاجاً أضيق من موثوقية التشغيل عبر جميع المستخدمين والظروف. وقد تساعد تجربة محدودة على فهم الواقع، بشرط ملاءمة حدودها ومراقبتها واستجابتها. ولا يلغي معيار ناجح أو عرض موفق ضرورة فحص الاستخدام الفعلي.

وتشمل المسؤولية قرار الإصدار. يحتاج المخوّلون بالاستخدام إلى فهم ما قُيّم وما بقي عالقاً وشروط المراجعة اللاحقة. يجعل التوثيق الجيد هذا التقدير قابلاً للفحص، لكنه لا يجعل قراراً ضعيف الأساس سليماً.

يبدأ الإطلاق التزاماً مستمراً بالاستجابة

لا تثبت ظروف تشغيل النظام. تتحدث النماذج وتتغير المصادر وتتطور الأذونات ويكتشف المستخدمون استخدامات جديدة. وقد يتحول مسار معتمد للتلخيص تدريجياً إلى تبرير قرارات لم يشملها تقييمه.

يحتاج نموذج التشغيل إلى رصد تلك التغيرات وتحديد ما يستدعي تجديد التقييم. ويجب أن تربط سجلات الإصدارات السلوك المنشور بالنماذج والتعليمات والمصادر والأدوات والضوابط ذات الصلة. فتحدد مراجعة التغيير ما تبدل وما بقي صالحاً من الأدلة وما يجب إعادة تقييمه.

تصف ISO معيار ISO/IEC 42001 بأنه معيار نظام إدارة لتأسيس إدارة الذكاء الاصطناعي وتنفيذها وصيانتها وتحسينها المستمر. وتشمل إرشاداتها العامة المسؤوليات وإدارة المخاطر وضوابط دورة الحياة وتقييم الأداء والمراقبة. وتميزه أيضاً عن القوانين واللوائح. ويدعم ذلك انضباطاً إدارياً مستمراً لا اعتماداً لمرة واحدة. شرح ISO/IEC 42001

عملياً، تحتاج إشارة المراقبة إلى من يستطيع الاستجابة. فإذا تكرر إغلاق شكاوى خطأً، قد يلزم تعطيل الإجراء وحفظ الأدلة وتحديد المتأثرين وترتيب التصحيح. والتعافي التقني ومعالجة أثر الضرر على الناس مهمتان مترابطتان لكن مختلفتان. فاستعادة البرمجيات لا تعالج بالضرورة التبعات السابقة.

ويجب أن تلائم قدرة الإيقاف أو التراجع الخدمة. فقد ينقل إلغاء قدرة آلية العمل إلى البشر أو يعطل عملية يعتمد عليها العملاء. ويحتاج البديل المسؤول إلى طاقة ومسؤولية وخطة للحالات الجارية. ولا يُبطل الرجوع إلى إصدار سابق كل الأفعال التي وقعت أثناء تشغيله.

ينبغي أن تؤدي مراجعة الحوادث إلى تغيير الجزء المناسب من المؤسسة: حدود الوصول أو مصدر بيانات أو هدف المسار أو معيار إصدار أو ترتيب مع مورد. ويظل الدرس ناقصاً إن بقي في تقرير بينما تستمر الظروف نفسها.

تستطيع السياسات والمعايير واللجان دعم هذا العمل كله. وتتحقق قيمتها عندما تغير خيارات التصميم وتمنح صلاحية قابلة للاستخدام وتدفع المؤسسة للتصرف وفق الأدلة. لكنها لا تضمن استحالة الضرر.

يستدام الذكاء الاصطناعي المسؤول بقدرة المؤسسة على منع المشكلات الممكن تجنبها وإدراك حدود أدلتها والاستجابة بفعالية لتغير السلوك أو الظروف. وتنتمي هذه القدرة إلى نموذج التشغيل نفسه الذي ينتج نتيجة الأعمال. ويجب بناؤها وتمويلها وصيانتها مع النظام.

المصادر

• NIST — الوظائف الأساسية لإطار إدارة مخاطر الذكاء الاصطناعي 1.0. 2023. إطار طوعي لإدارة المخاطر. تشير NIST إلى أن الإصدار 1.0 قيد المراجعة في صفحة الإطار الحالية، التي فُحصت في سبتمبر 2026.
• منظمة التعاون الاقتصادي والتنمية — إرشادات العناية الواجبة للذكاء الاصطناعي المسؤول. فبراير 2026. إرشادات تربط سلوك الأعمال المسؤول ومبادئ الذكاء الاصطناعي بتحديد الآثار السلبية ومعالجتها وتتبعها.
• منظمة التعاون الاقتصادي والتنمية — مبادئ الذكاء الاصطناعي. حُدثت في 2024؛ روجعت الإرشادات الرسمية الحالية في سبتمبر 2026. توصيات حكومية دولية للذكاء الاصطناعي الجدير بالثقة، ومنها الشفافية والمساءلة.
• ISO — شرح ISO/IEC 42001. شرح رسمي عام لمعيار نظام إدارة الذكاء الاصطناعي، روجع في سبتمبر 2026. يستخدم المقال هذا الشرح ولا يعيد إنتاج المتطلبات التفصيلية للمعيار.

توفر المصادر إرشادات معيارية ومعايير إدارية، لا إثباتاً تجريبياً لمسؤولية نشر معين أو حكماً بامتثاله القانوني. والاستنتاجات التنظيمية تفسير نورماتيك. ومثال الشكاوى توضيحي لا يمثل تعاقد عميل أو نتيجة مقاسة.