الأنوار 24/مصطفى المنوزي
إعلان الأمين العام للأمم المتحدة عن إنشاء لجنة علمية دولية مستقلة للذكاء الاصطناعي، تضم أربعين خبيرًا، بهدف جعل “السيطرة البشرية حقيقة تقنية”، ليس حدثًا عابرًا في سجل المبادرات الأممية. إنه اعتراف صريح بأن الخوارزميات لم تعد مجرد أدوات مساعدة، بل أصبحت فاعلًا مؤثرًا في إعادة تشكيل السلطة والمعنى والأمن. والسعي إلى جعل السيطرة البشرية “حقيقة تقنية” يعني، في جوهره، نقل هذا المبدأ من مستوى الإعلان الأخلاقي إلى مستوى التصميم الهندسي والمؤسساتي، بحيث تُدمج آليات التفسير والمراجعة والتدخل والتوقيف داخل بنية النظام الذكي ذاته، وتظل المسؤولية النهائية محددة بشريًا وقابلة للمساءلة.
السؤال لم يعد: هل نستخدم الذكاء الاصطناعي؟
بل: من يتحكم في من؟ وأين تنتهي سلطة الإنسان وتبدأ سلطة الخوارزمية؟
ما المقصود بالسيطرة البشرية؟
المفهوم في ظاهره تقني: إبقاء الإنسان داخل دائرة اتخاذ القرار، خاصة في المجالات الحساسة كالأمن والدفاع والقضاء. لكنه في عمقه مسألة سياسية وأخلاقية. فحين تتخذ أنظمة ذكية قرارات تمس الحرية أو السمعة أو الأمن، دون قدرة حقيقية على تفسير منطقها، فإننا نكون أمام سلطة غير مرئية، بلا مسؤولية واضحة.
السيطرة البشرية هنا ليست مجرد حضور رمزي للإنسان، بل تعني تحويل أولوية الإنسان إلى بنية تشغيلية فعلية: قابلية القرار للتفسير، إمكانية مراجعته، تحديد المسؤولية عند الخطأ، وربط التقنية بالمحاسبة. إنها محاولة واعية لمنع تحوّل الخوارزمية إلى سلطة مستقلة، ولضمان أن تبقى أداة في يد الفاعل العمومي، لا بديلاً عنه. إنها، بتعبير أدق، هندسة للمساءلة داخل قلب الشيفرة.
الأمن في العصر الخوارزمي
عالميًا، تتسع رقعة استعمال الذكاء الاصطناعي في الحقل الأمني: تحليل المعطيات الضخمة، التنبؤ بالمخاطر، إدارة الحدود، رصد الشبكات الإجرامية. غير أن الإشكال لا يكمن في الاستخدام ذاته، بل في غياب إطار واضح يضمن التوازن بين الفعالية والحقوق.
الخطر الأكبر ليس في “ذكاء” الآلة، بل في تضخم سلطة غير خاضعة للنقاش العمومي. فحين تتحول الخوارزمية إلى مرجع تقني يعلو على النقاش السياسي، قد نجد أنفسنا أمام ما يمكن تسميته بـ”الأمن المؤتمت”، حيث تتوارى المسؤولية خلف الشيفرة، ويُستبدل التقدير البشري بحساب احتمالي غير قابل للفحص العمومي.
المغرب والتحول الرقمي: بين الفرصة والمخاطرة
المغرب منخرط في مسار رقمي متسارع، سواء في الإدارة العمومية أو في المنظومة الأمنية أو القضائية. غير أن إدماج الذكاء الاصطناعي في هذه المجالات يطرح سؤالًا استراتيجيًا: هل نملك إطارًا معياريًا واضحًا يضمن السيطرة البشرية الفعلية، لا الرمزية؟
إذا كان التحول الرقمي ضرورة تنموية، فإن العدالة التوقعية ضرورة سياسية وأخلاقية. أي أن الرهان لا يتمثل فقط في معالجة الاختلالات بعد وقوعها، بل في استباقها قبل أن تتحول إلى أزمات ثقة.
العدالة التوقعية في المجال الخوارزمي تعني:
تقييم الأثر الحقوقي قبل اعتماد أي نظام ذكي،
إخضاع الأنظمة الأمنية الخوارزمية لرقابة مستقلة،
تمكين القضاة والمحامين من أدوات فهم وتفكيك القرار الخوارزمي،
ضمان حق الأفراد في الطعن في القرارات الآلية. وبهذا المعنى، يصبح الاستباق جزءًا من الحكامة الأمنية، لا نقيضًا لها، وتصبح السيطرة البشرية ضمانة دستورية ضمنية لحماية التوازن بين الأمن والحرية.
السردية الأخطر: حياد الخوارزمية
من بين أكثر السرديات انتشارًا اليوم أن الخوارزمية أكثر حيادًا من الإنسان. غير أن الخوارزميات تُبنى على معطيات، والمعطيات تعكس اختيارات، والاختيارات تنطوي على تمثلات. وبالتالي فإن الحياد المزعوم قد يخفي انحيازًا غير مرئي، يتكرس بصمت تحت غطاء الموضوعية الرقمية.
و في السياق المغربي، حيث تتقاطع رهانات الإصلاح مع مطلب ترسيخ الثقة في المؤسسات، فإن تحويل القرار العمومي إلى مجال تقني مغلق قد يعيد إنتاج اختلالات الماضي بأدوات جديدة. ومن هنا فإن جعل السيطرة البشرية حقيقة تقنية هو أيضًا دفاع عن الذاكرة المؤسسية، وعن حق المجتمع في فهم كيف ولماذا يُتخذ القرار. السيطرة البشرية، إذن، ليست مجرد مسألة تقنية، بل دفاع عن المعنى، وعن مسؤولية الفاعل العمومي، وعن قابلية القرار للمساءلة.
نحو ميثاق وطني للذكاء الاصطناعي
إذا كانت الأمم المتحدة بصدد بلورة إطار عالمي، فإن اللحظة مناسبة لفتح نقاش وطني حول:
ميثاق مغربي للذكاء الاصطناعي قائم على حقوق الإنسان،
إلزامية دراسة الأثر الخوارزمي قبل اعتماد الأنظمة الحساسة،
– إحداث آلية مستقلة لتقييم الذكاء الاصطناعي في المجالين الأمني والقضائي،
– إدماج موضوع الحوكمة الخوارزمية في تكوين الفاعلين القانونيين.
إن الأمر لا يتعلق بإبطاء الرقمنة، بل بترشيدها. ولا بمواجهة التقنية، بل بعقلنتها وربطها بضوابط العدالة التوقعية.
وعلى سبيل الختم : من الانبهار إلى المساءلة
فالمعركة القادمة ليست حول امتلاك التكنولوجيا فقط، بل حول من يضع قواعد استخدامها. فإما أن تتحول الخوارزميات إلى أداة لتعزيز الشفافية والكفاءة، أو إلى سلطة صامتة تتوارى خلف خطاب الحياد التقني.
إن جعل “السيطرة البشرية حقيقة تقنية” هو، في جوهره، دفاع عن الإنسان كفاعل أخلاقي ومسؤول، لا كمجرد موضوع للمعالجة الحسابية.
وفي السياق المغربي، قد تكون هذه اللحظة فرصة للانتقال من حكامة تقنية إلى حكامة توقعية، تربط بين الأمن والحرية، بين الكفاءة والمسؤولية، وبين المعرفة والضمير المؤسسي.
فالذكاء الاصطناعي، مهما بلغ تطوره، يظل أداة. أما القرار، فيجب أن يظل إنسانيًا… وقابلًا للمساءلة.
مصطفى المنوزي
رئيس المركز المغربي للديمقراطية والأمن
