هشام بلاوي يحذر من مخاطر الذكاء الاصطناعي على العدالة وحقوق الإنسان

أكد هشام بلاوي، الوكيل العام للملك لدى محكمة النقض ورئيس النيابة العامة، أن تقنيات الذكاء الاصطناعي تتيح إمكانات مهمة لتطوير منظومة العدالة، من خلال تحسين أساليب البحث والتحري، وتحليل المعطيات الرقمية، ورصد الأنشطة الإجرامية، والكشف عن الجرائم السيبرانية والأنشطة الإجرامية العابرة للحدود.

وشدد بلاوي، خلال افتتاح الدورة التكوينية الأولى حول موضوع «الذكاء الاصطناعي وحقوق الإنسان»، التي احتضنتها مدينة فاس يوم الاثنين 19 أكتوبر 2026، على ضرورة الاستفادة من هذه التقنيات بما يعزز نجاعة العدالة وجودة أدائها، مع الالتزام بالمشروعية القانونية واحترام الحقوق والحريات الأساسية.

وأوضح رئيس النيابة العامة أن توظيف الأنظمة الذكية في مجال العدالة الجنائية يثير مجموعة من التحديات المرتبطة بدقة النتائج وإمكانية تفسيرها والتحقق منها، فضلاً عن حماية الحياة الخاصة والمعطيات الشخصية، والمخاطر المحتملة للتمييز أو المساس بضمانات المحاكمة العادلة.

الذكاء الاصطناعي بين تطوير البحث الجنائي وضمانات المحاكمة العادلة

وخلال هذا اللقاء التكويني، المنظم من طرف رئاسة النيابة العامة بدعم من مركز جنيف لحوكمة قطاع الأمن، أبرز بلاوي أهمية إخضاع مخرجات الذكاء الاصطناعي للفحص والتحقق والتقييم النقدي، وعدم التعامل معها باعتبارها حقائق نهائية أو نتائج غير قابلة للمراجعة.

وأكد في هذا السياق ضرورة التمييز بين المؤشرات التي تنتجها الأنظمة التقنية والأدلة التي يمكن الاستناد إليها قانونياً، مع التحقق من مصادر الأدلة الرقمية وسلامتها، ومشروعية الحصول عليها، ومدى موثوقية الأدوات المستخدمة في تحليلها.

كما شدد على أن اعتماد التقنيات الذكية في المجال القضائي يجب ألا يمس بقرينة البراءة أو الحق في الدفاع أو استقلال التقدير القضائي، داعياً إلى ضمان إشراف بشري فعلي على استخدامها، وتحديد المسؤوليات بشكل واضح، وإرساء آليات للمساءلة وتصحيح الأخطاء.

واعتبر المسؤول القضائي أن التكنولوجيا ينبغي أن تظل أداة مساعدة في خدمة القانون والعدالة، دون أن تتحول إلى بديل عن التقييم البشري أو عن الضمانات القانونية التي تحكم سير العدالة الجنائية.

مرجعيات دولية لتأطير استخدام الذكاء الاصطناعي

وفي معرض حديثه عن الضوابط المؤطرة لهذه التكنولوجيا، استحضر رئيس النيابة العامة عدداً من المرجعيات الدولية المتعلقة بحكامة الذكاء الاصطناعي، من بينها توصية منظمة الأمم المتحدة للتربية والعلم والثقافة بشأن أخلاقيات الذكاء الاصطناعي لسنة 2021، ومبادئ منظمة التعاون والتنمية الاقتصادية لسنة 2019، والاتفاقية الإطارية لمجلس أوروبا بشأن الذكاء الاصطناعي وحقوق الإنسان والديمقراطية وسيادة القانون لسنة 2024، فضلاً عن أعمال المفوضية السامية للأمم المتحدة لحقوق الإنسان.

وأشار بلاوي إلى أن هذه المرجعيات تؤكد ضرورة احترام حقوق الإنسان، وتعزيز الشفافية والمساءلة، ومكافحة التمييز، وضمان الإشراف البشري، إلى جانب اعتماد مقاربة قائمة على تقييم المخاطر ومراعاة التناسب بين طبيعة الاستخدام والتدابير المتخذة والآثار المحتملة.

وتبرز هذه المبادئ، وفق ما عرضه المسؤول القضائي، أهمية وضع ضوابط واضحة لاستخدام الأنظمة الذكية في المؤسسات القضائية، بما يضمن الاستفادة من إمكاناتها التقنية دون الإضرار بالحقوق والحريات أو المساس بالثقة في العدالة.

الرقمنة ضمن المخطط الاستراتيجي لرئاسة النيابة العامة

وفي ما يتعلق بتحديث العمل القضائي بالمغرب، أكد بلاوي أن مواكبة التحول الرقمي تشكل أحد التوجهات الاستراتيجية لرئاسة النيابة العامة، بهدف تطوير الأداء القضائي، وتأهيل الموارد البشرية، وتحديث أساليب العمل، والارتقاء بجودة الخدمات المقدمة للمرتفقين.

وأوضح أن هذا التوجه ينسجم مع المرتكز الثالث للمخطط الاستراتيجي لرئاسة النيابة العامة للفترة 2026-2028، الذي ينص على اعتماد الرقمنة وإدماج التكنولوجيا الحديثة باعتبارهما خياراً استراتيجياً لتطوير الأداء.

وأضاف أن استخدام أدوات الذكاء الاصطناعي في تحليل كميات كبيرة من المعطيات، ودعم الأبحاث المتعلقة بالجرائم السيبرانية والاحتيال المالي وبرمجيات الفدية والجريمة المنظمة، يمكن أن يسهم في تعزيز قدرات البحث والتحري، شريطة احترام الاختصاصات القانونية للنيابة العامة وضمان قانونية الإجراءات وسلامة الأدلة الرقمية وموثوقيتها.

وشدد في المقابل على ضرورة عدم إحلال التقدير الآلي محل التقييم القضائي، بما يحافظ على دور العنصر البشري في اتخاذ القرارات التي تمس الحقوق والحريات.

قانون المسطرة الجنائية إطار لضمان مشروعية الإجراءات

وأكد رئيس النيابة العامة أهمية التقيد بمقتضيات قانون المسطرة الجنائية رقم 03.23، الذي دخل حيز التنفيذ في 8 دجنبر 2025، باعتباره الإطار القانوني المنظم لإجراءات البحث والتحري وجمع الأدلة وممارسة الدعوى العمومية.

ويكتسي هذا الالتزام أهمية خاصة في ظل توسع استخدام الوسائل الرقمية في التحقيقات الجنائية، وما يفرضه ذلك من ضرورة التحقق من مشروعية الحصول على الأدلة الإلكترونية، وضمان سلامتها وقابليتها للاعتماد القانوني.

تكوين المسؤولين القضائيين في مجالات الذكاء الاصطناعي

وتعرف الدورة التكوينية مشاركة مسؤولين قضائيين من النيابة العامة، فيما يؤطر أشغالها خبيران دوليان متخصصان في مجال الذكاء الاصطناعي.

ويتضمن البرنامج محاور تتعلق بالمفاهيم الأساسية لهذه التكنولوجيا، وأطر حكامتها على المستوى الدولي، وتأثيراتها على الحقوق والحريات، فضلاً عن تطبيقاتها في الأبحاث الجنائية وتحليل الأدلة الرقمية ومكافحة الجرائم السيبرانية.

ويروم هذا البرنامج تمكين المسؤولين القضائيين من الاطلاع على التجارب المقارنة والممارسات الفضلى، وتعميق فهمهم للإشكالات التقنية والقانونية والحقوقية المرتبطة باستخدام الذكاء الاصطناعي في العدالة الجنائية، بما يدعم تطوير الممارسة القضائية ويعزز ضمانات حماية حقوق الإنسان.