اعتبرت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، أن التطور المتسارع لأنظمة الذكاء الاصطناعي يفرض إعادة النظر في قواعد المساءلة القانونية، محذرة من أن تحديد المسؤولية عن القرارات التي تتخذها الأنظمة الذكية المستقلة سيكون من أبرز التحديات القانونية خلال السنوات المقبلة.
وخلال مشاركتها في جلسة رفيعة المستوى ضمن أشغال الحوار العالمي حول حكامة الذكاء الاصطناعي المنعقد بجنيف، أكدت السغروشني أن الجيل الجديد من أنظمة الذكاء الاصطناعي يعتمد على تفاعل عدة وكلاء رقميين يعمل كل منهم بشكل مستقل، ما يجعل تحديد الجهة المسؤولة عن أي خطأ أو ضرر أمرا بالغ التعقيد.
وأوضحت أن هذا النمط من الأنظمة لا يتيح دائما معرفة مصدر الخلل أو توقيته أو الجهة التي تسببت فيه، خاصة مع تعقيد النماذج المعتمدة واعتمادها على مليارات المتغيرات، وهو ما يستدعي تطوير أدوات قانونية وتقنية جديدة قادرة على مواكبة هذا التحول.
واستشهدت الوزيرة بحجم المعاملات الإدارية التي يعالجها المغرب سنويا، والتي تبلغ نحو 52 مليون معاملة، معتبرة أن تتبع مصدر الخطأ داخل هذا الكم من العمليات يشكل تحديا حقيقيا في ظل توسع استخدام تقنيات الذكاء الاصطناعي.
ولمواجهة هذه الإشكالات، دعت السغروشني إلى اعتماد نموذج جديد للحكامة يقوم على تحليل مسار القرارات التي تتخذها الأنظمة الذكية، بما يسمح بتحديد المسؤوليات بصورة أكثر دقة، حتى في الحالات التي تتداخل فيها عدة أنظمة أو جهات في صناعة القرار.
وشددت على ضرورة إرساء ثلاث ضمانات أساسية، تتمثل في توثيق جميع مراحل عمل الأنظمة الذكية، وتحديد مسؤول بشري عن كل قرار يمس حقوق الأفراد، إلى جانب تمكين المتضررين من آليات فعالة وسريعة للانتصاف.
وأكدت الوزيرة أن التطور التكنولوجي لا ينبغي أن يكون مبررا لإعفاء الأنظمة الذكية من الخضوع للقانون، داعية إلى بناء حكامة استباقية ترتكز على حماية حقوق الإنسان، وتعزيز آليات التتبع والتدقيق والإشراف البشري، مع مراعاة خصوصيات كل دولة ومتطلبات التنمية لديها.
