تتناول هذه الدراسة موضوعا مستحدثا بشأن أهمية وضع إطار قانوني متكامل في الحوادث الناجمة عن المركبات ذات التفويض في القيادة، وقد قسمت إلى مطلب تمهيدي ومبحثين رئيسين.
تم إلقاء الضوء، في المطلب التمهيدي، حول مفهوم المركبات ذات التفويض بالقيادة، وبيان مزايا استخدامها والمخاطر المحتملة، ما يشير لأهمية التأطير القانوني لتلك المركبات على المستويين الدولي والداخلي. وهذا ما تم تناوله في المبحثين األول والثاني. إذ تم إبراز أهم االتفاقيات الدولية ذات الصلة، وصوال إلى االتفاقية األوروبية الخاصة بالذكاء االصطناعي، موضحين أحكامها التمهيدية وأحكام مستويات المخاطر الواردة فيها، في المبحث األول.
أما المبحث الثاني؛ فقد تناول التنظيم القانوني الداخلي للحوادث الناجمة عن المركبات ذات التفويض في القيادة، من خالل إبراز التدابير الوقائية اإلدارية لترخيص المركبات ذات التفويض في القيادة المؤكدة على أهمية وجود السائق للتحكم بالقيادة عند اللزوم، مستعرضين أمثلة من التشريعات الغربية كألمانيا وفرنسا وإيطاليا والمملكة المتحدة، وبعض البلدان العربية كدولة قطر واإلمارات العربية المتحدة والمملكة العربية السعودية.
كما عنى هذا المبحث في إبراز نطاق المواجهة الجنائية للحوادث الناجمة عن المركبات ذات التفويض في القيادة، بالتمييز بين الجريمة المرتكبة ضمن سياق مبتكر؛ حيث التحكم الديناميكي بالمركبة من قبل النظام أو السائق؛ وقيام المسؤولية الجنائية التقليدية والمستحدثة، من حيث مدى كفاية األحكام التقليدية واإلبقاء على العناصر المؤلفة للجريمة في المخالفات المرورية؛ حيث افتراض المسؤولية لكل من السائق والمصنع، خالفا للمسؤولية الجنائية عن جرائم القتل واإليذاء الخطأ؛ فإذا كان يكفي إثبات خطأ السائق البسيط المباشر لقيام مسؤوليته الجنائية تطبيقا لألحكام العامة، إال أن األمر غير ذلك بالنسبة لمسؤولية المصنع غير المباشرة، ما يشير إلى أهمية التدخل التشريعي لمساءلته عن الخطأ الجسيم، وذلك بتعديل أحكام كل من قانون العقوبات وقانون المرور، إضافة ألهمية أحكام تنظيمية للصندوق األسود في تلك المركبات بالنظر لأهميته كوسيلة من وسائل الإثبات.
شهد العالم مؤخرا اهتماما ملحوظا في تقنيات الذكاء الاصطناعي وتطوير تطبيقاتها المتنوعة لا سيما فيما يسمى بالسيارات الذكية أو المركبات المستقلة ذاتية القيادة.
تبرز إشكالية الدراسة في ظهور العديد من التحديات والإشكاليات التي ينبغي أخذها بعين الاعتبار لدى التعامل مع تلك المركبات. لا سيما فيما يتعلق بشأن تحديد نطاق المسؤولية القانونية الناجمة عما تتسبب به المركبات ذات التفويض في القيادة من حوادث.
على الرغم من قلة المراجع والدراسات السابقة، تحرص هذه الدراسة على الإجابة عن مجموعة من التساؤلات بشأن طبيعة الجرائم الممكن ارتكابها، والأساس القانوني للدعاوى الجنائية بشأن الاعتداءات الجسدية والمادية الناجمة عن حوادث المركبات ذات التفويض في القيادة، وتحديد طبيعة الأشخاص ممن تسند إليهم المسؤولية الجنائية عن تلك الحوادث، فيما إن كان المالك أو السائق من جهة أم المشغل أو المصنع من جهة أخرى، لا سيما لدى تعذر إثبات خطأ السائق.
تتجلى أهمية الدراسة في الآلية التي يمكن فيها للتشريعات الوطنية مواكبة التطورات التقنية، والموازنة بين الحاجة المستمرة لتطوير المركبات المستقلة ذاتية القيادة، مع المحافظة في الوقت ذاته على الحقوق والحريات الأساسية.
تتلخص أهداف الدراسة في اقتراح نهج قانوني متكامل لمواجهة الحوادث الناجمة عن قيادة المركبات ذات التفويض في القيادة، علما بأن نطاق البحث ينحصر ضمن إطار تنظيم المسؤولية الإدارية والجنائية في التشريعات الداخلية تطبيقا لأحكام الاتفاقيات الدولية. باستخدام منهجية البحث الوصفي والتحليلي والمقارن.
وعليه قسمنا خطة البحث إلى مطلب تمهيدي ومبحثين رئيسين وفق التفصيل التالي:
المطلب التمهيدي: مفهوم المركبات ذات التفويض في القيادة، المزايا ومخاطر استخدامها
المبحث الأول: التنظيم التشريعي الدولي للحوادث الناجمة عن المركبات ذات التفويض في القيادة
المبحث الثاني: التنظيم التشريعي الوطني للحوادث الناجمة عن المركبات ذات التفويض في القيادة
مختتمين الدراسة بمجموعة من النتائج والتوصيات.
مفهوم المركبات ذات التفويض في القيادة، المزايا ومخاطر استخدامها
لبيان الإطار القانوني بشأن الحوادث الناجمة عن المركبات ذات التفويض في القيادة، ينبغي علينا بداية تحديد مفهوم المركبات ذات التفويض في القيادة (فرع أول) وإلقاء الضوء على المزايا والمخاطر المترتبة على استخدامها (فرع ثان).
الفرع الأول
مفهوم المركبات ذات التفويض في القيادة
تعد المركبات ذات التفويض في القيادة إحدى تطبيقات الذكاء الاصطناعي)1(، وتقع ضمن إطار المركبات الآلية؛ إذ تم تطوير تقنيات الذكاء الاصطناعي في تسيير المركبات والسيطرة عليها نسبيا عوضا عن القائد البشري)2(. على الرغم من المباشرة المستمرة في تطوير العديد من السيارات والمركبات ذاتية القيادة كليا، والتي تعرف بقدرتها على الملاحة واستشعار محيطها البيئي باستبعاد التدخل البشري)3(، باستخدام كاميرات الأشعة تحت الحمراء والكاميرات ثلاثية الأبعاد والرادارات ومستشعرات الموقع كأجهزة الاستشعار، والماسحات الضوئية الليزرية والموجات فوق الصوتية، إلا أنه لم يتم التصريح بسيرها كليا حتى يومنا هذا، فما زالت تحت التجربة. بل يقتصر التصريح حاليا – في بعض البلدان - على المركبات ذات التفويض في القيادة، وهي صورة من صور المركبات ذاتية القيادة نسبيا، إذ لا يمكن الاستغناء حاليا عن ضرورة وجود السائق داخل المركبة وتدخله نسبيا للحيلولة دون وقوع حادث متوقع. بمعنى أنه لا بد من تواجد السائق بالمركبة حتى وإن قام بتفويض القيادة لنظامها)4(.
حدد المشرع القطري مفهوم المركبات في المادة الأولى من قانون المرور(5) وقسمها إلى نوعين: آلية وغير آلية؛ إذ تشمل المركبات الآلية كل المركبات التي تسير بمحرك آلي وتسمى بالمركبات الميكانيكية؛ في حين تشمل المركبات غير الآلية كافة المركبات التي تسير بالقوة الجسدية لإنسان أو حيوان.
في فرنسا عرف المشرع الفرنسي المركبات ذات التفويض في القيادة بأنها تلك المركبات المزودة بنظام قياس آلي يمارس التحكم الديناميكي للمركبة التي تملك القدرة على الاستجابة لأي خطر أو عطل مروري، دون الحاجة إلى طلب التحكم أثناء مناورة في مجال التصميم الفني للنظام التقني للنقل البري الآلي الذي تتكامل فيه هذه المركبة(6).
كما عرفها المشرع الألماني أيضا بأنها تلك المركبات الخاصة المزودة بتقنيات تحكم في مهام القيادة، بما فيه من توجيه طولي وعرضي، بعد تنشيطها من قبل السائق، وقدرتها على احترام الإشارات المرورية لدى توليها القيادة، مع إمكانية إلغاء ذلك التنشيط يدويا، في كل وقت، من قبل السائق. كما يمكن للمركبة العمل على تنبيه السائق بشكل بصري أو صوتي أو تكتيكي أو غير ذلك، والإشارة له بضرورة استعادة السيطرة على المركبة يدويا حالا، وذلك قبل وقت كاف نسبيا قبل تسليمه استعادة التحكم بالمركبة(7).
الفرع الثاني
المزايا والمخاطر المترتبة على استخدام المركبات ذات التفويض في القيادة
على الرغم من المزايا الهائلة للمركبات ذات التفويض في القيادة (أولا) إلا أنها لا تخل من المخاطر المحتملة (ثانيا).
أولا: مزايا المركبات ذات التفويض في القيادة:
تحقق المركبات ذات التفويض في القيادة جملة من المزايا الاقتصادية والاجتماعية، كتطبيق من تطبيقات الذكاء الاصطناعي بما يفتحه من آفاق جديدة للتطور الحضاري وتحسين حياة الأفراد؛ إذ تساهم تلك المركبات بتنظيم حركة المرور على الطرق، بالنظر لقدرتها على قطع المسافات دون تدخل من السائق (القائد البشري)، والسير على الطرق السريعة وتتبع الطرق للسير بذاتها، حتى مع اكتظاظ حركة السير والمرور، بقدرتها على إيجاد مسارات بديلة للحد من حالات الازدحام والاختناقات المرورية؛ إذ بإمكانها أن تومض وتجاوز المركبات أو الأجسام الأخرى وتغيير مسارها والتوقف وفق الأحوال.
كما تساهم المركبات ذات التفويض في القيادة بتقليص حوادث السير والمرور وما يترتب عليه من انخفاض نسبة الإصابات والوفيات الناجمة بالنتيجة(8). وهي الحجة الرئيسة المقدمة لتبرير الاستثمارات الهامة في هذا القطاع(9).
فضلا عن المزايا البيئية؛ إذ تساهم هذه المركبات في الحد من تلوث البيئة بشكل ملموس عندما يتم الاعتماد في تشغيلها على الطاقة النظيفة كالكهرباء ومساهمتها بتخفيض انبعاث الغازات السامة كثاني أكسيد الكربون.
بالإضافة لمساهمتها في توفير الجهد والوقت؛ إذ توفر الجهد، من جهة، بالنظر لتميزها بخاصية الاستقلال الوظيفي نسبيا، بتوفيرها ما تحتاجه القيادة من تركيز ذهني وجهد عضلي، لا سيما بالنسبة لمن لا يجيدون القيادة وكبار السن، دون الحاجة إلى أي تدخل منهم أو مجهود؛ كما توفر الوقت، من جهة أخرى، بإتاحتها للمستخدمين إمكانية الانشغال نسبيا أثناء المسير بأنشطة أخرى بجانب التحكم بالقيادة كإجراء مكالمة هاتفية أو القراءة أو إنجاز أعمال مكتبية نسبيا متيحة بذلك الاستغلال الأمثل للوقت. وعلى الرغم من المزايا الكبيرة التي يمكن أن تحققها المركبات ذات التفويض في القيادة، إلا أن استعمالها قد ينطوي على مخاطر عديدة.
ثانيا: مخاطر المركبات ذات التفويض في القيادة:
تنطوي أنظمة الذكاء الاصطناعي على تهديدات فريدة ومخاطر جمة على البشرية. فقد حذر (سام ألتمان) مبتكر برنامج تشات جيبيتي(10) ((ChatGPT من أن صعود الذكاء الاصطناعي ينطوي على خطر "انقراض" للبشرية(11). ودون المبالغة في مخاطر استخدام تقنيات الذكاء الاصطناعي يمكن الإشارة إلى جملة من المخاطر المحتملة(12)؛ كاستبدال العمالة البشرية بالآلات(13)؛ وما يمكن أن يؤدي إليه من فقدان الوظائف، وما قد يتسبب برفع نسبة البطالة، أو بأزمة بطالة عالمية ماسة بالاقتصاد العالمي، وما قد ينشأ عنه من تفاوت في الثروة، واتساع الفجوة بين الأغنياء والفقراء، وحصول المستثمرين على حصة الأسد من الأرباح، متسببا بتضخم هشاشة الفقراء، والمساس بالأمن الإنساني لضمان حياة كريمة.
كما قد يؤدي إلى تكريس عدم المساواة والتمييز بين الأشخاص: بالتسبب في تصرفات خطيرة ومتحيزة عنصريا من خلال تجاهل الخوارزميات؛ كإشكالية الخوارزميات بشأن ذاتية التعلم المصممة لتحليل بيانات ضخمة وصولا لفئات محددة من الأشخاص، كالإعلان عن وظائف لفئات واستبعاد غيرهم على أساس الدين أو العرق أو الجنس.
فضلا عن مخاطر خاصة بالمركبات ذات التفويض في القيادة، وما تواجهه من عقبات: كاشتراطات البنية التحتية، من حيث أهمية انتشار الشبكات التي تزود العامة بخدمة الإنترنت، بالنظر لحاجة تلك المركبات الاتصال بالإنترنت بصفة مستمرة؛ إلى جانب صعوبة العمل في الظروف الجوية القاسية، فسوء الأحوال الجوية مثلا يمثل عوامل خطرة ويشكل تحديات كبيرة أمام استخدام تلك المركبات بالنظر لما قد تحدثه التقلبات الجوية من تشويش مستشعرات الأنظمة الملحقة بالمركبة.
إضافة إلى إمكانية المساس بالحق في الحياة والسلامة الجسدية للإنسان؛ بالتوجه ذاتيا للتعدي على الأشخاص أو الأموال عمدا أو خطأ. وإمكانية وقوع حوادث السير وما ينجم عنها من أضرار بالأموال والأشخاص ووفيات.
ناهيك عن إمكانية التعدي على الحق في خصوصية المستخدمين وغيرها من حقوق الإنسان المنصوص عليها في المواثيق الدولية(14). بالنظر لاعتماد تلك الأنظمة للتفويض بالقيادة على نظام تحديد المواقع العالمي (GPS)، وما يرافقها من خطر تتبع تحركات الأشخاص وتسجيلها.
فضلا عن مخاطر التشغيل بالنظر لقابلية أنظمتها التقنية للقرصنة والاختراق، والتعرف التلقائي، وارتفاع كلفة الإنتاج من تصنيع وصيانة، والحد من التواصل البشري، وغيرها من المخاطر، ما يشكل تحديا خطيرا، للحيلولة دون استعمالها في ارتكاب الجرائم، والقيادة الآمنة.
إذا كانت التطورات التكنولوجية شبه جاهزة، هناك عدة عقبات قانونية طويلة يخشى أن تعرقل وصول المركبة ذات التفويض في القيادة، والتي تعمل بسرعة على تنوع المركبات. إذ ينبغي على المشرع ضرورة التدخل بسرعة لإنشاء إطار قانوني مناسب للسيطرة على مخاطرها(15)، وضمان تطويرها بأمان خلال السنوات القادمة(16).
بناء على ما تقدم، وفي سبيل الموازنة بين الاستفادة من مزايا المركبات ذات التفويض في القيادة وتجنب مخاطرها، تظهر ضرورة التنظيم التشريعي وأهميته(17)، على المستويين الدولي والداخلي على حد سواء، وهذا ما سنتناوله في المبحثين التاليين:
المبحث الأول: التنظيم التشريعي الدولي للحوادث الناجمة عن المركبات ذات التفويض في القيادة
المبحث الثاني: التنظيم التشريعي الوطني للحوادث الناجمة عن المركبات ذات التفويض في القيادة
التنظيم التشريعي الدولي للحوادث الناجمة عن المركبات ذات التفويض في القيادة
تطور التنظيم التشريعي للحوادث الناجمة عن المركبات ذات التفويض في القيادة كإحدى تطبيقات الذكاء الاصطناعي تدريجيا على المستويين الدولي والإقليمي، وذلك مرورا باتفاقيات دولية عامة ذات الصلة بقيادة المركبات أو بالذكاء الاصطناعي (مطلب أول) وصولا إلى الاتفاقية الأوروبية الخاصة بالذكاء الاصطناعي (مطلب ثان).
المطلب الأول
الاتفاقيات الدولية العامة ذات الصلة
اهتم المجتمع الدولي بإصدار مجموعة من الاتفاقيات الدولية ذات الصلة بقيادة المركبات (فرع أول) واتفاقيات دولية أخرى ذات الصلة بالذكاء الاصطناعي (فرع ثان).
الفرع الأول
الاتفاقيات الدولية ذات الصلة بقيادة المركبات
نتيجة لانتشار وسائل النقل ولتيسير حركة المرور الدولية على الطرق، وزيادة السلامة على الطرق من خلال اعتماد قواعد مرور موحدة، أصدر المجتمع الدولي ممثلا في الأمم المتحدة عدة اتفاقيات لملاءمة جميع المقاربات القانونية الوطنية المختلفة بشأن التنقل والمواصلات من بينها اتفاقية جنيف لسنة 1949(18) واتفاقية فيينا بشأن المرور على الطرق في 8 نوفمبر 1968(19). وتتعلق هذه الاتفاقية بالمركبات التقليدية؛ حيث جاء في المادة (1) من هذه الاتفاقية تعريف السائق في الفقرة السابعة بأنه: "أي شخص يتولى قيادة مركبة ميكانيكية أو أي مركبة أخرى". كما جاء في المادة (8) منها بأن: "1. كل مركبة أو مجموعة من المركبات يجب أن يكون لها سائق؛ ..؛ 3. يجب أن يمتلك كل سائق القدرة الجسدية والعقلية اللازمة وأن يكون في حالة بدنية وعقلية مناسبة للقيادة ... 5. يجب أن يكون كل سائق قادرا في جميع الأوقات على التحكم في مركبته".
ومواكبة للتطورات التقنية في استيعاب المركبات ذات التفويض في القيادة، تم تعديل المادة (8) من اتفاقية فيينا أعلاه سنة 2016، وذلك بإضافة فقرة جديدة (5 مكرر) لتنص على أن: "المركبة تكون دائما تحت السيطرة إذا كانت أنظمتها تسمح لسائقها بأن يكون قادرا في جميع الأوقات على التحكم في المركبة أو توجيهها". ما يعني عدم الاستغناء عن وجود السائق لدى استخدام أنظمة المساعدة الآلية في القيادة، ليتمكن من استعادة التحكم الكامل بها حال تعطل تلك الأنظمة. وبالتالي، يمكن القول إن مجال اتفاقية فيينا يغطي المركبات ذات التفويض في القيادة، المستوى الثالث(20).
الفرع الثاني
الاتفاقيات الدولية ذات الصلة بتطبيقات الذكاء الاصطناعي
أمام الحاجة الملحة لعمل دولي سريع يضمن تطوير تطبيقات الذكاء الاصطناعي بشكل مسؤول وآمن في شتى بقاع العالم، يظهر التعاون الدولي حجر الزاوية كأولوية وصولا لنهج مشترك(21).
على الصعيد الدولي الأوروبي كان الاتحاد الأوروبي رائدا في وضع نماذج قواعد تشريعية مبتكرة مرتكزة على حقوق الأفراد من مواطنين ومستخدمين على حد سواء، حتى بات هناك العديد من النصوص المستجدة المعتمدة وفي طور الظهور، نورد أبرزها:
إذ أصدر الاتحاد الأوروبي، منذ وقت طويل، النظام الأوروبي العام بشأن حماية البيانات (General Data Protection Regulation) لسنة 2016، مستندا إلى مبادئ تضمنتها المذكرة في ذات الشأن أي حماية البيانات لسنة 1995.
كما استحدث الاتحاد الأوروبي قانون الخدمات الرقمية (Digital Services Act (DSA))، واضعا فيه قواعد تحمل فيه المنصات الإلكترونية المسؤولية عن المحتوى الذي تستضيفه. كذلك اعتمد الاتحاد الأوروبي قانون الأسواق الرقمية (Digital Markets Act (DMA))، فارضا من خلاله التزامات على ما يسمى بـ (حراس البوابات الرقمية) للحد من هيمنة عمالقة التكنولوجيا وحماية المنافسة(22). واستمرت التطورات في مجال الذكاء الاصطناعي في دفع أوروبا إلى المضي قدما في العملية التشريعية بإصدار كل من Data Governance Act (DGA)- Data Act (DA).
حتى أقر البرلمان الأوروبي مؤخرا مشروع قانون شامل يسمى بقانون الذكاء الاصطناعي (Artificial Intelligence Act (AIA)) لتنظيم الذكاء الاصطناعي. بالنظر لأهمية تطبيقات الذكاء الاصطناعي في العديد من المجالات كالمجال الطبي والقيادة الذاتية. ساعيا للتخفيف من وطأة المخاطر الناجمة عن تطبيقات الذكاء الاصطناعي، وضامنا في الوقت ذاته حماية الحقوق الأساسية للأفراد(23).
المطلب الثاني
قانون الذكاء الاصطناعي الأوروبي
يعد قانون الذكاء الاصطناعي الأوروبي من النصوص الدولية الأولى، التي تنص على قواعد تنظيمية شاملة للذكاء الاصطناعي، مشكلا علامة فارقة، صادرة عن المجلس الأوروبي، لتصبح قابلة للتطبيق سنة 2025. وقد يصبح القانون مرجعية بشأن معايير أنظمة الذكاء الاصطناعي وحماية المستخدم، لدى اعتماده من الدول.
هذا النظام، المسمى بـ "التوجيه العام" يعد نظاما أساسيا، مسهلا مواكبة تطور تطبيقات الذكاء الاصطناعي بنهج متبوع بالحقوق(24)، بتحديده المعايير التي ينبغي احترامها للسماح بتسويق أنظمة الذكاء الاصطناعي. وبعبارة أخرى لا تنظم هذه النصوص حقوق الملكية الفكرية، ولا المسؤولية الناجمة عن خلل نظام الذكاء الاصطناعي، بل تقتصر فقط على ترخيص هذه الأنظمة، وتحقيق الأمن القانوني لدى استخدام هذه الأنظمة، ما يسمح للمستخدمين استخدامها ضمن إطار من الثقة، ضمن إطار قواعد شفافة محددة ومعروفة للجميع.
لتلخيص أهم ما ورد في هذه النصوص(25)، يمكن الإشارة لأبرز الأحكام العامة (فرع أول) والأحكام الناظمة لمستويات المخاطر (فرع ثان).
الفرع الأول
الأحكام العامة لقانون الذكاء الاصطناعي الأوروبي
يتطلب وضع نظام ذكاء اصطناعي عدة أطراف: من تصور (من يهيكل أساس المعطيات) ومن يطور، ومن يسوق، ومن يسوق عبر وكيل، ومن يستخدم. فكل هؤلاء المعنيين: المصنع- المستورد – الموزع – والمستخدم معنيون بهذا المشروع للذكاء الاصطناعي.
تركز الأحكام العامة في هذه الاتفاقية على بيان مفاهيم أساسية (أولا) ضمن حدود جغرافية واسعة (ثانيا).
أولا: مفاهيم رئيسة(26):
هناك مفهومان رئيسان ينبغي دراستهما:
1. مزود الذكاء الاصطناعي (Fournisseur IA).
2. نظام الذكاء الاصطناعي (Système d’IA).
1. بالنسبة لمزود الذكاء الاصطناعي النص يعطيه دورا رئيسا، وقد عرفه بأنه: "من يطور أو يعمل على تطوير نظام ذكاء اصطناعي لغايات طرحه في السوق أو وضعه في الخدمة باسمه أو ماركته الخاصة، بمقابل أو مجانا".
وبالتالي ينبغي على مزود الذكاء الاصطناعي العمل على الالتزام بموافقة نظام الذكاء الاصطناعي لكافة المعايير والقواعد المحددة في النظام. أما بالنسبة لباقي الأطراف من مستورد وموزع ومستخدم؛ فينبغي عليهم اليقظة والانتباه؛ إذ يمكن أن يكون أي منهم مسؤولا لدى تعديله بشكل هام نظام ذكاء اصطناعي. كما أتاح النص للشركات الصغيرة مستوى هامشي ليتسنى لها العمل على موافقة أوضاعها حتى دخول هذه النصوص حيز التطبيق أي قبل 2025.
2. المفهوم الثاني الهام، هو نظام الذكاء الاصطناعي. وقد عرفت اللجنة الأوروبية نظام الذكاء الاصطناعي بأنه: "برمجة تم تطويرها عبر مقاربات قائمة على التعليم التلقائي الأوتوماتيكي والمنطق والمعارف أو عبر الإحصاءات، والذي يمكن لمجموعة ما لأغراض معرفة من الإنسان، تؤدي لنتائج كمحتوى مستمر من التنبؤات والتوجيهات أو بقرارات تؤثر على البيئات التي يتفاعل معها"(27).
ثانيا: الحدود الجغرافية الواسعة:
أكد النص بوضوح أن القواعد الواردة في النظام تطبق على المزودين الموجودين في الاتحاد الأوروبي، كما ويطبق على المستخدمين الموجودين في الاتحاد الأوروبي، وكذلك أيضا على المزودين الموجودين خارج الاتحاد الأوروبي، ولكن نتائج النظام تقع فيه. وبالتالي ينبغي مراعاة ثلاث نقاط:
الفرع الثاني
الأحكام الناظمة لمستويات المخاطر(28)
حرص الاتحاد الأوروبي على بيان مستويات المخاطر (أولا) وأحكامها (ثانيا).
أولا: مستويات المخاطر
لعب الاتحاد الأوروبي دورا بارزا في إدراج مفهوم الخطر أو المخاطر ضمن هذا النظام:
حيث تبنى الاتحاد الأوروبي (4) أربعة مستويات من المخاطر لأنظمة الذكاء الاصطناعي.
خطر غير مقبول
خطر مرتفع
خطر محدود
خطر متدني
محظور.
شرط المواءمة – التطابق.
واجب الشفافية.
قواعد أخلاقية.
وعليه فإن:
الأنظمة ذات الخطر المتدني تخضع للقواعد الأخلاقية(32)، لتنظيمها دون إعاقة التطور، كحظر المعالجة المكثفة للمعطيات تجنبا لمخاطر الأخطاء أو الالتفاف والتمييز.
في مواجهة تلك التحديات المحتملة، وفي ظل تفاقم المخاوف من سوء استعمال الخوارزميات في التمييز والمراقبة والتضليل بنشر معلومات مضللة قد تمس الديمقراطية. حدد النظام جملة من الأفعال المحظورة: كاستخدامه في رصد القياسات الحيوية، واستغلال البيانات وفق سلوك الأشخاص الاجتماعي أو شخصيتهم، وتسمى بتقنيات التزييف العميق، وخوارزميات التوصية، وهي عبارة عن تلك المعادلات الرياضية المؤتمة، والتي تعمل على اقتراح المحتوى، باستخدام البيانات المتوافرة عبر الإنترنت، متوقعة إعجابه بمنتج معين، فتوصي به. مثل هذا المحتوى القائم على التقييم الاجتماعي يعد محتوى غير قانوني منحرف عن القيم، ويحظر بالنتيجة كل نظام ذكاء اصطناعي قائم على استغلال نقاط ضعف الأفراد (بالنظر للسن، أو الإعاقة، أو الوضع الاجتماعي، أو الاقتصادي) أو أي تلاعب بالسلوك البشري.
وتطبيقا لذلك؛ تم حظر ما يسمى بـ "الشرطة التنبؤية" باستخدام خوارزميات متخصصة وذلك بتصفية المعلومات المتعلقة بالسلوك الرقمي للمستخدم، لغايات التنبؤ بالجرائم والكشف عن هوية مجرمين مفترضين. فضلا عن منع استخدام تكنولوجيا التعرف التقائي على الوجوه، تلك التي تمكن من معرفة هويتهم لحظة بلحظة في الوقت الحقيقي وفي الأماكن العامة المتاحة للجمهور، لوضعها فئات واسعة من السكان تحت المراقبة، وما ينطوي عليه من انتهاك للحقوق والحريات الأساسية. كافة النظم المشار إليها أعلاه تعد ذات مخاطر غير مقبولة ومحظورة.
ثانيا: أحكام مستويات المخاطر:
يحتوي النص الأوروبي على مجموعة من المتطلبات والاشتراطات ينبغي التقيد بها من قبل المصممين والموزعين والمستخدمين لأنظمة الذكاء الاصطناعي المشروعة المصرح بها؛ حيث قسمت إلى فئات (أ)، محددا شروط تصريح الأنظمة الخطرة (ب).
أ) فئات أنظمة الذكاء الاصطناعي المصرح بها:
قسم النظام الأوروبي أنظمة الذكاء الاصطناعي المصرح بها إلى فئتين: الأنظمة المكونة لسلامة المنتج، مقابل الأنظمة المستقلة.
1. الأنظمة المكونة لسلامة المنتج، لا يمكن تسويقها ما لم يخضع المنتج لاختبار التوافق مع الجودة من قبل طرف ثالث مخول (مصرح) قبل طرحه في الأسواق. إلى جانب إمكانية التتبع ووثائق مراقبة. ومن الأمثلة على ذلك الألعاب الإلكترونية، بعض أجهزة السيارات، والمواد الطبية وغيرها؛ فإذا تم تقييم توافقها، تحصل على تصريح لطرحها في الأسواق.
2. أما بالنسبة للأنظمة المستقلة؛ فقد تم تعدادها ضمن لائحة تم إعدادها وفق وظيفة نظام الذكاء الاصطناعي، والغرض الذي يستخدم فيه هذا النظام.
(النقاشات ما زالت مستمرة لمعرفة فيما إن كانت أنظمة الذكاء الاصطناعي ذات النفع العام معنية؛ إذ قد يستثنى من الأحكام السابقة الاستعمالات العسكرية أو الأمن الوطني، ما يشكل ثغرة حقيقية).(33)
ضمن هذه اللائحة تم تقسيم القواعد التنظيمية فرعيا ضمن مجالات معرفة، كما هو الشأن في التعليم؛ كالتي تسمح بتقييم الطلبة؛ وفي التوظيف، كالتعيين، وتقييم العاملين؛ والأنظمة التي تسمح بالوصول إلى بعض الخدمات الخاصة أو العامة كما هو الشأن بالحسابات. فقد تم وضع قواعد تنظيمية صارمة بشأن حظر أنظمة الذكاء الاصطناعي التي تنطوي على تمييز في شأن التوظيف أو الحصول على المنافع العامة.
ب) شروط تصريح الأنظمة الخطرة:
لا يصرح بالأنظمة الخطرة ما لم تحترم بعض المتطلبات والشروط، كما هو شأن بعض الأنظمة في الأسواق كـ(البراغيث) والسيارات ولوحة المفاتيح إذ تخضع لمتطلبات تقنية.
للتصريح يمكن أن نذكر: وضع نظام إدارة المخاطر؛ وإعلامهم كيفية تفعيل مصداقية للنظام(34)؛ مراقبة النظام بعد تسويقه ومتابعته؛ رقابة إنسانية؛ وضع تعليمات الاستخدام للمستخدمين؛ السر.
وبناء عليه، للتصريح بتسويق النظام، حدد النظام الأوروبي شروطا متناسبة ونسبة المخاطر. فبالنسبة للأنظمة المستقلة، لا بد من تقييم من الغير وفق 150 قاعدة مرجعية؛ كما توجد اليوم مجموعة قواعد (ISO) خاصة بالذكاء الاجتماعي في طور الإعداد حديثا. وفي جميع الأحوال، يتم التقييم بالرجوع للمتطلبات المذكورة في هذا النظام، والتي تسمح بالحصول على (تقييم الموافقة)، مع تعليمه وذلك بوضع لوجو (CE)، ما يعني التأكد من هذا التوافق. ومدة صلاحية الشهادة: 5 سنوات.
أما بالنسبة للأنظمة ذات مخاطر محدودة ومتدنية، المتطلبات أقل أهمية، فلا تحتاج لشهادة توافق. فإذا كانت المخاطر محدودة، نص على شرط الشفافية. كالأنظمة التي تلتقط المشاعر، مثل (Chat box)، وبالتالي ينبغي إعلام المستخدم بأنه يتعامل مع نظام ذكاء اصطناعي. وإذا كانت المخاطر متدنية؛ فالمسؤولون مدعوون لاحترام الأخلاقيات.
وقد رصد النظام الأوروبي مجموعة من الجزاءات تتبناها الدول المعنية، كالغرامات المترتبة عن مخالفات تلك الأحكام. إذ ينبغي على الدول الأعضاء تحديد غرامات فاعلة ومتناسبة وواقية، محددا غرامات إدارية متفاوتة يمكن الاسترشاد بها وفق مخالفة مستوى الخطورة:
الأنظمة المحظورة: 30 مليون يورو أو 6% من العائد السنوي العالمي للشركة.
مخاطر مرتفعة: حتى 20 مليون يورو أو 4% من العائد السنوي العالمي.
الأخرى: حتى 10 مليون يورو أو 2% من العائد السنوي العالمي.
وبالتالي، تتراوح الغرامات من 10 – 30 مليون يورو أو من 2 - 6% من العائد السنوي العالمي، ما قد يتجاوز مليارات الدولارات. لذلك ينبغي على الدول العمل على موافقة أوضاعها مع تلك الأحكام، بالتركيز على ثلاثة محاور، من حيث العمل على كل من التثقيف والتدريب والتجهيز.
ومن الجدير بالذكر، الإشارة إلى استمرار المجتمع الدولي في مناقشة معايير السلامة العالمية لمراقبة وإدارة مخاطر الذكاء الاصطناعي بأمان، في العديد من المنتديات الدولية، بما في ذلك، مجلس الأمن ومنظمة التعاون الاقتصادي والتنمية والشراكة العالمية بشأن الذكاء الاصطناعي، والمجلس الأوروبي أعلاه(35)، والأمم المتحدة، والمنظمات المعنية بوضع المعايير مثل الأيزو، وغيرها كقمة نوفمبر المقبل في المملكة المتحدة بشأن سلامة وأمن الذكاء الاصطناعي(36)، وقمة المجلس الأوروبي لرؤساء دول الحكومات لمناقشة الأطر القانونية للذكاء الاصطناعي القائم على حقوق الإنسان(37).
بناء على ما تم الإشارة إليه من تشريعات دولية عامة، حتى الآن، وقلة وجود تشريعات خاصة منظمة لمركبات ذات التفويض في القيادة. وفي هذه الأثناء، كان على الأمم المتحدة أن تتدخل لوضع حد للتوسع القانوني العالمي، بتبنيها نظام دولي بشأن مجموعة القواعد الصارمة، حتى وإن أدت إلى عرقلة تطور تلك المركبات(38). فالمركبات ذات التفويض في القيادة لا يمكن تفعيلها إلا على الطرق التي تمنع مرور المشاة والدراجات الهوائية، كما ينبغي تحديد السرعة بحيث لا تزيد على 60 كلم/ ساعة، إضافة إلى تمتع السائق دائما بدور رئيس في قيادة المركبة، وحوار بين الإنسان والآلة يفرض نفسه.
وتجدر الإشارة إلى المبادئ التوجيهية الصادرة عن الأمم المتحدة التي توجب على الدول حماية الأشخاص من اعتداءات الشركات الخاضعة لولايتها القضائية، بما فيها الشركات التجارية عبر الوطنية المعنية بهذا الشأن، ما يعني تمكين الضحايا من الوصول إلى سبل إنصاف حقوقهم القضائية وغير القضائية(39).
استجابة للتحديات الجديدة بشكل مدروس، لم تسر المركبات ذات التفويض في القيادة - منذ 2015- إلا بشكل تجريبي. ولفتح الباب أمام استعمالها من قبل المستهلكين؛ فإن ذلك يتطلب تدخلا تشريعيا عاجلا(40)، كانعكاس للمعايير الدولية في التشريعات القانونية الوطنية(41).
التنظيم التشريعي الوطني للحوادث الناجمة عن المركبات ذات التفويض في القيادة
بالاطلاع على قانون المرور القطري، يلاحظ اشتراط المشرع وجود سائق مرخص لقيادة المركبة الميكانيكية، متوافقا في ذلك مع أحكام اتفاقية فيينا، المشار إليها أعلاه، والتي نصت صراحة على ضرورة وجود سائق لكل مركبة متحركة(42).
وعلى الرغم من تعريف السائق في قانون المرور بأنه من يتولى سياقة إحدى المركبات(43)، وذلك بعد الحصول على رخصة سوق مركبة ميكانيكية من السلطة المختصة، تخول حاملها سياقة تلك المركبة(44)، إلا أن القضاء قد توسع في تعريف السائق في الواقع العملي ليشمل أيضا كل من سيطر على عجلة القيادة فعليا وتولى تحريكها وقت وقوع الحادث(45)، حتى وإن كان غير حاصل على رخصة القيادة(46).
ساهم تطور الذكاء الاصطناعي المستمر دون شك في استحداث صور جديدة للجرائم الإلكترونية، بما في ذلك سلامة البيانات وحماية البرامج وغيرها ...(47). وإذا وقع الحادث أثناء تفويض القيادة، فغالبا ما يكون ذلك بسبب خطأ جسيم في برمجة النظام وتعطيله، قد تتعدد فيها الأطراف المسؤولة عن الحادث.
تجنبا للحوادث المحتملة الناجمة عن المركبات ذاتية القيادة، تحرص التشريعات على وضع معايير أساسية للتصريح لتلك المركبات؛ كضرورة تزويد المركبات ذات التفويض في القيادة بأنظمة من شأنها أن تمتعها بدرجة عالية من التحكم؛ مع قدرة تلك الأنظمة العالية على الاستجابة أثناء القيادة للحالات الطارئة؛ فضلا عن غياب مسؤولية السائق لدى عدم سيطرته على المركبة(48).
ويعتمد التنظيم القانوني على تمييز المركبات ذات التفويض في القيادة وفقا للخصائص والمميزات التي تتمتع بها بالقياس لدور العنصر البشري(49)؛ إذ تم تصنيف المركبات تصنيفا مبنيا على أساس مدى قدرة أنظمة وتقنيات الذكاء الاصطناعي في السيطرة على المركبات أثناء القيادة(50).
لدى تنظيمه للحوادث الناجمة عن المركبات ذات التفويض في القيادة، ينص المشرع عادة على اتخاذ تدابير وقائية حائلة دون تلك الحوادث من خلال التنظيم الإداري لتلك المركبات ذات التفويض في القيادة (مطلب أول)، إلى جانب تدابير علاجية بتحديد المواجهة الجنائية للحوادث الناجمة عن قيادة المركبات ذات التفويض في القيادة (مطلب ثان).
المطلب الأول
التنظيم الإداري للمركبات ذات التفويض في القيادة
تجنبا للعواقب الوخيمة الناجمة عن غياب التشريعات، ومواجهة مخاطر طرح الذكاء الاصطناعي كأداة لتقويض الديمقراطية، تحرص الدول حاليا على وضع تشريعات ملائمة، تلبية للمطالب بضرورة مزيد من الرقابة الحكومية على صناعة التكنولوجيا، وفق النهج الأوروبي القائم على تعزيز الابتكار وضبط قوة الشركات التكنولوجية من جهة وحماية الحقوق والحريات الأساسية من جهة أخرى، عبر استحداث تشريعات تنظيمية للذكاء الاصطناعي في المؤسسات الديمقراطية، للاستفادة من المزايا وتجنبا للمخاطر.
إلى جانب التشريعات غير الاتحادية الأمريكية والصينية المشار إليها أعلاه(51)، باشرت العديد من الدول الأوروبية والغربية كألمانيا وفرنسا والمملكة المتحدة (فرع أول) والعديد من الدول العربية استحداث تشريعات تنظيمية للمركبات ذات التفويض في القيادة (فرع ثان).
الفرع الأول
التشريعات الغربية الناظمة للمركبات ذات التفويض في القيادة(52)
حرصت العديد من التشريعات الغربية على تنظيم المركبات ذات التفويض في القيادة كما هو الشأن في كل من ألمانيا، فرنسا، إيطاليا والمملكة المتحدة، وغيرها وفق التفصيل الآتي:
أ) ألمانيا: بعد الموافقة على تجربة المركبات ذات التفويض في القيادة على الطرق في الظروف الواقعية من قبل وزارة النقل والبنية التحتية الرقمية الاتحادية الألمانية سنة 2015، قام المشرع الألماني بتعديل قانون المرور سنة 2017(53) مصرحا فيه استخدام المركبات ذات التفويض بالقيادة في الطرق العامة(54)، باشتراطه متطلبات فنية في تلك المركبات، كقدرتها بذاتها على الامتثال لقواعد السير والمرور، وبقائها في الحد الأدنى من المخاطر لدى عدم التمكن من مواصلة السير إلا بمخالفة تلك القواعد، وضرورة تزودها بنظام آلي لتجنب الحوادث(55)، منيطا مهمة الرقابة وفحص مدى تلبية المركبات للاشتراطات الفنية للهيئة الاتحادية للمواصلات، والتي تتولى تقديم شهادة مطابقة للمواصفات بعد فحصها(56).
ب) فرنسا: خطت خطوات واسعة في هذا المجال؛ حيث أجاز المشرع الفرنسي سير المركبات ذات التفويض في القيادة بصفة تجريبية بموجب المرسوم رقم 992 لسنة 2015، مخولا بموجبه الحكومة الفرنسية اتخاذ الإجراء المناسب لهذه الغاية التجريبية، في ظروف تشغيل ضامنة سلامة المستخدمين ومحددة نظام المسؤولية المناسب عند الاقتضاء(57). وبناء عليه، قامت الحكومة الفرنسية بإصدار المرسوم رقم 1057 لسنة 2016 بشأن التشغيل التجريبي للمركبات ذات التفويض في القيادة على الطرق العامة(58). ولضمان سلامة إجراء التجربة، أكد المرسوم في المادة (1) منه على ضرورة خضوع السير التجريبي لترخيص يأذن بموجبه التجربة، لدى تحقق شروط كتوفر إمكانية نظام القيادة الذاتية إبطال التفويض في أي وقت، مع جاهزية السائق المسؤول عن الإشراف على المركبة من استعادة التحكم فيها في كل وقت(59). لدى فحص المركبة والتحقق من تلك الشروط، يصدر التصريح بالتشغيل التجريبي عن وزير النقل بعد استشارة وزير الداخلية، وإمكانية استشارة كل من مدير الطرق وهيئة شرطة السير والمرور وهيئة النقل عند الاقتضاء(60). وأجاز المرسوم أيضا لمجلس الدولة الفرنسي تحديد شروط الرخصة بإذن التشغيل التجريبي للمركبة ذات التفويض في القيادة، وتحديد الإجراءات التنفيذية بموجب مرسوم يصدر في هذا الخصوص، يحدد بموجبه وسائل إعلام الجمهور بالتشغيل التجريبي لتلك المركبات ذات التفويض في القيادة(61).
ج) إيطاليا: حرص المشرع الإيطالي على تعديل نص المادة 141 من قانون المرور، لتنظيم مركبات المستوى الثالث(62) ذات التفويض في القيادة، مؤكدا على التزام السائق البشري بالتحكم والسيطرة على المركبة، فضلا عن المخاطر المحتملة أثناء القيادة، مبينا خصائص الطريق وظروف المرور(63).
د) المملكة المتحدة: صدر قانون خاص سنة 2018، قانون المركبات الآلية والكهربائية Automated and Electric vehicles Act(64)، أوجب المشرع بموجبه على الوزير المختص ضرورة إعداد قائمة بجميع المركبات المصممة أو المهيأة لتكون قادرة في بعض الظروف أو المواقف على قيادة ذاتها بأمان، والتي يجوز استخدامها قانونا على الطرق أو الأماكن العامة في بريطانيا العظمى، كما أوجب عليه نشر تلك القائمة لدى إعدادها للمرة الأولى ولدى كل تحديث(65).
ه) سنغافورة: تضمن مشروع القانون رقم 5 لسنة 2017 الصادر في 10-1-2017 تعديل قانون المرور على الطرق المنشور في الجريدة الرسمية لسنة 2016(66).
الفرع الثاني
التشريعات العربية الناظمة للمركبات ذات التفويض في القيادة
على الرغم من عدم وجود استراتيجية عربية مشتركة، لوحظ اهتمام متلاحق من دول مجلس التعاون الخليجي وبعض البلدان العربية(67): كما هو الشأن في الإمارات والسعودية وقطر، إذ تبوأت دولة قطر المركز الثالث بعد الإمارات والسعودية وفق تقرير مؤشر الجاهزية الحكومية للذكاء الاصطناعي لسنة 2021(68).
أ) الإمارات(69): اهتمت الإمارات بإدراج نظام التفويض في القيادة في بعض المواصلات العامة كما هو الشأن بمترو دبي. وفي سنة 2019، صدر عن المجلس التنفيذي لإمارة دبي القرار رقم (3) لسنة 2019 بشأن تنظيم التجربة التشغيلية للمركبة ذاتية القيادة في إمارة دبي(70). مخولا بموجبه لمدير هيئة الطرق والمواصلات تحديد شروط وإجراءات منح التصريح لتلك المنشآت الراغبة في إجراء تجربة تشغيلية لمركبات ذاتية القيادة(71). كما بينت بعض الالتزامات ومن ذلك ...(72). إلى جانب القانون رقم 2 لسنة 2017 الصادر بتاريخ 16-6-2017 والمتضمن تعديل قانون المرور على الطرق الصادر في 5 مارس 2003، والمنشور في الجريدة الرسمية للقانون الاتحادي في العدد 1 لسنة 2017(73).
ب) السعودية: سنة 2019، تم إنشاء الهيئة السعودية للبيانات والذكاء الاصطناعي. كما تم تعديل نظام المرور الصادر بالمرسوم الملكي رقم م/85 بتاريخ 26-10-1428هـ. وكذلك اللائحة التنفيذية له والصادرة بقرار وزير الداخلية رقم 7019 بتاريخ 3-7-1429.
ج) قطر: حققت قطر تقدما متسارعا في مختلف القطاعات التكنولوجية والتقنية(74)، تعد من الدول الطموحة في سبر غور كافة التطورات العلمية(75) لا سيما في مجال تطبيقات الذكاء الاصطناعي بما في ذلك المركبات ذات التفويض في القيادة(76). حيث أبدت اهتماما ملحوظا في إدراج التفويض في القيادة في قطاع النقل والمواصلات. وقد أنشئت "لجنة الذكاء الاصطناعي" في وزارة الاتصالات وتكنولوجيا المعلومات وفقا لقرار مجلس الوزراء رقم (10) لسنة 2021، وتم تعيين أعضائها بقرار من وزير الاتصالات وتكنولوجيا المعلومات رقم (10) لسنة 2022. وتضم اللجنة ممثلين عن كل من الجهات التالية: وزارة الداخلية، وزارة التجارة والصناعة، وزارة التعليم والتعليم العالي، واحة العلوم والتكنولوجيا، جامعة حمد بن خليفة، جامعة قطر، الصندوق القطري لرعاية البحث العلمي، بنك قطر للتنمية، وعضو من ذوي الخبرة يختاره وزير المواصلات والاتصالات(77).
ووفق تقرير مؤشر الجاهزية الحكومية للذكاء الاصطناعي لوحظ تراجع دولة قطر من المركز الثالث على مستوى الدول العربية(78) سنة 2021 إلى المركز الخامس سنة 2022 بعد الإمارات والسعودية والبحرين والكويت(79)، ما يشير إلى ضرورة الاستعداد لتبني منظومة تشريعية من شأنها السماح بالتشغيل التجريبي للمركبات، بل المباشرة فعلا بالعملية التشريعية، أسوة بالتشريعات المعاصرة من حيث ترخيص تلك المركبات من جهة، وتحديد المسؤولية الجنائية الناجمة عن حوادث تلك المركبات وأهمية إدراج التعديلات اللازمة في قانون المرور(80) أو قوانين ذات علاقة، من جهة أخرى، تحقيقا لرؤية قطر الوطنية 2030(81). وبذلك يتبين عدم اقتصار إطار التنظيم التشريعي للمركبات ذات التفويض في القيادة على التصريح الإداري، بل ينبغي أن يشمل أيضا المواجهة الجنائية المتكاملة للحوادث الناجمة عن تلك المركبات.
المطلب الثاني
المواجهة الجنائية للحوادث الناجمة عن المركبات ذات التفويض في القيادة
في أكتوبر 2015، قامت محكمة استئناف باريس بالمحاكمة صوريا بشأن قضية افتراضية مستقبلية مفترضة وقائعها سنة 2041(82). وتتلخص وقائع تلك الفرضية بأنه في يوم شتاء ماطر، على طرق متجمدة، تفاجأ سائق مركبة أثناء تفويض القيادة، بمركبة أخرى قادمة بسرعة باتجاه مركبة أخرى، فما أن ضغط على زر توقف الطوارئ، حتى أدى لسلسلة من الاصطدامات، نجم عنها آلاف الضحايا، بما فيهم 50 وفاة و100 إصابة بليغة، وقد عرضت القضية على المحكمة للنظر بشأن تحديد المسؤول عن هذه الأحداث التي يمكن وقوعها حقيقة في المستقبل القريب(83).
وبناء على ذلك باشرت الحكومة الفرنسية العمل على وضع نظام يحدد بموجبه نطاق المسؤولية الجنائية المترتبة لدى قيادة مركبة ذات تفويض القيادة، وذلك بتبنيها سنة 2021 مرسوما لافت للانتباه، وهو المرسوم رقم -443- لسنة 2021، الصادر بتاريخ 14 أبريل 2021 بشأن نظام المسؤولية الجنائية لدى سير مركبة ذات التفويض في القيادة وشروط استعمالها(84)، للعمل على تحديد المسؤولية الجنائية عن الحوادث الناجمة عن قيادة السيارات الذكية المستوى الثالث، والتي تدعى بسيارات تفويض القيادة؛ حيث يمكن لقائد المركبة رفع يديه عن المقود، متحررا بذلك عن بعض مهام القيادة، وإمكانية استرجاعه السيطرة على تلك المركبة.
في الواقع، على الرغم من تنوع مستويات استقلالية المركبات وتفاوتها، إلا أنه لا يوجد تصنيف رسمي لتلك الدرجات المتباينة، وإن اقترحت من قبل المنظمة الدولية لمصنفي المركبات، (منظمة SAG الدولية) سنة 2014، لتطبق في أوروبا. حيث ارتأت تلك المنظمة ستة مستويات من الاستقلالية(85) تسمح بتوزيع واضح للأدوار بين السائقين والنظام، بدءا من القيادة اليدوية، وانتهاء بالقيادة الذاتية الكاملة(86)، وفق التفصيل الآتي(87):
المستوى الأول: خال تماما من أي نظام للمساعدة في القيادة؛ حيث تقع المسؤولية كليا على سائق المركبة في مراقبة الطريق وتأمين سير المركبة.
المستوى الثاني: يتوافر فيه بعض صور نظام المساعدة للقيادة، كالمساعدة في التوجيه أو الإبطاء أو التوقف، وإن كانت القيادة تعتمد كليا على السائق، المسؤول كليا عن مراقبة الطريق والتحكم بالمركبة.
المستوى الثالث: يوجد به نظام جزئي لقيادة المركبة ذاتيا؛ حيث يستفيد السائق من مجموعة من النظم المساعدة في القيادة، ومع ذلك ينبغي عليه المحافظة على التحكم بالمركبة في كل وقت.
المستوى الرابع: يتوافر فيه نظام للقيادة الذاتية المستقلة المشروطة في حالات معينة، دون حاجة لإشراف السائق، والذي يجب عليه الاستعداد دائما لاستعادة السيطرة على المركبة لدى إرسال نظام القيادة إشعارا بذلك.
المستوى الخامس: ويسمح بدرجة متقدمة من القيادة الذاتية المستقلة في حالات معينة، دون حاجة لإشراف السائق أو استعادته سلطة التحكم.
المستوى السادس: ويسمى بالقيادة الذاتية أو المستقلة الكاملة؛ حيث لا تحتاج القيادة فيه إلى تدخل أي سائق، في كل وقت، وفي كافة ظروف السير.
على الرغم مما تقدم، يلاحظ عدم تبني التوجيه الأوروبي لتلك المستويات، وفق التوجيه الأوروبي رقم 40 لسنة 2010 بشأن إطار العمل لنشر أنظمة النقل الذكية(88) بالمنطقة الاقتصادية الأوروبية، الهادف لتأسيس إطار عمل لدعم النشر والاستخدام المنسق والمتسق لأنظمة النقل الذكية (ITS) في الاتحاد الأوروبي، ولا سيما عبر الحدود بين الدول الأعضاء، ووضع الشروط اللازمة لهذا الغرض(89).
وبطبيعة الحال لم يقم المرسوم الفرنسي بدوره أيضا بالإشارة المباشرة لتلك المستويات، مقتصرا على تسليط الضوء على الاستقلالية المشروطة: الجزئية العالية والكاملة(90). وبشكل ملموس؛ فهو يجيب عن مسألة تحديد المسؤول جنائيا عن مخالفات قانون السير وعن جنح الاعتداء غير العمدي على الحياة أو السلامة الجسدية للإنسان المرتكبة بواسطة مركبة ذات تفويض في القيادة.
في سبيل تحديد نطاق المسؤولية الجنائية، ينبغي التمييز بين حالتين: فيما إن تم ارتكاب الجريمة ضمن سياق مبتكر (فرع أول) ومدى التعديل اللازم لأحكام القواعد التقليدية التي تسمح بانعقاد المسؤولية الجنائية (فرع ثان).
الفرع الأول
الجريمة المرتكبة ضمن سياق مبتكر
لدى ارتكاب الجريمة ضمن سياق مبتكر، أي ارتكابها على متن مركبة ذات التفويض في القيادة، ينبغي علينا بشكل أساسي تحديد "الفاعل" الذي يمارس سلطة الرقابة الديناميكية على المركبة لحظة الحادث، وقد يتعلق الأمر إما بالنظام (أولا) أو بالسائق (ثانيا).
أولا: ممارسة التحكم الديناميكي للمركبة من قبل النظام:
يبدو أن مفهوم "التحكم الديناميكي للمركبة" الوارد في المرسوم الفرنسي، متأثرا في الحقيقة بعدة أعمال دولية، والتي وإن كانت صامتة بهذا الشأن، إلا أن المرسوم قد عني بتعريفه بأنه: "التنفيذ لكافة المهام التشغيلية والتكتيكية في الأوقات الحقيقية لتحريك المركبة"(91). ويتعلق الأمر في الواقع بشكل ملموس بسلطة التحكم بتنقل المركبة الجانبي والطولي، ومراقبة البيئة المرورية، وردود الفعل للأحداث الناشئة عن حركة المرور، والتحضير والتأشير أو التنبيه للمناورات والتحركات.
وعليه؛ ما زالت ذاتية أو استقلالية المركبات، في الوقت الراهن، جزئية، لكل ممارس للتحكم الديناميكي للمركبة، أي السائق أو النظام على حد سواء. فما تم إنجازه في وقتنا الحالي هو المستوى 3 للمركبات، والمسمى بالاستقلالية المشروطة. ففي هذا المستوى، يمكن للسائق البشري أن يحرر نفسه تقنيا من سلطة التحكم ببيئة القيادة، ليمارس عندئذ من قبل النظام(92). ومع ذلك؛ ينبغي على السائق أن يكون قادرا في أية لحظة على استعادة التحكم بالمركبة في بعض الحالات. ويبدو أن هذا المستوى من التقدم التكنولوجي ما يزال متوافقا مع اتفاقية فيينا بشأن المرور(93)، على الرغم من تعديل نصها في 23 مارس 2016؛ إذ ينبغي على السائق دوما أن يكون قادرا على تحييد أو إيقاف تفعيل النظام(94).
أما بالنسبة للأنظمة السامحة للمركبة بالقيادة بصورة مستقلة تماما، كالمستويين 4 و 5؛ فإن كانت تلك المركبات في يومنا هذا محل تجربة، إلا أنها ما زالت لا تستجيب – حتى الآن- للمتطلبات والاشتراطات الدولية، والتي ما زالت تبقي السائق كشخص طبيعي خلف المقود؛ جاعلة من الإنسان أحد المحاور الرئيسة في المركبة ذات التفويض في القيادة. وبالتالي، أثناء التجريب، تنحصر المسؤولية الجنائية بالسائق أو مالك التصريح الإداري، دون إمكانية إثارة مدى قيام المسؤولية الجنائية للمصنع، ما يتطلب إعادة النظرة التشريعية في هذا الشأن إرساء للعدالة وحقوق الإنسان(95).
بناء على ما تقدم، اهتم المشرع الفرنسي في المرسوم بتحديد "الفاعل" المتحكم الديناميكي للمركبة: السائق أو النظام. ولهذه الغاية، قام المشرع الفرنسي بإدراج نص جديد في قانون السير الفرنسي، لاستبعاد مسؤولية السائق، والذي عادة ما يكون هو المسؤول جنائيا عن الجرائم المرتكبة من قبله أثناء قيادة تلك المركبة. وبموجب أحكام المرسوم لم يعد هناك افتراض تلقائي لمسؤولية السائق عن مخالفات المرور وجنح الاعتداء غير العمدي على الحياة أو على السلامة الجسدية للإنسان الناجمة عن الاستخدام المتحقق لنظام تفويض القيادة، فلم يعد بالإمكان ملاحقة السائق وحده، بل أصبح بالإمكان تقسيم المسؤولية حينئذ بين "المصنع" أو "وكيله"(96) كما هي معرفة في الاتحاد الأوروبي(97).
وعليه، يلاحظ إمكانية قيام المسؤولية الجنائية للمصنع (كشخص طبيعي أو معنوي)(98) بفعل الخلل في نظامه الذاتي أو المستقل، وانعكاسه على المسؤولية الجنائية "الشخصية" لمسؤولية مدير المؤسسة عن أعمال تابعيه، مع المفارقة بقيام المسؤولية الشخصية هنا عن الخطأ أو الركن المعنوي بسبب خلل في الآلة وليس الإنسان. ومع ذلك، يلاحظ توافق هذه الآلية للإسناد مع مبدأ الشخصية، والذي يقوم في الحقيقة والواقع على خطأ المصنع أو وكيله.
ثانيا: ممارسة التحكم الديناميكي للمركبة من قبل السائق:
بناء على ما تقدم، تقوم المسؤولية الجنائية للسائق في ثلاث حالات:
بداية؛ لدى ممارسة السائق سلطة التحكم الديناميكي للمركبة ابتداء وبعد استعادته تلك السلطة؛
بعد ذلك؛ لدى امتناعه عن استعادة التحكم بالمركبة، بعد انتهاء فترة الانتقال المعمولة بطلب من نظام القيادة المؤتمت، بعبارة أخرى، عندما يبلغ النظام حدود تفويضه(99).
وأخيرا، لدى عدم احترام السائق أوامر السلطة العامة أو الإشارات الصادرة عنها، أو لدى عدم احترامه لقواعد الأولوية لمرور مركبات المنفعة العامة(100).
كما يشير المرسوم بالإضافة لحالة خاصة لأنظمة النقل المروري المؤتمت بدرجة عالية الخطورة مع قائد موجود خارج المركبة بشكل تجريبي(101). بالإضافة لقرار منظم الخدمة، الصادر عن بعد بضرورة تدخل السائق واستعادة سلطة التحكم بالمركبة في حالة الضرورة، ما يعني بالضرورة إلى أهمية تشغيلها من قبل شخص مؤهل لقيادة هذه الفئة من المركبات، وحاصل على رخصة قيادة مناسبة مع تلك الفئة(102)، وذلك تحت طائلة قيام مسؤوليته الجنائية.
بعبارة أخرى، من الواضح أن الحوار بين الإنسان والآلة لم يعد بالإمكان تجنبه. ففي تلك الأثناء؛ أي أثناء تفويض القيادة، ينبغي على كل سائق الالتزام بالمحافظة على اليقظة والانتباه المستمر ليكون في وضع يمكنه من تنفيذ ملائم ودون تأخير لكافة المناورات والواجبات التي تقع عليه(103).
وقد يثور التساؤل في هذا الصدد، هل يمكن للسائق أثناء تفويض القيادة القيام ببعض النشاطات الأخرى بالتوازي بصورة مترافقة مع القيادة(104)؟
يبدو أن الشك ما زال قائما في هذا المجال، فعلى الرغم من المحاولات المستمرة لتحويل السائقين إلى مجرد راكبين، إلا أنه ما زال على السائق التزام بمراقبة قيادة المركبة أثناء تفويض القيادة ليتسنى له استعادتها في الوقت المناسب، ويعتمد ذلك بدقة على الاتصال في المنبع أو أثناء المسير، بناء على عدد من المعلومات والتي ينبغي عليه معرفتها وإدراكها حسيا. في الواقع، يبدو أن ارتكاب الجريمة مرتبط هنا بموضوع مستحدث، ما قد يؤثر على مدى قيام المسؤولية الجنائية التقليدية.
الفرع الثاني
مدى قيام المسؤولية الجنائية التقليدية
يبدو أن ارتكاب الجريمة في سياق خاص مستحدث يتطلب القيام ببعض التعديلات القانونية التوفيقية، لا سيما لدى ممارسة النظام التحكم الديناميكي للمركبة. وذلك من حيث العناصر المؤلفة للجنح غير العمدية والمخالفات (أولا)، والتي يسهل إثباتها من خلال "الصندوق الأسود" (ثانيا).
أولا: الإبقاء على العناصر المؤلفة للجريمة وتطويرها:
يميز المرسوم الفرنسي بين نوعين من الجرائم: المخالفات المرورية (أ) وجنح القتل أو الإيذاء الخطأ (ب).
أ) في المخالفات المرورية(105)، لا توجد أية مسؤولية جنائية في حالة القوة القاهرة لفقد حرية الاختيار(106)، ذلك أن مخالفات المرور تشكل جرائم مادية؛ بحيث يعاقب على مجرد الارتكاب المادي لتلك الأفعال المجرمة الكافية بحد ذاتها لقيام المسؤولية الجنائية بشأنها دون حاجة لإظهار الركن المعنوي. فالمخالفات المرورية ترتكب بمجرد خرق أو الانتهاك الواعي والحر لقاعدة تنظيم اجتماعي، فهناك افتراض للمسؤولية والواقعة على سائق أو مالك المركبة وفق رخصة المركبة، وهذا ما تم إدراجه في قانون السير.
ومع ذلك؛ يجوز لفاعل المخالفة المفترض الدفاع ورد الافتراض، بإثباته وجود القوة القاهرة أو بتقديم أي سبب تبرير يسمح بإثبات أنه ليس فاعل تلك الجريمة(107). وبالتالي، لدى ارتكاب المخالفات، تقع المسؤولية الجنائية على السائق مبدئيا ما لم يثبت تفويضه للقيادة. والمرسوم الفرنسي لا يغير شيئا من تلك القواعد والمفاهيم العامة في مجال السير(108). وكذلك الحال بالنسبة لمسؤولية المصنع، فعندما يمارس النظام التحكم الديناميكي للمركبة؛ فإن المصنع هو فاعل المخالفة، مفترضا خطأه البسيط كالإهمال أو الرعونة أو عدم التزامه باحترام القوانين وأنظمة السلامة.
ب) في الجنح غير العمدية(109)، وخلافا لما تقدم؛ يبدو بأن الأمر يتعلق بالسائق؛ حيث ينبغي تضافر عدة شروط لانعقاد المسؤولية الجنائية للفاعل: من ضرر وخطأ وعلاقة السببية بينهما(110). كما يذكر المرسوم الفرنسي بأن علاقة السببية تحدد كثافة الخطأ المطلوب؛ فإن كانت علاقة السببية مباشرة، فيكفي عندئذ مجرد توافر خطأ بسيط يقدر بشكل مادي ملموس(111)؛ أما إن كانت علاقة السببية غير مباشرة، فلا بد من وجود خطأ جسيم موصوف أو متعمد(112)، فيما عدا الأشخاص الاعتبارية.
وعليه، يبدو أن مفهوم "السائق" قد تطور بدوره ليولد صورا جديدة للمسؤولية الجنائية لدى وقوع حادث لدى قيادة مركبة ذات تفويض في القيادة(113)؛ إذ لم تعد المسؤولية الجنائية تقتصر على سائق المركبة فحسب (1)، بل يمكن أن يشاطره فيها مصنع المركبة (2) وفق الأحوال.
1) المسؤولية الجنائية للسائق:
يحدد النص أنه لدى ممارسة السائق التحكم الديناميكي للمركبة، أو كان يتحتم عليه ذلك لحظة الجريمة، في الحالات المحددة صراحة بالنص، فيكتفى حينئذ بمجرد خطأ بسيط من جانبه. ما قد يحتمل بعض الإشكاليات، لا سيما لدى قرصنة النظام. ويبدو هنا أن القوة القاهرة تشكل سببا شخصيا لانعدام المسؤولية الجنائية، يمكن إثارتها في هذا الصدد؛ إذ لا يعد مسؤولا جنائيا في الواقع، من تصرف تحت تأثير قوة أو إكراه لا يمكن تجنبه(114). بعبارة أخرى، لدى تولي قائد المركبة زمام القيادة؛ فإنه يسأل جنائيا عن الحوادث الواقعة أثناء قيادته للمركبة، وتقف مسؤوليته الجنائية منذ لحظة تفويضه سلطة القيادة للمركبة ذات التفويض في القيادة(115).
وحيث إنه يمكن للسائق في كل وقت استرجاع زمام السيطرة على القيادة؛ فإنه بالتالي يعد المسؤول جنائيا عن الحوادث الناجمة لدى استعادته سلطة التحكم بقيادة المركبة. كما يسأل أيضا في حالة قيام المركبة بالتنبيه والتحذير لاسترجاعه سلطة التحكم بالقيادة دون أن يقوم بذلك. إضافة لعدم استرجاعه زمام القيادة لإعطاء الأولوية لمركبات الشرطة والإطفائية والإسعاف التي تتطلب تدخله. وفيما عدا ذلك، تنتقل المسؤولية الجنائية للمصنع، لدى إثبات خطئه.
2) المسؤولية الجنائية للمصنع:
إذا وقع الحادث أثناء تفويض القيادة لنظام المركبة؛ أي عندما يكون التحكم بديناميكية المركبة من قبل النظام، تقع المسؤولية الجنائية عندئذ على مصنع المركبة، شرط إثبات خطئه. وحيث إن علاقة السببية بين خطأ المصنع والضرر غير مباشرة، وأمام صعوبة إثبات علاقة السببية تلك، ما يؤدي غالبا إلى عدم مساءلة مصنع المركبة وفق النصوص العقابية التقليدية الحالية في التشريع القطري عن جرائم القتل والإيذاء الخطأ، وإمكان معاقبته جريمة التعريض للخطر(116).
أما المشرع الفرنسي، فقد تدارك مثل هذه الثغرة القانونية، بالنص على إمكان قيام المسؤولية الجنائية لدى توافر علاقة سببية غير مباشرة، باشتراطه وجود خطأ جسيم من قبل الجاني، وبالتالي فلا بد من إثبات وجود خطأ جسيم من قبله، بالنظر لإنشائه أو مساهمته بإنشاء الوضع الذي سمح بتحقيقه أو عدم اتخاذه التدابير اللازمة لتجنبه، لا سيما لعدم حرصه الكافي على سلامة النظام ومصداقيته(117). فضلا عن إمكانية ملاحقة المصنع، في حالة غياب النتيجة، عن جنحة تعريض الغير للخطر(118)، بالنظر لقيامه بطرح نظام كان يعلم فشله، معرضا بذلك مباشرة الغير لخطر مباشر للموت أو الإيذاء الذي من شأنه أن يفضي إلى بتر أو عاهة مستديمة عبر انتهاك واضح متعمد لالتزام خاص بالحذر أو السلامة مفروض في القانون أو اللائحة(119). وتجدر الإشارة إلى أن تحديد الشخص المتحكم بالقيادة لحظة وقوع الحادث والذي تقوم عليه مسؤولية السائق أو المصنع الجنائية، يمكن إثباته من خلال "الصندوق الأسود".
ثانيا: الإثبات من خلال "الصندوق الأسود":
متى ما اجتمعت الشروط التقليدية لقيام المسؤولية الجنائية؛ ينبغي القيام بإثباتها.
في مجال مخالفات السير والمرور، والتي تسمى بالجرائم المادية، يكتفى عادة بالعنصر المادي.
أما بالنسبة للجرائم غير العمدية؛ أي القتل أو الإيذاء الخطأ؛ فينبغي مع ذلك إثبات خطأ الجاني، والذي يحدد بناء على تحديد المتحكم بديناميكية المركبة لحظة الأفعال. والتساؤل الذي قد يثور في هذا الصدد بشأن آلية معرفة المسيطر على المركبة لحظة الأفعال؟ يمكن الإجابة عن ذلك بأن كافة المركبات ذات التفويض في القيادة ينبغي أن تحتوي على جهاز يسجل لحظة تفويض القيادة، يسمى بـ "الصندوق الأسود"، وفق ما يفرضه نظام الأمم المتحدة، محتويا على نظام تخزين المعطيات لحالة تفويض القيادة من المنبع وأثناء المسير، لا سيما شروط تفعيل أو عدم تفعيل النظام(120).
كما عدد المرسوم الفرنسي الأشخاص المخولين للوصول إلى تلك المعطيات، وفق نصوص خاصة تطبق أثناء التحريات والتحقيق لتحديد المسؤول؛ فإذا كان الضرر الناجم جسديا، جاز ذلك لموظفي هيئة السير وإدارة البوليس الوطني؛ ولدى الرقابة على المركبات وسائقيها، جاز ذلك للعاملين المختصين بملاحظة المخالفات؛ وأخيرا، لدى ارتكاب المخالفات، جاز ذلك لكل من الموظفين والعاملين المشار إليهم أعلاه، إلى جانب مالك رخصة التسجيل. وبالتالي، من خلال "الصندوق الأسود" يمكن للأشخاص المخولين الاطلاع على نظام تفويض القيادة، وإثبات العناصر المؤلفة للجريمة(121).
وبالنظر للدور الرئيس الذي يلعبه "الصندوق الأسود" في الإثبات، يفرض المشرع الفرنسي على المصنع أو وكيله ضمان صحة المعطيات المذكورة وسلامتها، وكذلك بشأن الوصول إليها(122). ويبدو هذا الاشتراط على قدر كبير من الأهمية، بالنظر للأثر الذي يمكن أن يتضمنه "حكم الصندوق الأسود" بشأن مدى قيام المسؤولية الجنائية لكل من سائق المركبة ذات التفويض للقيادة أو مصنعها وفق الأحوال.
مع كل ما تقدم، ما زالت التجارب الوطنية قائمة في اختبار المركبات مع "سائق خارج المركبة"؛ أي خارج مقصورة الركاب، ما يشكل قفزة في درجة استقلالية النظام. وبانتظار جاهزية التقنية والقواعد للاستغناء عن السائق البشري في قيادة المركبة، والإدخال الوشيك، على الطرق، لمركبات ذات تفويض للقيادة، مزودة بأدوات وأجهزة من شأنها أن تؤمن في بعض الحالات السيطرة والرقابة لبيئة القيادة، ما يشكل ابتكارا حقيقيا.
تناولت هذه الدراسة في المطلب التمهيدي ماهية المركبات ذات التفويض في القيادة مبينة مزاياها ومخاطرها، كما تناولت في المبحث الأول التنظيم الدولي لتلك المركبات مرورا بالاتفاقيات الدولية العامة ذات الصلة بالمركبات أو بالذكاء الاصطناعي، وصولا إلى الاتفاقية الأوروبية الخاصة بشأن الذكاء الاصطناعي، مبينين أحكامها التمهيدية وأحكام مستويات المخاطر الواردة فيها.
أما المبحث الثاني؛ فقد تناولنا فيه التنظيم القانوني للحوادث الناجمة عن المركبات ذات التفويض في القيادة، من حيث التدابير الوقائية بالتنظيم الإداري لتلك المركبات ولزوم الترخيص لاستخدامها وفق بعض التشريعات الغربية والعربية. ومن ثم تناول المواجهة الجنائية للحوادث الناجمة عن المركبات ذات التفويض في القيادة، من خلال التمييز بين الجريمة المرتكبة ضمن سياق مبتكر، بناء على ممارسة التحكم من قبل النظام أو السائق؛ وتحديد المسؤولية الجنائية من حيث أهمية الإبقاء على العناصر المؤلفة للجريمة بشأن مخالفات المرور، وتطويرها بشأن اقتسام أو توزيع المسؤولية الجنائية للسائق أو المصنع وفق الأحوال، وإبراز أهمية الإثبات من خلال الصندوق الأسود في تلك المركبات.
وقد توصلت الدراسة إلى جملة من النتائج والتوصيات، نوجزها كما يلي:
أولا: النتائج:
ثانيا: التوصيات:
أولا: المراجع العربية:
أ) الكتب والأبحاث والمقالات:
ب) التشريعات:
- قانون رقم (11) لسنة 2004 بإصدار العقوبات القطري.
- مرسوم بقانون رقم (19) لسنة 2007 بإصدار قانون المرور القطري.
- القرار رقم (3) لسنة 2019 بشأن تنظيم التجربة التشغيلية للمركبة ذاتية القيادة في إمارة دبي.
- القانون رقم (9) لسنة 2023 بشأن تنظيم تشغيل المركبات ذاتية القيادة في إمارة دبي.
- قانون العقوبات الفرنسي الجديد رقم 983 لسنة 1992؛ الصادر بتاريخ 22/7/1992 والنافذ اعتبارا من 1/3/1994.
ت) الاتفاقيات الدولية:
الإعلان العالمي لحقوق الإنسان لسنة 1948؛ والعهد الدولي الخاص بالحقوق المدنية والسياسية لسنة 1966؛ والعهد الدولي الخاص بالحقوق الاقتصادية والاجتماعية والثقافية لسنة 1966؛ وغيرها من الاتفاقيات الإقليمية: كالاتفاقية الأوروبية لحقوق الإنسان والحريات الأساسية لسنة 1950؛ والاتفاقية الأمريكية لحقوق الإنسان لسنة 1969؛ والميثاق العربي لحقوق الإنسان لسنة 2004، قواعد منسقة بشأن الذكاء الاصطناعي (قانون الذكاء الاصطناعي) وتعديل بعض القوانين التشريعية للاتحاد الأوروبي.
ثانيا: المراجع الأجنبية:
أ) المراجع الفرنسية:
ب) التشريعات الفرنسية:
ج) المراجع الإنجليزية:
ثالثا: المواقع الإلكترونية:
أستاذ القانون الجنائي – جامعة قطر
المشاهدات
التحميلات
الاستشهادات
المؤلفون
إصدار
السنة