المسؤولية القانونية للذكاء الاصطناعي بين تمايز المجالات وحدود الإعفاء المهني

المسؤولية القانونية للذكاء الاصطناعي بين تمايز المجالات وحدود الإعفاءالمهني

المستشار الدكتور/ معتز عفيفي 

الخبير القانوني بحكومة دبي

نائب رئيس هيئة قضايا الدولة بجمهورية مصر العربية

عضو اللجنة الاستشارية لمركز الإمارات للتحكيم الرياضي 

استاذ قانون الإجراءات المدنية والتحكيم السابق بكلية القانون بجامعة المدينة بعجمان

 

 

لم يعد الذكاء الاصطناعي مجرد أداة تقنية مدمجة بالعمل البشري، بل أصبح عنصراًأساسياً يساهم في صنع القرار وإنتاج المعلومة وتحليل البيانات في مجالات مرتبطةبالحياة اليومية، بل وأصبح الذكاء الاصطناعي يحدد مصير الإنسان ذاته! حيث نجد أن الذكاء الاصطناعي يدخل بقوة في مجالات الطب والجراحة والحروب والأسلحة الذكية والأنظمة الذكية في توظيف وترقية الموظفين وانهاء عقودهم، كل هذه المجالات أصبح الذكاء الاصطناعي يحدد فيها مصير الإنسان.

هذا التطور المتسارع يفرض علينا أن نحاول أن نعيد النظر في القواعد القانونية التقليدية وخاصة في مجال المسؤولية، والسؤال للمشرع هل عندما تقوم بسن قانوناً ينظم قواعد المسؤولية للذكاء الاصطناعي، هل ستخضعها لمعيار قانوني واحد أم أنتمايز القطاعات- التي يعمل فيها الذكاء الاصطناعي- يقتضي اختلافاً جوهرياً فينطاق المسؤولية وأساسها؟ ومن ثم ضرورة تنظيم تشريعي مختلف لكل قطاع؟ والاعتراف بصعوبة تنظيم تشريعي واحد للذكاء الاصطناعي لمختلف القطاعات!(فكرة قانون موحد للذكاء الاصطناعي)، أم أنك لا تمايز بين مجالات استخدام الذكاء الاصطناعي وسوف تضع قالب قانوني واحد للمسؤولية؟.

نرى أن التمايز بين القطاعات التي يعمل فيها الذكاء الاصطناعي، يؤدي إلى رفضفكرة "القالب القانوني الواحد"، ذلك أن المخاطر، وطبيعة العلاقة المهنية، وحدودالتدخل البشري، تختلف باختلاف المجال. ومن ثمّ فإن المسؤولية القانونية يجب أنتعكس هذه الخصوصية، سواء على مستوى عناصر الخطأ، أو رابطة السببية، أوإمكانية الإعفاء من المسؤولية وفق قاعدة السبب الأجنبي، وسوف نضرب مثال على ذلك قطاع النقل والمواصلات والقطاع الطبي.

تمايز المسؤولية بين قطاعي النقل الذكي والتطبيب الذكي.

من وجهة نظرنا، تختلف أحكام المسؤولية التقصيرية في استخدام الذكاء الاصطناعي في مجال النقل والمواصلات ومجال الطب والجراحة، ويستحيل جمعهما معاً تحت غطاء قانوني واحد.

قطاع النقل الذكي- حدود رقابة المشغل/ المستخدم للمركبة ذاتية القيادة.

لا تزال المسائل القانونية المتعلقة بالمركبات ذاتية القيادة غامضة ومجهولة، مثل كيفيةتكيف النظام الذاتي للقيادة مع أحكام ولوائح السير والمرور، وكيف يكون تعريفسائق المركبة في تشريعات المرور والنقل، بعد الاعتراف القانوني بالمركبات ذاتيةالقيادة، هل سيكون الشخص أو الآلة أو الشركة المشغلة أو مصممي برامج الذكاءالاصطناعي ؟ وماهية قواعد المسؤولية الجنائية والمدنية والتعاقدية في تلك الحالة، ومنسيكون المسؤول في حال ارتكاب حادث، هل السائق أو الجهة المرخصة أو الشركةالمشغلة أو الشركة المالكة أو الشركة مصممة برنامج الذكاء الاصطناعي، وهل يمكنأن تتوزع المسؤولية عليهم جميعاً بالتضامن أو التضامم، وكيف تكون أحكام التأمين،والأمن السيبراني ، وحماية البيانات الشخصية للمستخدمين. وما الحل إذا حدثتقضية أخلاقية اثناء سير المركبة ذاتية القيادة، حيث ظهر في بعض الدول التي قامتبالتشغيل التجريبي عدة قضايا أخلاقية تخص ذلك النوع من المركبات، وهذهالاشكالات القانونية لابد من معالجتها، حتى عندما نصل إلى مرحلة التشغيل الكامل،يكون التشريع جاهز لحماية كافة الاطراف المتعاملة مع المركبة ذاتية القيادة، منمشغلين أو مستخدمين أو الغير، وبالتالي يواكب القانون تطور الذكاء الاصطناعيفي مجال النقل، بما يضمن حقوق جميع أفراد المجتمع. 

في مجال المركبات ذاتية القيادة، يتقلص دور السائق إلى حد كبير لصالح النظامالذاتي، مما يجعل الخوارزم (algorithm) هو العنصر الأكثر تأثيراً في عملية اتخاذالقرار أثناء القيادة لذلك نرى ضرورة التفرقة في مجال النقل الذكي بشأن قواعد المسؤولية، في المرحلة الذكية التي يعمل فيها، حيث يوجد خمس مستويات يعمل فيها الذكاء الاصطناعي بالمركبات ذاتية القيادة، نصل فيها للمرحلة الخامسة والتي ينعدم فيها أي تدخل بشري بشأن تشغيل المركبة، فالأخيرة تسير وتتحرك وتعمل وتأخذ قراراتها وفق البرنامج الذي المصمم لها دون أي تدخل بشري نهائي من قرب أو سيطرة عليها من بعد. هنا نرى افتراض الخطأ في جانب المصمّم للبرنامج الذكي في المراحل التي لا تتطلب تدخل بشري من قرب أو عن بعد أي في المستويات المتقدمة من الذكاء (المرحلة الرابعة والخامسة)، لأنّ المشغل(شركة) أو المستخدم (مالك) لا يملك فيالغالب القدرة التقنية على تقييم مدى صحة القرارات الآلية أو التحقق من سلامةالخوارزميات.

وفي المراحل التي تكون المركبة ذاتية القيادة أقل ذكاءً، حيث هناك تدخل بشري عليها من قرب أو سيطرة من بعد، هنا لا يمكن أن تكون المسؤولية مفترضة من جانب المصمم، ولكن تكون مفترضة في جانب المشغل/المستخدم مع إمكانية إعفائه منالمسؤولية أو الرجوع بالمسؤولية على مصمم البرنامج الذكي، وذلك إذا ثبت أن التدخلالبشري لم يكن مؤثراً، أو أن الخوارزم قد اتخذ قراره بصورة مستقلة تماماً عنالسائق، وهذه هي الصورة التشريعية التي اتخذتها إمارة دبي في قانون رقم (9) لسنة 2023 بشأن تنظيم تشغيل المركبات ذاتيّة القيادة في إمارة دبي، حيث نصت المادة 14/1 على أن " يتحمّل المُشغِّل مسؤوليّة التعويض عن الأضرار التي تلحق بالأفراد أو المُمتلكات بسبب المركبة ذاتيّة القيادة، ولا يخل ذلك بحقِّه في الرُّجوع على المُتسبِّب الحقيقي بهذه الأضرار، وفقاً للقواعد العامّة للمسؤوليّة المُقرَّرة في هذا الشأن. ".

وهذه السمات تجعل قطاع النقل الذكي قطاعاً يمكن فيه ـ في حدود معينة ـ الحديثعن إعفاء للمشغل/ المستخدم إذا أثبت عدم تدخله وأن الخلل نابع من الخوارزم/ النظام الذكي.

القطاع الطبي – حدود رقابة الطبيب المهنية على أدوات الذكاءالاصطناعي. 

يختلف الوضع جذرياً في المجال الطبي. فحتى مع دخول الأنظمة الذكية فيالتشخيص وإدارة البيانات الطبية ودعم اتخاذ القرار، يبقى الطبيب الفاعل المهنيالأصلي، وصاحب السيطرة القانونية والأخلاقية على العملية العلاجية، حيث مسؤوليةالطبيب مسؤولية شخصية ومهنية، وأن القانون يلقي على عاتق الطبيب واجباتمحددة، أهمها: واجب اليقظة والحيطة، والتحقق من المعلومات الطبية قبل الاعتمادعليها. هذه الواجبات لا يمكن نقلها أو تفويضها إلى الخوارزم، ولا يمكن للذكاءالاصطناعي أن يحل محل الطبيب في تحمّل المسؤولية القانونية.

حيث مهما بلغت دقة الخوارزميات الطبية، فإنها لا تملك القدرة على تقدير الحالةالنفسية أو البدنية للمريض، ولا على وزن المعطيات النفسية للمريض، ولا على تقديرالظروف السريرية غير الرقمية، ولا على اتخاذ قرار علاجي متكامل دون رقابة بشرية، على الأقل في وقتنا هذا، حيث يمكن أن تتطور الخوارزميات مستقبلاً لتقوم بما سبق.

وبالتالي من وجهة نظرنا فإن اعتماد الطبيب على الخوارزم اعتماداً كلياً يُعد إخلالاًبواجب الحيطة، فأي خطأ من جانب الذكاء الاصطناعي الطبي، يكون مفترض لدى الطبيب وهو المستخدم للذكاء الاصطناعي، فالمسؤولية هنا تكون مفترضة على عاتق الطبيب – وهذا على عكس الحال في المركبات ذاتية القيادة فالمسؤولية مفترضة على مصمم البرنامج الذكي في المراحل التي لا يوجد فيها تدخل بشري من قرب أو من بعد - ولا يعد خطأ الخوارزم سبباً أجنبياً يعفي الطبيب من المسؤولية ، وذلك لأن الطبيبهو من يقرر استخدام النظام الذكي، وهو من يختار البرنامج والمُصنع ودرجةالاعتماد عليه، وهو من يملك سلطة التحقق من ملاءمة توصية الذكاء الاصطناعي للحالة السريرية للمريض، وهو من يُفترض به أن يكتشف التناقضات أوالانحرافات في مخرجات الخوارزم إن وُجدت، وبالتالي، حتى لو أخطأ النظامالذكي، فإن الطبيب يظل مسؤولاً لأنه لم يتحقق من دقة المعلومة، أو لأنه منح الخوارزموزناً يتجاوز حدود الأمان المهني.

وتطبيقاً لذلك قضى مجلس الدولة الفرنسي في 22 مايو 2025 في الطعن رقم(457921) " إن استخدام نظام AI من قبل الطبيب لا يعفي الطبيب من مسؤوليتهالطبية، وأن غموض الخوارزمية لا يعد سبباً أجنبياً للإعفاء من المسؤولية".

"l’utilisation d’un système d’intelligence artificielle ne peut jamais exonérer le praticien de sa responsabilité médicale » et que « l’opacité du fonctionnement d’un algorithme ne constitue pas une cause étrangère exonératoire. "

قد تكون الشركة المصممة للذكاء الاصطناعي الطبي مسؤولة أيضاً، ويمكن للطبيب أن يعود عليها من خلال دعوى الرجوع، ولكن المسؤولية الطبية لا تزول ولا تنقطع، لأنالعلاقة العلاجية قائمة بين الطبيب والمريض، والطبيب هو صاحب القرار النهائي.

ونستخلص من ذلك، أن المسؤولية القانونية للذكاء الاصطناعي لا يمكن توحيدها في قالب قانوني واحد، لأن المخاطر وحدود تدخل الإنسان تختلف جذرياً بين القطاعات، فكما رأينا في النقل الذكي، قد يُفترض الخطأ على المصمم في مراحل الذكاء لاصطناعي التي لا يكون هناك تدخل بشري نهائي من قرب أو عن بعد، أما في المراحل التي يكون هناك تدخل بشري، فهنا المسؤولية تفترض على عاتق المشغل / المستخدم وله حق الرجوع على المصمم إذ اثبت الضرر ناتج عن الذكاء الاصطناعي. أما في مجال الطب، لا يُعفى الطبيب مطلقاً من المسؤولية وتكون مفترضة في حق الطبيب من وجهة نظري، لأن الضرر الناتج عن توصية الذكاء الاصطناعي أو العملية الروبوتية تمت تحت رقابة الطبيب البشري، الذي اتخذ القرار النهائي وطبقه على المريض ، أما الخوارزم الطبي لا يُعد سبباً أجنبياً، لأنه أداة تقنية تخضع في النهايةلرقابة الطبيب وتقديره الشخصي.