قبل بضع سنوات ، تم استجوابي أمام ثلاثة قضاة في محكمة جنوب لندن ، تتويجًا لكابوس بيروقراطي استمر لأشهر حرضني على إدانة جنائية لعدم تمكني من إثبات أنني دفعت أجرة حافلة بقيمة 1.50 جنيهًا إسترلينيًا عندما نفدت بطارية الهاتف.
بعد أن رويت بعصبية حكاية الويل المتشابكة ، تم تبرئتي: قيل لي إنه سيتم سحب إدانتي. قال لي رئيس العدالة بابتسامة متعاطفة: “أراهن أنك مرتاح للغاية”. كنت بالفعل.
لكن مثل هذا التفاعل البشري في النظام القضائي قد يصبح أكثر ندرة. تقوم العديد من البلدان بتجربة استخدام خوارزميات تعتمد على الذكاء الاصطناعي لإصدار الأحكام ، واستبدال البشر بما يسمى “قضاة الروبوتات” (على الرغم من عدم استخدام روبوت).
تتمحور الحجج الرئيسية المؤيدة للتقاضي المدفوع بالذكاء الاصطناعي حول فائدتين مزعومتين: زيادة الكفاءة وإمكانية الحد من التحيز البشري والخطأ و “الضجيج”. يشير الأخير إلى التباين غير المرغوب فيه بين الأحكام التي قد تتأثر بعوامل مثل مدى إرهاق القاضي أو كيفية أداء فريقهم الرياضي في الليلة السابقة.
ومع ذلك ، هناك أسباب قوية لتوخي الحذر. على سبيل المثال ، هناك مخاوف من أنه ، على عكس إزالة التحيز والتمييز ، فإن الخوارزميات التي يحركها الذكاء الاصطناعي – والتي تستخدم قوة المعالجة الغاشمة على البيانات البشرية ، والعثور على الأنماط ، والتصنيف والتعميم – سوف تكرر وتعزز تلك الموجودة بالفعل. بعض الدراسات لديها مبين هذا يحدث.
الحجج الأكثر شيوعًا ضد التحكيم الذي يحركه الذكاء الاصطناعي ، مثل هذه ، تتعلق بالنتائج. لكن في مسودة ورقة ابحاثيقول جون تاسيولاس ، مدير معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد ، إنه يجب إيلاء مزيد من الاهتمام للعملية التي يتم من خلالها التوصل إلى الأحكام.
يقتبس تاسيولاس مقطعًا من أفلاطون القوانين، حيث يصف أفلاطون الاختلاف النوعي بين “الطبيب الحر” – الشخص الذي تم تدريبه ويمكنه شرح العلاج لمريضه – و “الطبيب العبد” ، الذي لا يستطيع شرح ما يفعله ويعمل بدلاً من ذلك عن طريق التجربة والخطأ. يجادل أفلاطون أنه حتى لو أعاد كلا الطبيبين مرضاهما إلى الصحة ، فإن نهج الطبيب المجاني هو الأفضل ، لأنه قادر على الحفاظ على تعاون المريض وتعليمه أثناء ذهابه. وبالتالي ، فإن المريض ليس مجرد موضوع ، ولكنه أيضًا مشارك نشط.
مثل أفلاطون ، يستخدم تاسيولاس هذا المثال ليوضح سبب أهمية العملية في القانون. قد نفكر في طبيب العبيد كخوارزمية ، توزع العلاج على أساس شيء مشابه للتعلم الآلي ، في حين أن الطريقة التي يعامل بها الطبيب المجاني مرضاه لها قيمة في حد ذاتها. وفقط العملية التي يتوصل من خلالها القاضي البشري إلى قرار نهائي يمكن أن توفر ثلاث قيم جوهرية مهمة.
الأول هو القابلية للتفسير. يجادل Tasioulas أنه حتى إذا كان من الممكن برمجة خوارزمية مدفوعة بالذكاء الاصطناعي لتقديم نوع من التفسير لقرارها ، فقد يكون هذا مجرد المنشور القديم التبرير بدلاً من التبرير الحقيقي ، بالنظر إلى أن القرار لا يتم التوصل إليه من خلال عمليات التفكير التي يستخدمها الإنسان.
والثاني هو المساءلة. نظرًا لأن الخوارزمية ليس لها استقلالية عقلانية ، فلا يمكن محاسبتها على أحكامها. “كعامل مستقل عقلاني يمكنه اتخاذ الخيارات. . . يمكن أن أتحمل المسؤولية عن هذه القرارات بطريقة لا تستطيع الآلة القيام بها “، قال لي تاسيولاس.
والثالث هو المعاملة بالمثل – الفكرة القائلة بأن هناك قيمة في الحوار بين فاعلين عاقلين ، المتقاضي والقاضي ، مما يصوغ حس الجماعة والتضامن.
هناك جانب غير إنساني للعدالة الحسابية يأتي من عدم وجود هذه العناصر الثلاثة. هناك أيضًا مشكلات أخرى ، مثل المدى الذي يمكن أن يؤدي فيه استخدام التحكيم المستند إلى الذكاء الاصطناعي إلى نقل السلطة القانونية من الهيئات العامة إلى الكيانات الخاصة التي تبني الخوارزميات.
لكن بالنسبة لريتشارد سسكيند ، مستشار التكنولوجيا لرئيس المحكمة العليا في المملكة المتحدة ، في حين أن هناك العديد من الحجج الصحيحة ضد العدالة التي يقودها الذكاء الاصطناعي ، هناك أيضًا حاجة أخلاقية ملحة لجعل العملية القانونية أكثر سهولة. يمكن أن تساعد الأتمتة في معالجة هذا. وفقا لمنظمة التعاون الاقتصادي والتنميةيعيش أقل من نصف سكان العالم تحت حماية القانون ؛ البرازيل لديها 100 مليون قضية متراكمة ، بينما الهند لديها 30 مليون قضية.
قال لي سسكيند: “إنها فجوة على نطاق هائل”. “ما كثير منا. . . محاولة القيام بذلك هي تقليل الظلم الواضح ، بدلاً من تحقيق بعض العدالة الميتافيزيقية الكاملة “.
كما يقول القول المأثور ، يجب ألا نسمح للكمال أن يكون عدو الخير. “يقول الكمبيوتر لا“- العبارة الرئيسية من أ القليل من بريطانيا رسم تخطيطي للتلفزيون – قد يكون شكلاً من أشكال العدالة ناقصة للغاية وغالبًا ما يكون محبطًا ، ولكن الوصول إلى نظام قضائي غير كامل هو بالتأكيد أفضل من عدم الوصول على الإطلاق.
jemima.kelly@ft.com
