محاكمة الخوارزميات للمرة الأولى

أصدرت محكمة إيطالية هذا الأسبوع قرار بتغريم الشركة المالكة لتطبيق Deliveroo 50 ألف يورو. التطبيق واحد من أكثر التطبيقات المستخدمة في دول الاتحاد الأوربي لتوصيل الطعام. يعمل التطبيق من خلال إرسال مهام التوصيل إلى السائقين الذين يقومون بتوصيل الوجبات من المطاعم إلى الزبائن. قام عدد من السائقين برفع دعوى أن التطبيق متحيز في توزيع أوامر العمل بينهم. وثبت للمحكمة بمراجعة كيفية عمله أن التطبيق يقلل من إرسال طلبات التوصيل لمن إعتذروا سابقاً عن مهمة أرسلت لهم أو لم يكملوا مهمة لسبب أو لأخر حتى لو كان بسبب قهري أو طاريء.

قالت المحكمة أن عدم تقدير السبب وراء رفض طلب توصيل أو عدم إكماله بنجاح يعد تفرقة تؤدي إلى ذهاب طلبات العمل لفئة معينة فقط وعدم مراعاة ما قد يكون ظرف قهري عارض.

يعتبر القرار الأول من نوعه ولحظة تاريخية مهمة، لأنه يرسل رسالة لشركات التكنولوجيا أنهم مسئولون عن “خوارزمياتهم” وأنهم سيحاسبون على “تحيزها” ولن يشفع لهم كونها تعتمد على الذكاء الإصطناعي.

أُثمن هذا القرار جداً، كمبرمجة سابقة أعلم أنه مهما قيل من أن الذكاء الإصطناعي “يولد” المعارف ويدرب نفسه هو في نهاية الأمر “تربية” من يصنعه وهذه الكلمة هي أقرب تعبير لفهم كيفية عمل الذكاء الإصطناعي.

نعم هو يقرر ويتخذ قرارات من نفسه .. لكن بعد فترة من “التدريب” يعلمه فيها “مدربه” ما الصواب وما الخطأ، ما المقبول وما المرفوض.

في الماضي كنا نكتب سيناريوهات محددة تخرج نتائج معروفة سلفاً. أما الآن فنقدم أطر عامة، وبيانات وحالات ونراجع قرارت الخوارزميات الأولية ونعطيه Feedback وبناء على كل ذلك يجرب مرة ومرات حتى يصبح بالكفاءة اللازمة للتصرف وإتخاذ القرارات حتى لو كان السيناريو جديد تماماً.

إذا كانت الخوارزميات منحازة فهي بالفعل مشكلة الشركة، ومشكلة من “رباها” إن صح التعبير. وأحسنت المحكمة الإيطالية بهذا الحكم فسيبدأ ذلك في وضع الأمور في نصابها الصحيح.