تقنية المعلوماتمتنوع

هكذا أصبحت الخوارزميات تتحكم فى حياتك

الشرق بلومبيرج

في كل دقيقة تقرِّر الآلات مستقبلك، فوظيفة برامج الكمبيوتر لا تقتصر على اقتراح الكتب والأفلام التي قد تعجبك، بل إنها تحدِّد أيضاً سعر الفائدة الذي ستدفعه على قرض ما، وما إذا كنت ستحصل على الوظيفة التي تحلم بها، أو حتى احتمال ارتكابك جريمة ما.

كان الأمل أن تتخذ أجهزة الكمبيوتر المدربة على العثور على أنماط معينة وسط مجموعات كبيرة من البيانات، مثل هذه القرارات بطريقة أكثر موضوعية، مما يفعل البشر. ولكن بدلاً من ذلك، يجد الباحثون أنَّ الخوارزميات – (لغة المنطق في البرمجيات) – يمكنها أن تكرر، وتبالغ أيضاً في تحيُّزات أولئك الذين يبتكرونها. وقد أصبحت شركتا “آبل” و”غولدمان ساكس غروب” مثار جدل، إذ فتح أحد المراقبين في “وول ستريت” تحقيقاً حول ما إذا كانت الخوارزمية التي تتحكَّم في مشروعهما المشترك “آبل كارد” تُميِّز ضد النساء.

كيف يمكن أن تصبح الخوارزميات متحيِّزة؟

ثمة حالات قد لا يتوقعها مهندسو البرامج عندما تميِّز برامجهم ضد الأشخاص عن غير قصد. فعلى سبيل المثال، تعرَّضت “فيسبوك” للإحراج في عام 2015، عندما مُنع بعض الأميركيين من السكان الأصليين من الاشتراك، وإنشاء حسابات، لأن البرنامج المسؤول اعتقد أن أسماءهم، بما في ذلك أسماء مثل “لانس براون آيز” و”دانا لون هيل” أسماء مزيفة. كما واجهت “أمازون. كوم” مشكلات في عام 2015، عندما كانت بصدد اختبار إمكانية فحص نظام الذكاء الاصطناعي مبدئياً للمتقدمين للوظائف، وعلَّم نفسه إقصاء النساء من خلال البحث عن كلمات رئيسية معينة في السير الذاتية.

من أين تحصل الخوارزميات على بياناتها؟

في كل مرة تسجِّل الدخول إلى أحد التطبيقات، أو تشتري شيئاً ما عبر الإنترنت، أو تشاهد إعلاناً على هاتفك، فإنك تترك وراءك مجموعة من المعلومات حول أنشطتك واهتماماتك، ومِن ثم تتمسَّك الشركات في كل مكان بهذه البيانات.

وكلما زاد استخدامك للإنترنت والشبكات الاجتماعية، زاد حجم المعلومات التي تعرفها شركات “غوغل” و”فيسبوك” وشركات الإنترنت الأخرى عنك. وهناك بالطبع بيانات جُمِعَت عبر وسائل أكثر تقليدية، مثل قوائم الناخبين، وتراخيص القيادة، واشتراكات المجلات، والمشتريات التي تدفع ثمنها ببطاقات الائتمان، التي يمكن ربطها بالمعلومات المتاحة عبر الإنترنت لرسم صورة كاملة للأفراد.

كيف يمكن أن يؤدي ذلك إلى التحيُّز؟

إن البيانات ذاتها ليست تمييزية بطبيعتها، ولكن تكمن المشكلة في كيفية استخدامها وتفسيرها، خصوصاً عندما تميِّز الخوارزميات الأشخاص عبر الارتباطات أو بيانات “الوكيل”. على سبيل المثال، فإنه من غير القانوني في الولايات المتحدة اتخاذ قرارات التوظيف أو الإقراض على أساس العرق أو الجنس أو العمر أو الميول الجنسية، ولكن هناك وكلاء لهذه السمات في مجموعات البيانات الكبيرة، إذ يمكن أن تقترح الموسيقى التي تبثها على “يوتيوب” الفئة العمرية التي تنتمي إليها، في حين تكشف العضوية في نادٍ نسائيٍّ عن جنسك. وكذلك قد يشير العيش في مناطق معينة من التعداد السكاني إلى تراثك العرقي أو الإثني. وقد وجدت دراسة نُشرت في عام 2017 أن “فيسبوك” قد صنَّف بعض المستخدمين كمثليين، استناداً إلى المنشورات التي “أعجبتهم”، حتى لو لم يعرِّف الأشخاص عن أنفسهم علناً على هذا النحو.

 ما المشكلة مع الوكلاء؟

لنأخذ على سبيل المثال خدمات البحث عن الوظائف عبر الإنترنت. لقد وثَّق الباحثون احتمالات ضئيلة، بأن ترشح تلك الخدمات النساء والأشخاص الملوَّنين لشغل وظائف ذات رواتب عالية، لأن أولئك الباحثين عن عمل لا تتطابق مواصفاتهم مع الصورة النمطية للأشخاص الذين يشغلون تلك الوظائف، فمعظمهم من الرجال البيض. وتستخدم هذه الأنظمة تقنية تسمى “نمذجة التنبؤ”، تُبنى استنتاجاتها استناداً إلى أنماط البيانات التاريخية، ومِن ثَم يمكن أن يجانبهم الصواب عند استخدام البيانات بشكل خاطئ، أو كونها لا تمثِّل المجتمع المعني بدقة. وقد وجدت دراسة من جامعة كاليفورنيا في بيركلي أن أنظمة الإقراض الخوارزمية كانت أقل تميزاً بنسبة 40% من التفاعلات وجهاً لوجه، لكنها لا تزال تميل إلى فرض أسعار فائدة أعلى على المقترضين اللاتينيين والأمريكيين من أصل إفريقي. ومن الممكن أن يكون أحد الأسباب هو أنَّ ملفاتهم الشخصية، تشير إلى أنهم لا يتسوقون بالقدر نفسه كالآخرين.

كيف يتضخَّم التحيُّز في الخوارزميات؟

عندما يُساء استخدام البيانات، يمكن للبرنامج تجميع الصور النمطية أو التوصل إلى استنتاجات خاطئة، فقد أعلنت مدينة “شيكاغو” في عام 2017 عن خططها لتوظيف برمجيات “شرطة التنبؤ” لتعيين ضباط إضافيين في المناطق الأكثر عرضة للجريمة العنيفة. وكانت المشكلة أن النموذج وجَّه الموارد إلى الأحياء التي كانت تتمتع بالفعل بأكبر وجود للشرطة، ما يعزِّز التحيزات البشرية الموجودة لدى رجال الشرطة في الواقع. كما ظهرت مشكلات مماثلة مع البرامج التي تقيِّم المجرمين، إذ استخدمت الشرطة في “دور هام” بإنجلترا بيانات من وكالة “إكسبريان” الائتمانية، بما في ذلك مستويات الدخل، وأنماط الشراء، للتنبؤ بمعدلات النكوص للأشخاص الذين قُبض عليهم. وتشير النتائج، بشكل غير دقيق، إلى أن الأشخاص من خلفيات اجتماعية واقتصادية أقل حظاً، كانوا أكثر عرضة لاحتمالات ارتكاب مزيد من الجرائم.

اظهر المزيد

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

إغلاق
إغلاق