سبعة أسرار عن الخوارزميات التي تتحكم في عالم الإنترنت 

يُضيّف المعهد الملكي البريطاني في محاضرة أعياد الميلاد السنوية هذا العام الكاتبة هانا فراي لتتحدث عن عالم المعلومات الذي نعيش في خضمه ودور الخوارزميات في اختياراتنا فيه ومدى تأثيرها في حياتنا.

لا تبدو كلمة "خوارزميات" من تلك الكلمات التي تثير الخيال أينما وجدتها، لكنها شئت أم أبيت، كلمة ولدت لتبقى وباتت راسخة في عالمنا المعاصر.

وإذا سألتني، سأقول إن الخوارزميات يمثل حزمة غريبة من المتناقضات. يُستخدم كثيرا على الإنترنت، على سبيل المثال في كل مرة تبحث فيها عن شيء على النت.

والخوارزميات مألوفة في الغالب، ولكنها تظل غريبة في الوقت نفسه. وهي واسعة الانتشار وغير مرئية. وتملك تأثيرا عميقا، افتراضيا، في كل مظاهر مجتمعنا، مع أنها تستطيع بشكل ما أن تكون سهلة التجاهل بشكل مثير للدهشة.

ولكن لا تجاهل لها بعد اليوم، وإليك دليل مبسط يساعدك في الإبحار في هذا العالم الجديد المذهل..

1- ما هي الخوارزميات؟

يُمكنك النظر إلى الخوارزميات بوصفها سلسلة من التعليمات، مثل وصفة إعداد الطعام. تأخذ حزمة من المكونات وتخلطها معا لتحصل على نوع ما من الحصيلة الجديدة في النهاية.

وهذه المكونات قد تكون دائما نوعا من البيانات: ربما مصطلحات بحثك على الانترنت، أو مسح لملامح وجهك، أو قائمة طويلة للمقطوعات الموسيقية التي حملتها من النت.

أما نتائجها فهي أشياء ندركها جميعا: كالصفحة الأولى التي تظهر لك في محرك البحث غوغل، أو فتح هاتفك النقال عبر التعرف على ملامح وجهك، أو حزمة مقترحات جديدة تشاهدها على موقع سبوتيفاي للموسيقى.

2- من يستخدم الخوارزميات؟

تجد الخوارزميات في كل مكان على الإنترنت، التي يجري فيها بحث وإضفاء طابع شخصي على الاختيارات (تحديد الاختيارات الشخصية)، من التسوق على الإنترنت إلى خدمات البث المتدفق (خدمة بث الموسيقى والأفلام وغيرها عبر الإنترنت). بيد أن الخوارزميات تُستخدم بشكل أوسع من ذلك بكثير. في السنوات القليلة الماضية، بدأ الناس في الاستعانة بمصادر خارجية واستخدام الأتمتة لاتخاذ القرارات في مختلف المجالات الإنسانية.

فتجد الخوارزميات اليوم في قاعات المحاكم، تساعد القضاة في اتخاذ الحكم المناسب، وفي نوادي كرة القدم تساعد المدربين لاختيار أفضل أسلوب لتدريب لاعبيهم، وفي المستشفيات لمساعدة الأطباء لاتخاذ قرارات بشأن نوع العلاج الذي سيقدمونه لمرضاهم، وفي الشركات للمساعدة في اختيار الموظفين الجدد ومن سيمنح العمل. فهي تنتشر في كل مكان بشكل أساسي.

3- هل ترتكب أخطاءً ؟

إن الحصيلة التي يمكن إنجازها عبر هذه الأدوات الجديدة التاريخية مذهلة، لكن لا شك في أنها بعيدة عن الكمال.

وهذا قد يبدو واضحا، بعد كل شيء، في تجارب أشخاص وصلتهم توصيات عن سلع لم يطلبوا شراءها على الإنترنت أو عن فيلم لم يطلبوا مشاهدته، فباتوا يعرفون أن الخوارزميات لا تصل إلى الأشياء بشكل صحيح على الدوام. ولكن بطريقة أو بأخرى، من الصعب علينا تماما تذكر هذه الحقيقة ونحن منجذبون إلى الوعود المشرقة التي تقدمها لنا التكنولوجيا الجديدة.

ثمة تقارير تشير إلى أن بعض الفنادق ينظر في الغاء استخدام مفاتيح البطاقات الإلكترونية والاستعاضة عنها بتقنية التعرف على الوجه كمفتاح يسمح للنزلاء في الفندق بالدخول إلى غرفهم.

• سبع مهن قد تختفي بفعل تطور التكنولوجيا
• فيسبوك يستخدم تقنيات الذكاء الاصطناعي للتعرف على ذوي الميول الانتحارية
• كيف تتحكم تقنيات "التصحيح الذاتي" في تصرفاتنا؟

وحتى لو استخدمت هذه الطريقة لنحو 90 في المئة من الوقت، سيظل نحو عشرة زبائن في فندق يضم مئات الغرف يصعدون وينزلون على السلالم وفي الممرات طلبا للمساعدة عندما لا تفتح أبواب غرفهم اعتمادا على تقنية التعرف على وجوههم. وليس هذا الخيار الأفضل بالتأكيد لأقامة مسترخية في فندق.

بيد أن مثل هذه الأخطاء قد تسفر عن عواقب خطيرة، على سبيل المثال إذا استخدمت الخوارزميات لتصفية السير المهنية لمتقدمين إلى عمل ما، أو لتخصيص فوائد معينة وتوزيعها، أو لتقييم أداء المعلمين، إذ يمكن للأخطاء التي لا يمكن تجنبها أن تترك تأثيرا كبيرا على حياة الناس. لا سيما عندما نكون معتادين على الثقة المبالغة بها بقرارات الكومبيوتر والتقنية.

4- نجد أن من الصعب إلغاءها

سمعنا جميعا قصصا عن أناس تتبعوا تعليمات برامج الملاحة أو تحديد الموقع عبر الأقمار الاصطناعية وانتهوا إلى الوقوف حائرين أما في طريق مغلق النهاية أو عند حافة جرف صخري على البحر.

قد نضحك بسهولة على مثل هذه الأخطاء ولكن من المهم هنا أن نكون أمينين مع أنفسنا، في الاعتقاد أنه من الصعب تجنب اعتمادنا على استخدام التكنولوجيا.

وتلك يمكن أن تشكل مشكلة خطيرة حقا عندما تبدأ في استخدام الخوارزميات التي يمكن أن تنتج حالات خاطئة تكون فيها حيوات أناس على المحك.

خذ على سبيل المثال لا الحصر، واحدا من الاستخدامات المثيرة للجدل بشكل خاص للخوارزميات، عندما يُتهم شخص في المحكمة بارتكاب جريمة، وتتنبأ الخوارزميات باحتمالات عودته لارتكاب الجريمة مرة أخرى. ومثل هذا الأسلوب في التوقع يستخدمه القضاة في المحاكم حول العالم لاتخاذ قرار بشأن الإفراج عن المدعى عليه بكفالة أو لا، وفي بعض الحالات لاتخاذ قرار بشأن مدة حكم المتهم.

في العام الماضي، أظهر بعض الأكاديميين أن هذه الخوارزميات لم تُحسن التنبؤ بما سيحدث للمدعى عليه في المستقبل، بطريقة أفضل من إعطاء قاعة ممتلئة بالناس المعلومات ذاتها والطلب منهم تخمين هل أن المدعى عليه سيرتكب جريمة أخرى أم لا.

وفي محاضرة أعياد الميلاد، سنشير إلى أنه ثمة مكان للخوارزميات في قاعة المحكمة، لكن يجب استخدامها بعناية وحذر، لأن المشكلة هنا تتمثل في: ما الأصعب تجاهله بالنسبة للقاضي، هل هو توقع من جهاز غال يعتمد الذكاء الاصطناعي، أم مجرد تخمين من مجموعة من الناس الغرباء تماما.

5- لا ترتكب الخطأ نفسه لكل شخص

قد تعتمد الخوارزميات على الرياضيات، لكن هذا الأمر لا يعني أنها لن تكون منحازة.

على سبيل المثال، أشارت خوارزميات استخدمت في عمليات توظيف أولية إلى أن من المرجح بقاء الناس في داخل الشركة إذا كان الزمن الذي يستغرقونه في رحلات وصولهم من العمل إلى البيت قصيرا، وبناء على هذا الاستنتاج أُبعد كل الاشخاص الذين يسكنون على بعد مسافة يستغرق الطريق اليها أكثر من ساعة من مكاتب الشركة.

ويبدو مثل هذا القرار عادلا ومقبولا من الخارج، ولكن نتيجته كانت أن من يستطيعون السكن في مركز المدينة قريبا من موقع الشركة كانوا من الأغنياء فقط، أي أن الخوارزميات أبعد بشكل غير مبرر كل من جاءوا خلفيات اجتماعية واقتصادية أدنى عند تقديمهم طلبات التوظيف.

هذا النوع من الانحياز غير المقصود تراه في كل مكان، على سبيل المثال، إذا بنيت خوارزميات ا لتحديد الخلايا السرطانية في أنسجة الصدر، بناء على بيانات مُسوح أجريت في مستشفيات غالبية مرضاها من أصول أثنية قوقازية، ستنتهي بنتيجة غير موفقة لتشخيص السرطان في نساء من خلفيات أثنية أخرى.

وكذلك الحال، مع تقنية التعرف على ملامح الوجه، التي صُممت واختبرت على مجموعات بشرية متجانسة تفتقد إلى التنوع، التي تصبح غير فاعلة بشكل كبير في تمييز ملامح وجوه أشخاص من ذوي بشرة ذات درجة لون أكثر دكنة.

إن عواقب ذلك خطيرة: لا يتعلق ذلك بالازعاج الناجم عن عدم قدرتك على فتح هاتفك المغلق فقط، أو إذا كانت سيارات ذاتية القيادة (من دون سائق) غير قادرة على تمييز (أو من المحتمل تتجنب) مشاة معينين، أو كانت أجهزة التعرف على الوجه في بوابات الدخول في المطارات تعمل فقط مع نوع محدد من الناس، بل بأن هذه الخوارزميات ستولد أنظمة أتمتة في مجتمع غير متكافئ.

ومن حسن الحظ أن العاملين في إعداد الخوارزميات باتوا أكثر تركيزا على هذا الأمر خلال السنتين الماضيتين ويحاولون بفاعلية تحسينها.

6- كيف تعلم الخوارزميات متى تكون على صواب؟

هنا التحذير الأكبر الذي أقدمه. احترس من الخوارزميات المزيفة (أي تلك التي تبنى على بيانات غير علمية). ثمة توجه باستخدام خوارزميات مثيرة للقلق معتمدة على علم زائف. ولحسن الحظ، ثمة طرق تمكنك من تشخيصها، إبدأ بسؤال نفسك هذا السؤال البسيط: كيف تعلم الاخوارزميات متى تكون على صواب؟

مصدر الصورةGETTY IMAGES

Image captionيتزايد اعتماد قوات الشرطة حول العالم على تقنية التعرف على الوجه

وهذا سؤال يسهل أن تجيب عليه خوارزميات مناسبة، على سبيل المثال في عملية تمييز ملامح الوجه: ثمة احتمالان إما أن تكون الشخص الذي تبحث عنه الخوارزميات أو لا تكون. وهكذا فإن الخوارزميات يعرف متى يكون على صواب في تحديد ملامح وجهك.

وعلى العكس، ثمة بعض الخوارزميات التي تزعم أنها قادرة على تحديد عواطف شخص ما وشخصيته من صوره في مقاطع فيديو. وتثستخدم في المقابلات لتقييم هل أن شخصا ما مناسبا للعمل في الشركة. وهنا سؤال يطرح نفسه : كيف يمكن للخوارزميات أن تعرف أنها قد استخلصت عواطف الشخص بشكل صحيح؟

لنكن صادقين، هل تستطيع حتى وصف عواطفك الشخصية، وفي مناسبة مثل مقابلة عمل على وجه الخصوص وأنت تعيش فيها مزيجا من الإثارة والقلق بينما تحاول أن توحي أنك واثق من نفسك.

7- إسأل نفسك لمصلحة من تستخدم هذه الخوارزميات؟

في استبيان شهير أُجري في عام 2016، سُئل أناس أنه في حالة وقوع حادث اصطدام لا يمكن تجنبه في سيارة بدون سائق، من ستختار لانقاذه ركاب السيارة أم المارة الأبرياء؟

نسبة كبيرة من المشاركين في الاستبيان، نحو 76 في المئة، شعرت أن من الأخلاقي أن تقوم السيارات من دون سائقين بإنقاذ أكبر قدر من الأشخاص، وهذا يعني التضحية بالركاب الذين داخل السيارة.

وعندما سألت الدراسة نفسها المشاركين عن هل أنهم سيشترون سيارة يُمكن أن تتسبب في مقتلهم في ظرف حرج مثلما ذُكر، بدوا فجأة مترددين بالتضحية بأنفسهم من أجل الخير العام وإنقاذ أكبر عدد من الأشخاص. أية مفاجأة تلك!.

وهذا شيء يجدر تذكره خارج عالم السيارات من دون سائقين: إن الخوارزميات تُبنى لإنجاز هدف محدد، بيد أن النتيجة المرغوبة قد تتغير تبعا لمن سألتهم أو لكيفية توجيه أسئلتك لهم؟

في العادة، ينسجم ما هو أفضل بالنسبة إليك مع ما تحاول الخوارزميات فعله: فخوارزميات التأمين قد تسهم في تخفيض نفقاتك، وخوارزميات التعرف على الوجه قد تساعد في جعل الطوابير تسير بشكل أسرع (بالنسبة لبعض الناس على الأقل). بيد أنه من المهم معرفة لمصلحة من تعمل هذه الخوارزميات (لحساب شركات من أمثال: يوتيوب، سبوتيفاي، أوديوبل، فيسبوك، وما شابه)، فكل الخوارزميات بُنيت لخدمة الأشياء التي تحبها، ليس لأن لديها رغبة عميقة الجذور لأن تراك مستمتعا. بل إنها تحاول أن تبقيك في الموقع الذي تخدمه فقط لأطول فترة ممكنة، وأن تبيعك أشياءً وتُسوق لك الإعلانات.

هذه لمحات عن تلك القوة المرعبة التي تقف خلف عالم تكنولوجيا الإنترنت الذي نغرق فيه، ولكن ستجد الكثير في محاضرات أعياد الميلاد في المعهد الملكي البريطاني لعام 2019 والتي تحمل عنوان : "أسرار وأكاذيب : قوة الرياضيات الخفية" في 26 و 27 و 28 من الشهر الجاري وتنقل في بي بي سي راديو 4 في الساعة الثامنة مساءً.