انت الحكاية والمستقبل

التعصب والعنصرية لدى الآلات شئ يدعو للقلق حول مستقبلنا

نسمع بين الحين والآخر قصص حول روبوتات وبرامج ذكية أظهرت تعصبًا وميول عدواني خلال تعاملها مع مستخدميها من البشر وهو ما يدفعنا إلى طرح العديد من الأسئلة، هل يمكن للذكاء الصناعي أن يتصف بالخبث أو التحيز؟ وهل من الممكن أن يكره أو أن يحب وأن يكون له مشاعر تجاه الأشياء المحيطة به مثل البشر؟

ثمة قصة أعمق وراء كل خبر وتفاصيل تظهر حقيقة من هو المسؤول عن هذه الأشياء هل هي الآلة أم البشر؟. وسنحاول هنا عرض الموضوع بشئ من الفحص والتدقيق لمعرفة حقيقة الأمر ومن المسؤول عن هذه النتائج.

اقرأ كذلك الإنسان وحلم الطيران: رحلة تطور الطيران عبر التاريخ

ما هو الذكاء الإصطناعي ؟

الذكاء الإصطناعي تقنيات تستطيع القيام بمهام تحاكي البشر منها التمييز والتصنيف للصور والمعلومات وذلك عن طريق التعلم أو تدريب الآلة وذلك يتم بتطبيق الخوارزميات على كميات ضخمة من البيانات تساعد على استخلاص المتشابهات واستنباط النتائج والتنبؤ بها في بعض الأحيان وإتخاذ القرارات.

وبمرور الوقت وزيادة التدريب يصبح لدى الآلة كم أكبر من المعلومات والخبرات لتطوير أدائها وقدرتها، يبدو الأمر جاف حيث هناك آلات جامدة تتعامل مع بيانات وحقائق وأرقام ولكن ماذا إن كانت مشاعرنا تنتقل كذلك إلى هذه الآلات.

الدليل على تعصب الآلات

اكتشف أفضل فرص العمل والمنح والتدريبات والكورسات المجانية للطلاب والخريجين من هنا

أطلقت شركة مايكروسوفت شخصية فتاة وهمية منذ عامين تدعى Tay وهي تمثل فتاة مراهقة يمكنها الدردشة مع المستخدمين والإجابة عن أسئلتهم عبر حساب خاص على موقع تويتر.

تم تطوير Tay باستخدام الذكاء الاصطناعي وكانت قادرة على إكتساب المهارات والخبرات كلما أدخلت إليها معلومات وتجارب أكثر من خلال تعاملها مع الناس، حيث بدأت Tay بالتغريدات مثل “هل يمكن أن أقول أننى سعيدة بلقائك؟ البشر لطفاء للغاية”، وإنتهت بتغريدة مثل “هتلر كان على حق، أنا شخص لطيف ولكني فقط أكره البشر”، حيث أصبحت رسائلها في معظمها تحرض ضد السود والمهاجرين وتدعو للتطهير العرقي.

كان ذلك مثال واضح من نوع المشاعر التي يمكن للبشر أن ينقلوها للآلات ولكن هناك نماذج أقل وضوحا، مثل تفضيل الآلة لبعض النتائج خلال الدراسات العلمية وذلك لتوافق توقعاتها وما اعتادت عليه من المعلومات، فإذا تعلمت آلة في قسم التحقيقات مثلا أن أغلب المجرمين هم من ذوي بشرة معينة مثلا ستعتبر ذلك من الحقائق التي تستدل بها على النتائج.

اقرأ كذلك تعلم لغة البرمجة c++ من خلال سلسلة الكورسات المجانية من مايكروسوفت

أكد ذلك بحث صدر مؤخرا أجراه علماء جامعة كورنيل الأمريكية على نظام تعليم الآلات المعروف اختصارا باسم بلوف فوجدوا كل أنواع التحيز البشري ظاهرة في بيانات الذكاء الاصطناعي وحتى الأجهزة التي من المفترض أنها دربت على أن تكون محايدة مثل نصوص ويكيبيديا ومقالات الأخبار.

مواجهة التعصب لدى الألات

لدى مايكروسوفت وجوجل وفيسبوك الآن برامج تختبر مخرجات الذكاء الاصطناعي للكشف عن مقدار العنصرية فيها، حيث تعطي الآلات كلمات مثل أسلحة وورود وأبيض وأسود ثم تطلب منها أن تقرنها بصفات توافقها من هنا تبدأ في تعديل المعلومات التي لدى تلك الآلات.

ولكن حتى الآن ليست هناك وسيلة يمكن بها تجنب العنصرية والمشاعر السلبية التي تنتقل إلى الآلات من خلال مدخلات البشر، ولا يمكن الوثوق في أن الآلات تستطيع تعديل ذلك تلقائيا وذلك لأنها لا تمتلك الضمير الحي الذي نملكه نحن البشر.

ولذلك يبدو جليا أن الآلة ليست هي المذنب في أي نتائج تظهر أنها عنصرية أو لديها مشاعر كراهية أو تحيز تجاه فئة دون الأخرى، بينما يقع الأمر في الأساس على ما ينقله البشر إليها من مدخلات، وليس للآلة أي دور سوى تحليل هذه البيانات وإتخاذ القرارات بما يتوافق معها دون أي تحيزات لديها أو نوايا سيئة تجاه شئ دون آخر.

اكتشف أفضل فرص العمل والمنح والتدريبات والكورسات المجانية للطلاب والخريجين من هنا

يستخدم هذا الموقع ملفات تعريف الارتباط لتحسين تجربتك. سنفترض أنك موافق على ذلك ، ولكن يمكنك إلغاء الاشتراك إذا كنت ترغب في ذلك. قبول