في الأسبوع الماضي، أعلنت مايكروسوفت عن إقالة العشرات من مديري التحرير لصالح ذكاء اصطناعي بسيط مسؤول، بدلاً منهم، عن فرز المعلومات واختيارها ونقلها على أخبار مايكروسوفت وبوابة MSN... وبعد بضعة أيام فقط، تمكنت الشركة من عض أصابعه.
من الصعب جعل التوقيت أسوأ بالنسبة للذكاء الاصطناعيمايكروسوفت. في حين أن الاحتجاجات المناهضة للعنصرية تجري على قدم وساق في الولايات المتحدة وأوروبا كجزء من "حركة حياة السود مهمة»، الأداةتم نشره بواسطة Microsoft ليحل محل العشرات من مديري التحرير البشريين ضمن خدمات Microsoft News وMSN، يبرز من خلال الخلط بين مغني مختلط العرق ... ومغني آخر.
خطأ تم عرضه كجزء من صورة غلاف أحد المقالات ويكشف تمامًا الحدود التكنولوجية للذكاء الاصطناعي، لا سيما فيما يتعلق بتحديد الوجه. مايكروسوفت، من جانبها، أصدرت بالفعل تعليمات داخلية لتجنب نقل المعلومات المنشورة اليوم على بواباتهاالجارديان.
رسم توضيحي يعتبر عنصريًا... لمقال يتناول العنصرية
في الواقع، لقد أربك الذكاء الاصطناعي التحريري الخاص بشركة مايكروسوفت اثنين من المطربين ذوي العرق المختلط في المجموعة البريطانية ليتل ميكس. هكذا نُشرت صورة لي-آن بينوك (على اليمين بالكامل في الصورة أعلاه) كتوضيح لمقال يتناول – على نحو مثير للسخرية – العنصرية التي كان شريكها جايد ثيرلوال (على اليسار بالكامل) ضحية لها أثناء دراسته.
«@MSN إذا كنت تريد نسخ ولصق المقالات من وسائل الإعلام الأخرى، فأنت بحاجة إلى التأكد من أنك تستخدم صورة الشخص المختلط الصحيح في المجموعة»، ردت المعنية على حسابها على إنستغرام، بغضب شديد من وسائل الإعلام مثل MSN التي تحكم عليها «جاهل» :
يحدث هذا الهراء لي ولـ Leigh-Anne Pinnock طوال الوقت، لدرجة أنه أصبح "نكتة جارية". يزعجني أنك لا تستطيع التمييز بين امرأتين ملونتين من بين أربعة أعضاء في المجموعة... افعلي الأفضل!
منظمة العفو الدولية متقلبة، ويصعب إيقافها
وبعيدًا عن الخطأ الذي ارتكبه الذكاء الاصطناعي التابع لشركة مايكروسوفت، فإن رد فعل الناشر داخليًا يبدو متعجرفًا على أقل تقدير. تم الاتصال به بواسطةالجارديانواعتذرت مايكروسوفت وأضافت أنه تم تعديل الصورة التوضيحية للمقال بسرعة. ومع ذلك، تسعى الشركة الآن إلى إخفاء هذا الخطأ من خلال إجبار مديري التحرير لديها على حذف، خاصة من بوابة MSN، المقالة المحرجة من وسائل الإعلام الإنجليزية... والتي يمكن للذكاء الاصطناعي أن ينقلها بشكل جيد.
«نظرًا لأنهم لا يستطيعون منع محرر الروبوت الجديد من اختيار مقالات من مواقع إخبارية خارجية مثل The Guardian، فقد طُلب من الموظفين البشريين الآخرين البقاء يقظين وإزالة هذه المقالة إذا قرر الروبوت أنها مثيرة للاهتمام ويقوم بنشرها تلقائيًا على موقع MSN.com."، تشرح صحيفة الغارديان، بينما تضيف أن مديري التحرير الذين أفلتوا من تسريح العمال قد ""لقد تم تحذيرنا أيضًا من أنه حتى إذا قاموا بحذفه، فقد يتجاوزه الذكاء الاصطناعي ويحاول نشره مرة أخرى."
باختصار، يبدو أن شركة ميكروسوفت الآن تضع موظفيها من البشر كرقباء، وتأمرهم بإلغاء نشر المقالات المحرجة يدويًا التي قد يرى الذكاء الاصطناعي التابع لها أنه من المناسب مشاركتها حول مسألة هي في أسوأ حالاتها. "مع كل الاحتجاجات الحالية المناهضة للعنصرية، الآن ليس الوقت المناسب لارتكاب الأخطاءمن جانبه، أشار أحد أعضاء فريق التحرير في مايكروسوفت الذي اتصلت به صحيفة الغارديان، إلى أن المجموعة ستكون قلقة بشأن الضرر الذي قد يلحقه هذا الخطأ بسمعة الذكاء الاصطناعي التحريري الخاص بها.
هل ترغب في الانضمام إلى مجتمع من المتحمسين؟خلافنايرحب بكم، إنه مكان للمساعدة المتبادلة والشغف بالتكنولوجيا.
