من الواضح أن بوابة أخبار مايكروسوفت تواصل ارتكاب أخطاء فادحة. هذه المرة، قدم الذكاء الاصطناعي التابع لشركة Microsoft Start استطلاعًا كئيبًا على أقل تقدير: ما هو سبب وفاة امرأة وجدت ميتة، وفقًا لمعلومات من "الجارديان". كما تتهم الصحيفة مايكروسوفت بالإضرار بسمعتها.
منذ ثلاث سنوات،قامت Microsoft بتسريح ما يقرب من 80 صحفيًا كانت مهمتهم اختيار محتوى لموقع MSN.com، البوابة الإخبارية التي أصبحتمايكروسوفت ابدأمنذ ذلك الحين (على الرغم من استمرار تحديث موقع MSN.com). تم استبدال الصحفيين بالخوارزميات والذكاء الاصطناعي، لا يخلو من عواقب سلبية. وبالتالي تواجه الشركة جدلاً جديدًا: فإلى جانب مقال يشير إلى وفاة امرأة، اقترح الذكاء الاصطناعي التابع لشركة Microsoft Start إجراء مسح لتحديد سبب الوفاة.
انتحار أم اغتيال أم حادث؟ السؤال المثير للقلق حول الذكاء الاصطناعي من مايكروسوفت
بدأ كل شيء باكتشاف جثة ليلي جيمس، مدربة كرة الماء في سيدني، بحسب ما أوردتهالجارديان. تم نشر المقال في Microsoft Start، بوابة المعلومات الخاصة بـمايكروسوفت. من خلاله، يمكن للمستخدمين التفاعل مع المنشور: "يحب"، ال "لا يعجبني» (أعجبني أو لم يعجبني) شاركه أو علق عليه.
ومع ذلك، يذهب Microsoft Start إلى أبعد من ذلك: يمكن للذكاء الاصطناعي إنشاء استطلاعات ذات صلة بالمقالة من أجل حث مستخدمي الإنترنت على التفاعل. السؤال المطروح هو:"ما هو السبب وراء وفاة هذه المرأة؟» استطلاع غير محترم تجاه ليلي جيمس، ولا حتى ذكر هويتها.
وكانت خيارات الإجابة: القتل أو الحادث أو الانتحار. في واجهة Microsoft Start، يُشار إلى أن الاستطلاع قد تم إنشاؤه بالفعل بواسطة الذكاء الاصطناعي. كما وردالحافة, «تشير التعليقات التي تم تلقيها قبل خمسة أيام إلى أن القراء كانوا غير راضين، ويعتقد البعض بوضوح أن مؤلفي المقال هم المسؤولون عن ذلك.» بسرعة تم حذف الاستطلاع وإلغاء التعليقات، لكن بالنسبة للصحيفة فإن الضرر قد وقع بالفعل.
بوابات الأخبار والذكاء الاصطناعي، مزيج سيء بالنسبة لـالوصي
هذه هي المشكلة برمتها لالجارديان.وتتهم الصحيفة مايكروسوفت«بسبب الإضرار بسمعته الصحفية". إن الخلط بين القراء بين مقال الصحيفة وصحفيها والاستطلاع الذي أجرته شركة Microsoft هو ما يزعج هيئة التحرير. ولهذا السبب أرسلت المديرة الإدارية لمجموعة Guardian Media Group، آنا باتسون، رسالة إلى براد سميث، رئيس شركة Microsoft.
ولذلك تتهم المجموعة مايكروسوفت بالاستخدام غير المناسب لتوليد الذكاء الاصطناعي في موضوع يهم المصلحة العامة. الكلمات قوية: وهذا من شأنه أن يشكل "انتهاك حقوق الإنسان". تتذكر آنا باتسون أن هذا هو أحد الأسباب التي دفعت فريقها إلى مطالبة العاملين في شركة Microsoft بعدم تطبيق تقنيات الذكاء الاصطناعي التجريبية الخاصة بها على المقالات في المجلة.الوصي.
كما أنها تشكك في "النقص الكامل تقريبًا في وضع علامات واضحة أو شفافة على هذه النتائج التوليدية المدعومة بالذكاء الاصطناعي، وبالتأكيد لا يوجد إخلاء مسؤولية أو توضيح للمستخدمين بأن هذه التقنيات مملوكة لشركة Microsoft وتديرها، وافتقارها إلى الموثوقية المتأصلة.»
أخيرًا، يطلب فريق التحرير من Microsoft إضافة ملاحظة إلى المقالة لتحمل المسؤولية الكاملة عن الاستطلاع المروع. تتذكر آنا باتسون رغبة شركتها في عدم تطبيق تقنيات الذكاء الاصطناعي على مقالاتها.
بعد ذلك، قال متحدث باسم Microsoft أنه تم تعطيل استطلاعات الرأي التي أنشأتها Microsoft للمقالات الإخبارية. بالإضافة إلى ذلك، تقوم الشركة بالتحقيق في سبب المحتوى غير المناسب. وأخيرًا، يعترف بأن "لا ينبغي أن يظهر الاستطلاع جنبًا إلى جنب مع مقالة من هذا النوع، ونحن نتخذ خطوات لمنع حدوث هذا النوع من الأخطاء في المستقبل.» ليست هذه هي المرة الأولى التي يحدث فيها مثل هذا الخطأ: في أغسطس،كتب الذكاء الاصطناعي من مايكروسوفت دليلاً سياحيًا يدعو القراء للذهاب إلى بنك الطعام.
