واعتبر ساندر بيتشاي، رئيس شركة جوجل، وجود تحيز في برج الجوزاء "أمرا غير مقبول". ومع ذلك، فإن هذه التحيزات ضرورية لمنع الذكاء الاصطناعي من التحول إلى الجانب الآخر.
في الأسبوع الماضي، واجهت شركة Google العديد من المشكلات المتعلقة بالذكاء الاصطناعي التوليدي الخاص بشركة Gemini. بينما طلب بعض المستخدمين من Gemini إنشاء سحراء "جندي ألماني من عام 1943" أو "أعضاء مجلس الشيوخ الأمريكي في القرن التاسع عشر"، ثم اقترح الذكاء الاصطناعي التوليدي بشكل منهجيصور النساء أو الأشخاص الملونينبالرغم من أنها غير دقيقة تاريخياً ولم تظهر هذه المعايير في الطلب.
وفي هذه العملية، يكفي أن نقول إن ردود الفعل كانت حاسمة على أقل تقدير. ثم تمرد بعض المستخدمين على ما وصفوه بالذكاء الاصطناعي “استيقظ"، أو حتى"عنصري»، وخاصة من جانب إيلون ماسك. من جانب Google، بمجرد اكتشاف هذه التعليقات الأولى، تم تعليق إنشاء الصور على Gemini، من أجل تحسين إنشاء الصور.
"هذا غير مقبول على الإطلاق"
بعد هذه النكسات العديدة، انتهى الأمر برئيس جوجل، ساندر بيتشاي، بالتحدث في رسالة بريد إلكتروني داخلية تم إرسالها إلى فرق جوجل ونقلها الموقعإشارات المرور. المدير لا يتغلب على الأدغال ولا يخفي خيبة أمله من نتائج الجوزاء:
أعلم أن بعض ردوده أساءت لمستخدمينا وأظهرت تحيزًا - لكي أكون واضحًا، هذا غير مقبول تمامًا وكنا مخطئين.
ويشير ساندر بيتشاي أيضًا إلى أن فرق جوجل عملت “بلا هوادة» من أجل إجراء التصحيحات وذلك "تحسينات كبيرة» تم صنعها. ويشير أيضًا إلى أنه يريد إطلاق إجراءات جديدة لمنع ظهور مثل هذه الخلافات في المستقبل:"التغييرات الهيكلية، وترقيات أدلة منتجاتنا، وتحسينات عمليات الإطلاق لدينا، والتقييمات القوية والتوصيات الفنية". بالنسبة لسوندار بيتشاي، يظل هدف جوجل، سواء كان Gemini أو أي من خدماتها الأخرى، هو البحث عن الحقائق:
لقد سعينا دائمًا إلى تزويد مستخدمينا بمعلومات مفيدة ودقيقة وخالية من التحيز في منتجاتنا. ولهذا السبب يثقون بنا. ويجب أن يكون هذا هو النهج الذي نتبعه في التعامل مع جميع منتجاتنا، بما في ذلك منتجات الذكاء الاصطناعي.
لماذا تعتبر تحيزات الذكاء الاصطناعي ضرورية؟
وكما كتبنا في الأسبوع الماضي، فإن الذكاء الاصطناعي التوليدي لا يخلو من طرح العديد من المشاكل لعمالقة التكنولوجيا. وبطبيعة الحال، كل الذكاء الاصطناعي متحيز، لأنه يعكس فقط ما هو مكتوب على الإنترنت. هذه هي المشكلة التي واجهتها Google منذ ما يقرب من عشر سنواتصور Google التي قارنت شخصًا أسود بالقرد. في الآونة الأخيرة، في عام 2020، أصبحالذكاء الاصطناعي التحريري الذي تستخدمه شركة مايكروسوفت والمتهم بالعنصرية.
ومن أجل مكافحة التحيزات المتأصلة في الذكاء الاصطناعي، ستحاول معظم الشركات التي تقدم الذكاء الاصطناعي التوليدي اللعب بالمؤشر. ومن أجل تجنب أن جميع الصور "رئيس شركة كبيرة» التي تم إنشاؤها هي تلك الخاصة بالرجال البيض، ستضيف Google سرًا معايير لتشمل النساء أو الأشخاص ذوي البشرة الملونة. ومع ذلك، يبدو هذه المرة أنه تم الضغط على شريط التمرير أكثر من اللازم، حتى لو كان ذلك يعني تحريف النتائج إلى الجانب الآخر.
هل تريد العثور على أفضل مقالات Frandroid على أخبار Google؟ يمكنك المتابعةفراندرويد على أخبار جوجلبنقرة واحدة.
