ثعبان يعض ذيله ويدور في دوائر حتى يختفي تماما. هذه هي الصورة التي يستخدمها الباحثون لوصف الظاهرة المثيرة للقلق التي تهدد الذكاء الاصطناعي: انهيار النماذج.
هل تعرف Ouroboros، هذا الرمز القديم الذي يمثل ثعبانًا يعض ذيله؟ هذه هي الصورة المثالية لتوضيح الظاهرة المثيرة للقلق التي تهدد الذكاء الاصطناعي اليوم: انهيار النماذج. في الأساس، الذكاء الاصطناعي الذي، بسبب التدريب على إبداعاته الخاصة، ينتهي به الأمر إلى فقدان كل اتصال مع الواقع.
لكن هذا هو السيناريو الكارثي الذي يسلط الضوء عليه باحثون بريطانيون وكنديون، بقيادة إيليا شوميلوف من جامعة أكسفورد، في مقال منشورفي المجلة المرموقةطبيعة. وملاحظتهم واضحة:نماذج الذكاء الاصطناعيالناس الحاليون معرضون لعملية التدمير الذاتي التي أطلقوا عليها اسم "انهيار النموذج« .
للذهاب أبعد من ذلك
ما هو ماجستير في القانون؟ كيف تعمل محركات ChatGPT وGoogle Bard وغيرها؟
ولكن كيف نصل إلى هناك؟ الأمر بسيط: إنه مثل أن تطلب من الذكاء الاصطناعي أن يظهر لك صورة كلب. تسع مرات من أصل عشرة، سوف تطرح صورة لابرادور أو المسترد الذهبي. لماذا ؟ لأن هذه هي السباقات الأكثر تمثيلاً في بياناته التدريبية. حتى الآن، لا شيء غير عادي.
المشكلة هي أن شبكة الإنترنت تمتلئ بشكل متزايد بالمحتوى الناتج عن الذكاء الاصطناعي. وتخمين ماذا؟ سيتم تدريب نماذج الذكاء الاصطناعي الجديدة على هذا المحتوى. النتيجة: سوف يرون المزيد من اللابرادور والذهبي. في نهاية المطاف، سوف ينتهي بهم الأمر إلى الاعتقاد بأن 90٪ من الكلاب ذهبية!
دوامة النسيان
ولا يتوقف الأمر عند هذا الحد. وكلما زاد المحتوى الذي ينشئه الذكاء الاصطناعي بناءً على هذه الرؤية المشوهة للواقع، كلما زاد ابتعاده عن الحقيقة. إنها حلقة مفرغة: مع كل دورة تدريبية، تنسى المزيد عن التوزيع الحقيقي للبيانات. يبدو الأمر كما لو أنه عند تشغيل الهاتف العربي، يتم فقدان الرسالة الأولية تمامًا.
ولا تقتصر هذه الظاهرة على صور الكلاب بالطبع. التأثير حقيقي على نماذج اللغة، وعلى توليد النصوص، وعلى فهم الذكاء الاصطناعي للعالم... النظام البيئي للذكاء الاصطناعي بأكمله مهدد! ربما هذا هو السبب وراء تشابه النتائج والأخطاء بينهماتَوأَم,جي بي تي,ميسترال,كلود,اللاماوهكذا.
بل إن الباحثين يذهبون إلى حد وصف هذا الانهيار بأنه أمر لا مفر منه، على الأقل من الناحية النظرية. يكفي أن نقول أن هذا يلقي بثقله في بركة الذكاء الاصطناعي!
إذًا، هل هذه نهاية الذكاء الاصطناعي كما نعرفه؟ ليس بهذه السرعة. يقترح الباحثون طرقًا للتخفيف من المشكلة. على سبيل المثال، يمكننا وضع معايير نوعية وكمية بشأن أصل وتنوع البيانات المستخدمة لتدريب النماذج. أو يمكننا تطوير علامات مائية لتمييز المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
للذهاب أبعد من ذلك
الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي: لم تعد Google تريد أن تنخدع
ولكن دعونا لا نخفي وجوهنا: فهذه الحلول ليست سهلة التنفيذ على الإطلاق. والأهم من ذلك أنها قد لا تناسب أذواق الجميع. وقد تميل شركات التكنولوجيا الكبرى إلى حماية بياناتها "الأصلية" القيمة من أجل الحفاظ على ميزتها التنافسية.
عرضنا على Twitch SURVOLTÉS، كل يوم أربعاء من الساعة 5 مساءً حتى 7 مساءً: قابلنا للحديث عن السيارات الكهربائية أو الدراجات الكهربائية، حول المناقشات والمقابلات والتحليلات والألعاب!
