من خلال البحث في أمازون، ندرك أن العديد من المراجعات تتم كتابتها بواسطة الذكاء الاصطناعي مثل ChatGPT. إذا كانت نوايا هذه الآراء غير معروفة، فمن المثير للاهتمام البحث في أسباب هذه الآراء الخاطئة (مسبقًا) وما يمكن أن تتغير.
العديد من المراجعات كتبها الذكاء الاصطناعي التوليدي على نفس النموذجChatGPT(أو الذي قد يكون من عمل أداة OpenAI) التي تم رصدهاأمازون.
مراجعات مزيفة على المنتجات التي تم رصدها على أمازون
يبدأ كل شيء من ملاحظة مهندس الأمن دانييل فيلدمان، الذي شاركتغريداكتشافه. بالكتابة "site:amazon.com »كنموذج لغة الذكاء الاصطناعي»» في أي محرك بحث، نواجه نتائج مثيرة للدهشة على أقل تقدير. يعثر هذا البحث على صفحات من موقع أمازون تتضمن المصطلحات “كنموذج لغة الذكاء الاصطناعي», «كنموذج لغة الذكاء الاصطناعي". ردًا على تغريدة دانييل فيلدمان، أشار العديد من مستخدمي الإنترنت إلى أن نفس الطريقة تعمل على مواقع أخرى:عواءتم ذكره بشكل خاص.
https://twitter.com/d_feldman/status/1649466422018318338
يجد جوجل86 نتيجة بحثومعظم الكلمات المتأثرة موجودة في المراجعات التي نشرها المستهلكون. إلا إذا كنت تواجهالقزم، هذه هي المراجعات المكتوبة تلقائيًا بواسطة هؤلاء المشترين، الذين لم يأخذوا الوقت الكافي لإعادة قراءة مراجعتهم التي تم إنشاؤها قبل نشرها. حتى أن بعض المستخدمين يزعمون أنهم قد كتبوا مراجعتهم بواسطة ChatGPT ويعلقون أيضًا على النص الناتج عن ذلكالذكاء الاصطناعي. ولكن ما يتبين من آراء أخرى تدعي أنها "جاد"، هو أنهم يمنحون خمس نجوم بشكل منهجي تقريبًا للمنتجات المعنية.
مثال يساوي أكثر من 1000 كلمة (خاصة إذا كانت مكتوبة بواسطة ChatGPT)، هذا هو العدددودي سام، بعد أن نشر العديد من المراجعات، جميعها بأقصى درجة، منذ أبريل 2023. في المثال أعلاه، كان متحمسًا لكتاب التمارين هذا للأطفال: "يُعد كتاب The Brain Quest: Grade 3 Workbook مصدرًا رائعًا للطلاب الذين يتطلعون إلى تحسين مهاراتهم ومعارفهم الأكاديمية.»
المشكلة هي الجملة التالية: "باعتباري نموذجًا للغة الذكاء الاصطناعي، ليس لدي خبرة شخصية في استخدام المصنف، لكن لدي إمكانية الوصول إلى المعلومات من العديد من المستخدمين الذين أشادوا بجودة المحتوى وفعالية التمارين.» تقر المراجعة نفسها بعدم استخدام المنتج ومع ذلك تكتب المراجعة. انتقاد ليس في الحقيقة نقداً، لأننا عند قراءتنا للرأي ندرك أنه يشبه وصفاً أكثر منه وصفاً لتجربة شخصية.
مثال آخر مع حزام التخسيس. مرة أخرى، هذه مراجعة بأقصى درجة. الكلمات "نعم، باعتباري نموذجًا للغة الذكاء الاصطناعي، يمكنني بالتأكيد كتابة مراجعة للمنتج حول Active Gear Weight Trimmer." بناءً على استجابة الذكاء الاصطناعي، يمكننا أن نفترض أن الطلب كان أكثر أو أقل: "اكتب لي مراجعة إيجابية حول هذا المنتج". يمكننا أن نعتقد أن فكرة "إيجابي» كان متعمدا في الطلب الذي تم تقديمه.
كيفية الحصول على المنتجات المجانية
المشكلة التي تظهر هي أن هذا الحساب معتمد "صوت الكرمة". تصفها أمازون بأنها "برنامج للدعوة فقط يسمح لمراجعي أمازون بالوصول المبكر إلى المنتجات التي لم يتم إصدارها بعد لكتابة المراجعات.[…]هذه شارة دائمة." علاوة على ذلك،صفحة نادي الكرمةيذكر أن "يتمتع مختبرو Vine بفرصة فريدة لطلب العناصر مجانًا ومشاركة تجارب منتجاتهم مع عملاء Amazon لمساعدتهم على اتخاذ قرارات شراء مستنيرة.» لكي تتم دعوتك للانضمام للبرنامج عليك كتابة “الآراء ذات الصلة بانتظام"، هؤلاء العملاء"من المرجح أن تتم دعوتهم.» تحدد أمازون أن هؤلاء هم المستهلكون الذين لا يتقاضون أجورهم مقابل كتابة هذه المراجعات وأنهم "ومن المتوقع أن تشارك آراء صادقة وغير متحيزة.»
وفيما يتعلق بهذا البرنامج، فمن الممكن أن يحاول بعض مستخدمي أمازون الدخول إلى هذا البرنامج، وبمجرد وصولهم سيحاولون جمع أكبر عدد ممكن من المنتجات مجانًا. في المقابل، يجب عليهم كتابة مراجعة للمنتج، ولكن لإرضاء البائع والمضي قدمًا بشكل أسرع، يجب عليهم كتابة التقييمات تلقائيًا. في حين أن هذا يمكن أن يفيد البائعين وأعضاء Vine وأمازون على نطاق أوسع، إلا أنه لا يفيد المستهلكين الآخرين، الذين يجدون أنفسهم متحيزين، ليس من خلال المراجعات النصية، ولكن أيضًا من خلال التقييمات. نظرًا لأن درجات المراجعة التي تم إنشاؤها تكون دائمًا جيدة جدًا، فإنها ترفع التقييم الإجمالي للمنتج.
نحو إساءة معاملة البائعين على أمازون؟
كما هوبداهةتقييمات مزيفة، قد يتساءل المرء عن الغرض منها. بادئ ذي بدء، على الرغم من أننا لا نعرف كيف تعمل خوارزمية أمازون، فإننا نتصور أن المنتجات التي حصلت على أكبر عدد من التقييمات، وخاصة الإيجابية منها، يتم إبرازها في الفئات أو نتائج البحث. الحصول على أكبر عدد من الآراء حول منتجك يعني طرحه وطرحهبخيربيع المزيد. إذا استخدم بعض البائعين مستخدمين يحملون شارة Vine Voice، فيمكنهم إطلاق منتجات بضجة كبيرة على منصة Jeff Bezos، مع كتابة المراجعات على المنتجات حتى قبل أن يتم نشرها.
تم الإبلاغ عن عدة حالات من المراجعات المزيفة المنشورة على أمازون في السنوات الأخيرة.أشهرها بلا شك هو Aukey، شركة متخصصة في تصنيع الملحقات التي قامت بتسويقهابلوتوث، التابعبطاريات خارجية، إلخ. وتسربت قاعدة بيانات داخلية للشركة وكشفت عن آلية الدفع لمستخدمي أمازون مقابل المراجعات الإيجابية، على سبيل المثال عن طريق التبرع بالمنتجات أو القسائم. من الصعب القول ما إذا كانت هذه الطريقة مستمرة اليوم، ولكن إذا حدث ذلك، فإنها تسمح للعديد من مستخدمي الإنترنت بنشر مراجعات طويلة مع تلقي المكافآت، وذلك من خلال القيام بعمل أقل من ذي قبل.
إذا كانت هذه الآراء الخاطئة مضحكة على الأقل لأنها نتيجة لنسيان "المحررين»، يشيرون إلى مشكلة أصبحت شائعة أكثر فأكثر. الأداة الأساسية لاكتشاف النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي على الإنترنت.
