تميل الذكاء الاصطناعي التوليدي إلى إضفاء الطابع الديمقراطي. لكن في الوقت الحالي ، هم جميعهم من اختصاص الشركات الخاصة ويعملون على الخوادم البعيدة. ماذا لو استطعنا "تشغيل" chatgpt على أجهزة الكمبيوتر لدينا؟ نجح المطور سيمون ويليسون في تشغيل LLAMA ، نموذج لغة Meta ، على جهاز الكمبيوتر المحمول الخاص به.
الاتجاه لا يمكن إنكارهالذكاء الاصطناعيتوليد النص التلقائي:chatgptوبينج الجديدوالذكاء الاصطناعي الخاص بي من Snapchatومحرك البحث لكوقريباجوجل بارد. في الوقت الحالي ، كل العمل بفضل الخوادم ، في السحابة. ولكن في غضون بضع سنوات ، مع تحسينات وزيادة قدرات أجهزتنا ، يمكننا أن نجعلها الوقود بفضل أجهزة الكمبيوتر الخاصة بنا. هذا هو الحال بالفعل ، ليس مع أفضل نموذج لغة معروف ، GPT-3 ، ولكن مع ذلكميتا، لاما. بسبب تسرب الكود ، تمكن المطورون من استخدام Llama على جهاز الكمبيوتر الخاص بهم.
تسرب لاما ، نموذج لغة التعريف
هذا هو ما غير كل شيء وفقًا لمطور المصدر المفتوح سيمون ويليسون: النشر عبر الإنترنت لرمز مصدر Llama ،نموذج اللغة الذي نشرته Metaقبل بضعة أسابيع. الطموح كبير: يتم أخذ 65 مليار معلمة في الاعتبار لتوليد النص. إلى جانب ذلك ، تدعي ميتا حقيقة أن نموذجها يتجاوز GPT-3 في معظم النقاط.
حيث أرادت ميتا أن تبرز من منافسيها في افتتاح نموذجها. لقد تم إتاحته للباحثين ، على الرغم من أنه من الضروري قبول بعض الشروط الصارمة ، مثل استخدامها فقط لأغراض البحث ، دون أغراض تجارية بالطبع. ولكن كما تكتب سيمون ويليسون ، بعد أيام قليلة من نشرها ، رأت لاما رمز المصدر الخاص بها المنشورة على الإنترنت مع جميع ملفات النموذج. لقد فات الأوان الآن بالنسبة لـ Meta: طفلها في الطبيعة ويمكنك استخدامه محليًا.
لذلك قام سيمون ويليسون بتنفيذ البرنامج بمفردهماك بوكولم يقمع بعض المشاعر: "بينما كان الكمبيوتر المحمول الخاص بي بدأ بصق نصي ، شعرت حقًا بأن العالم كان على وشك التغيير ، مرة أخرى."من اعتقد أن الأمر سيستغرق سنوات قبل أن يتمكن من تشغيل نموذج مشابه لـ GPT-4 ، كان مخطئًا:"هذا المستقبل موجود بالفعل.»
وفقا للمطور ، "يجب أن تكون أولويتنا هي العثور على أكثر الطرق البناء لاستخدامهاالحديث عن الذكاء الاصطناعي. ويضيف ذلك "على افتراض أن Facebook لا يخفف من شروط الترخيص ، فمن المحتمل أن تكون Llama دليلًا على المفهوم أكثر من أن نماذج اللغة المحلية يمكن استخدامها في معدات المستهلكين من نموذج أساسي جديد سيستخدمه الأشخاص في المستقبل."على أي حال ،"تم إطلاق السباق لنشر أول نموذج لغوي مفتوح بالكامل يوفر قدرات المستخدمين مماثلة لقدرات ChatGPT على أجهزتهم الخاصة.»
في مقال مدونته ، يشرح المطور كيف نجح في هذا DIY. يتحدث سيمون ويليسون عن مشروع llama.cpp بواسطة جورجي جيرجانوف ، وهو أيضًا مطور مفتوح المصدر في صوفيا في بلغاريا. هذا الأخيرنشر على جيثبلاما حتى "قم بتشغيل النموذج باستخدام القياس الكمي 4 بت على جهاز MacBook."سيمون ويليسون يحدد ذلك"4 -bit الكمية هي تقنية لتقليل حجم النماذج حتى يتمكنوا من العمل على معدات أقل قوة. كما أنه يقلل من حجم النماذج على القرص: 4 جيجابايت لطراز 7B وأقل من 8 جيجابايت لنموذج 13B." ال "بكونه هنا عدد المعلمات المستخدمة من قبل Llama ، التي أعرب عنها مليار.
مخاطر نماذج اللغة المفتوحة أو المحلية
ومع ذلك ، إذا كان هذا أمرًا رائعًا بالنسبة لعالم المصدر المفتوح ولتقييد السيطرة على هذه النماذج اللغوية لهذه الشركات القليلة ، فهذا "تحرير"لديه بعض الأخطار. لقد وضع سيمون ويليسون قائمة لاستخدام هذه التكنولوجيا لإلحاق الأذى:
- توليد البريد العشوائي
- عمليات الاحتيال الآلية للحب
- خطاب التصيد والكراهية
- الأخبار المزيفة والتضليل
- التطرف بسبب تأثير الفقاعة
الى جانب ذلك ، هذه متعددة "chatgptيمكن دائمًا ابتكار أشياء خاطئة في نفس المستوى الذي يمكنه كتابة جمل صحيحة من الناحية الواقعية. هذا هو المكان أيضًا حيث قوة ""جامام»: من خلال إتاحة الوصول إلى نماذج لغتهم عبر الأجهزة الافتراضية أو واجهة برمجة التطبيقات أو أدوات المحادثة ، يمكنهم إضافة طبقات الاعتدال. من خلال الإعدادات الدقيقة والتي يجب أن تتحسن باستمرار ، يمكنهم التحكم في الطريقة التي يتفاعل بها المستخدمون مع هذه الذكاء الاصطناعي. من خلال تشغيل الأخير محليًا ، يمكننا أن نفقد عناصر التحكم في التحكم هذه.
فقط الشركات الرقمية الكبيرة تتحكم في النماذج اللغوية
أخيرًا ، هناك عدد قليل من نماذج اللغة: من بين الأهم ، هناك GPT-4 من Openai ،لامدا جوجلأو لاما دي ميتا. إذا لم تتحكم Microsoft تمامًا في Openai ،لقد استثمر حوالي 10 مليارات دولار في الشركة. أعلن مؤخرًا ،GPT-4 هي نسخة رئيسية جديدة من GPTالأمر الذي يأخذ في الاعتبار العديد من المعلمات ، من أجل أداء أفضل وزيادة الدقة. إذا قلنا ذلك التعبير "جامام»قد يبدو اختصارًا ، في الواقع هذه الشركات الخاصة القليلة هي التي تتحكم في نماذج اللغة الأكثر شعبية. المخاطر المحتملة لهذا التحكم كبير: فهي في الواقع صناديق سوداء لا نعرفها كثيرًا.
توجد مبادرات أخرى ، حتى في فرنسا. معنا ، يعانق الوجه ونموذجه الإزهار على رأس القوس. كما هو موضحلو فيجارو، تم تأسيس الشركة من قبل ثلاثة أشخاص فرنسيين وتقدر قيمتها بمليار دولار. نموذج لغة مصمم في المصدر المفتوح والتعاون مع CNRs: كان "" كان "موجه لمدة مائة وسبعة عشر يومًا على الحاسبات الفائقة الفرنسية جان زي ، وتم تنزيله بالفعل مجانًا من قبل أكثر من 65000 محترف». الطموح واضح: احتضان حلم الوجه من إزهار فرانكو أوروبي الذي يتنافس مع chatgpt. إذا كان هذا النوع من الذكاء الاصطناعي لا يزال محجوزًا للشركات الكبيرة ، فهذا أيضًا لأن تطويرها يتطلب تمويلًا كبيرًا.
تحول الذكاء الاصطناعي التوليدي ، إنه مكلف
هذا الاسبوع،قدمت Microsoft أجهزة افتراضية جديدة في Azure، حلها السحابي: يفكران صراحة في منظمة العفو الدولية. ولكن لكل هذا للعمل ،MicrosoftناشدتGPU NVIDIA H100. بنية تحتية مشفرة إلى مئات الملايين من الدولارات التي تصنعنفيدياأخيرًا ، الفائز الكبير في هذا السباق الذي يتم فيه إطلاق جميع العمالقة. بجانب،يمكن أن يؤدي هذا السباق إلى نقص جديد في بطاقات الرسومات في الأشهر المقبلة، وفقا لبعض التوقعات.
كما يكتب سيمون ويليسون فيمقال الابن، نماذج توليد النص التلقائي أكبر من نماذج توليد الصور ، مثل الانتشار المستقر ، Midjourney أومن 2. بالنسبة له ، "حتى لو تمكنت من الحصول على طراز GPT-3 ، فلن تتمكن من تنفيذه على المعدات الأساسية-هذه النماذج تتطلب عمومًا العديد من وحدات معالجة الرسومات من فئة A100 ، يتم بيع كل منها بأكثر من 8000 دولار.»
بالإضافة إلى قوة حوسبة رائعة ، تحتاج أيضًا إلى فرق مؤهلة لإنشاء هذه النماذج. بالنسبة لسيمون ويليسون ، إذا كانت العشرات موجودة ، يمكن لأحد التحقق من المربعات التالية:
- سهولة التنفيذ على المعدات الخاصة بك
- قوية بما يكفي لتكون مفيدة (أي ما يعادل أداء GPT-3 أو أكثر)
- ما يكفي مفتوحة لتكون قادرة على تغيير.
