"OpenAI" تتعهد بالحد من تملق "شات جي بي تي" المفرط في المستقبل

"OpenAI" تتعهد بالحد من تملق "شات جي بي تي" المفرط في المستقبل

قالت شركة الذكاء الاصطناعي "OpenAI" إنها ستُجري تغييرات على طريقة تحديث نماذج الذكاء الاصطناعي التي تُشغّل روبوت الدردشة "شات جي بي تي"، وذلك عقب تحديث جعله مُتملقًا بشكل مُفرط للعديد من المستخدمين.

وفي نهاية الأسبوع الماضي، وبعد أن أطلقت "OpenAI " نموذج "GPT-4o" المُعدّل - وهو النموذج الافتراضي الذي يُشغّل "شات جي بي تي"- لاحظ مستخدمو مواقع التواصل الاجتماعي أن روبوت الدردشة بدأ يستجيب بطريقة مُبالغ فيها في الموافقة والإزعان. وسرعان ما أصبح الأمر محل سخرية على مواقع التواصل.

 

وفي منشورٍ على منصة إكس (تويتر سابقًا) يوم الأحد الماضي، أقرّ الرئيس التنفيذي سام ألتمان بالمشكلة، وقال إن "OpenAI" ستعمل على إصلاحها "في أقرب وقتٍ مُمكن". ويوم الثلاثاء، أعلن ألتمان إلغاء تحديث "GPT-4o"، وأن "OpenAI" تعمل على "إصلاحات إضافية" لشخصية النموذج.

وفي منشورٍ على مدونتها يوم الجمعة، توسّعت "OpenAI" في تفاصيل التعديلات المُحددة التي تُخطط لإجرائها على عملية نشر نماذج الذكاء الاصطناعي لاستخدامها في "شات جي بي تي"، بحسب تقرير لموقع "TechCrunch" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".

وقالت "OpenAI" إنها تخطط لتقديم "مرحلة تجريبية" اختيارية لبعض النماذج، تتيح لمستخدمي "شات جي بي تي" اختبار النماذج وتقديم ملاحظاتهم قبل إطلاقها على نطاق أوسع.

وأوضحت الشركة أنها ستُضمّن شرحًا لـ"القيود المعروفة" للتحديثات التدريجية المستقبلية للنماذج في "شات جي بي تي"، وستُعدّل عملية مراجعة السلامة لتأخذ في الاعتبار رسميًا "مشكلات سلوك النموذج" مثل الشخصية، والخداع، والموثوقية، والهلوسة كأمور قد "تعيق الإطلاق".

تأتي هذه الإصلاحات التي تعهدت بها "OpenAI" في الوقت الذي يتزايد فيه توجه الأشخاص إلى استخدام "شات جي بي تي" للحصول على المشورة.

ووفقًا لدراسة استقصائية حديثة أجرتها شركة تمويل الدعاوى القضائية "إكسبريس ليغال فاندينغ"، فإن 60% من البالغين في الولايات المتحدة استخدموا "شات جي بي تي" لطلب المشورة أو المعلومات.

ويزيد الاعتماد المتزايد على "شات جي بي تي" -وقاعدة مستخدمي الضخمة- من المخاطر عند ظهور مشكلات مثل التملق المفرط، ناهيك عن الهلوسة وغيرها من العيوب التقنية.

وكخطوة لتخفيف المشكلة، أعلنت "OpenAI" في وقت سابق أنها ستجرب طرقًا تتيح للمستخدمين تقديم "ملاحظات فورية" للتأثير بشكل مباشر على تفاعلاتهم مع "شات جي بي تي".

وقالت الشركة إنها ستُحسّن التقنيات لتوجيه النماذج بعيدًا عن التملق المفرط، وربما قد تتيح للأشخاص الاختيار من بين شخصيات نماذج متعددة في "شات جي بي تي"، وبناء حواجز أمان إضافية، وتوسيع نطاق التقييمات للمساعدة في تحديد المشكلات التي تتجاوز التملق