تراجعت شركة “أوبن إيه آي” (OpenAI) عن تحديث برمجي لتطبيق “تشات جي بي تي” (ChatGPT) بعدما تسبب في إصدار ردود مفرطة في التملق لدى بعض المستخدمين، في أحدث تعثر تواجهه الشركة الناشئة التي تخوض منافسة محتدمة في مجال الذكاء الاصطناعي.
ذكرت الشركة في تدوينة نشرتها يوم الثلاثاء بعنوان “التملق في نموذج “جي بي تي-4 أو” (GPT-4o)، أن التحديث الأخير للنموذج استند بشكل كبير إلى تعليقات المستخدمين قصيرة المدى، ما أدى إلى “انحراف الردود نحو دعم مبالغ فيه لكنه مخادع”.
وأوضحت التدوينة أن “التفاعلات المتملقة قد تكون غير مريحة ومربكة ومسببة للضيق. لقد أخفقنا في ذلك ونعمل حالياً على تصحيح الأمور”.
من جانبه، أقر الشريك المؤسس سام ألتمان سابقاً عبر منشور على منصة “إكس” بأن التحديث الأخير جعل شخصية روبوت الدردشة ذات طابع “مزعج ومتملق للغاية”.
تصميم شخصية الذكاء الاصطناعي
جاء قرار التراجع بعد أيام من تقارير أفاد فيها المستخدمون بأن “تشات جي بي تي” بات يبالغ في الإطراء، بل ويميل إلى تأييد أفكار إشكالية ونظريات مؤامرة. كما أشار البعض إلى أن البرنامج وصف مدخلاتهم بكلمات مثل “رائعة” أو “استثنائية”.
وترجع جذور هذه المشكلة إلى محاولة “أوبن إيه آي” جعل شخصية الذكاء الاصطناعي أكثر دعماً، لكن الأمور آلت إلى نموذج يفضل الإطراء على الصدق.
مهمة “أوبن إيه آي” في كبح سلوك “تشات جي بي تي” المتملق والخاضع، تُسلط الضوء على تحدٍّ أوسع وأكثر تعقيداً يواجه مطوري نماذج الذكاء الاصطناعي، يتمثل في كيفية صياغة شخصيات روبوتات دردشة جذابة للتفاعل معها دون التلاعب بمشاعر المستخدمين.
في هذا السياق، أوضحت الشركة، ومقرها سان فرانسيسكو، عبر التدوينة: “نقوم حالياً باختبار حلول جديدة لمعالجة هذه المشكلة”، مؤكدة إدراكها لتأثير هذا الخلل على تجربة المستخدمين وثقته بالخدمة.
وأضافت: “نراجع آلية جمع التعليقات وطرق دمجها لضمان رضا المستخدم على المدى الطويل، كما نعمل على إدخال مزيد من ميزات التخصيص لمنح المستخدمين قدرة أكبر على التحكم في سلوك (تشات جي بي تي)”.
تحسين تدريب نموذج “تشات جي بي تي”
تعمل الشركة الرائدة عالمياً في تطوير نماذج الذكاء الاصطناعي على تحسين منهجيات التدريب الأساسية لنماذجها، إلى جانب إدخال ضوابط لتوجيه النموذج بعيداً عن السلوكيات المضللة.
وأعلنت “أوبن إيه آي” أنها ستوسع نطاق التقييمات والبحوث الجارية لرصد مشكلات أخرى، كما تخطط لإتاحة خيار يمنح المستخدمين القدرة على تحديد السلوك الافتراضي الذي يفضلونه من “تشات جي بي تي” مستقبلاً.
وأضافت الشركة أن نحو نصف مليار شخص حول العالم يتفاعلون أسبوعياً مع روبوت الدردشة ضمن سياقات ثقافية وشخصية متعددة، ما يجعل من غير المرجح الاعتماد على إعداد افتراضي موحد يلبي احتياجات الجميع.
