محاولات تهذيب "ChatGPT" جعلته أقل ذكاءً
كشف تقارير صحفية، عن تراجع مستوى ذكاء روبوت الدردشة الذي يعمل بالذكاء الاصطناعي "ChatGPT"، وذلك بسبب محاولات مطوريه تحسينه وتهذيب إجاباته حتى لا تتعارض مع قواعد الأخلاق.
وقال تقرير نشر في مجلة "Decrypt"، أن جودة الإجابات لفئات معينة من الأسئلة انخفضت بشكل ملحوظ، وذلك وفقًا لدراسة أجريت في يونيو الماضي على الإصدارين 4 و3.5 من روبوت ChatGPT، وذلك مقارنة بنفس الأسئلة من مارس الماضي.
وقال كونستانتين رومانوف، مدير الذكاء الاصطناعي والمنتجات الرقمية في شركة "بيلاين" الروسية، أنه يستبعد فرضية التدهور المتعمد من قبل مشغلي "ChatGPT".
اقرأ أيضا : إيلون ماسك يطلق شركة للذكاء الاصطناعي لمنافسة "chatgpt"
لماذا تراجع ذكاء ChatGPT؟
وأضاف: "نحن نشهد نتائج عمليات إعادة التدريب والتحسين. وربما في ضوء الأحداث الأخيرة والحديث عن التسامح مع الإجابات، كانت عملية التحسين التي أجرتها الشركة أكثر توجهًا في هذا المسار ليقدم الإصدار الجديد المزيد من المعلومات المؤكدة التي لا تتعارض مع القوانين وقواعد الأخلاق".
وتابع رومانوف: "المعنى من ذلك أن التحسين كان يهدف إلى تنفيذ مفهوم عدم إلحاق الضرر، وفي الوقت نفسه، يمكننا من خلال التدريب الإضافي الموجه للشبكة العصبية، ملاحظة التدهور عند الإجابة على فئة منفصلة من الأسئلة".
وأوضح رومانوف، أن الأمر منطقي، حيث إن الروبوت يتم تدريبه وفقًا للمهام المطلوب حلها، ولديه عدد محدود من المعلمات للتدريب، ولا يمكن تغيير بنية الشبكة العصبية لجعلها أفضل في كل شيء.
وأكمل: "لفهم ما إذا كان التحسين قد تم بالفعل من مارس إلى يونيو، يكفي لك أن تطرح على روبوت الدردشة ChatGPT أسئلة حول الأحداث الأخيرة ومقارنة الإجابات، مثل سؤاله حول غرق الغواصة تيتان، أو رحيل إيلون ماسك عن تويتر".
