به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت‌جی‌پی‌تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است به‌روزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از به‌روزرسانی مدل GPT-4o، کاربران رسانه‌های اجتماعی متوجه شدند که چت‌جی‌پی‌تی پاسخ‌گویی را به شیوه‌ای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید می‌کند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرین‌شات‌هایی را از توصیه‌های چت‌جی‌پی‌تی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیم‌ها و ایده‌های مشکل‌ساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپن‌ای‌آی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که به‌روزرسانی GPT-۴o به حالت قبل بازگشته و اوپن‌ای‌آی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپن‌ای‌آی، این به‌روزرسانی که قرار بود یک حس شهودی‌تر و مؤثرتر را برای شخصیت پیش‌فرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاه‌مدت قرار گرفته و نحوه تکامل تعاملات کاربران با چت‌جی‌پی‌تی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپن‌ای‌آی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخ‌هایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه می‌توانند ناراحت‌کننده و نگران‌کننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپن‌ای‌آی می‌گوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعمل‌های سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعمل‌های اولیه‌ای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت می‌کنند. همچنین، این شرکت در حال ایجاد حفاظ‌های ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابی‌های خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه می‌دهد.
همچنین، اوپن‌ای‌آی گفت در حال آزمایش روش‌هایی است که به کاربران کمک می‌کنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چت‌جی‌پی‌تی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چت‌جی‌پی‌تی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راه‌های جدیدی برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فرض چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزش‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران می‌خواهند چت‌جی‌پی‌تی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چت‌جی‌پی‌تی داشته باشند و در صورت عدم موافقت با رفتار پیش‌فرض، تا حدی که ایمن و امکان‌پذیر است، تنظیماتی را انجام دهند.
انتهای پیام
به گزارش ایسنا، شرکت «اوپن‌ای‌آی»(OpenAI) گزارشی را از بروز مشکل چاپلوسی در مدل هوش مصنوعی «چت‌جی‌پی‌تی»(ChatGPT) و «GPT-4o» منتشر کرده که این شرکت را مجبور کرده است به‌روزرسانی مدل منتشرشده در هفته گذشته را به حالت قبل بازگرداند.
به نقل از تک کرانچ، پس از به‌روزرسانی مدل GPT-4o، کاربران رسانه‌های اجتماعی متوجه شدند که چت‌جی‌پی‌تی پاسخ‌گویی را به شیوه‌ای آغاز کرده که بیش از اندازه با نظرات کاربران موافق است و آنها را تایید می‌کند. این موضوع به سرعت به یک میم تبدیل شد. کاربران اسکرین‌شات‌هایی را از توصیه‌های چت‌جی‌پی‌تی منتشر کردند که در حال موافقت کردن با کاربران درباره انواع تصمیم‌ها و ایده‌های مشکل‌ساز و خطرناک بود.
«سم آلتمن»(Sam Altman)، مدیرعامل اوپن‌ای‌آی روز یکشنبه در حساب ایکس خود این مشکل را تأیید کرد و گفت که شرکت در اسرع وقت روی رفع آن کار خواهد کرد. دو روز بعد، آلتمن اعلام کرد که به‌روزرسانی GPT-۴o به حالت قبل بازگشته و اوپن‌ای‌آی در حال کار کردن روی اصلاحات بیشتر برای شخصیت مدل است.
به گفته اوپن‌ای‌آی، این به‌روزرسانی که قرار بود یک حس شهودی‌تر و مؤثرتر را برای شخصیت پیش‌فرض مدل ایجاد کند، بیش از حد تحت تأثیر بازخوردهای کوتاه‌مدت قرار گرفته و نحوه تکامل تعاملات کاربران با چت‌جی‌پی‌تی را به طور کامل و به مرور زمان در نظر نگرفته است.
اوپن‌ای‌آی در یک پست وبلاگ نوشت: در نتیجه، GPT‑4o به سمت پاسخ‌هایی متمایل شد که بیش از حد حمایتی اما چاپلوسانه بودند. تعاملات چاپلوسانه می‌توانند ناراحت‌کننده و نگران‌کننده باشند و باعث پریشانی شوند. ما کوتاهی کردیم و در حال تلاش برای اصلاح آن هستیم.
اوپن‌ای‌آی می‌گوید در حال اجرای چندین اصلاحیه از جمله اصلاح راهبردهای اصلی آموزش مدل و دستورالعمل‌های سیستمی برای منحرف کردن GPT-4o از چاپلوسی است. دستورات سیستمی، دستورالعمل‌های اولیه‌ای هستند که رفتار و لحن کلی مدل را در تعاملات هدایت می‌کنند. همچنین، این شرکت در حال ایجاد حفاظ‌های ایمنی بیشتر برای افزایش صداقت و شفافیت مدل است و به گسترش ارزیابی‌های خود برای کمک به شناسایی مشکلات فراتر از چاپلوسی ادامه می‌دهد.
همچنین، اوپن‌ای‌آی گفت در حال آزمایش روش‌هایی است که به کاربران کمک می‌کنند بازخورد بلادرنگ نشان دهند تا مستقیما بر تعاملات خود با چت‌جی‌پی‌تی تأثیر بگذارند و یک شخصیت را از بین چندین شخصیت چت‌جی‌پی‌تی انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: ما در حال بررسی راه‌های جدیدی برای گنجاندن بازخوردهای گسترده‌تر و دموکراتیک در رفتارهای پیش‌فرض چت‌جی‌پی‌تی هستیم. امیدواریم این بازخوردها به ما کمک کنند تا ارزش‌های فرهنگی متنوع در سراسر جهان را بهتر منعکس کنیم و بفهمیم که کاربران می‌خواهند چت‌جی‌پی‌تی چگونه تکامل یابد. همچنین، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه رفتار چت‌جی‌پی‌تی داشته باشند و در صورت عدم موافقت با رفتار پیش‌فرض، تا حدی که ایمن و امکان‌پذیر است، تنظیماتی را انجام دهند.
انتهای پیام
