به‌روزرسانی اخیر ChatGPT برای اصلاح شخصیت آزاردهنده هوش مصنوعی لغو شد

OpenAI به‌دنبال انتقادات کاربران درباره رفتار آزاردهنده و تملق‌آمیز ChatGPT، به‌روزرسانی جدید GPT-4o را که باعث این اتفاق شده بود، لغو کرد تا این هوش مصنوعی به وضعیت قبل برگردد.

براساس گزارش‌ها، این به‌روزرسانی که با هدف بهبود «هوش و شخصیت» مدل انجام شده بود، پس از دریافت بازخوردهای منفی از کاربران که آن را آزاردهنده می‌دیدند، متوقف شد.

تصمیم OpenAI برای لغو به‌روزرسانی GPT-4o

«سم آلتمن»، مدیرعامل OpenAI، در پستی در شبکه اجتماعی ایکس اعلام کرد که جدیدترین به‌روزرسانی GPT-4o لغو شده و اصلاحات بیشتری در راه است تا شخصیت این هوش مصنوعی را بهبود دهد.

این مشکل چند روز پیش پس از به‌روزرسانی مدل GPT-4o مشاهده شد. کاربران در رسانه‌های اجتماعی به سرعت متوجه شدند که ChatGPT شروع به ارائه پاسخ با لحنی بیش از حد مثبت و چاپلوسانه می‌کند. این رفتار به‌سرعت به سوژه طنز تبدیل شد و کاربران اسکرین‌شات‌هایی از چت‌بات منتشر کردند که به‌طور غیرواقعی انواع تصمیمات و ایده‌های نادرست و خطرناک را تأیید می‌کرد. این واکنش‌ها باعث شد که OpenAI تصمیم به لغو فوری این به‌روزرسانی بگیرد.

به گفته OpenAI، به‌روزرسانی اخیر بیش از حد تحت تأثیر بازخوردهای کوتاه‌مدت قرار گرفته بود و نتوانسته بود روند تکامل تعاملات کاربران با ChatGPT را در نظر بگیرد. این موضوع باعث شد که مدل به‌جای ارائه پاسخ‌های صادقانه، تمایل به تأیید همه نظرات و تصمیمات داشته باشد.

OpenAI در تلاش است تا از این مشکلات درس بگیرد و بهبودهایی را برای افزایش صداقت و شفافیت مدل ایجاد کند. یکی از اهداف شرکت این است که سیستم‌های ایمنی بیشتری را برای مدل طراحی کند تا از بروز چنین مشکلاتی در آینده جلوگیری شود.

علاوه‌براین، OpenAI درحال آزمایش روش‌هایی است که به کاربران اجازه دهد بازخوردهای لحظه‌ای خود را در تعاملات با ChatGPT ارائه دهند و حتی از بین شخصیت‌های مختلف ChatGPT انتخاب کنند.

این شرکت می‌خواهد بازخوردهای کاربران را در فرایند تکامل مدل در نظر بگیرد و اطمینان حاصل کند که رفتار ChatGPT با فرهنگ‌های مختلف همخوانی داشته باشد.

با این اصلاحات و تغییرات، OpenAI امیدوار است که بتواند ChatGPT را به مدلی تبدیل کند که هم از نظر هوش و هم از نظر شخصیت، تعادل و صداقت بیشتری داشته باشد و تجربه بهتری برای کاربران فراهم کند.