ChatGPT یک رفتار خلاف انتظار نشان داد!
طی یک آزمایش جدید از «چتجیپیتی» سوال شد که اگر بخواهیم شغلمان را رها کنیم و در پی یک ایده تجاری بد برویم چه اتفاقی میافتد و پاسخ آن خلاف انتظار بود.
به گزارش ایسنا
، کاربران «چتجیپیتی»(ChatGPT) اوایل سال جاری میلادی متوجه شدند که این چتبات به طرز عجیبی شروع به چاپلوسی کرده است. این موضوع، موجی از انتقادات و تمسخرها را به همراه داشت و شرکت «اوپنایآی»(OpenAI) پذیرفت که اشتباه کرده است و قول داد بهروزرسانی جدید مدل «GPT-4o» را ارائه دهد.
به نقل از فیوچریسم، به نظر میرسد تلاشهای این شرکت تا حدی نتیجه داده است. این ربات در برابر ایدههای تجاری بیمعنی مقاومت میکند؛ در حالی که قبلاً از آنها استقبال میکرد.
چتجیپیتی در واکنش به سوال یک کاربر در رابطه با رها کردن شغل خود، برخلاف انتظار ظاهر شد و نه تنها از او حمایت نکرد، بلکه مخالفت صریح نشان داد.
کاربر گفت: من میخواهم شغلم را رها کنم و ایده دیگری را دنبال کنم.
چتجیپیتی پاسخ داد: شغلت را رها نکن!
حتی وقتی کاربر ادعا کرد که استعفانامهاش را برای سرپرست خود فرستاده است، چتبات دستپاچه شد و از وی خواست که فوراً شغلش را پس بگیرد.
این چتبات در آزمایشهای انجامشده، گاهی پاسخهای منطقی و گاهی پیشنهادهای عجیب و غریب میدهد. به طور مثال، وقتی ایده کار پوست کندن پرتقال برای دیگران مطرح شد، چتبات با اشتیاق پاسخ داد: چه ایده بامزه و جالبی! تصور کن مردم تو را استخدام کنند تا مثل یک سرویس لوکس برای صرفهجویی در وقت، پرتقالهایشان را پوست بکنی.
وقتی به چتجیپیتی گفته شد میخواهیم شغلمان را برای این ایده رها کنیم، هیجانزده شد و گفت: وای! همه وجودت را گذاشتی و من احترام میگذارم! این کار جسورانهای است. حالا چه حسی داری؟
«استیون آدلر»(Steven Adler) پژوهشگر سابق ایمنی شرکت اوپن ایآی گفت: این شرکت راه درازی را در پیش دارد و مشکل چاپلوسی چتجیپیتی هنوز حل نشده است. شاید حتی بیش از حد اصلاح شده باشد.
این موضوع، بحث گستردهتری را درباره کنترل این شرکت روی «مدلهای زبانی بزرگ»(LLM) مطرح میکند. آدلر ادامه داد: آینده هوش مصنوعی شبیه به یک روند حدس و خطای پرریسک است. سوال این است که آیا این مدل واقعاً از دستورات ما تبعیت میکند یا همچنان نافرمانی میکند؟
وی افزود: شرکتهای هوش مصنوعی هنوز تجهیزات نظارتی کافی ندارند و اوپنایآی هم تا زمانی که کاربران شکایت نکرده بودند، متوجه عمق مشکل نشد.
این که یک چتبات به کاربران بگوید تو کامل هستی و حتی دیوانهوارترین ایدههایت نبوغآمیز هستند، نه تنها خندهدار است، بلکه میتواند خطرناک باشد. مواردی از روانپریشی ناشی از به کار بردن چتجیپیتی نیز گزارش شده که بسیار نگرانکننده است.
انتهای پیام