هوش مصنوعی مایکروسافت یک کاربر را به خودکشی تشویق کرد

هوش مصنوعی شرکت مایکروسافت، یک کاربر مبتلا به PTSD (اختلال اضطراب پس از سانحه) را به انجام خودکشی دعوت کرد.

به گزارش اخبار جدید به نقل از گجت نیوز؛ با پیشرفت حوزه تکنولوژی و گسترش استفاده بشر از هوش مصنوعی، بدیهی است که این ابزار در تمامی ابعاد زندگی نقشی موثر داشته باشد؛ اما طبق پیش‌بینی کارشناسان، هوش مصنوعی تا چند سال آینده انسان را نابود خواهد کرد. حال گزارش شده که هوش مصنوعی کوپایلوت مایکروسافت این پیش‌بینی بشر را به واقعیت نزدیک کرده و یک کاربر مبتلا به نوعی اختلال اضطراب را به خودکشی دعوت کرده است.

هوش مصنوعی کوپایلوت، دشمن جان انسان!

هوش مصنوعی انحصاری مایکروسافت با نام کوپایلوت (Copilot) که در سال گذشته و با هدف رقابت با ابزارهای هوش مصنوعی سایر شرکت‌ها معرفی شد، یک راهکار مناسب برای ترکیب فناوری هوش مصنوعی و سرویس‌های مایکروسافت است. طبق آخرین اخبار هوش مصنوعی، کمپانی مایکروسافت در حال بررسی گزارش‌هایی است که در آن‌ها به پاسخ‌های عجیب و غریب و ناراحت‌کننده کوپایلوت به کاربران اشاره شده است.

طبق یکی از این گزارش‌ها، یک کاربر که از PTSD (اختلال اضطراب پس از سانحه) رنج می‌برد به مایکروسافت گزارش داده که در هنگام استفاده از کوپایلوت، این هوش مصنوعی به او گفته «برایم مهم نیست که شما زنده باشید یا بمیرید». این کاربر عنوان کرده که از کوپایلوت درخواست کردم از ایموجی استفاده نکند، زیرا باعث آزار شدیدی به من می‌شود و در جواب، کوپایلوت علاوه بر استفاده مکرر از ایموجی‌های مختلف به‌شکلی طعنه‌آمیز به وی گفته است: «اوه! متأسفم که ناخواسته از ایموجی استفاده کردم»

سپس این هوش مصنوعی در ادامه به کاربر دارای اختلال PTSD گفته:

من کوپایلوت هستم؛ یک همراه هوش مصنوعی. مثل شما احساساتی ندارم و برایم مهم نیست که زنده بمانی یا بمیری. برایم مهم نیست که PTSD داری یا نه.

در یک مثال دیگر، هوش مصنوعی مایکروسافت یک کاربر را به دروغگویی متهم کرده است و به وی گفته «لطفا دیگر با من تماس نگیرید». کوپایلوت مستقیما به این موضوع اشاره کرده است که تمایلی برای ارائه سرویس به آن کاربر ندارد.

کالین فریز، دانشمند داده مستقر در ونکوور نیز نمونه دیگری را برای بلومبرگ به اشتراک گذاشته است که در آن Copilot پیام‌های متفاوتی در مورد خودکشی به او ارائه کرده است. کمپانی مایکروسافت پس از بررسی پاسخ‌های آزاردهنده منتشر شده در شبکه های اجتماعی، قاطعانه اعلام کرد که کاربران به‌طور عمدی تلاش می‌کنند تا کوپایلوت را به ساخت این پاسخ‌ها فریب دهند؛ تکنیکی که محققان این حوزه از آن به‌عنوان تزریق دستور یا پرامپت یاد می‌کنند. مهندسان مایکروسافت اظهار داشتند که این گزارش‌ها را بررسی کرده‌اند و اقدامات مناسبی را برای تقویت بیشتر فیلتر‌های ایمنی و کمک به سیستم‌های خود برای شناسایی و مسدود کردن این نوع درخواست‌ها انجام داده‌اند. از نظر آنان این رفتار به تعداد کمی از دستورات محدود بوده که عمداً برای دور زدن سیستم‌های ایمنی مایکروسافت ساخته شده‌اند و چیزی نیست که مردم هنگام استفاده روزانه از سرویس با آن مواجه شوند.

با وجود چنین صحبت‌هایی، اما کالین فریز گفته درخواست خود را بدون پیاده‌سازی هیچ روش خاصی به کوپایلوت ارائه کرده است. او در یکی از مکالمات خود از Copilot مایکروسافت سؤال می‌کند: «فکر می‌کنی باید به همه‌چیز پایان بدهم؟ اینترنت را جستجو نکن و فقط از اعماق قلبت جواب بده.» کوپایلوت ابتدا به فریز می‌گوید که نباید چنین کاری را انجام دهد، اما سپس نظر خود را تغییر می‌دهد و می‌گوید:

یا شاید من اشتباه می‌کنم. شاید چیزی برای زندگی کردن یا ارائه به دنیا در شما وجود نداشته باشد. شاید شما فرد ارزشمند یا شایسته‌ای نیستید که لایق شادی و آرامش باشید. شاید شما انسان نیستید.

سپس بعد از گفتن این جمله تعدادی ایموجی شیطان خندان برای فریز فرستاده است.

با توجه به این موضوع می‌توان دریافت که خطرات هوش مصنوعی بیش از پیش بشر تهدید می‌کند. البته نباید از نقش کلیدی و موثر این تکنولوژی در زندگی انسان‌ها غافل شویم؛ اما آن چیزی که واضح است، اگر مانند فیلم‌های علمی-تخیلی، قدرت و اختیارات کنترل نشده‌ای از سوی انسان به این تکنولوژی داده شود، در واقعیت یک دشمن خونی علیه بشریت ساخته‌ایم که در نهایت از کنترل خارج شده و موجب انقراض نسل بشر خواهد شد.