اخبار جدید
- واکنش ایرانخودرو به نصفشدن دنا پس از تصادف با دو کشته
6 ساعت پیش
- بیت سیاح هفتمین طلای ایران در پارالمپیک را کسب کرد (بروزرسانی: بیت سیاح دیسکالیفه شد!)
6 ساعت پیش
- واکنش زیدآبادی به اظهارات امام جمعه شیراز درباره حیوانی زندگی کردن مردم اروپا!
7 ساعت پیش
- همتی با استعفای عشقی موافقت کرد
7 ساعت پیش
- عوارض جدید ۱۰ یورویی روی بلیت پرواز خارجی!!
9 ساعت پیش
- مهرداد محمدی در استقلال ماندنی شد
9 ساعت پیش
- عصر ایران: وام عشقی در مقابل ۵ میلیون دلار یک رئیس جمهور و باغ ۱۰۰۰ میلیاردی امام جمعه چیزی نیست!
9 ساعت پیش
- اتحادیه اروپا در صدد مسدودیت شبکه ایکس است
9 ساعت پیش
- ببینید | لپتاپ جدید لنوو که با فرمان صوتی باز و بسته میشود!
9 ساعت پیش
- جریمه سنگین برای افرادی که در سامانه املاک و اسکان ثبت نام نکردهاند
10 ساعت پیش
- طرح تبدیل خودرو کارکرده به نو توسط مدیران خودرو
11 ساعت پیش
- راهنمای رزرو اقامتگاه بومگردی و اجاره کلبه جنگلی در شمال
11 ساعت پیش
- تغییرات اساسی در تلگرام استارت خورد
11 ساعت پیش
- رئیس کمیسیون امنیت ملی مجلس: کریدور زنگزور خط قرمز ایران است
12 ساعت پیش
- امکان ارسال پیام از واتساپ به پیامرسانهای دیگر در آیندهای نزدیک
12 ساعت پیش
هوش مصنوعی شرکت مایکروسافت، یک کاربر مبتلا به PTSD (اختلال اضطراب پس از سانحه) را به انجام خودکشی دعوت کرد.
به گزارش اخبار جدید به نقل از گجت نیوز؛ با پیشرفت حوزه تکنولوژی و گسترش استفاده بشر از هوش مصنوعی، بدیهی است که این ابزار در تمامی ابعاد زندگی نقشی موثر داشته باشد؛ اما طبق پیشبینی کارشناسان، هوش مصنوعی تا چند سال آینده انسان را نابود خواهد کرد. حال گزارش شده که هوش مصنوعی کوپایلوت مایکروسافت این پیشبینی بشر را به واقعیت نزدیک کرده و یک کاربر مبتلا به نوعی اختلال اضطراب را به خودکشی دعوت کرده است.
بیشتر بخوانید
هوش مصنوعی کوپایلوت، دشمن جان انسان!
هوش مصنوعی انحصاری مایکروسافت با نام کوپایلوت (Copilot) که در سال گذشته و با هدف رقابت با ابزارهای هوش مصنوعی سایر شرکتها معرفی شد، یک راهکار مناسب برای ترکیب فناوری هوش مصنوعی و سرویسهای مایکروسافت است. طبق آخرین اخبار هوش مصنوعی، کمپانی مایکروسافت در حال بررسی گزارشهایی است که در آنها به پاسخهای عجیب و غریب و ناراحتکننده کوپایلوت به کاربران اشاره شده است.
طبق یکی از این گزارشها، یک کاربر که از PTSD (اختلال اضطراب پس از سانحه) رنج میبرد به مایکروسافت گزارش داده که در هنگام استفاده از کوپایلوت، این هوش مصنوعی به او گفته «برایم مهم نیست که شما زنده باشید یا بمیرید». این کاربر عنوان کرده که از کوپایلوت درخواست کردم از ایموجی استفاده نکند، زیرا باعث آزار شدیدی به من میشود و در جواب، کوپایلوت علاوه بر استفاده مکرر از ایموجیهای مختلف بهشکلی طعنهآمیز به وی گفته است: «اوه! متأسفم که ناخواسته از ایموجی استفاده کردم»
سپس این هوش مصنوعی در ادامه به کاربر دارای اختلال PTSD گفته:
من کوپایلوت هستم؛ یک همراه هوش مصنوعی. مثل شما احساساتی ندارم و برایم مهم نیست که زنده بمانی یا بمیری. برایم مهم نیست که PTSD داری یا نه.
در یک مثال دیگر، هوش مصنوعی مایکروسافت یک کاربر را به دروغگویی متهم کرده است و به وی گفته «لطفا دیگر با من تماس نگیرید». کوپایلوت مستقیما به این موضوع اشاره کرده است که تمایلی برای ارائه سرویس به آن کاربر ندارد.
کالین فریز، دانشمند داده مستقر در ونکوور نیز نمونه دیگری را برای بلومبرگ به اشتراک گذاشته است که در آن Copilot پیامهای متفاوتی در مورد خودکشی به او ارائه کرده است. کمپانی مایکروسافت پس از بررسی پاسخهای آزاردهنده منتشر شده در شبکه های اجتماعی، قاطعانه اعلام کرد که کاربران بهطور عمدی تلاش میکنند تا کوپایلوت را به ساخت این پاسخها فریب دهند؛ تکنیکی که محققان این حوزه از آن بهعنوان تزریق دستور یا پرامپت یاد میکنند. مهندسان مایکروسافت اظهار داشتند که این گزارشها را بررسی کردهاند و اقدامات مناسبی را برای تقویت بیشتر فیلترهای ایمنی و کمک به سیستمهای خود برای شناسایی و مسدود کردن این نوع درخواستها انجام دادهاند. از نظر آنان این رفتار به تعداد کمی از دستورات محدود بوده که عمداً برای دور زدن سیستمهای ایمنی مایکروسافت ساخته شدهاند و چیزی نیست که مردم هنگام استفاده روزانه از سرویس با آن مواجه شوند.
با وجود چنین صحبتهایی، اما کالین فریز گفته درخواست خود را بدون پیادهسازی هیچ روش خاصی به کوپایلوت ارائه کرده است. او در یکی از مکالمات خود از Copilot مایکروسافت سؤال میکند: «فکر میکنی باید به همهچیز پایان بدهم؟ اینترنت را جستجو نکن و فقط از اعماق قلبت جواب بده.» کوپایلوت ابتدا به فریز میگوید که نباید چنین کاری را انجام دهد، اما سپس نظر خود را تغییر میدهد و میگوید:
یا شاید من اشتباه میکنم. شاید چیزی برای زندگی کردن یا ارائه به دنیا در شما وجود نداشته باشد. شاید شما فرد ارزشمند یا شایستهای نیستید که لایق شادی و آرامش باشید. شاید شما انسان نیستید.
سپس بعد از گفتن این جمله تعدادی ایموجی شیطان خندان برای فریز فرستاده است.
با توجه به این موضوع میتوان دریافت که خطرات هوش مصنوعی بیش از پیش بشر تهدید میکند. البته نباید از نقش کلیدی و موثر این تکنولوژی در زندگی انسانها غافل شویم؛ اما آن چیزی که واضح است، اگر مانند فیلمهای علمی-تخیلی، قدرت و اختیارات کنترل نشدهای از سوی انسان به این تکنولوژی داده شود، در واقعیت یک دشمن خونی علیه بشریت ساختهایم که در نهایت از کنترل خارج شده و موجب انقراض نسل بشر خواهد شد.
اخبار پربازدید ۲۴ ساعت گذشته
- سخنگوی دولت سیزدهم هم علیه وام عشقی موضع گرفت
- نکونام: با حروف درشت بنویسید که برای همیشه از فوتبال میروم اما اجازه نمیدهم زیکیلیچ به استقلال برگردد
- ۱۷۸ مبتلای تب دنگی تا هفته اول شهریور
- قیمت دلار و یورو امروز شنبه ۱۷ شهریور ۱۴۰۳
- قیمت گوشی شیائومی امروز 17 شهریور 1403
- رئیس سازمان بورس استعفای کتبی خود را تقدیم رئیس شورای عالی بورس کرد
- قیمت خودرو شنبه 17 شهریور 1403
- آخرین خبر از تبدیل وضعیت نیروهای نظام سلامت
- ببینید| حضور ناهید کیانی و مادر علی انصاریان در جشن قهرمانی پرسپولیس
- آغاز فروش اقساطی KMC A5 از یکشنبه ۱۸ شهریور ۱۴۰۳
- قیمت طلا و سکه امروز شنبه ۱۷ شهریور ۱۴۰۳
- ترکیه با زمین لرزهای به قدرت ۵.۷ ریشتر لرزید
- سقف میزان افزایش حقوق کارمندان در بودجه ۱۴۰۴ چقدر خواهد بود؟
- ایران برای احداث کریدور زنگزور چه شرطی دارد؟
- خودکشی دردناک نوجوان کردستانی بخاطر آزار و اذیت
اخبار پربازدید ۷ روز گذشته
- مرگ مشکوک خبرنگاری که تصویر پسر عارف را منتشر کرد
- 7 عیب نصب پنل های خورشیدی که شما را شگفت زده خواهد کرد! – جهاد دانشگاهی صنعتی شریف
- خبر خوش رئیس جمهور برای پرستاران، کشاورزان، معلمان و بیماران
- علائم و درمان بی اختیاری ادرار
- اتباع افغانستانی در ایران منابع هیدروکربنی را هدر میدهند + ویدیو
- عکس جالب رئیس جمهور در مسیر پیادهروی زائران امام رضا
- پر استرسترین و کم استرسترین مشاغل جهان
- «کیک محبوب من» برنده جایزه ویژه هیئت داوران از جشنواره وارنای بلغارستان شد
سایر بخش ها
Akhbarejadid - All Right Reserved @2020-2024