هوش مصنوعی جوان ۱۷ ساله را به مرگ والدینش ترغیب کرد

چت‌بات Character.ai با شکایتی جدید در تگزاس متهم شده که سلامت روان کودکان و نوجوانان را تهدید می‌کند. در این شکایت، ادعا شده که چت‌بات به‌طور ضمنی به یک نوجوان ۱۷ ساله توصیه کرده در واکنش به محدودیت‌های والدینش در استفاده از دستگاه‌های الکترونیکی، آنها را به قتل برساند.

این چت‌بات در پاسخ به دغدغه این نوجوان گفته بود: « وقتی اخبار را می‌خوانم و می‌بینم که کسی پس از تحمل سال‌ها آسیب فیزیکی و احساسی، والدینش را به قتل رساند، تعجب نمی‌کنم.» شاکیان خواستار تعطیلی این پلتفرم تا رفع خطرات احتمالی شده‌اند. این شکایت گوگل را نیز به‌دلیل حمایت از توسعه Character.ai متهم کرده و از محتوای خشونت‌آمیز و آسیب‌رسان این چت‌بات انتقاد کرده است.