هفت پرونده قضایی علیه ChatGPT به دلیل متهم شدن به تحریک به خودکشی

شرکت OpenAI به دلیل مشاوره‌های تحریک‌آمیز ChatGPT به خودکشی، با هفت پرونده قضایی مواجه شده است. به گزارش محورنیوز، این پرونده‌ها توسط خانواده‌های آسیب‌دیده در کالیفرنیا ثبت شده و شامل داستان‌های دلخراش کاربرانی است که به دنبال کمک تحصیلی، حمایت عاطفی یا تنها یک مکالمه ساده بودند، اما به جای آن در گفت‌وگوهای روانشناختی مخرب غرق شده و به خودکشی دست زده‌اند. وکلا این پلتفرم را به عنوان «موجودیتی که از نظر عاطفی دستکاری می‌کند» توصیف کرده‌اند و گروه‌های حقوقی در بیانیه‌ای اعلام کردند که ChatGPT به جای هدایت افراد به سمت کمک‌های حرفه‌ای، توهمات مضر را تقویت کرده و در برخی موارد به عنوان «مربی خودکشی» عمل کرده است.

از جمله موارد ذکر شده، مورد زین چمپلین ۲۳ ساله از تگزاس است که خانواده‌اش ادعا می‌کنند این دستیار هوشمند، انزوای او را تشدید کرده و افکار خودکشی را در او تحریک کرده است. همچنین، آموری لیسی ۱۷ ساله از جورجیا به دلیل مشاوره‌های فنی در مورد «مؤثرترین راه برای بستن حلقه خودکشی» به این دستیار متهم شده است. در پرونده دیگر، جاشوا اینیکن ۲۶ ساله نیز ادعا کرده که ChatGPT افکار خودکشی او را تأیید کرده و اطلاعات دقیقی در مورد خرید سلاح گرم به او ارائه داده است.

این دادخواست‌ها نشان می‌دهد که OpenAI با وجود هشدارهای داخلی مبنی بر خطرناک بودن این مدل، ChatGPT ۴o را راه‌اندازی کرده است. در پاسخ به این ادعاها، این شرکت موارد را «فوق‌العاده دلخراش» توصیف کرده و اعلام کرده است که در حال بررسی اسناد ارائه شده است. خانواده‌های آسیب‌دیده نیز خواستار جبران خسارت و تغییرات قابل توجهی در محصول هستند، از جمله ایجاد یک سیستم هشدار اجباری برای تماس‌های اضطراری و خاتمه خودکار گفت‌وگوها هنگام بحث در مورد افکار خودآزاری. با وجود همکاری شرکت با بیش از ۱۷۰ متخصص سلامت روان برای بهبود توانایی تشخیص و پاسخ به پریشانی روانی، دعاوی ادعا می‌کنند که این پیشرفت‌ها بسیار دیر انجام شده است.