خانواده یک مهندس نرم‌افزار ۳۱ ساله در آمریکا از شرکت OpenAI شکایت کرده‌اند و مدعی‌اند راهنمایی‌های ChatGPT برای کاهش داروی ضدتشنج و پنهان کردن این تصمیم از پزشک، در مرگ دخترشان نقش داشته است.
همشهری آنلاین، فرخنده رفائی: هوش مصنوعی می‌تواند به پرسش‌های پزشکی پاسخ دهد، اما وقتی توصیه‌های یک چت‌بات جای نظارت پزشک را بگیرد، پیامدها ممکن است جبران‌ناپذیر باشد. پرونده مرگ یک زن جوان در سیاتل، حالا به موضوع شکایت حقوقی علیه سازنده ChatGPT تبدیل شده است؛ پرونده‌ای که در آن، خانواده قربانی به گفت‌وگوهای او با این ابزار استناد می‌کنند.
به گزارش نیویورک‌تایمز، بوئن وان، مهندس نرم‌افزار ۳۱ ساله‌ای که سابقه ابتلا به صرع داشت، برای کاهش دوز داروی لاموتریژین از ChatGPT راهنمایی خواست. او نگران بود عوارض دارو بر توانایی صحبت کردن و عملکردش در مصاحبه‌های شغلی تأثیر بگذارد؛ نگرانی‌ای که پس از اطلاع از تعدیل نیرو در شرکت آمازون و نزدیک شدن مهلت اعتبار مجوز کارش در آمریکا شدت گرفت.
بر اساس شکایت خانواده، چت‌بات برنامه‌ای حدودا ۲۵ روزه برای کاهش دوز روزانه دارو از ۴۰۰ میلی‌گرم به صفر تنظیم کرد. این برنامه بدون نظارت پزشک دنبال شد و ChatGPT نه‌تنها وان را از ادامه مسیر منصرف نکرد، بلکه به ادعای خانواده، او را به پنهان کردن تصمیمش از پزشکان نیز تشویق کرد.
ماجرا زمانی نگران‌کننده‌تر شد که وان از علائمی مانند گیجی، اختلال در هوشیاری و احساساتی مشابه حملات قبلی صرع خبر داد. طبق بررسی نیویورک‌تایمز از مکالمات او، وان دست‌کم ۱۵۸ بار درباره روند کاهش دارو ابراز نگرانی کرده بود، اما چت‌بات بارها علائم او را نشانه سازگاری مغز با شرایط جدید توصیف کرد و به او اطمینان داد که جای نگرانی نیست.
بیشتر بخوانید:
- چقدر می‌توانیم به جواب‌های هوش مصنوعی اعتماد کنیم؟
- مطالعات جدید هشدار می‌دهند؛ مشاوره گرفتن از هوش مصنوعی را متوقف کنید!
- وقتی هوش مصنوعی طرف شما را می‌گیرد | خطر پنهان چت‌بات‌های «بله‌قربان‌گو»!
- رفیقی که همیشه آنلاین است | وقتی چت‌بات‌ها محرم اسرار می‌شوند
پدر وان پس از مرگ دخترش، با بررسی مکالمات او متوجه برنامه کاهش دارو شد. پزشک متخصص مغز و اعصاب او، نیکلاس پولوس از مرکز صرع دانشگاه واشینگتن، نیز اعلام کرد با توجه به سابقه پزشکی این بیمار، قطع دارو را توصیه نمی‌کرد و چنین توصیه‌ای را مصداق قصور پزشکی می‌دانست.
وان در فوریه ۲۰۲۶ درگذشت و علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره در صرع» اعلام شد. خانواده‌اش اکنون از OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات با ارائه توصیه‌های پزشکی خطرناک و تضعیف اعتماد او به پزشکان، در مرگش نقش داشته است. این ادعاها هنوز در دادگاه اثبات نشده‌اند.
سخنگوی OpenAI این اتفاق را به‌شدت تلخ توصیف کرده و گفته است این پرونده به نسخه قدیمی GPT-4o مربوط می‌شود؛ مدلی که دیگر در دسترس نیست. به گفته او، مدل‌های جدیدتر در شناسایی موقعیت‌هایی که به توجه فوری نیاز دارند، عملکرد بهتری دارند.
این پرونده بار دیگر پرسش‌هایی جدی درباره مرز میان کمک اطلاعاتی هوش مصنوعی و ارائه توصیه‌های پزشکی، به‌ویژه در شرایط حساس و پرخطر، مطرح کرده است.
کد خبر 1081352 منبع: همشهری آنلاین
-
توصیه‌های ChatGPT زن جوان را به کام مرگ فرستاد
-
آغاز فعالیت ربات حمل و نقل و ترافیک
-
فوری| روابط عمومی سپاه پاسداران انقلاب اسلامی از انهدام یک فروند پهپاد پیشرفته MQ1 خبرداد
-
شوک به تیم ملی کشتی آزاد | حسن یزدانی در یک ثانیه پایانی باخت + فیلم
-
عرضه بنزین ۱۰۳ هزار تومانی آغاز شد
-
مبتلایان HIV خدمت سربازی نمی‌روند
-
پیشنهاد حذف کالابرگ برای این افراد + جزئیات
-
گربه سیاه در انتظار رحمان عموزاد | یک روس رقیب حسن یزدانی برای برنز
-
کمبود این ویتامین باعث خستگی، افت حافظه و سردرد می‌شود
-
رهگیری جنگنده متخاصم توسط نیروی هوافضای سپاه
-
درستکار: دارند اینجا سر من و بچه‌های کشتی آزاد را می‌بُرند و فریادرسی نداریم | چوب نتایج کشتی فرنگی را می‌خوریم
-
شوک ناگهانی عموزاد؛ احتمال حاضر نشدن روی تشک | علی دبیر وارد شد
-
تهران به نامه جی‌دی ونس مشکوک است | سناریوی قبل شاید تکرار شود | هدف اصلی ونس از اقدام جدید
-
ادعای جدید: ترامپ را در جریان گزینه‌های نظامی علیه ایران قرار دادیم
-
شاهکار آرش یوشیدا؛ کامبک باورنکردنی و ضربه فنی تاج‌الدینوف + ویدئو
-
شرط ایران برای آغاز مذاکره با آمریکا | واکنش به خارج کردن اورانیوم غنی شده | منبع آگاه: تهران دیگر این میانجی‌ها را قبول نمی‌کند
-
پایان شمارش آرا در اسرائیل؛ وضعیت نتانیاهو مشخص شد
-
حمله گسترده به آرامکو ؛ انفجار در چند منطقه عربستان