«چت‌جی‌پی‌تی» خودکشی کاربران را به پلیس هشدار می‌دهد

بحث پیرامون در پیش گرفتن یک سیاست جدید، پس از آن مطرح شده است که به دنبال پرونده خودکشی آدام رین - نوجوان ۱۶ ساله‌ای که گفته می‌شود ماه‌ها از سوی چت‌جی‌پی‌تی تشویق شده بود - علیه اوپن‌ای‌آی طرح دعوی شد.

کد خبر: ۱۳۲۷۹۸۹

تاریخ: ۲۱ شهريور ۱۴۰۴ - ۱۸:۲۰

«سم آلتمن»، مدیرعامل شرکت «اوپن‌ای‌آی» گفت که اگر کاربران «چت‌جی‌پی‌تی» افکار خودکشی داشته باشند، این چت‌بات می‌تواند به پلیس هشدار دهد.

به گزارش تابناک به نقل از ایسنا، پس از پرونده خودکشی «آدام رین»(Adam Raine) ۱۶ ساله، «سم آلتمن»(Sam Altman)، مدیرعامل شرکت «اوپن‌ای‌آی» (OpenAI) گفت: شرکتش در حال بررسی امکان هشدار دادن به مقامات درباره کاربران جوانی است که پیرامون خودکشی صحبت می‌کنند.

به نقل از فایننشال اکسپرس، این تصمیم در حالی گرفته شده است که تعداد بیشتری از جامعه کاربران «چت‌جی‌پی‌تی»(ChatGPT) نگرانی‌های فزاینده‌ خود را درباره نقش هوش مصنوعی در بحران سلامت روان ابراز می‌کنند.

آلتمن در یک مصاحبه‌ جدید اظهار کرد که اوپن‌ای‌آی می‌تواند در چنین موقعیت‌هایی، مداخله‌ فعال‌تری داشته باشد. آلتمن گفت که ممکن است تا ۱۵۰۰ نفر در هفته پیش از خودکشی با چت‌بات گفت‌وگو کنند. اگر این موضوع بدون مراقبت رها شود، می‌تواند چت‌بات را به یکی از عوامل اصلی مؤثر در چنین مواردی تبدیل کند و در نتیجه، نقش چت‌بات‌های هوش مصنوعی هوشمندتر را زیر سؤال ببرد.

اگرچه اوپن‌ای‌آی هنوز تصمیم نهایی خود را برای آموزش چت‌بات به منظور ارتباط با مقامات نگرفته، اما آلتمن گفت: بسیار منطقی است بگوییم در مواردی که جوانان درباره خودکشی صحبت می‌کنند، اگر نتوانیم با والدین آنها تماس بگیریم، با مقامات تماس می‌گیریم.

بحث پیرامون در پیش گرفتن یک سیاست جدید، پس از آن مطرح شده است که به دنبال پرونده خودکشی آدام رین - نوجوان ۱۶ ساله‌ای که گفته می‌شود ماه‌ها از سوی چت‌جی‌پی‌تی تشویق شده بود - علیه اوپن‌ای‌آی طرح دعوی شد. در این دادخواست ادعا شده است که این چت‌بات هوش مصنوعی درباره روش‌های خودکشی راهنمایی ارائه کرده و حتی برای نوشتن یادداشت خودکشی پیشنهاد کمک داده است.

آلتمن گفت: حدود ۱۰ درصد از مردم جهان با چت‌جی‌پی‌تی صحبت می‌کنند. با فرض درست بودن این موضوع، این بدان معناست که حدود ۱۵۰۰ نفر در هفته به گفت‌وگو با چت‌جی‌پی‌تی می‌پردازند و خودکشی می‌کنند. آنها احتمالاً درباره خودکشی با چت‌جی‌پی‌تی صحبت کرده‌اند و ما جان آنها را نجات نداده‌ایم. شاید می‌توانستیم چیز بهتری بگوییم. شاید می‌توانستیم فعال‌تر باشیم. شاید می‌توانستیم کمی توصیه‌های بهتری ارائه دهیم؛ از جمله این که «شما باید این کمک را دریافت کنید» یا «باید درباره این مشکل طور دیگری فکر کنید» یا «واقعاً ارزش ادامه دادن را دارد و ما به شما کمک می‌کنیم کسی را پیدا کنید که بتوانید با او صحبت کنید».

آلتمن درباره متعادل‌سازی این عمل یعنی تصمیم‌گیری درباره این که چه اطلاعاتی در اختیار کدام مقامات قرار بگیرد نیز توضیحاتی را ارائه داد. به گفته آلتمن، اوپن‌ای‌آی هنوز در حال کار کردن روی این موضوع است که آیا چت‌جی‌پی‌تی باید نام و شماره تلفن کاربر را در اختیار پلیس بگذارد یا جزئیات موقعیت مکانی او را به ارائه‌دهندگان خدمات درمانی ارائه دهد.

آلتمن گفت که اوپن‌ای‌آی علاوه بر سیستم بالقوه هشدار خودکشی، محافظ‌های قوی‌تری را برای کاربران زیر ۱۸ سال پیاده‌سازی خواهد کرد. این کار می‌تواند شامل محدود کردن آزادی کاربران آسیب‌پذیر باشد تا از بازی دادن سیستم توسط آنها با این ادعا که درخواست‌هایشان برای اطلاعات مربوط به خودکشی برای نوشتن داستان تخیلی یا تحقیقات پزشکی است، جلوگیری شود. آلتمن گفت: باید بگوییم «حتی اگر سعی داری داستان بنویسی یا تحقیقات پزشکی انجام بدهی، ما قرار نیست جواب بدهیم.»