چت‌جی‌پی‌تی یک شهروند را قاتل معرفی کرد

یک مرد نروژی از شرکت اوپن‌ای‌آی شکایت کرده است زیرا چت‌جی‌پی‌تی به اشتباه ادعا کرده بود که او دو فرزندش را به قتل رسانده است.

کد خبر: ۱۲۹۵۵۳۰

تاریخ: ۰۲ فروردين ۱۴۰۴ - ۱۸:۳۰

به گزارش تابناک به نقل از خبرآنلاین، یک مرد نروژی به نام «آروه یالمار هولمن» از شرکت «اوپن‌ای‌آی»، سازنده چت‌جی‌پی‌تی، شکایت کرده است. دلیل این شکایت، ادعای نادرست چت‌جی‌پی‌تی مبنی بر قتل دو فرزند او بود. هولمن که خود را یک شهروند عادی نروژی توصیف می‌کند، از چت‌جی‌پی‌تی خواسته بود اطلاعاتی درباره خودش ارائه دهد، اما پاسخ دریافت‌شده حاوی ادعایی جعلی و نگران‌کننده بود.

چت‌جی‌پی‌تی در پاسخ به سوال «آروه یالمار هولمن کیست؟» نوشته بود که او پدر دو پسر خردسال است که در دسامبر ۲۰۲۰ در استخری نزدیک خانه‌شان در شهر تروندهایم نروژ غرق شده‌اند. این چت‌بات حتی ادعا کرده بود که هولمن به اتهام قتل فرزندانش به ۲۱ سال زندان محکوم شده است. در حالی که هولمن تأکید می‌کند این داستان کاملاً ساختگی است، برخی جزئیات آن مانند شهر محل زندگی و تعداد فرزندانش با واقعیت زندگی او همخوانی دارد.

هولمن با همکاری گروه مدافع حقوق دیجیتال «نویب»، شکایتی به نهاد حفاظت از داده‌های نروژ ارائه داده است. او نگران است که این اطلاعات نادرست ممکن است در جامعه پخش شود و زندگی شخصی و اجتماعی او را تحت تأثیر قرار دهد. در این شکایت، هولمن تأکید کرده که هیچ‌گاه به جرمی متهم یا محکوم نشده و شهروندی قانون‌مدار است.

شاکیان معتقدند که پاسخ چت‌جی‌پی‌تی نه‌تنها افترا محسوب می‌شود، بلکه مقررات دقت اطلاعات در قوانین اروپایی حفاظت از داده‌ها (GDPR) را نیز نقض کرده است. آن‌ها از نهاد ناظر خواسته‌اند تا شرکت اوپن‌ای‌آی را ملزم به اصلاح مدل خود برای جلوگیری از تولید اطلاعات نادرست کند و برای این شرکت جریمه تعیین نماید.

این اتفاق نشان می‌دهد که چت‌بات‌های هوش مصنوعی مانند چت‌جی‌پی‌تی، با وجود پیشرفت‌های چشمگیر، هنوز ممکن است اطلاعات نادرست ارائه دهند. دلیل این موضوع، سازوکار این چت‌بات‌ها است که بر پایه پیش‌بینی کلمه بعدی در جمله کار می‌کنند و لزوماً به دقت اطلاعات توجهی ندارند.