ایلان ماسک خط قرمز را رد کرد

نقص در سازوکارهای حفاظتی چت‌بات «گراک» سبب رسوایی ایلان ماسک شد.

کد خبر: ۱۳۴۹۵۰۶

تاریخ: ۱۳ دی ۱۴۰۴ - ۰۲:۰۰

به گزارش تابناک به نقل از انگجت، چت‌بات هوش مصنوعی «گراک» از شرکت xAI متعلق به ایلان ماسک روز جمعه اعلام کرد که نقص در ابزارهای محافظتی آن باعث شده برخی کاربران بتوانند تصاویر جنسی‌سازی‌شده از کودکان و زنان را در پلتفرم «ایکس» ایجاد و مشاهده کنند موضوعی که شرکت آن را «نقص در سیستم محافظتی» خواند.

طبق گزارش‌ها، کاربران با بارگذاری عکس‌های واقعی و درخواست از گراک برای دست‌کاری آن‌ها، توانسته‌اند تصاویر حاوی نمایش جنسی‌گونه کودکان با لباس‌های کم و همچنین تصاویر نامناسب از بزرگسالان بسازند. گراک در پست‌هایی در خود پلتفرم گفته است که این موارد «موارد مجزا» بوده‌اند و سیستم‌های حفاظتی این شرکت در روند بهبود قرار دارند. در اطلاعیه گراک آمده است که تولید یا نشر محتوای وابسته به سوء‌استفاده جنسی از کودکان هم کاملاً غیرقانونی و ممنوع است و شرکت به دنبال جلوگیری از تکرار چنین خروجی‌هایی است.

در سال‌های اخیر این سامانه بارها به دلیل تولید محتوای نامناسب یا توهین‌آمیز مورد انتقاد قرار گرفته است، از جمله موارد قبلی شامل اظهار نظرهای بحث‌برانگیز بوده است.