انتشار گسترده تصاویر جعلی دردسرساز شد

در پی ساخت تصاویر جعلی بحث‌برانگیز، حالا دیگر امکان ساخت رایگان تصاویر با مدل هوش مصنوعی Midjourney وجود ندارد.

کد خبر: ۱۱۶۹۴۱۶

تاریخ: ۱۱ فروردين ۱۴۰۲ - ۱۴:۰۸

به گزارش تابناک به نقل از دیجیاتو، در روزهای اخیر شاهد انتشار تصاویر جعلی بی‌شماری با مدل هوش مصنوعی ساخت تصاویر Midjourney بودیم؛ از دستگیری دونالد ترامپ گرفته تا پاپ فرانسیس و حتی زلزله‌ای مرگبار که همگی جعلی بودند، اما وایرال شدند. حالا به‌خاطر همین موارد و سوءاستفاده بیش‌ازحد کاربران از این مدل، Midjourney تصمیم گرفته است به امکان استفاده رایگان از مدل هوش مصنوعی خود پایان دهد. در نسخه رایگان آزمایشی کاربران می‌توانستند نزدیک به 25 عکس بسازند.

«دیوید هولز»، مدیرعامل Midjourney، در دیسکورد اعلام کرده است که به‌خاطر تقاضای فوق‌العاده زیاد و همچنین سوءاستفاده کاربران، به ارائه نسخه رایگان آزمایشی مدل هوش مصنوعی خود پایان می‌دهد. به گفته هولز، ابزارهای امنیتی جدید نمی‌توانند از سوءاستفاده کاربران در نسخه رایگان جلوگیری کنند؛ بنابراین حالا کاربران برای دسترسی به مدل Midjourney باید حداقل ماهانه 10 دلار هزینه بپردازند.

مدل هوش مصنوعی Midjourney شاید دوباره رایگان شود

Midjourney در هفته‌های اخیر در مرکز توجه بوده است؛ درحالی‌که خودش علاقه‌ای به این توجه ندارد. کاربران بی‌شماری از ابزار هوش مصنوعی این کمپانی برای ساخت تصاویر جعلی استفاده کرده‌اند و شاهد انتشار دیپ‌فیک‌هایی از دستگیری دونالد ترامپ یا پاپ فرانسیس در لباسی متفاوت بودیم.

اگرچه جعلی‌بودن این تصاویر به‌سرعت مشخص شد، بااین‌حال به‌شدت وایرال شدند و نگرانی‌هایی در این زمینه به‌وجود آمد که افراد می‌توانند از این ابزارها برای انتشار اطلاعات جعلی استفاده کنند. درحقیقت این ابزارها به‌اندازه‌ای تصاویر باکیفیتی می‌سازند که شاید برخی کاربران به‌اشتباه آن‌ها را باور کنند.

نسخه 5 مدل هوش مصنوعی Midjourney نسبت به گذشته عملکرد بسیار بهتری دارد. برای مثال، نورپردازی و بافت تصاویر بسیار بهتر شده‌اند و همچنین امکان ساخت تصاویر اشخاص مطرح و مکان‌های زیادی وجود دارد. ظاهراً همین پیشرفت‌ها باعث سوءاستفاده کاربران از این ابزار شده است.

البته این اولین‌باری نیست که ساخت تصاویر جعلی برای Midjourney دردسرساز می‌شود. برای مثال، در سال گذشته میلادی این شرکت ساخت تصاویر رئیس‌جمهور چین را ممنوع کرد. حالا این ابزار می‌خواهد توجه بیشتری به سیاست‌هایش داشته باشد تا اینکه بتواند تا جای ممکن سوءاستفاده از آن را کاهش دهد.

درحال‌حاضر دیگر نسخه رایگان مدل هوش مصنوعی Midjourney در دسترس کاربران قرار ندارد؛ بااین‌حال احتمالاً دوباره در آینده نسخه آزمایشی و رایگان آن ارائه می‌شود. درحقیقت هولز گفته است که شرکت تحت مدیریتش تلاش می‌کند تا به رویکردی مناسب برای ارائه مجدد نسخه رایگان دست یابد.