دیپ سیک متهم به سرقت از هوش مصنوعی آنتروپیک شد

پس از آنکه شرکت آنتروپیک متوجه شد سه شرکت از چت بات کلاود سواستفاده می کنند، خواستار اقدامی علیه «حملات تقطیر هوش مصنوعی» (AI distillation attack) شد.

کد خبر: ۱۳۵۹۵۰۵

تاریخ: ۰۵ اسفند ۱۴۰۴ - ۱۱:۳۷

به گزارش تابناک به نقل از انگجت، این شرکت در وب سایت خود مدعی شده دیپ سیک، مون شات و مینی مکس کمپین‌هایی در مقیاس صنعتی برای استخراج غیرقانونی قابلیت‌های کلاود انجام داده‌اند تا مدل‌های خود را ارتقا دهند.

تقطیر در جهان هوش مصنوعی مربوط به زمانی است که مدل‌هایی با قابلیت کمتر برای آموزش خود به پاسخ مدل‌های قدرتمندتر تکیه می‌کنند.

هرچند تقطیر در کل این طیف اقدام بدی به شمار نمی‌رود، اما آنتروپیک مدعی است این نوع حمله‌ها ممکن است به شیوه مخرب‌تر مورد استفاده قرار گیرند. به گفته آنتروپیک سه شرکت هوش مصنوعی چینی مذکور مسئول بیش از ۱۶ میلیون تبادل با چت بات کلاود از طریق ۲۴ هزار حساب کلاهبردارانه هستند.

از دیدگاه آنترپیک این شرکت‌های رقیب از کلاود به عنوان راه میانبری برای توسعه مدل‌های هوش مصنوعی پیشرفته‌تر استفاده کرده‌اند که به دور زدن برخی اقدامات ایمنی نیز منجر می‌شود.

آنتروپیک در پست وبلاگی خود نوشت توانسته با کمک IP آدرس‌ها اعتبار بالا هریک از حملات تقطیر را به شرکتی خاص مرتبط کند، درخواست‌های متا دیتا و نشانگر‌های زیرساخت در کنار همکاری با دیگران در صنعت هوش مصنوعی که متوجه رفتار‌های مشابه شده بودند، به این دانش دست یافته است.

اوپن‌ای آی در اوایل سال گذشته ادعا‌های مشابهی درباره تقطیر مدل هایش توسط شرکت‌های رقیب کرده بود و در واکنش به این امر حساب‌های مذکور را ممنوع کرده بود. در خصوص آنتروپیک این شرکت اعلام کرده سیستم هایش را ارتقا می‌دهد تا حملات تقطیر سخت‌تر و ردیابی آنها ساده‌تر شود.