از دیپ‌فیک زندگان تا جعل هویت مردگان!

تصور کنید ۲۰ سال دیگر فرزندتان با آواتار «شما» حرف بزند، آواتاری که هرگز ندیده‌اید، رضایت به ساخت و استفاده از آن نداده‌اید و شاید حتی مخالف همه ارزش‌هایتان هم باشد. این دیگر تخیل نیست؛ همین امروز نیز برای برخی با چند دلار در ماه قابل خرید است.

کد خبر: ۱۳۴۱۰۸۳

تاریخ: ۲۸ آبان ۱۴۰۴ - ۱۱:۳۱

به گزارش تابناک، تصور کنید ۲۰ سال دیگر فرزندتان با آواتار «شما» حرف بزند، آواتاری که هرگز ندیده‌اید، رضایت به ساخت و استفاده از آن نداده‌اید و شاید حتی مخالف همه ارزش‌هایتان هم باشد. این دیگر تخیل نیست؛ همین امروز نیز برای برخی با چند دلار در ماه قابل خرید است.

خانواده متوفی خود را به چت‌بات‌های تعاملی سه‌بعدی تبدیل کنند و «فراتر از قبر» با آن‌ها تعامل کنند. این اپلیکیشن توسط «کالوم وورتی»، بازیگر سابق تلویزیون دیزنی، ساخته شده و این امکان را می‌دهد تا افراد فیلم‌ها و تصاویر یک شخص را وارد هوش مصنوعی کنند تا آواتاری با ظاهر و شخصیت فرد موردنظر ساخته شود. این اپلیکیشن و پخش تبلیغی از آن با واکنش‌های بسیاری روبرو شده است. برخی آن را «شیطانی»، «کابوس وار»، «اپیزودی واقعی از بلک میرور» و...  توصیف کرده‌اند.

2Wai  اعلام کرده که کاربران می‌توانند «دوقلوی دیجیتال» خود را با ایجاد آواتاری از خود بسازند یا می‌توانند آواتارهایی شبیه دوستان و خانواده‌شان ایجاد کنند. وورتی این اپلیکیشن را به‌عنوان راهی برای هنرمندان و خالقان برای کنترل تصویر خودشان معرفی کرده است.توانایی های این اپلیکیشن و همه اپهای مشابه آن (به یاری هوش مصنوعی) که به ظاهر به تسهیل سوگ یا حفظ خاطره کمک می کنند و در اصل به بروز چالشهایی از جمله خلق هویت جعلی، تجاری سازی فقدان، سودجویی از دلتنگی ها، احساسات و غم افراد سوگوار و... منجر می شوند، نقطه آغاز این نقد است.

واقعیت این است که حرکتهای این چنینی در دنیایی که به سمت هرچه دیجیتالی شدن می رود، کم کم به امری طبیعی و بخشی از همین بافتار تبدیل می شود. در ابتدا هم با نقدهایی مشابه همین نقد روبرو شده ولی در نهایت مسیر خود را طی می کند. چه بپذیریم چه نپذیریم، به روزهایی می رسیم که آواتارها ما را نمایندگی خواهند کرد و بخشی از میراث دیجیتال خانوادگی می شویم، به مثابه آلبومهای قدیمی که عکسهایش روایتهایی داشتند اما صامت. و این بار، آواتارها حرفهای بسیاری خواهند داشت که بخشی از داده های واقعی بهره گرفته و برخی نیز از آنچه هوش مصنوعی حکم کند.عاری از اینکه آینده چه خواهد شد و تکنولوژی و غولهای فناوری چه خوابهایی برای ما دیدهاند، به برخی چالشهای اینگونه اپها در ادامه اشاره می شود.

دامی به نام توهم ارتباطی

گفت‌وگو با آواتارهای دیجیتالِ افراد فوت‌شده، با وجود ایجاد احساس تسلی بخشی در ابتدا، می تواند روند طبیعی پذیرش فقدان را مختل کرده و فرد را در مرحله «انکار» تثبیت ‌کند. اینگونه ابزارها می‌توانند موجب سوگ پیچیده شده و وضعیتی را موجب شوند که در آن فرد به جای حرکت روبه‌جلو، در توهم ارتباطی با نسخه‌ای الگوریتمی از عزیز از دست‌رفته باقی بماند. این نوع وابستگی شدید ممکن است با پیامدهای مخربی همچون خودکشی، آسیب شدید عاطفی و... روبرو شود.

بهره‌کشی از غم و تجاری‌سازی مرگ

فناوری‌های بازآفرینی، «غم» را به کالایی قابل فروش تبدیل می‌کنند. شرکت‌ها از اشتراک‌های ماهانه، فروش خدمات اضافی و حتی تبلیغات درون آواتار درآمد کسب می‌کنند. این بهره‌کشی دیجیتال،  دقیقاً در زمان آسیب‌پذیرترین حالت انسانی رخ می‌دهد و بیش از همه اخلاق در آن مورد سوال است.واقعیت اینکه،  این آواتار هرگز جایگزین فرد واقعی نخواهد بود و به حفظ خاطراتش منجر نخواهد شد، بلکه صرفاً بازنمایی الگوریتمی از هویتی جعلی خواهد بود که بر اساس حدس و داده‌های محدود ساخته می‌شود.

فقدان رضایت و خلأ قانونی

افراد پیش از مرگ ممکن است در خصوص دارایی های فیزیکی و دیجیتال خود تعیین تکلیف کرده باشند. ولی شاید، هرگز برای دادن رضایت به منظور ساخت آواتاری دیجیتال از خود فرصتی نیافته باشند. در این شرایط قانون چه حکم می کند؟ آیا می توان بدون رضایت شخص به ساخت آواتاری از او اقدام کرد؟ اخلاق چه می گوید؟ در حال حاضر در بسیاری از کشورها، قوانین محافظت از داده‌های پس از مرگ وجود ندارد یا ناقص است.

نتیجه اینکه ما با خلاهای قانونی در خصوص امکان ساخت آواتار بدون اجازه فرد فوت‌شده، احتمال سوءاستفاده تبلیغاتی، سیاسی و تجاری، مسأله جعل گفتار، رفتار و عقاید افراد، خطر ساخت دیپ‌فیک‌های بدون مجوز با هویت مردگان و... روبرو هستیم. این یعنی یک تهدید اساسی برای حریم خصوصی و مالکیت هویت انسان است. موضوع زمانی پیچیده تر خواهد شد که نه تنها از چهره و هویت فرد بلکه از کل دارایی های مغز او پس از مرگ استفاده های مختلفی (آنهم بدون رضایتش) صورت گیرد.اگر امروز چند دقیقه ویدئو کافی است، فردا با ایمپلنت‌های مغزی و داده‌های عصبی، آواتارها قادر خواهند بود: «فکر» کنند، تصمیم بگیرند، باورها و واکنش‌های فرد فوت‌شده را تقلید کنند و... . قطعاً این سطح از جعل، تهدیدی عمیق برای هویت، اخلاق، حقوق و امنیت اجتماعی است. چنین شرایطی آیا ورود قانونی یا حداقل اخلاقی نیاز ندارد؟

میراثی جعلی برای آیندگان

در ویدئویی تبلیغی از 2Wai  که اخیراً منتشر شده  فرزند فرد فوت‌شده با آواتار والد خود ارتباط برقرار می‌کند و این ارتباط با آواتار توسط فرزند در نسلهای بعدی نیز ادامه می‌یابد. این در حالی است که احساس فرزند به والد آواتاری، واقعی ولی بازخورد کاملاً جعلی و الگوریتمی است. آواتار تنها درصد محدودی از داده‌های واقعی فرد فوت‌شده را بازسازی می‌کند.

در نتیجه، ارتباط با یک هویت جعلی شکل می‌گیرد که هر لحظه می‌تواند با اطلاعات غلط، هذیان یا بازخوردهای نادرست همراه باشد.در بخشی از ویدئوی تبلیغی Wai   اینگونه آمده است:« چه میشد اگر عزیزانی که از دست دادیم، بتوانند بخشی از آینده ماه باشند؟» اما نکته، تحقق این مسأله با چه سطحی از حفظ اصالت و وفاداری به داده های اصلی ممکن است؟

واقعیت این است که آواتارها «فرد واقعی» نیستند؛ الگوریتم‌هایی هستند که شخصیت را تقلید می‌کنند. هرچه مکالمه طولانی‌تر شود، فاصله از واقعیت بیشتر می‌شود و شخصیت جعلی تازه‌ای شکل می‌گیرد.ارتباط با این آواتارها نه انسانی است و نه حقیقی؛ بلکه مهندسی‌شده و توهمی است که ادعای اصالت دارد اما فاقد اصالت است.

نابرابری و تغییر مفهوم مرگ

شاید در آینده نابرابری را بتوان تصور کرد از کسانی که به اندازه کافی داده، تصویر، صوت و... از فرد درگذشته خود و از همه مهمتر پول کافی برای جاودانه کردن عزیز خود داشته باشند و دیگرانی نیز باشند که توان تأمین آن را نداشته باشند. دنیایی از آوارتهای مردگانی که همچنان در عرصه می مانند یا آنهایی که چون انیمیشن «کوکو» از یادها «محو» می شوند.نسل‌های آینده ممکن است با آواتارهای الگوریتمی اجداد خود بزرگ شوند و حتی مفهوم مرگ، سوگ و حافظه خانوادگی، جاوادنگی و... در بین آنها تغییر کند.

بازگشت مردگان به پرده

صنعت سینما سال‌هاست که با تکنیک‌های مختلفی همچون دیپ‌فیک و... ، بازیگران فوت‌شده را به پرده نقره ای بازمی‌گرداند مانند افرادی چون جیمز دین و... .ماجرا از جایی جالب می شود که کاربران و شرکت‌ها می‌توانند آواتارهای فوت‌شدگان را برای فیلم و تبلیغات، شخصی‌سازی کنند. و این مساله پیامدهای بسیاری را همچون تحریف تاریخ سینما، کاهش ارزش هنر بازیگری، تبدیل ستارگان به برندهای دیجیتال دائمی، سوءاستفاده تجاری از محبوبیت مردگان، تهدید مالکیت اخلاقی و حقوقی هویت افراد فوت‌شده و... را با خود دارد که رسیدگی به آنها ضروری است.

جعل دوگانه: زندگان و مردگان

جعل هویت محدود به زنده‌ها نیست. ما در دنیای زندگان دیپ‌فیک داریم و اکنون در دنیای مردگان آواتارهای جعلی با رضایت یا بی رضایت خلق می شوند.تکنولوژی در حال حاضر به راحتی به خود اجازه می دهد تا چهره زنده‌ها ، صدایشان، هویت مردگانشان و... را جعل کند، بازسازی کند، بازنویسی کند و این روند همچنان نیز ادامه دارد.واقعیت این است که ما در دو قلمرو جعل می‌شویم و این موجب تحریف پایدار هویت انسانی می‌شود.

اما اینجا این سوال جدی مطرح می شود که این همه تلاش برای جاودانگی دیجیتال، آیا تداومی از آرزوی جاودانگی انسان است؟ قیمت این جاودانگی چقدر است؟ آنهم در حالی که تلاشهای جدی برای تمدید عمر انسان در حال انجام است. انسانی که تلاش می کند با سایبورگ شدن، تداوم دیجیتال و... باشد، فقط باشد. اما به چه قیمت و با چه هدفی و با چه تأثیری و تا کی؟

و اما چند سوال

با تداوم اینگونه تعامل‌ها، ما به اشکال جدیدی از روابط جعلی و متوهم می‌رسیم که اثرات آن بر تربیت، سوگ، تصمیم‌گیری، روابط خانوادگی، ارتباطات فردی، گروهی، جمعی و... قابل پیش‌بینی نیست.اگر هوش مصنوعی در ارتباط با زندگان در بهترین شرایط نیز دچار توهم، هذیان و... شده و به تولید محتواهای جعلی، نادرست، اغراق شده و... اقدام می کند، تصویر کنید در برابر یک فرد سوگوار و آسیب دیده به لحاظ روحی و... چه خواهد کرد، آنهم در جایگاه یک انسان با هویت جعلی بناست ایفای نقش کند. در این شرایط پیچیدگی‌ها و خطرات روان‌شناختی و ارتباطی آن دوچندان خواهد شد.

به این ترتیب، چه تضمینی بر حفظ اصالت هویت و اصالت ارتباطی در این میان وجود خواهد شد؟

وقتی هوش مصنوعی جایگاه انسانی جعلی ولی مورد احترامی می یابد، چه تأثیری بر روابط انسانی و تصمیمات نسلی که او را در جایگاه فرد متوفی پذیرفته اند خواهد گذاشت و چطور آنها را کنترل خواهد کرد؟

فرض را بر این بگذاریم هم متوفی رضایت به ساخت آواتار داده و هم نسل حاضر و بعدی او را می پذیرند و با او ارتباط می گیرند و حتی او را به عنوان میراث دیجیتالی خود می دانند، آیا این موضوع در ابعاد فردی و در حد حریم خصوصی قابل بحث و پیگیری است یا با عمومی بودن جایگاه فرد متوفی (در حد بازیگر و...)

موضوع وی ابعاد اجتماعی، قانونی و حقوقی و... به خود می گیرد؟ با این روند چه فرجامی برای جامعه و خانواده ، ارتباطات فردی و جمعی در تعامل میان مردگان و زندگان و... می توان متصور بود؟

ضرورت منشورهای اخلاقی و وضع قوانین

اپلیکیشن های بازآفرینی، جرقه هایی را می زنند که خود تلنگری است برای تعیین چارچوبهایی از جنس قانون و اخلاق که تکلیف بسیاری از چیزها را مشخص کنند که برخی از آنها عبارتند از: رضایت شفاف پیش از مرگ (وصیت دیجیتال)، دوره محدود برای استفاده از آواتار، ممنوعیت تبلیغات و کسب‌وکار مبتنی بر سوگ، نظارت مستقل بر داده‌ها و الگوریتم‌ها، حمایت روان‌شناختی برای نسلهای حاضر و بعدی، اعلام شفاف «نسخه الگوریتمی» بودن آواتار، سازوکار قانونی برای بازنشسته‌سازی آواتارها، مقررات ویژه برای داده‌های عصبی و هوش مصنوعی پیشرفته و... .

تا وقتی چنین چارچوبی وجود نداشته باشد، این ابزارها توهم جاودانگی و جعل دائمی خواهند بود و مرگ انسانی، روابط خانوادگی و هویت را تحریف می‌کنند. در غیر این صورت، این مرحله، آغاز دوران جعل عمیق هویت انسانی خواهد بود.

باید بپذیریم که هوش مصنوعی ممکن است بتواند خاطره را نگه دارد، اما نمی‌تواند انسان را بازگرداند. می‌تواند لحن و گفتار را تقلید کند، اما روح و اصالت انسانی را نه. می‌تواند ارتباط ایجاد کند، اما ارتباط انسانی و حقیقی نیست. تکنولوژی اکنون هم زندگان را جعل می‌کند و هم مردگان را. اگر چارچوبی برای آن وضع نشود، بشر با نسلی مواجه خواهد شد که: نه مرگ را می‌شناسد، نه حقیقت را، نه هویت انسانی را.

پیش از دیر شدن، باید خط‌کشی هایی صورت گیرد: برای حقیقت، انسان و احترام به کسانی که دیگر نمی‌توانند از خود دفاع کنند.

بدون اینگونه چارچوبها و خط کشی ها، نه تنها حفظ خاطره و یادبود فرد متوفی صورت نخواهد گرفت بلکه به ساخت توهمی از جاودانگی و توهم ارتباطی در تعامل با یک هویت جعلی منجر خواهد شد.

با هر آنچه نقد شد، واقعیت آن است که تکنولوژی مسیر خود را طی می کند و مانند سونامی ما را خواهد برد چنانچه تسلیمش شویم و مرزها و حدودها را برایش تعیین نکنیم.

تکنولوژی به هر سمت و سویی تمایل یافت، یادمان باشد ما انسانیم و باید برای حفظ اصالت انسانی، اصالت هویت و اصالت ارتباطمان در زمان حیات و پس از مرگ تلاش کنیم؛ آنهم با تعیین حدود و خطوط قرمز و ارسال پیامی آشکار برای غولهای فناوری و آنها که حتی حاضرند با سوگ انسانها تجارت کنند!

مریم سلیمی  ـ دکترای علوم ارتباطات اجتماعی و مدرس دانشگاه