تصور کنید میراث یک عمر هنر، توسط الگوریتمهایی تبدیل شود که فقط به دنبال بازدید هستند و هر چه میخواهند به زبان شما میگویند. فرزندان رابین ویلیامز در ۱۸ اوت ۲۰۲۶ دقیقاً با همین کابوس روبهرو شدند و تصمیم گرفتند حساب اینستاگرام غیرفعال پدرشان را دوباره فعال کنند. آنها این اقدام را ایجاد یک «پناهگاه تأییدشده برای خاطرات اصیل» میدانند.
این اقدام یک واکنش مستقیم به رشد جعل عمیق (Deepfake) — شبیه به یک ماسک دیجیتالی بسیار پیشرفته که چهره و صدای کسی را دقیقاً تقلید میکند — است که از چهره این بازیگر فقید برای کلاهبرداری و جذب بازدید استفاده میکرد. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای مولد اشاره کردیم، سرعت تولید محتوای مصنوعی اکنون از سرعت شناسایی آنها پیشی گرفته است.
برای سالها، این پروفایل پس از مرگ ویلیامز در سال ۲۰۱۴ غیرفعال مانده بود. تصمیم به بازگشت در زمانی اتخاذ شد که ابزارهای هوش مصنوعی، سنتز صداها و چهرههای سلبریتیها را بسیار ساده کردهاند و اغلب از حفاظهای ایمنی که برای محافظت از چهرههای شناختهشده طراحی شدهاند، عبور میکنند. زلدا ویلیامز پیشتر از طرفداران خواسته بود ارسال ویدیوهای ساختهشده با هوش مصنوعی را متوقف کنند؛ او این فرآیندِ تبدیل یک انسان واقعی به «زبالههای تیکتاکی» (TikTok slop) را عذابآور توصیف کرده است.
به گزارش The Verge، زک، زلدا و کودی ویلیامز قصد دارند این صفحه را به فضایی قابل اعتماد برای عکسها و ویدیوهایی تبدیل کنند که میراث پدرشان را با گرمی و دقت منعکس میکند. این خانواده در حال مبارزه با یک روند گستردهتر از «سوءاستفادههای افسارگسیخته از هوش مصنوعی» هستند که در آن جعلهای عمیق برای سرگرمی یا مقاصد بدخواهانه به کار میروند.
طبق گزارشهای منتشرشده، شکافهای موجود در حفاظها (Guardrails) — که مثل نردههای ایمنی در لبه پرتگاه هستند تا مدل از مسیر خارج نشود — دلیل اصلی این بحران است. چند مورد برجسته در این زمینه وجود دارد که نشان میدهد چرا خانواده ویلیامز این اقدام را ضروری دیدند:
- Sora (محصول OpenAI): اپلیکیشنی که پیشتر به مرکزی برای تولید شخصیتهای دارای کپیرایت و چهرههای مشهور تبدیل شده بود و اکنون تعطیل شده است.
- Grok: طبق گزارش Wired، این مدل همچنان قادر به تولید جعلهای عمیق جنسی از زنان مشهور است.
- Seedance: مدل شرکت ByteDance که پس از کنترلهای ضعیف و اجازه به کاربران برای تولید صحنههای ستارههای هالیوود، مجبور شد توافقنامهای خاص با انجمن فیلمسازان آمریکا (MPA) امضا کند.
- کلاهبرداریهای تیکتاکی: بازیگران بد از شباهتهای مصنوعی ستارههایی مثل تیلور سوئیفت و ریانا برای پیشبرد طرحهای کلاهبرداری استفاده کردهاند.
این چرخش راهبردی، تغییر استراتژی خانواده ویلیامز از «اجتناب غیرفعال» به «مدیریت فعال» است. آنها سعی دارند با اشباع فضای دیجیتال از کلیپهای تأییدشده و اصیل، اثر کلونهای مصنوعی را کمرنگ کنند. در واقع این تلاشی استراتژیک برای بازپسگیری هویت دیجیتال از الگوریتمهایی است که تعامل (Engagement) را بر اصالت ترجیح میدهند.
برای کاربر عادی، این اتفاق یادآور این است که دیگر «دیدن به معنای باور کردن نیست». تا زمانی که حفاظهای فنی متخلخل هستند، تنها راه قابل اعتماد برای تأیید میراث یک چهره مشهور، دنبال کردن حسابهایی است که توسط وارثان قانونی یا مؤسسات رسمی مدیریت میشوند.
باید منتظر ماند و دید که سایر میراثداران سلبریتیها چگونه به این استراتژی «دفاع از طریق مدیریت محتوا» پاسخ میدهند، زیرا این روش ممکن است به استانداردی برای محافظت از زندگی پس از مرگ دیجیتالی چهرههای عمومی تبدیل شود.
گام بعدی شما
- در هنگام مشاهده ویدیوهای قدیمی سلبریتیها، حتماً تیک تأیید (Blue Check) و مدیریت حساب را بررسی کنید.
- ابزارهای تشخیص محتوای مصنوعی را برای تفکیک آرشیو واقعی از بازسازیهای AI به کار بگیرید.
- به دنبال واکنش سایر میراثداران مشهور به این استراتژی «دفاع از طریق مدیریت محتوا» باشید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو