دیپ‌فیک و اعتماد بازار؛ وقتی واقعیت رسانه‌ای به ریسک اقتصادی تبدیل می‌گردد

دیپ‌فیک و اعتماد بازار به هم گره خورده‌اند، چون دیپ‌فیک فقط یک مسئلهٔ رسانه‌ای یا امنیت سایبری نیست. وقتی ساخت تصویر، صدا یا ویدئوی قانع‌کننده از یک فرد ارزان‌تر و سریع‌تر می‌گردد، مسئلهٔ اقتصادی تازه‌ای شکل می‌گیرد. هزینهٔ تشخیص واقعیت بالا می‌رود.

NIST در بررسی ریسک‌های محتوای مصنوعی، چهار موضوع را بخشی از مسئلهٔ اعتماد به محتوای دیجیتال مطرح می‌کند. این چهار موضوع احراز اصالت، رهگیری منشأ محتوا، برچسب‌گذاری و تشخیص محتوای مصنوعی‌اند. OECD نیز گزارش داد سهم حوادث و ریسک‌های گزارش‌گردیدهٔ مرتبط با synthetic media (رسانهٔ مصنوعی) از ۲۰۲۲ تا ۲۰۲۵ بیش از دو برابر گردید. این سهم در سه‌ماهه سوم ۲۰۲۵ به بیش از ۱۴٪ کل حوادث و ریسک‌های هوش مصنوعی ثبت‌گردیده در مجموعهٔ OECD رسید.

در بازار و کسب‌وکار، پیامد اصلی این تحول فقط تعداد کلاهبرداری‌ها نیست. سازمان‌ها باید لایه‌های بیشتری بسازند. این لایه‌ها تأیید (verification) و اطمینان از هویت (identity assurance) را پوشش می‌دهند. کنترل‌های تأیید (approval controls)، پیشگیری از کلاهبرداری (fraud prevention) و مدیریت اعتبار (reputation management) هم در همین فهرست‌اند. FINRA نیز در گزارش نظارتی خود، استفاده از deepfake صوتی و تصویری را جزو ریسک‌های مشاهدهٔ خود مطرح می‌کند. این استفاده جعل هویت، تصاحب حساب و ایجاد حساب‌های جعلی را در بر می‌گیرد. این نهاد حتی تلاش برای دستکاری قیمت سهام با اطلاعات ساختگی را هم در همین فهرست می‌آورد.

مسئلهٔ اصلی را می‌توان در یک جمله خلاصه کرد.

«وقتی جعل ارزان می‌گردد، اعتماد دیگر یک پیش‌فرض نیست؛ به زیرساختی پرهزینه بدل می‌گردد.»

بحث درباره دیپ‌فیک معمولاً از یک سؤال آغاز می‌گردد.

«آیا این تصویر یا ویدئو واقعی است؟»

اما برای یک سازمان، بانک، پلتفرم یا بازار، سؤال مهم‌تر جای دیگری قرار دارد.

«برای اطمینان از واقعی بودن آن، چقدر باید هزینه کنیم؟»

این تفاوت اهمیت دارد.

ساخت یک ویدئوی جعلی از مدیرعامل، صدای یک مدیر، تصویر یک مقام یا حتی یک حساب کاربری معتبر ممکن است ارزان و سریع باشد. در این حالت، ارزش اقتصادی اطلاعات معتبر بدون هیچ تغییری در خود اطلاعات کاهش نمی‌یابد. اما هزینهٔ اثبات اعتبار آن افزایش پیدا می‌کند.

NIST دقیقاً به همین مسئله از زاویهٔ زیرساخت اعتماد به محتوای دیجیتال نگاه می‌کند. این نهاد روش‌هایی مانند احراز اصالت (authentication)، رهگیری منشأ (provenance)، برچسب‌گذاری (labeling) و تشخیص (detection) را برای کاهش ریسک محتوای مصنوعی بررسی می‌کند.

این یعنی اقتصاد دیپ‌فیک را نباید فقط با «زیان ناشی از یک کلاهبرداری» سنجید. باید هزینه‌ای را هم دید که سازمان برای جلوگیری از کلاهبرداری، تأیید هویت و حفظ اعتماد می‌پردازد.

در دنیای قبلی، یک پیام صوتی یا ویدئویی از مدیرعامل می‌توانست سیگنال نسبتاً قوی از هویت فرستنده باشد. امروز دیگر چنین نیست.

این به معنای بی‌ارزش شدن ویدئو یا صدا نیست. یک کانال ارتباطی به‌تنهایی دیگر برای اثبات هویت کافی نیست.

سازمان باید لایه‌های دیگری اضافه کند.

• تأیید هویت از یک کانال مستقل.
• کنترل درخواست‌های غیرعادی.
• تأیید دومرحله‌ای برای انتقال پول یا اطلاعات حساس.
• ثبت منشأ و تغییرات محتوا.
• آموزش کارکنان.
• در برخی محیط‌ها، استفاده از ابزارهای تشخیص یا provenance.

هزینهٔ این لایه‌ها ممکن است در هر سازمان کوچک به نظر برسد. اما در مقیاس بزرگ، بخشی از هزینهٔ عملیاتی را تشکیل می‌دهد.

این تغییر، دیپ‌فیک را از یک مسئلهٔ «محتوا» به مسئلهٔ اقتصاد اعتماد تبدیل می‌کند.

بازارهای مالی بر اطلاعات، هویت و سرعت واکنش تکیه دارند.

در هر یک از حالت‌های زیر، مشکل فقط فریب خوردن یک نفر نیست. فرایند تصمیم‌گیری نیز مختل می‌گردد.

• اگر سرمایه‌گذار مطمئن نباشد پیام منتسب به مدیرعامل واقعی است.
• اگر تماسی ظاهراً متعلق به کارگزار جعلی باشد.
• اگر ویدئویی جعلی درباره یک شرکت منتشر گردد.

FINRA در گزارش نظارتی خود نمونه‌هایی از استفاده از هوش مصنوعی مولد (GenAI) را مطرح می‌کند. این نمونه‌ها deepfake صوتی و تصویری، ایجاد هویت‌های مصنوعی و تصاحب حساب را در بر می‌گیرند. FINRA حتی انتشار اطلاعات جعلی را هم با هدف اثرگذاری بر قیمت سهام نام می‌برد.

در راهنمای ژوئن ۲۰۲۶ نیز FINRA به سرمایه‌گذاران دربارهٔ deepfake و vishing هشدار داد. این راهنما توضیح می‌دهد جعل صدای افراد یا ساخت ویدئوهای ظاهراً معتبر می‌تواند به سرقت اطلاعات حساب یا هدایت سرمایه‌گذار به فرصت‌های سرمایه‌گذاری جعلی بینجامد.

پس ریسک بازار یک لایهٔ جدید پیدا می‌کند.

ریسک اینکه خودِ سیگنال اطلاعاتی قابل اعتماد نباشد.

کلاهبرداری روشن‌ترین پیامد دیپ‌فیک است، اما لزوماً مهم‌ترین پیامد اقتصادی نیست.

فرض کنید صدها پیام هر روز به یک سازمان می‌رسد. درصدی از این پیام‌ها ممکن است هویت افراد واقعی را به‌طور قانع‌کننده‌ای جعل کنند. در این حالت، سازمان نمی‌تواند برای همه پیام‌ها با یک سطح از سرعت و اعتماد تصمیم بگیرد.

در نتیجه ممکن است سه اتفاق رخ دهد.

اول، راستی‌آزمایی (verification) افزایش می‌یابد. پیام‌های حساس باید از کانال دیگری تأیید گردند.

دوم، سرعت تصمیم کاهش می‌یابد. فرایندی که قبلاً با یک ایمیل یا تماس پیش می‌رفت، ممکن است به تأیید انسانی یا چندمرحله‌ای نیاز پیدا کند.

سوم، هزینهٔ خطا بالا می‌رود. اگر سازمان پیام جعلی را واقعی فرض کند، ممکن است پول، اطلاعات یا اعتبار خود را از دست بدهد. اگر پیام واقعی را جعلی فرض کند، ممکن است یک فرصت یا تصمیم مهم را از دست بدهد.

در این نقطه، اقتصاد اعتماد دوطرفه می‌گردد.

هزینهٔ اعتماد کردن بالا می‌رود؛ هزینهٔ بیش از حد بی‌اعتماد بودن هم بالا می‌رود.

دقیقاً همین‌جا deepfake از یک ابزار جعل به یک مسئلهٔ طراحی فرایند بدل می‌گردد.

برای برندها، مسئله یک لایهٔ دیگر دارد. تصور کنید مخاطب بداند ساخت یک ویدئو یا صدای قانع‌کننده از یک مدیر یا چهرهٔ عمومی دیگر کار دشواری نیست. در این حالت، ارزش محتوای بصری به‌تنهایی برای ایجاد اعتماد کاهش می‌یابد.

در این محیط، اعتبار برند بیشتر بر مجموعه‌ای از سیگنال‌ها تکیه می‌کند.

• منبع.
• هویت.
• منشأ محتوا.
• کانال انتشار.
• قابلیت تأیید.
• سابقهٔ اعتبار.

این تغییر با مفهوم منشأ محتوا (provenance) اهمیت بیشتری پیدا می‌کند.

NIST در چارچوب خود احراز اصالت و provenance را در کنار تشخیص و برچسب‌گذاری می‌گذارد. یعنی مسئلهٔ اعتماد فقط «پیدا کردن فیک» نیست. باید بتوان دربارهٔ منشأ و تاریخچهٔ یک دارایی دیجیتال نیز اطلاعات قابل‌اتکاتری داشت.

استانداردهای provenance مانند C2PA نیز دقیقاً با همین منطق توسعه یافتند. این استانداردها به‌جای اتکای صرف به ظاهر محتوا، منشأ و تغییرات آن را ثبت و اعتبارسنجی می‌کنند. این رویکرد نشان می‌دهد پاسخ به محتوای مصنوعی الزاماً نباید فقط یک «deepfake detector» باشد. بخشی از پاسخ می‌تواند ایجاد زنجیره‌ای قابل بررسی از منشأ محتوا باشد.

یک وسوسهٔ طبیعی ما را به سمت این جمله می‌برد.

«پس باید ابزار بهتری برای تشخیص deepfake بسازیم.»

این ابزارها مهم‌اند، اما مسئله ریشهٔ ساختاری‌تری دارد. تشخیص جعلی بودن محتوا ممکن است به مسابقه‌ای میان تولیدکننده و detector بدل گردد. در این حالت، هر نسل جدید ابزار جعل می‌تواند نیاز به روش‌های تشخیص تازه ایجاد کند.

NIST مسئله را به یک فناوری منفرد محدود نمی‌کند. این نهاد مجموعه‌ای از رویکردها را بررسی می‌کند، شامل authentication، provenance، labeling، detection و auditing.

برای سازمان‌ها، راه‌حل مقاوم‌تر می‌تواند ترکیبی باشد.

• هویت (Identity).
• فرایند (Process).
• منشأ محتوا (Provenance).
• تشخیص (Detection).
• بازبینی انسانی (Human Review).

سیستم نباید فقط بپرسد «آیا این فایل جعلی است؟» باید این پرسش‌ها را هم بپرسد.

• «چه کسی آن را فرستاده؟»
• «از چه کانالی آمده؟»
• «آیا درخواست با رفتار معمول سازگار است؟»
• «آیا منشأ محتوا قابل بررسی است؟»
• «اگر تصمیم حساس است، چه کسی باید آن را مستقل تأیید کند؟»

این تغییر، حرکت از «تشخیص محتوا» به «طراحی اعتماد» را نشان می‌دهد.

در کوتاه‌مدت، راستی‌آزمایی یک هزینه به نظر می‌رسد. اما در محیطی که جعل ارزان است، سازمان می‌تواند مزیت عملیاتی بسازد. این مزیت ممکن است نصیب سازمانی گردد که اعتبار پیام و هویت طرف مقابل را سریع‌تر تأیید کند، بدون ایجاد اصطکاک بیش از حد.

این مزیت می‌تواند در چند نقطه نمایان گردد.

• پرداخت‌ها.
• خدمات مالی.
• ارتباطات مدیران.
• احراز هویت مشتری.
• تبلیغات و endorsement.
• انتشار اخبار شرکت.
• ارتباطات بحران.
• تصمیم‌های حساس سازمانی.

در این معنا، اعتماد دیگر صرفاً یک ویژگی نرم برند نیست. توانایی تولید و اثبات اعتماد می‌تواند بخشی از زیرساخت کسب‌وکار باشد.

دقیقاً همین‌جا دیپ‌فیک به مسئله‌ای اقتصادی بدل می‌گردد. دلیل آن، جعلی بودن همهٔ محتواها نیست. هزینهٔ تشخیص محتوای معتبر دارد به یک متغیر عملیاتی بدل می‌گردد.

دیپ‌فیک ارزش اطلاعات را مستقیماً از بین نمی‌برد. اقتصاد اعتماد به اطلاعات را دگرگون می‌کند.

وقتی ساخت محتوای قانع‌کننده ارزان‌تر می‌گردد، سازمان‌ها باید منابع بیشتری برای تأیید هویت، بررسی منشأ، کنترل فرایند، تشخیص جعل و مدیریت بحران اختصاص دهند.

در بازارهای مالی، این مسئله حساسیت بیشتری دارد. اطلاعات جعلی می‌تواند نه‌فقط یک فرد، بلکه رفتار سرمایه‌گذاران و تصمیم‌های معاملاتی را تحت تأثیر قرار دهد. FINRA نیز استفاده از deepfake برای جعل هویت و تلاش برای اثرگذاری بر بازار را جزو ریسک‌های مشاهدهٔ خود مطرح می‌کند.

بنابراین سؤال آینده فقط «آیا این محتوا واقعی است؟» نیست. سؤال مهم‌تر به زیرساخت برمی‌گردد.

«چه زیرساختی داریم که بتوانیم به واقعی بودن آن اعتماد کنیم؟»

اگر پاسخ به این سؤال زمان‌بر، پرهزینه و وابسته به بررسی دستی باشد، بخشی از مزیت اقتصادی محتوای دیجیتال از بین می‌رود.

در عصر دیپ‌فیک، اعتماد دیگر فقط یک قضاوت ذهنی نیست؛ به یک مسئلهٔ طراحی، هزینه و زیرساخت بدل می‌گردد.