پخش زنده
امروز: -
«دیپ‌فیک» چیست و چگونه می‌توانیم آن را تشخیص دهیم؟
«دیپ‌فیک» یک تصویر، ویدئو یا صدای جعلی است که در آن یک شخص با دیگری جایگزین می‌شود.
به گزارش خبرگزاری صداوسیما به نقل از ترندمیکرو، اصطلاح «دیپ‌فیک deepfake» ترکیبی از «deep learning» و «fake» است که در سال ۲۰۱۷ ابداع شد.
«دیپ‌فیک» ابتدا برای سرگرمی مردم ساخته شد، اما به مرور با یادگیری ماشینی پیشرفته، «دیپ‌فیک» می‌تواند بسیار واقعی به نظر برسد.
پیش از این، «دیپ‌فیک» عمدتاً به دلیل ماهیت طنزآمیز خود در رسانه‌های اجتماعی شناخته می‌شد. با این حال، ظرفیت آن برای سوءاستفاده به سرعت آشکار شد و «دیپ‌فیک» اکنون یک نگرانی مهم برای حفظ حریم خصوصی، امنیت و اطلاعات است.
«دیپ‌فیک» چگونه ساخته می‌شود؟
ایجاد «دیپ‌فیک» شامل استفاده از برنامه‌های کامپیوتری پیشرفته به نام شبکه‌های متخاصم (GAN) برای ساختن تصاویر جعلی بسیار شبیه تصاویر واقعی است. در ساخت «دیپ‌فیک» چهار مرحله اصلی وجود دارد:
۱-جمع‌آوری داده‌ها: ابتدا محتوای رسانه‌ای (تصاویر، فیلم‌ها یا فایل‌های صوتی) شخص مورد نظر جمع‌آوری می‌شود. از این مجموعه برای آموزش برنامه کامپیوتری استفاده می‌شود.
۲-آموزش مدل: GAN با داده‌های جمع‌آوری‌شده آموزش داده می‌شود. یک قسمت از GAN تصاویر جعلی ایجاد می‌کند و قسمت دیگر بررسی می‌کند که آیا این تصاویر واقعی به نظر می‌رسند یا نه.
۳- اصلاح: تکنیک‌هایی مانند نشانه‌های چهره و ضبط حرکت برای طبیعی جلوه‌دادن «دیپ‌فیک» با حرکات واقع‌گرایانه استفاده می‌شود.
۴- تولید نهایی: «دیپ‌فیک» تمام‌شده سپس با رسانه اصلی ترکیب می‌شود و یک قطعه یکپارچه و قانع‌کننده از محتوای جعلی ایجاد می‌کند.
در حالی که ممکن است این موارد تا حدودی پیچیده به نظر برسد، واقعیت این است که هر کسی می‌تواند با توجه به تعداد زیادی نرم‌افزار در دسترس عموم، یک «دیپ‌فیک» بسازد.
چرا به «دیپ‌فیک» اهمیت می‌دهیم؟
پیامد‌های استفاده مخرب از «دیپ‌فیک» بر روی فرد و جامعه بسیار متعدد است که در ادامه به چند نمونه آن اشاره می‌کنیم:
* حریم خصوصی شما:
«دیپ‌فیک» می‌تواند با ایجاد محتوای مُضر، حریم خصوصی شما را نقض کند. این امر به ویژه در موارد مربوط به تصاویر خصوصی که در آن، صورت افراد بدون رضایت آنها بر روی محتوا قرار می‌گیرد، نگران‌کننده است.
* امنیت مالی شما:
تماس‌های ویدئویی «دیپ‌فیک» ممکن است برای جعل هویت افراد و به‌منظور فریب‌دادن شما برای دادن پول یا اطلاعات حساس مورد استفاده قرار گیرند. هر کسی می‌تواند قربانی یک کلاهبرداری عمیق شده و عواقب سنگینی مانند کلاهبرداری مالی و سرقت هویت را متحمل شود.
* ثبات سیاسی:
می‌توان از «دیپ‌فیک» برای ایجاد آشفتگی سیاسی استفاده کرد. ویدئو‌های ساختگی از سیاستمدارانی که اظهارات تحریک‌آمیزی مطرح می‌کنند یا درگیر فعالیت‌های غیرقانونی شده‌اند، می‌توانند بر افکار عمومی تأثیر بگذارند.
* نگرانی‌های حقوقی و اخلاقی:
ایجاد و توزیع «دیپ‌فیک» سوالات حقوقی و اخلاقی متعددی را ایجاد می‌کند. مسائل مربوط به رضایت و مالکیت معنوی در مرکز بحث‌های اجتماعی جاری درباره «دیپ‌فیک» است.
* یکپارچگی رسانه:
روزنامه‌نگاران و سازمان‌های رسانه‌ای با چالش‌های جدیدی در تأیید صحت محتوا مواجه هستند. «دیپ‌فیک» می‌تواند اعتبار رسانه‌های خبری را تضعیف و به انتشار اخبار جعلی کمک کند.
تهدیدات و عواقب «دیپ‌فیک»
«دیپ‌فیک» چندین تهدید برای امنیت سایبری ایجاد می‌کند:
* جعل هویت و کلاهبرداری با تماس تصویری:
مجرمان سایبری می‌توانند در طول تماس‌های ویدئویی از «دیپ‌فیک» برای جعل هویت افراد استفاده کنند. تماس‌های ویدئویی فرصت مناسبی را برای کلاهبرداران فراهم می‌کند تا با جعل هویت و دروغ، شما را برای دادن پول یا اطلاعات شخصی فریب دهد.
* اطلاعات نادرست:
از «دیپ‌فیک» می‌توان برای ایجاد محتوای قانع‌کننده، اما نادرست، استفاده کرد. این می‌تواند اعتماد عمومی به رسانه‌ها را تضعیف کند، بر انتخابات تأثیر بگذارد و جوامع را بی‌ثبات کند.
* سرقت هویت:
«دیپ‌فیک»ها می‌توانند با ایجاد هویت‌های جعلی یا به خطر انداختن هویت‌های موجود، سرقت هویت را تسهیل کنند و منجر به آسیب مالی و اعتبار افراد شوند.
* اخاذی:
بازیگران مخرب می‌توانند ویدئو‌های عمیق جعلی را پدید بیاورند تا از افراد باج‌گیری و اخاذی کنند.
* از بین رفتن اعتماد:
وجود «دیپ‌فیک» می‌تواند اعتماد به محتوای دیجیتال را از بین ببرد. مردم به صحت محتوای رسانه‌ها تردید کرده‌اند که همین منجر به بحران گسترده‌تر اعتماد در ارتباطات دیجیتال می‌شود.
چگونه یک ویدیوی «دیپ‌فیک» را تشخیص دهیم؟
با پیشرفت فناوری، شناسایی «دیپ‌فیک» به طور فزاینده‌ای چالش‌برانگیز می‌شود. چه در حال تماشای یک ویدئو به صورت برخط، گوش‌دادن به یک فایل صوتی یا تماس تصویری با شخصی باشید، باید مراقب موارد زیر باشید:
* حرکات غیرطبیعی صورت:
«دیپ‌فیک» ممکن است ناسازگاری‌های ظریفی را در حالات و حرکات صورت نشان دهد. به دنبال پلک‌زدن غیر طبیعی، عدم تعادل لب‌ها یا تیک‌های عجیب و غریب صورت باشید.
* نور ناسازگار:
به نور و سایه توجه کنید. اگر نورپردازی روی صورت با نورپردازی در بقیه صحنه مطابقت نداشته باشد، ممکن است یک «دیپ‌فیک» باشد.
* مشکلات صدا:
مواظب تغییرات ناگهانی لحن و مکث یا لحن غیرمعمولی باشید که بیانگر گفتار عادی گوینده نباشد. ناهماهنگی در پس‌زمینه یا تغییر ناگهانی صدا‌های محیط نیز می‌تواند نشان‌دهنده «دیپ‌فیک» باشد.
* تار شدن:
«دیپ‌فیک» اغلب دارای تاریِ جزئی در اطراف صورت است، به‌ویژه در هنگام حرکات سریع.
* عدم تطابق سمعی و بصری:
به اختلافات بین عناصر صوتی و تصویری گوش دهید. عدم تطابق حرکات لب و صدا می‌تواند نشانه‌ای از «دیپ‌فیک» باشد.
*تناقضات متنی:
اگر به نظر می‌رسد که محتوا با توجه به شرایط غیرقابل قبول است، ممکن است یک «دیپ‌فیک» باشد.
به عنوان مثال، اگر شخصی که به خوبی می‌شناسید، درخواستی فوری و غیرعادی مانند پول یا اطلاعات شخصی دارد و شما تحت فشار هستید که سریع اقدام کنید، این یک چراغ قرمز است.
آگاهی از این نشانه‌ها به شما کمک می‌کند تا یک «دیپ‌فیک» را شناسایی کنید پس برای محافظت بهتر از خود در برابر تهدید آنها، حتماً توصیه‌های مربوط به محافظت از خود در برابر «دیپ‌فیک»ها را دنبال کنید.
واقعیت این است که با ادامه پیشرفت فناوری «دیپ‌فیک»، تشخیص آن برای انسان بسیار دشوارتر می‌شود. تماس‌های ویدئویی «دیپ‌فیک» در حال افزایش هستند و تشخیص اینکه آیا فردی که با او صحبت می‌کنید همان کسی است که می‌گوید یا خیر، دشوار است.
ممکن است با یک دوست، یکی از اعضای خانواده یا شریک خود چت کنید یا یک مصاحبه شغلی برخط داشته باشید؛ کلاهبرداران می‌توانند از این فرصت‌ها برای جعل هویت شخصی که فکر می‌کنید با او صحبت می کنید استفاده کنند و شما را فریب دهند تا پول یا اطلاعات حساس را از شما برُبایند پس مراقب باشید.
نظر شما