هشدار جدی به کاربران فضای مجازی / فریب ویدئوهای جعلی هوش مصنوعی را نخورید

در جنگ ترکیبی، گاهی نقطه آغاز ایجاد نگرانی در جامعه، خبری درباره پس‌انداز مردم است؛ روایتی که از حساب بانکی یک نفر شروع می‌شود و با اضافه‌شدن تصویر و صدای جعلی یک مسئول، به شایعه‌ای درباره دارایی همه مردم تبدیل می‌شود.

ساخت کلیپ با هوش مصنوعی، به چنین فضاسازی‌هایی ظاهر باورپذیرتری می‌دهد.ماجرای ادعای برداشت ۲۰ درصد از سپرده‌های بانکی نیز با همین الگو پیش رفته است. مردی در اینستاگرام، با انتشار ویدئویی مدعی شده مبلغی معادل یک‌پنجم پس‌اندازش از حساب بانکی او کسر شده است. در ادامه، کلیپی ساخته‌شده با هوش مصنوعی منتشر شده که این ادعای شخصی را به موضوعی فراگیر پیوند می‌زند.در این کلیپ، سخنانی به حجت‌الاسلام‌والمسلمین محسنی اژه‌ای، رئیس قوه قضاییه، نسبت داده شده است؛ مبنی بر اینکه قرار است ۲۰ درصد از موجودی حساب همه مردم ایران برای کمک به نیروهای مسلح برداشت شود!

پیوند این دو محتوا، نقطه اصلی فریب است؛ مخاطب ابتدا روایت فردی را درباره کم‌شدن پس‌اندازش می‌بیند و سپس با ویدئویی مواجه می‌شود که ظاهراً دلیل این اتفاق را از زبان رئیس قوه قضاییه توضیح می‌دهد. همین ارتباط ظاهری می‌تواند او را به این نتیجه برساند که سپرده خودش نیز در معرض برداشت قرار دارد؛ درحالی‌که کلیپ ساختگی، سند هیچ تصمیمی نیست.یک کارشناس مسائل امنیتی در این‌باره می‌گوید: «در جنگ ترکیبی، نگرانی مردم درباره معیشت و امنیت دارایی‌هایشان می‌تواند دستمایه عملیات روانی قرار گیرد.

در این نمونه، ادعای برداشت از حساب یک فرد در کنار کلیپی جعلی از یک مقام مسئول قرار می‌گیرد تا مخاطب تصور کند با تصمیمی قطعی و فراگیر مواجه است.»وی می‌افزاید: «اثرگذاری این شیوه به آن است که مخاطب، پیش از بررسی صحت محتوا، نگران شود و آن را برای دیگران بفرستد. مردم باید مراقب باشند شباهت صدا و تصویر را نشانه صحت خبر ندانند و با بازنشر محتوای تأییدنشده، ناخواسته به گسترش جنگ روانی دشمن کمک نکنند.»

در این ماجرا، جعل تنها به صدا و تصویر محدود نمانده است؛ از ترکیب یک ادعای شخصی و سخنان ساختگی، روایتی ساخته شده که می‌تواند نگرانی درباره پس‌انداز مردم را به بی‌اعتمادی نسبت به نهادهای رسمی و نیروهای مسلح پیوند بزند؛ همان نقطه‌ای که ضرورت بررسی خبر پیش از بازنشر آن را روشن می‌کند.