دیپفیک؛ زنگ خطر جدید هوش مصنوعی برای امنیت دیجیتال و اعتماد عمومی
در جریان اجلاس هوش مصنوعی در ژنو، اتحادیه بینالمللی ارتباطات با هشدار درباره رشد فزاینده دیپفیکهای مبتنی بر هوش مصنوعی، خواستار اقدام فوری جهانی برای مقابله با تهدیدات این فناوری در زمینه تقلب،...
در جریان اجلاس بینالمللی هوش مصنوعی که در ژنو برگزار شد، اتحادیه بینالمللی ارتباطات (ITU) نسبت به گسترش سریع دیپفیکهای مبتنی بر هوش مصنوعی هشدار داد؛ پدیدهای که اکنون به یکی از تهدیدهای اصلی در عرصه فضای مجازی بدل شده است.
این نهاد وابسته به سازمان ملل اعلام کرد: برای مقابله موثر با اطلاعات نادرست و محتوای ساختگی، باید از ابزارهای دقیقتری برای شناسایی و راستیآزمایی استفاده شود. بهویژه در حوزههایی حساس مانند انتخابات و پیشگیری از کلاهبرداریهای دیجیتال، این ابزارها اهمیت مضاعفی دارند.
اتحادیه جهانی ارتباطات تأکید کرده که شرکتهای فناوری و پلتفرمهای شبکه اجتماعی باید استانداردهایی سختگیرانه و واحد برای تشخیص محتوای دستکاریشده به کار بگیرند و از راهکارهایی مانند احراز اصالت دیجیتال پیش از انتشار تصاویر و ویدیوها بهره ببرند.
بیلل جموسی، مسیول ارشد بخش مطالعات فنی ITU، با اشاره به کاهش بیسابقه اعتماد عمومی به شبکههای اجتماعی، افزود: « اعتماد عمومی به شبکههای اجتماعی بهشدت کاهش یافته، زیرا مردم نمیدانند چه چیزی واقعی است و چه چیزی ساختگی. مقابله با دیپفیکها بهدلیل توانایی بالای هوش مصنوعی مولد در تولید محتوای چندرسانهای واقعنما، یکی از چالشهای اصلی است.»
از سوی دیگر، لیونارد روزنثال از شرکت Adobe نیز گفت: «برای ارتقای آگاهی کاربران باید به منبع اصلی محتوا اشاره شود. کاربران هنگام تماشای محتوای تصویری در شبکههای اجتماعی باید قادر باشند اعتبار آن را بسنجند و بدانند آیا میتوان به آن اعتماد کرد یا نه.»
فرزانه بدیعی، بنیانگذار موسسه Digital Medusa، در ادامه این نشست بر ضرورت تدوین یک چارچوب بینالمللی یکپارچه تأکید کرد. بهگفته او، نبود مرجعی جهانی برای مقابله با محتوای دستکاریشده میتواند باعث تضعیف امنیت دیجیتال در مقیاس جهانی شود. اگر راهکارها و استانداردها پراکنده باشند، دیپفیکهای خطرناک بهمراتب موثرتر خواهند بود.
بدون نظر! اولین نفر باشید