فبركة الصور من خلال الذكاء الاصطناعي

 عنوان المقالة:
اختبار القدرة البشرية على اكتشاف الصور المفبركة لوجوه البشر
:المفبركات" هي كيانات يتم تصنيعها حاسوبياً وتمثل الواقع بشكل مزيف. وهذه قد تتخذ أساليب الصور والفيديو والصوت وتثير تهديداً لمجالات عديدة من النظم والمجتمعات، فتشكل موضوعاً محل اهتمام جواب متعددة من الأمن السيبراني والسلامة السيبرنية. في عام 2020، صنفت ورشة عمل استشارية لخبراء في الذكاء الاصطناعي من الأكاديميين، والبوليس، والحكومة، والقطاع الخاص، والوكالات الأمنية في الولايات المفبركات  deepfakes باعتبارها التهديد الأكثر خطورة للذكاء الاصطناعي. وأشار هؤلاء الخبراء أنه نظراً لأن المادة المفبركة يمكن أن تنتشر عبر العديد من الطرق غير الخاضعة للرقابة، فإن التغيرات في سلوك المواطن قد تكون الدفاع الفعال الوحيد. تهدف هذه الدراسة لتقييم القدرة البشرية في التعرف على الصور المفبركة لوجوه البشر (حيث هذه مخرجات غير منظمة من خوارزمية StyleGAN2 بحسب ما تم التدرب عليه على مجموعة بيانات FFHQ) من مجموعة صور غير مفبركة (حيث هذه اختيرت عشوائياً من صور مجموعة بيانات FFHQ) لتقييم فعالية بعض التدخلات البسيطة التي يقصد بها تحسين دقة الاكتشاف. وباستخدام مسح الكتروني، تم توزيع المشاركين (العدد=280) بشكل عشوائي على مجموعة من بين أربع مجموعات: مجموعة ضابطة، وثلاث تدخلات للمساعدة. وعرض على كل مشارك سلسلة من 20صورة اختيرت بشكل عشوائي من مجموعة كبيرة من الصور المفبركة لوجوه بشرية و50 صورة لوجوه لشرية حقيقية. وسئل المشاركون إن كانت كل صورة مولدة بالذكاء الاصطناعي أم لا، والإشارة إلى درجة ثقتهم، ووصف المبرر وراء كل استجابة. دقة الاكتشاف الكلية كات بالضبط فوق الصدفة ولم تحسن أي من التدخلات من ذلك بشكل كبير. الاهتمام بدرجة مساوية كان حقيقة أن ثقة المشاركين بإجاباتهم كانت عالية وغير مرتبطة بالدقة. وتقييم النتائج على أساس كل صورة على حدة يكشف أن المشاركين وجدوا بشكل متسق أن صوراً محددة من السهل وسمها بشكل صحيح وصور محددة صعبة، لكنهم أشاروا إلى ثقة مرتفعة بشكل مشابه بغض النظر عن الصورة. وبالتالي، على الرغم من أن دقة المشارك كانت 62% بشكل كلي، فإن هذه الدقة عبر الصور تراوحت بشكل متساو تماماً بين 85 و30% ، بدقة أقل من 50% في واحدة من كل خمس صور. إننا نفسر النتائج باعتبارها تشير أن هنالك حاجة للدعوة العاجلة لإجراء لتناول هذا التهديد [2025، NOJA]
بيانات المقالة:
كود البحث الرقمي: OJA