الذكاء الاصطناعي يُحدث ثورة في التزييف.. كيف نحمي أنفسنا؟
14:37 - 02 يونيو 2024
في عصر التكنولوجيا المتقدمة والذكاء الاصطناعي المتسارع، برز التزييف العميق كواحدة من الظواهر الأكثر إثارة للقلق والتحدي.. فما هو؟ وكيف نحمي أنفسنا منه؟
يعتمد التزييف العميق على تقنيات الذكاء الاصطناعي، لإنشاء محتوى رقمي مزيف يبدو حقيقياً بشكل مذهل، يتضمن ذلك الصور والفيديوهات والأصوات التي يمكن أن تُستخدم لتزييف أحداث وتحوير الحقائق والتلاعب بالشخصيات العامة والخاصة بطرق دقيقة ومقنعة.
هذا التصاعد في استخدام التزييف العميق يثير مخاوف جدية حول النزاهة المعلوماتية والأمن الشخصي، كما يهدد بتقويض الثقة في الوسائط الرقمية والإعلام.
خطورة التزييف العميق لا تقتصر على الأفراد فقط، بل تمتد لتشمل تأثيرات عميقة على الشركات والمؤسسات والمجتمعات والدول بشكل عام، مما يتطلب استجابة سريعة وفعالة لمواجهة هذه التحديات المتنامية.
أخبار ذات صلة
موجة متزايدة
بحسب تقرير نشرته شبكة "سي إن بي سي" الأميركية، فإن:
- التزييف العميق هو مقطع فيديو أو صوت أو صورة لشخص حقيقي تم تعديله والتلاعب به رقمياً غالباً من خلال الذكاء الاصطناعي، لتشويهه بشكل مقنع.
- موجة متزايدة من عمليات الاحتيال العميق أدت إلى نهب ملايين الدولارات من الشركات في جميع أنحاء العالم.
- يحذر خبراء الأمن السيبراني من أن الأمر قد يزداد سوءاً، إذ يستغل المجرمون الذكاء الاصطناعي التوليدي للاحتيال.
وفي واحدة من أكبر الحالات المعروفة هذا العام، تم خداع موظف مالي في هونغ كونغ لتحويل أكثر من 25 مليون دولار إلى محتالين يستخدمون تقنية التزييف العميق والذين تنكروا في هيئة زملاء في مكالمة فيديو، حسبما قالت السلطات لوسائل الإعلام المحلية في فبراير الماضي.
والأسبوع الماضي، أكدت شركة الهندسة البريطانية Arup أنها الشركة المتورطة في هذه القضية، لكنها لم تكشف عن المزيد من التفاصيل حول هذا الأمر؛ بسبب التحقيق المستمر في الواقعة حتى الآن.
ونقلت الشبكة، في تقرير لها عبر موقعها الإلكتروني، عن كبير مسؤولي المعلومات وكبير مسؤولي الأمن في منطقة آسيا والمحيط الهادئ في Netskope، ديفيد فيرمان، قوله:
- مثل هذه التهديدات تزايدت نتيجة لنشر برنامج Chat GPT الخاص بـ Open AI - الذي تم إطلاقه في عام 2022 - والذي سرعان ما دفع تكنولوجيا الذكاء الاصطناعي التوليدية إلى الاتجاه السائد الآن.
- إن إمكانية الوصول العام إلى هذه الخدمات قد خفضت حاجز الدخول أمام مجرمي الإنترنت.. ولم يعودوا بحاجة إلى امتلاك مجموعات من المهارات التكنولوجية الخاصة.
- حجم وتعقيد عمليات الاحتيال اتسع مع استمرار تطور تكنولوجيا الذكاء الاصطناعي.
أخبار ذات صلة
اتجاه صاعد
ويمكن استخدام عديد من خدمات الذكاء الاصطناعي التوليدية لإنشاء محتوى (سواء نصوص أو صور أو فيديو) يشبه الحقيقة (يشبه الإنسان تماماً)، وبالتالي يمكن أن تكون بمثابة أدوات قوية للجهات الفاعلة غير المشروعة التي تحاول التلاعب رقمياً وإعادة إنشاء أو محاكاة أفراد معينين.
ونقلت الشبكة عن متحدث باسم Arup قوله: مثل عديد من الشركات الأخرى في جميع أنحاء العالم، تتعرض عملياتنا لهجمات منتظمة، بما في ذلك الاحتيال في الفواتير، وعمليات التصيد الاحتيالي، وانتحال صوت WhatsApp، والتزييف العميق.
في تفاصيل الواقعة المشار إليها، حضر الموظف المالي مكالمة فيديو مع أشخاص يُعتقد بأنهم المدير المالي للشركة وموظفين آخرين، الذين طلبوا منه إجراء تحويل أموال. ومع ذلك، فإن بقية الحاضرين في ذلك الاجتماع كانوا، في الواقع، عبارة عن مزيفين عميقين تم إعادة إنشائهم رقمياً.
ووفق الشركة، فقد تم استخدام أصوات وصور مزيفة في الحادث، وأن عدد وتعقيد هذه الهجمات ارتفع بشكل حاد في الأشهر الأخيرة.
وفي السياق، كشفت وسائل الإعلام الحكومية الصينية عن حالة مماثلة في مقاطعة شانشي هذا العام تتعلق بموظفة مالية، تم خداعها لتحويل 1.86 مليون يوان (262 ألف دولار) إلى حساب محتال بعد مكالمة فيديو مع رئيسها في العمل.
أخبار ذات صلة
حوادث ليست جديدة!
ويشير تقرير الشبكة الأميركية، إلى أن مثل تلك الحوادث "ليست جديدة"؛ ففي العام 2019 ورد أن الرئيس التنفيذي لشركة بريطانية لتوفير الطاقة قام بتحويل 220 ألف يورو (238 ألف دولار) إلى محتال قام بتقليد رئيس شركته الأم رقمياً وطلب تحويلاً مصرفياً إلى مورد مفترض عبر مكالمة هاتفية.
كذلك وثقت شركة الأمن السيبراني المملوكة لشركة Mandiant عدداً من حالات الجهات الفاعلة غير المشروعة التي تستخدم الذكاء الاصطناعي وتكنولوجيا التزييف العميق لعمليات التصيد الاحتيالي والمعلومات المضللة وغيرها من الأغراض غير المشروعة.
وفي ذلك الوقت، قالت الشركة إن استخدام التكنولوجيا لمثل هذه الأنشطة كان محدودًا، لكن التوافر المتزايد لأدوات الذكاء الاصطناعي الجديدة من شأنه أن يسرع تنفيذها من قبل الجهات الخبيثة.
آثار أوسع
يقول خبراء الأمن السيبراني، إنه بالإضافة إلى الهجمات المباشرة، تشعر الشركات بقلق متزايد بشأن الطرق الأخرى التي يمكن من خلالها استخدام الصور أو مقاطع الفيديو أو الخطب المزيفة لكبار المسؤولين بطرق ضارة. ووفقًا لخبير الأمن السيبراني والمدير التنفيذي المقيم في شركة Great Hill Partners، جيسون هوغ، يمكن استخدام التزييف العميق لأعضاء الشركة رفيعي المستوى لنشر أخبار مزيفة للتلاعب بأسعار الأسهم، وتشويه العلامة التجارية للشركة ومبيعاتها، ونشر معلومات مضللة ضارة أخرى على سبيل المثال.
وشدد على أن الذكاء الاصطناعي التوليدي قادر على إنشاء صور مزيفة عميقة استناداً إلى مجموعة كبيرة من المعلومات الرقمية مثل المحتوى المتاح للجمهور والمستضاف على وسائل التواصل الاجتماعي ومنصات الوسائط الأخرى.
ومن بين النماذج التي يذكرها التقرير، أنه في العام 2022، ادعى كبير مسؤولي الاتصالات في Binance، باتريك هيلمان، أن المحتالين قاموا بتزييف منشوراً له بعمق بناءً على مقابلات إخبارية سابقة وظهور تلفزيوني، واستخدموه لخداع العملاء وجهات الاتصال في الاجتماعات.
وقال فيرمان من Netskope إن مثل هذه المخاطر دفعت بعض المديرين التنفيذيين إلى البدء في محو تواجدهم على الإنترنت أو الحد منه خوفاً من إمكانية استخدامه كذخيرة من قبل مجرمي الإنترنت.
- أصبحت تقنية Deepfake واسعة الانتشار بالفعل خارج عالم الشركات.
- من الصور الإباحية المزيفة إلى مقاطع الفيديو التي تم التلاعب بها والتي تروج لأدوات الطهي، وقع المشاهير مثل تايلور سويفت ضحية لتكنولوجيا التزييف العميق.
- كما انتشرت التزييفات العميقة للسياسيين .
- في الوقت نفسه، قام بعض المحتالين بعمل تزييف عميق لأفراد عائلات الأفراد وأصدقائهم في محاولة لخداعهم من أجل الحصول على الأموال.
ووفقاً لهوغ، فإن القضايا الأوسع سوف تتسارع وتزداد سوءاً لفترة من الوقت حيث يتطلب منع الجرائم الإلكترونية تحليلاً مدروساً من أجل تطوير الأنظمة والممارسات والضوابط للدفاع ضد التقنيات الجديدة.
ومع ذلك، قال خبراء الأمن السيبراني، في التصريحات التي نقلتها "سي إن بي سي" إن الشركات يمكنها تعزيز الدفاعات ضد التهديدات التي تعتمد على الذكاء الاصطناعي من خلال تحسين تعليم الموظفين، واختبار الأمن السيبراني، وطلب كلمات رمزية وطبقات متعددة من الموافقات لجميع المعاملات - وهو أمر كان من الممكن أن يمنع حالات مثل حالة Arup.
مخاطر الـ AI
من الولايات المتحدة، يقول الخبير في تكنولوجيا المعلومات، الدكتور أحمد بانافع، في تصريحات خاصة لموقع "اقتصاد سكاي نيوز عربية"، إن استخدامات الذكاء الاصطناعي وتقنية التزييف العميق في الأنشطة غير المشروعة تمثل خطراً كبيراً، مثل استخدام مقاطع الفيديو المُزيّفة التي تُظهر شخصيات رفيعة المستوى في الشركات لإقناع الموظفين بكشف معلومات حساسة أو تحويل الأموال، فقد يُرسل محتال بريدًا إلكترونيًا يبدو وكأنه من الرئيس التنفيذي للشركة، يطلب من الموظف تحويل أموال إلى حساب مصرفي مزيف.
ويضيف: يُتيح التقدم الهائل في تقنيات الذكاء الاصطناعي، إمكانيات هائلة لمجموعة واسعة من التطبيقات ومع ذلك، تُستخدم هذه التقنيات أيضاً لأغراض خبيثة، مما يُشكل تهديدًا خطيرًا على الشركات والمجتمع ككل.
ويشير إلى أن:
- قد يتم استخدام التزييف العميق لنشر أخبار مزيفة أو معلومات مضللة أخرى لتشويه سمعة شركة أو التأثير على أسعار الأسهم أو زعزعة الاستقرار الاجتماعي.
- على سبيل المثال، قد يتم إنشاء مقطع فيديو مُزيّف يُظهر الرئيس التنفيذي للشركة يدلي بتصريحات عنصرية أو مسيئة، مما يُلحق الضرر بسمعة الشركة ويؤدي إلى مقاطعة العملاء.
- يمكن استخدام التزييف العميق لإنشاء مقاطع فيديو تُظهر أشخاصاً يقولون أو يفعلون أشياء لم يفعلوها أبداً، مما يُلحق الضرر بسمعتهم.
- على سبيل المثال، قد يتم إنشاء مقطع فيديو مُزيّف لشخص مشهور وهو يتعاطى المخدرات أو يرتكب جريمة ما، مما يُدمر حياته المهنية والشخصية.
أخبار ذات صلة
خطوات على صعيد المواجهة
ويشدّد الخبير في تكنولوجيا المعلومات على ضرورة أن تتخذ الشركات بعض الإجراءات المهمة لمواجهة هذه التحديات، وتتمثل هذه الإجراءات فيما يلي:
- أن تُدرك الشركات خطورة التزييف العميق وتتخذ خطوات لمكافحته، تشمل التثقيف والتوعية.
- توعية الموظفين بالمخاطر المرتبطة بالتزييف العميق وكيفية تمييز المحتوى المُزيّف.
- الاستثمار في حلول التقنية للكشف عن المحتوى المُزيّف ومنعه من الانتشار.
- تشمل هذه التقنيات تحليل الصور ومقاطع الفيديو التي يمكنها تحديد التناقضات أو التلاعب في المحتوى.
- التعاون مع جهات إنفاذ القانون والخبراء الآخرين لمشاركة المعلومات ومكافحة التزييف العميق بشكل جماعي، حيث يساعد هذا التعاون في تحديد الجهات الفاعلة الضارة وتتبعهم ومحاكمتهم.
ومع ذلك، تُواجه عملية وضع هذه التشريعات تحديات، مثل صعوبة التمييز بين المحتوى المُزيّف والمحتوى الأصلي، قد يؤدي ذلك إلى رقابة غير مبررة على المحتوى المُنتج بواسطة الذكاء الاصطناعي.
- قد تُقيّد القوانين الصارمة الحفاظ على حرية التعبير.
- صعوبة تطبيق القوانين على التزييف العميق الذي يتم إنشاؤه ونشره عبر الإنترنت من قبل جهات فاعلة في بلدان مختلفة، قد يؤدي ذلك إلى ثغرات قانونية تسمح للجهات الفاعلة الضارة بالإفلات من العقاب.
ويتابع: على الرغم من هذه التحديات، فإنّ الجهود المبذولة لمكافحة استخدام التزييف العميق في الأنشطة غير المشروعة ضرورية لحماية الشركات والمجتمع ككل من خلال التعاون بين القطاعين العام والخاص، لتقديم حلول فعالة لمكافحة هذه التهديدات الناشئة.
أخبار ذات صلة
تقنية الديب فيك
وفي هذا السياق، يشير أخصائي التطوير التكنولوجي، هشام الناطور، إلى أن عمليات التزييف تمثل خطراً كبيراً يزداد يوما بعد يوم، خاصة القيام بمهام ضارة قد تؤدي بالأشخاص إلى الهلاك.
ويضيف الناطور في تصريحات خاصة لموقع "اقتصاد سكاي نيوز عربية" إن من بين تلك الأوجه التي تشكل خطورة كبيرة:
- إنشاء صور وهمية لأشخاص غير موجودين، أو دمج صور لأشخاص حقيقيين بصور غير حقيقية.
- التلاعب بالفيديوهات عن طريق تقنية الـ "ديب فيك".
- استخدام تقنيات الذكاء الاصطناعي لتغيير محتوى الفيديوهات، لإضافة وتغيير أشخاص وتغير كلمات من متحدثين، بنشر أخبار مزيفة، توهم الضحية بأنها أخبار حقيقية.
ويشدد على أن من تحديات مكافحة التزوير بعصر الذكاء الاصطناعي، هي صعوبة التمييز بين المحتوى الحقيقي والمزيف.
ويوضح في الوقت نفسه أنه يتم التركيز من قبل المحتالين على الضحايا الذين يفتقدون الإلمام بهذا المجال، مما يسهل خداعهم وسرقتهم، مشيراً إلى أن المحتوى المزيف يساعد بشكل كبير ومخيف على انتشار المعلومات المضللة وخلق الفتنة بين الأفراد وبعضها البعض، إلى جانب المساس بالمشاعر الخاصة، لا سيما في المجتمعات العربية، حيث يمكن التلاعب على الجانب العرقي والطائفي والاجتماعي والطبقي أكثر من البلدان الغربية.
ويوضح أن عمليات التصيد الاحتيالي، تتم من خلال إرسال رسائل وهمية عن طريق من يدعون أنهم شركات عملات رقمية للوصول إلى الضحية والحصول على أموال.
قوانين رادعة
ويشدّد أخصائي التطوير التكنولوجي، على ضرورة التحقق من المعلومات عبر مصادر متعددة وليس الاقتصار على مصدراً واحد.
- تمييز الصوت من قبل ذوي الخبرة في هذا المجال، وكشفه إذا كان حقيقة أم تزييف.
- التفكير النقدي وعدم تصديق المعلومات التي تنشر عن طريق الإنترنت ومواقع التواصل الاجتماعي أو تطبيقات الدردشة بسهولة.
- هناك عديد من الشركات الضخمة في هذا المجال تتيح أدوات مجانية أو مدفوعة بمبالغ رمزية للتحقق من المحتوى المضلل والتبليغ عن المحتوى المزيف.
- تطورت الكثير من الشركات الرائدة في هذا المجال لكشف المحتوى المزيف والمتلاعب عن طريق الذكاء الاصطناعي.
كما يشدد على أهمية الاستمرار على تطوير تقنيات التوعية للكشف عن المحتوى المزيف ومنعه من الانتشار ، علاوة على وضع قوانين رادعة من قبل الحكومات المختلفة من شأنها تجريم التزييف العميق، لمواجهة الانشطة غير المشروعة في هذا المجال.
