تشريح
مكالمة تزييف عميق.

ما حدث: تلقّى موظف في مجموعة Arup الهندسية في هونغ كونغ دعوة إلى اجتماع عبر الفيديو. وشارك في المكالمة المدير المالي وعدد من الزملاء المعروفين — وجميعهم مزيّفون. ثم أجرى الموظف 15 تحويلًا إلى خمسة حسابات. إجمالي الخسائر: 25.6 مليون دولار أمريكي. المصدر: CNN، 16 مايو 2024

المرحلة 1: الطُّعم ليس تقنية، بل منطق المواعيد

لا يبدأ الهجوم بالذكاء الاصطناعي، بل بأمر مألوف: دعوة إلى اجتماع. وذكر الموظف لاحقًا أنه ارتاب في البداية في الرسالة الأولى — لكن الدعوة إلى مكالمة فيديو مع وجوه مألوفة بدّدت شكوكه وأثارت بالضبط ما تسعى كل رسالة تصيّد احتيالي إلى إثارته: آلية «مهم، رسمي، من الأعلى». الدرس الأول: الهجوم لا يستهدف الأنظمة، بل النقطة التي يتغلب فيها الإلحاح على التسلسل الهرمي.

المرحلة 2: صوت مستنسخ واحد لا يكفي — المشهد بأكمله مزيّف

الأمر الحاسم في قضية Arup: لم يكن صوت واحد هو المزيّف، بل جميع المشاركين في المكالمة. فلم يكن في الاجتماع، بالنسبة إلى الموظف، أي شخص «حقيقي» يمكنه الاعتراض. وكلما أبدى شكًّا، جاءه التأكيد من زملاء اصطناعيين آخرين. وهذا يفسر لماذا يفشل التدريب التوعوي وحده هنا: فالناس يقيسون الأصوات على الأصوات الأخرى في الغرفة — وعندما تصدر جميع الأصوات عن الآلة نفسها، تؤكد الغرفة الكذبة.

المرحلة 3: بعد المكالمة، يتولى الروتين زمام الأمور

لم تُنفَّذ التحويلات الفعلية أثناء الاجتماع، بل بعده — عبر مسارات الموافقة الداخلية المعتادة. فالاجتماع المزيّف لم يقدّم سوى الشيء الوحيد الذي لا تتحقق منه هذه المسارات: التعليمات الشفهية بصوت مألوف. خمس عشرة معاملة موزعة على عدة أيام. لم تُطلق أيٌّ منها إنذارًا، لأن الإجراء كان سليمًا من الناحية الشكلية — أما الصوت فلم يكن كذلك.

النقاط الثلاث التي كان ينبغي أن يُحبَط عندها الهجوم

• قبل الثقة: كان من شأن فحص تقني للأصوات عند بدء المكالمة أن يميّز المشاركين الاصطناعيين قبل أن تتكوّن لهم أي سلطة.
• قبل الموافقة: كان من شأن بوابة تعمل بمبدأ الإغلاق عند الشك (fail-closed) ضمن عملية الموافقة — مع التحقق عبر قناة ثانية مستقلة عند الشك — أن توقف كل واحدة من المعاملات الخمس عشرة.
• بعد ذلك: كان من شأن فحص أرشيفي لتسجيل المكالمة أن يكشف الهجوم قبل الموجة الثانية من المعاملات على أبعد تقدير.

ماذا يعني ذلك لعملياتكم

لم تكن أيٌّ من هذه المؤسسات ضعيفة الحماية، إذ إن Arup مجموعة هندسية عالمية لديها منظومة أمنية راسخة. وقد جاء الهجوم عبر الطبقة الوحيدة التي تكون فيها جميع جدران الحماية عمياء: السمع. لذا فالسؤال الصريح ليس «هل موظفونا منتبهون بما يكفي»، بل: أين يُعدّ الصوت دليلًا في عملياتنا — ومن يفحصه تقنيًا؟

وهذا بالضبط ما يتناوله المشروع التجريبي لـ VeriGate: فحص مجمّع للتسجيلات الموجودة يبيّن خلال أربعة أسابيع عند أي نقاط في عملياتكم يمكن أن تعبر الأصوات الاصطناعية اليوم، في تقرير مكتوب، قابل للتحقق، مع توصية.