كاسبرسكي تكشف عن العلامات الرئيسية لاستخدام الذكاء الاصطناعي في هجمات التصيد الاحتيالي

اكتشف خبراء مركز أبحاث الذكاء الاصطناعي في كاسبرسكي أن المجرمين السيبرانيين يزيدون من استخدامهم النماذج اللغوية الكبيرة (LLMs) لتوليد محتوى هجمات التصيد الاحتيالي والخداع واسعة النطاق.

 بينما تحاول مصادر التهديد تصميم مواقع إلكترونية احتيالية بأعداد كبيرة، فهي غالباً ما تترك آثاراً معينة، مثل العبارات الخاصة بالذكاء الاصطناعي، والتي تميز هذه المواقع نظيرتها المُصممة يدوياً. وفي الوقت الحالي، يبدو أن معظم أمثلة التصيد الاحتيالي التي رصدتها كاسبرسكي تستهدف مستخدمي بورصات ومحافظ العملات المشفرة. قام خبراء كاسبرسكي بتحليل عينة من الموارد، وتحديد الخصائص الرئيسية التي تساعد في التمييز والكشف عن حالات استخدام الذكاء الاصطناعي لتوليد محتوى وبناء مواقع إلكترونية كاملة للتصيد والاحتيال. تتمثل واحدة من العلامات البارزة للنصوص المولدة بواسطة النماذج اللغوية الكبيرة في إعلان إخلاء المسؤولية ورفض تنفيذ الأوامر لروبوتات المحادثة أحياناً، ويشمل ذلك عبارات مثل «كنموذج لغوي مدعوم بالذكاء الاصطناعي». على سبيل المثال، تحتوي صفحتان تصيديتان تستهدفان مستخدمي عملة KuCoin على عبارات مشابهة. يظهر مؤشر مميز آخر لاستخدام النماذج اللغوية الكبيرة على هيئة جمل استدراكية مثل: «رغم عدم قدرتي على فعل ما تريده بالضبط، يمكنني تجربة شيء مماثل». وفي أمثلة أخرى تستهدف مستخدمي نموذجي Gemini وExodus، ترفض النماذج اللغوية الكبيرة تقديم تعليمات مفصلة لتسجيل الدخول. مثال لصفحات تصيدية تستهدف مستخدمي نموذجي Gemini وExodus، مُصممة باستخدام نماذج لغوية كبيرة قال فلاديسلاف توشكانوف، مدير مجموعة تطوير الأبحاث لدى كاسبرسكي: «بواسطة النماذج اللغوية الكبيرة، يمكن للمهاجمين أتمتة توليد عشرات أو حتى مئات صفحات الويب التصيدية والخادعة ذات المحتوى الفريد وعالي الجودة. وبينما كان ذلك يتطلب جهداً يدوياً في الماضي، يمكن للذكاء الاصطناعي الآن مساعدة مصادر التهديد على توليد هذا النوع من المحتوى تلقائياً.» يمكن استخدام النماذج اللغوية الكبيرة لتوليد كتل نصية، بل وصفحات ويب كاملة، مع ظهور آثارها في النص نفسه وفي مناطق مثل وسوم البيانات الوصفية، وهي مقتطفات نصية تصف محتوى صفحة الويب وتظهر في كود HTML الخاص بها. صفحة تصيدية تحاكي موقع Polygon تعرض وسوم البيانات الوصفية لهذه الصفحة التصيدية رسالة لنموذج ذكاء اصطناعي تشير لتجاوز طول النص للحد الأقصى للنموذج هناك مؤشرات أخرى لاستخدام الذكاء الاصطناعي في تصميم مواقع احتيالية. على سبيل المثال، تميل بعض النماذج لاستخدام عبارات محددة مثل «التعمق»، و«في المشهد المتطور باستمرار»، و«في العالم المتغير باستمرار». ورغم أن هذه المصطلحات لا تُعد مؤشرات قوية لتوليد المحتوى بواسطة الذكاء الاصطناعي، يمكن اعتبارها كعلامات على ذلك. عبارات مثل «في العالم الديناميكي للعملات المشفرة» و«دعونا نتعمق» في صفحة تصيدية تستهدف مستخدمي موقع Ledger عمليات تصيدية تستهدف مستخدمي موقع Bitbuy، بعبارات مثل «عالم العملات المشفرة المتطور باستمرار» ومقال عن «استكشاف بحار العملات المشفرة» تشمل الميزات الأخرى للنص المولد بواسطة النماذج اللغوية الكبيرة الإشارة للمدى الذي تمتد إليه معرفة النموذج بالعالم. وعادة ما تظهر النماذج هذه القيود باستخدام عبارات مثل «وفق تحديثي الأخير في شهر يناير 2023». غالباً ما يُدمج النص المولد بواسطة النماذج اللغوية الكبيرة مع تكتيكات تجعل اكتشاف الصفحات التصيدية أكثر تعقيداً لأدوات الأمن السيبراني. فعلى سبيل المثال، قد يستخدم المهاجمون رموز معيار Unicode غير القياسية، مثل تلك المتضمنة لعلامات تشكيل أو المستمدة من الترميز الرياضي، لإخفاء النص ومنع المطابقة بواسطة أنظمة الكشف القائمة على قواعد. صفحة تصيدية تنتحل صفة موقع «كريبتو دوت كوم»، مع علامات تشكيل تحور كلمتي Login وCrypto أضاف توشكانوف: «تشهد النماذج اللغوية الكبيرة تحسناً مستمراً، ويستكشف المجرمون السيبرانيون طرقاً لتطبيق هذه التكنولوجيا لأغراض خبيثة. ومع ذلك، توفر الأخطاء رؤى بشأن استخدامهم لهذه الأدوات، وخاصةً فيما يتعلق بالمدى المتزايد للأتمتة. ومع التطورات المستقبلية، قد يصبح التمييز بين المحتوى المولد بواسطة الذكاء الاصطناعي والمحتوى المولد بواسطة الإنسان أكثر صعوبةً، مما يزيد الحاجة لاستخدام حلول أمنية متقدمة تعمل على تحليل المعلومات النصية، والبيانات الوصفية، وغيرها من مؤشرات الاحتيال الأخرى.»

يتوفر تقرير كامل مع أمثلة وتحليلات إضافية على موقع Securelist. لحماية نفسك من التصيد الاحتيالي، تقدم كاسبرسكي التوصيات التالية:

• تحقق من تهجئة الروابط، فقد تبدو رسائل البريد الإلكتروني والمواقع الإلكترونية حقيقيةً أحياناً، وهو ما يعتمد على مهارة وإتقان المجرمين السيبرانيين لعملهم. ولكن غالباً ما تكون الروابط المُضمنة في الرسائل الاحتيالية غير صحيحة، حيث تحتوي على أخطاء إملائية، أو تعيد توجيهك لموقع مختلف. • أدخل عنوان الويب الخاص بك مباشرةً في متصفح الويب. إذا كان البريد الإلكتروني يحتوي على رابط، فمن الأفضل أن تمرر المؤشر فوقه للتأكد من صحته قبل النقر عليه. فإذا كان صحيحاً، ابحث عن الرابط بنفسك بدلاً من الارتباط بموقع، فقد تبدو المواقع الخطرة متطابقة تماماً مع نظيرتها الأصلية. • احصل على حلول أمنية حديثة توفر للمستخدمين ميزات تصفح آمنة وتحميهم من المواقع، والتنزيلات، والإضافات الخطيرة.