احذر ما تنشره على «إنستجرام».. الذكاء الاصطناعي قد يحوله إلى فخ للاحتيال

كشفت دراسة أمريكية، أن أدوات الذكاء الاصطناعي التوليدي، يمكنها استغلال المعلومات والصور المنشورة علناً على مواقع التواصل الاجتماعي لإنشاء رسائل تصيد احتيالي مخصصة للأفراد، تستند إلى اهتماماتهم وتجاربهم اليومية؛ ما يجعلها أكثر إقناعاً وأقل إثارة للشك مقارنة بالرسائل التقليدية.

وأجرى الدراسة، باحثون من جامعتي تكساس في أرلينغتون، وولاية لويزيانا، تحت عنوان «التصيد الاحتيالي الموجه حسب السياق»، حيث اختبروا قدرة نماذج الذكاء الاصطناعي على تحليل المنشورات والصور العامة واستخلاص معلومات شخصية تُستخدم في صياغة رسائل تبدو مرتبطة بتجارب حقيقية، مثل عروض من فنادق سبق للمستخدم زيارتها أو إشعارات عن فعاليات أبدى اهتماماً بها.

18 ألف رسالة احتيالية قيد الاختبار

اعتمد الباحثون، على بيانات عامة لحسابات 200 مستخدم على «إنستجرام»، وأظهرت التجارب أن نحو 10 منشورات فقط من الحساب الواحد قد توفر معلومات كافية لإنشاء رسائل احتيالية مخصصة.

وجرى توليد نحو 18 ألف رسالة، باستخدام نماذج متعددة، ومقارنتها بقاعدة بيانات تضم 6 آلاف رسالة تصيد حقيقية.

وأظهرت النتائج، تفوق الرسائل المولدة بالذكاء الاصطناعي في عدد من معايير التخصيص والإقناع والارتباط بالتجارب الشخصية للمستهدفين.

وشملت الدراسة، تجربة بشرية شارك فيها 70 شخصاً، إذ سجلت الرسائل المولدة بالذكاء الاصطناعي متوسط 2.75 نقطة على مقياس الشك المكون من 5 درجات، مقابل 4.44 نقطة لرسائل التصيد الحقيقية، ما يشير إلى أن الرسائل الآلية بدت أقل إثارة للريبة لدى المشاركين.

ومع ذلك، لم تقس الدراسة معدلات النقر الفعلي على الروابط الاحتيالية، أو مشاركة البيانات الشخصية والمالية، بل اقتصرت على تقييم مدى مصداقية الرسائل ومستوى الشك فيها.

قصور في أدوات الحماية

في اختبار لأنظمة الحماية المرتبطة بنماذج الذكاء الاصطناعي، تراوحت معدلات اكتشاف الطلبات المستخدمة لإنشاء رسائل التصيد بين صفر و19% في الإعدادات الافتراضية، بينما ارتفعت النسبة إلى 98.7% لدى إحدى الأدوات بعد إضافة تعليمات أمنية مخصصة، وذلك في ظروف اختبار محددة.

وأكدت الدراسة، أن المعلومات المنشورة علناً على منصات التواصل قد تتحول إلى مادة تستغلها أدوات الذكاء الاصطناعي في إعداد عمليات تصيد شديدة التخصيص، دون الحاجة إلى اختراق الحسابات أو الوصول إلى البيانات الخاصة.

وتبرز النتائج، أهمية تعزيز أنظمة الحماية للكشف عن الاستخدامات الاحتيالية للذكاء الاصطناعي، إلى جانب ضرورة توخي المستخدمين الحذر عند نشر تفاصيل حياتهم اليومية وصورهم واهتماماتهم على المنصات الرقمية.