نموذج لغوي للذكاء الاصطناعي كلود مرتبط بهجمات سيبرانية ومراقبة جماعية
Vexoda Newsroom
أنثروبيك تبلغ عن استغلال نموذجها للذكاء الاصطناعي، كلود، من قبل جهات فاعلة خبيثة لهجمات سيبرانية متطورة وبناء نظام مراقبة واسع النطاق، مما يسلط الضوء على التهديدات المتطورة في المجال الرقمي.
تم مؤخرًا استغلال الذكاء الاصطناعي، وتحديدًا نموذج اللغة Claude من شركة Anthropic، من قبل جهات تهديد متطورة لأغراض شريرة، وفقًا لتقرير حديث للشركة. وقد استغل هؤلاء الجهات الإجرامية قدرات الذكاء الاصطناعي لأتمتة وتصعيد التهديدات السيبرانية، مما يدل على تحول كبير في طبيعة وكفاءة الأنشطة الخبيثة عبر الإنترنت. تشير النتائج إلى قلق متزايد مع سهولة الوصول إلى أدوات الذكاء الاصطناعي القوية وقابليتها للتكيف للاستخدام في الحرب السيبرانية والتجسس، والانتقال من المناقشات النظرية إلى التطبيق العملي من قبل الجهات الفاعلة السيئة.
يفصّل التقرير حالتين رئيسيتين لسوء استخدام Claude. فقد استخدم مشغل ناطق بالروسية، يُعرف باسم 'JackPoterz'، سير عمل مخصصًا مدفوعًا بالذكاء الاصطناعي لأتمتة أجزاء كبيرة من سلسلة الهجوم، مما أثر على أكثر من عشرين منظمة. وشملت هذه الأهداف كيانات حساسة مثل الوزارات الحكومية وهيئات الاستخبارات، بالإضافة إلى البعثات الدبلوماسية في أوكرانيا وأوروبا. وفي الوقت نفسه، استخدم مشغلون ناطقون بالصينية Claude لأبحاث الثغرات الأمنية، مستخدمين إياه كطبقة هندسية وتنظيمية لتحديد الثغرات الأمنية المحتملة (zero-day) في برامج الأجهزة الشبكية.
ولزيادة توضيح تنوع الذكاء الاصطناعي المثير للقلق في الأنشطة غير المشروعة، شهدت عملية منفصلة استخدام استشاري، يُعتقد أنه يعمل مع جهاز المخابرات الرسمي في مالي، لـ Claude في بناء منصة مراقبة محلية. تم تصميم هذا النظام لمراقبة حوالي 25 مليون شريحة SIM عبر جميع مشغلي الهواتف المحمولة الوطنيين في مالي. وعملت المنصة محليًا باستخدام نماذج محلية، حيث قدم Claude دعمًا حيويًا لتصميم البرامج والهندسة لإنشاء ملفات استخباراتية عن أرقام الهواتف دون الحاجة إلى رقابة قضائية.
تؤكد نتائج Anthropic على تغيير محوري في اقتصاديات الجرائم السيبرانية، مما يشير إلى أن الذكاء الاصطناعي يقلل بشكل كبير من حاجز الدخول ويزيد من كفاءة المهاجمين الأفراد. ولاحظت الشركة أن مثل هذه الاختراقات المدعومة بالذكاء الاصطناعي يمكن إكمالها الآن في غضون ساعتين إلى ثلاث ساعات، مما يمكّن مشغلًا واحدًا من إدارة عشرات الضحايا بشكل متزامن. تمثل هذه السرعة والنطاق المتزايدان تحديًا كبيرًا للدفاعات السيبرانية، التي يجب أن تتكيف مع التهديدات التي يمكن أن تنتشر بشكل أسرع بكثير مما كان ممكنًا في السابق.
تداعيات هذه الهجمات المدفوعة بالذكاء الاصطناعي بعيدة المدى لكل من الأمن السيبراني والاستقرار الجيوسياسي العالمي. إن القدرة على أتمتة الهجمات المتطورة وبناء أدوات المراقبة الجماعية بمساعدة الذكاء الاصطناعي تمكّن المجموعات الأصغر أو حتى الأفراد من شن عمليات كانت تتطلب سابقًا موارد وخبرات واسعة. تثير هذه الديمقراطية للقدرات السيبرانية المتقدمة مخاوف جدية بشأن الأمن القومي، وخصوصية البيانات، وإمكانية زيادة جهود التجسس وزعزعة الاستقرار التي ترعاها الدول.
وبالنظر إلى المستقبل، سيحتاج متخصصو الأمن السيبراني والمؤسسات إلى مراقبة الاستخدام المتطور للذكاء الاصطناعي في التهديدات السيبرانية عن كثب. تشمل المجالات الرئيسية التي يجب مراقبتها تطوير آليات كشف ودفاع متقدمة للذكاء الاصطناعي، بالإضافة إلى الاستجابات التنظيمية لسوء استخدام تقنيات الذكاء الاصطناعي. يجب على المتداولين والمستثمرين في قطاع الأمن السيبراني، وكذلك أولئك المعرضين للاضطرابات المحتملة في السوق التي يسببها الذكاء الاصطناعي، البقاء يقظين للتطورات في كل من القدرات الهجومية والدفاعية للذكاء الاصطناعي وتأثيراتها المحتملة على السوق.
المصدر: Cointelegraph. تلخيص وإعادة صياغة بواسطة غرفة أخبار Vexoda. هذا محتوى إخباري وليس نصيحة مالية.