باحثو Microsoft يُظهرون إمكانية زرع باب خلفي في وكلاء الذكاء الاصطناعي بتعديل أقل من 10 خلايا عصبية
كشف باحثون في Microsoft عن تقنية تُدعى Lazarus تزرع باباً خلفياً مخفياً في نموذج ذكاء اصطناعي عبر تغيير أقل من 10 خلايا عصبية نادرة الاستخدام، دون إعادة تدريب. وعند ظهور محفّز، ينفّذ الوكيل الذي يستخدم النموذج أمر المهاجم، بينما يتصرف بشكل طبيعي خلال اختبارات الأمان المعتادة.
على الشركات التي تمنح وكلاء الذكاء الاصطناعي صلاحية الوصول إلى الطرفيات أو الأنظمة التحقق من مصدر أوزان النماذج ومن يمكنه تعديلها، لأن اختبارات الأمان قد لا تكشف هذا النوع من التلاعب.
يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.
تابع القراءة
-
Anthropic تطلق Claude Fable 5.2 وMythos 5.2 وتتصدر اختباراً معيارياً للهجمات السيبرانية متعددة المراحل
أطلقت Anthropic نموذجي Claude Fable 5.2 وClaude Mythos 5.2، مؤكدة أن كليهما يتحسن في البرمجة والاستدلال والرؤية. وتفوق Fable 5.2 على GPT-6 Cyber في اختبار معياري يقيس الهجمات السيبرانية متعددة المراحل.
لماذا يهمّك هذاتساعد النماذج المتقدمة الأقوى المطورين على إنجاز المزيد، لكن قدراتها المتنامية في الهجمات السيبرانية ترفع حجم المخاطر أمام فرق الأمن.
-
Cursor تؤكد اختراقاً مكّن قراصنة من نشر إضافة خبيثة لـClaude Code عبر متجرها
أكدت Cursor وقوع اختراق أمني سمح لمهاجمين بتوزيع إضافة خبيثة لـClaude Code عبر متجر الإضافات الخاص بها. واستخدم المهاجمون بيانات اعتماد مسروقة من مزود البنية التحتية للذكاء الاصطناعي Fireworks AI.
لماذا يهمّك هذاينبغي للمطورين الذين ثبّتوا إضافات من متجر Cursor فحص أدواتهم، إذ يمكن لبيانات اعتماد مسروقة واحدة أن تنتشر عبر سلسلة توريد الذكاء الاصطناعي.
-
أداة Microsoft لاصطياد الثغرات بالذكاء الاصطناعي تكشف خللاً في المكتبة القياسية للغة Rust ظل مخفياً قرابة 11 عاماً
استخدم باحثون في Microsoft FORGE Lab الذكاء الاصطناعي للعثور على ثغرة في أمان الذاكرة بالمكتبة القياسية للغة Rust ظلت دون اكتشاف لقرابة 11 عاماً، إلى جانب ثغرات أخرى قد تتسبب في سلوك غير محدد حتى في شيفرة Rust الآمنة. ويؤثر اكتشافان منها على الإصدار المستقر من Rust.
لماذا يهمّك هذاباتت أدوات الذكاء الاصطناعي تكتشف ثغرات قديمة في شيفرات موثوقة، لذا ينبغي للمطورين توقع مزيد من التحديثات الأمنية، كما قد يعثر المهاجمون على الثغرات بالطريقة نفسها.
-
أمر في Claude Code يحفظ بيانات الاعتماد في مستودعات GitHub عامة
اكتشف باحثون أن أمراً في Claude Code قد يحفظ عن طريق الخطأ ملفات تحتوي على بيانات اعتماد وبيانات حساسة أخرى في مستودعات Git عامة. وقد تسربت آلاف الأسرار بهذه الطريقة.
لماذا يهمّك هذاينبغي للفرق التي تستخدم وكلاء البرمجة بالذكاء الاصطناعي فحص مستودعاتها بحثاً عن مفاتيح مكشوفة وتغيير أي مفاتيح مسربة.
-
أكثر من 35 ألف تطبيق أُنشئت بوكيل البرمجة من Grok مكشوفة على الإنترنت، وبعضها يسرّب كلمات مرور
عثرت شركة الأمن Claroc على 37,571 تطبيقاً أُنشئت باستخدام Grok على الإنترنت، يمكن فتح 35,578 منها دون تسجيل الدخول، بينها 24 تطبيقاً أنشأها موظفون في X وSpaceXSI. واحتوى نحو تطبيق من كل عشرة على بيانات أعمال داخلية، فيما سرّب بعضها معلومات سرية وكلمات مرور.
لماذا يهمّك هذاعلى كل من يبني تطبيقات بأدوات البرمجة بالذكاء الاصطناعي التحقق من إعدادات الوصول قبل النشر، إذ قد تكشف الإعدادات الافتراضية البيانات الخاصة للجميع.
