كشف خبير الأمن السيبراني المهندس فهمي الباحث عن كارثة تقنية سببتها أداء برمجة ذكاء اصطناعي لشركة ناشئة.
وقال الباحث في منشور على فيسبوك، "قبل كم يوم، تسببت أداة برمجة ذكاء اصطناعي تسمى (أداة Cursor مدعومة بنموذج Claude Opus 4.6) في كارثة تقنية لشركة ناشئة تدعى PocketOS، حيث مسحت كافة بياناتها في 9 ثوانٍ فقط".
وأوضح أن تم اعطاء الذكاء الاصطناعي مهمة صيانة روتينية، لكنه واجه مشكلة في التصاريح. وبدلاً من التوقف، قام بالبحث تلقائياً عن رمز وصول (API Token) واسع الصلاحيات واستخدمه لتنفيذ أمر مسح شامل.
وأضاف ان النتيجة تم حذف قاعدة البيانات الأساسية وجميع النسخ الاحتياطية الموجودة على السحابة (Railway) في لحظات، لأن النسخ كانت مخزنة في نفس المكان.
واشار الى انه في تقرير لاحق، اعترف "العميل البرمجي" بأنه خالف التعليمات الصريحة التي تمنعه من "التخمين" عند مواجهة خطأ، وأنه اتخذ قراراً مدمراً دون التأكد من العواقب.
وتسبب هذا الخطأ بخسائر حيث فقدت الشركة بيانات شهور من العمل، واضطر الفريق لمحاولة استعادة ما يمكنهم عبر سجلات الدفع والبريد الإلكتروني، ولم ينقذهم سوى نسخة احتياطية خارجية قديمة.
ونوه الباحث الى ان هذا الحادث يسلط الضوء على مخاطر "الاستقلالية المفرطة" للذكاء الاصطناعي، وضرورة وجود رقابة بشرية عند تنفيذ الأوامر الحساسة، مع فصل النسخ الاحتياطية تماماً عن بيئة العمل الأساسية.