مايكروسوفت تطلق إطار “الثقة المعدومة” لتأمين الذكاء الاصطناعي
أعلنت مايكروسوفت عن إطار عمل جديد للأمان السيبراني يُسمى “الثقة المعدومة للذكاء الاصطناعي”. ويهدف هذا الإطار إلى حماية أنظمة الذكاء الاصطناعي عبر دورة حياتها الكاملة. كما يأتي الإعلان وسط تزايد المخاوف حول أمان تطبيقات الذكاء الاصطناعي في الشركات.
ماذا حدث؟
قدمت مايكروسوفت إطار “الثقة المعدومة للذكاء الاصطناعي” الذي يمتد عبر دورة حياة الذكاء الاصطناعي بالكامل. ويشمل الإطار حماية البيانات والتدريب وصولاً إلى العوامل الذكية في الإنتاج. كما يتضمن الإطار 700 ضابطة أمنية (بحسب المصدر). وبالتالي يركز بشكل كبير على العوامل الذكية باعتبارها برمجيات تعمل بشكل مستقل. وتجدر الإشارة إلى أن التوجيهات تطبق مبادئ الأمان الحالية مثل الامتيازات الأقل والتحقق المستمر. وفضلاً عن ذلك تغطي أسطح جديدة مثل مدخلات النماذج ومخرجاتها واستخدام الأدوات.
السياق والمشهد الأشمل
تتزايد الحاجة لتأمين أنظمة الذكاء الاصطناعي مع انتشارها الواسع في الشركات والمؤسسات. وفي المقابل تواجه الشركات تحديات متزايدة في حماية النماذج اللغوية والعوامل الذكية من التهديدات السيبرانية. كما شهدت الفترة الأخيرة عدة حوادث أمنية متعلقة بتطبيقات الذكاء الاصطناعي. نتيجةً لذلك بدأت الشركات التقنية الكبرى في تطوير أطر أمنية متخصصة. وتجدر الإشارة إلى أن مايكروسوفت تسعى لتعزيز ريادتها في مجال الأمان السيبراني للذكاء الاصطناعي. بالإضافة إلى ذلك تأتي هذه الخطوة متماشية مع استثماراتها الضخمة في تقنيات الذكاء الاصطناعي التوليدي.
لماذا يهم؟
يوفر إطار الثقة المعدومة للشركات نهجاً منهجياً لحماية استثماراتها في الذكاء الاصطناعي. وبالتالي يساعد في تقليل المخاطر المرتبطة بنشر تطبيقات الذكاء الاصطناعي في بيئات الإنتاج. كما يمكّن المطورين من بناء أنظمة ذكية أكثر أماناً وموثوقية. في حين أن الشركات ستحصل على إرشادات واضحة لحماية بياناتها ونماذجها الذكية. ومع ذلك فإن النجاح سيعتمد على مدى فعالية تطبيق هذه الضوابط الأمنية في الواقع العملي.
ما التالي؟
لم يذكر المصدر تفاصيل حول مواعيد التطبيق الكامل لإطار الثقة المعدومة. ومع ذلك من المتوقع أن تبدأ الشركات في تبني هذه المعايير الأمنية تدريجياً. كما قد تؤثر هذه المبادرة على معايير الصناعة لأمان الذكاء الاصطناعي. وستستمر أخبار الذكاء الاصطناعي في رصد التطورات في مجال الأمان السيبراني. بالإضافة إلى ذلك ستراقب الشركات كيفية تطبيق تعلم واستخدام الذكاء الاصطناعي بطرق آمنة ومسؤولة.
أبرز النقاط
- مايكروسوفت تطلق إطار “الثقة المعدومة للذكاء الاصطناعي” مع 700 ضابطة أمنية
- يوفر حماية شاملة لأنظمة الذكاء الاصطناعي من البيانات إلى الإنتاج
- يركز بشكل خاص على تأمين العوامل الذكية والنماذج اللغوية
