مع تسارع تطوير المساعدات الذكية وانتقالها من مجرد روبوتات محادثة إلى أدوات وكيلة قادرة على تنفيذ المهام نيابة عن المستخدم، تتزايد مخاوف الباحثين من مخاطر جديدة تُوصف بأنها «حصان طروادة العصري» في عالم الذكاء الاصطناعي. ويتمثل الخطر الأكبر في هجمات الإدراج الخبيث (Prompt Injection)، وهي تعليمات تُخفى داخل صفحات الويب أو المستندات أو حتى الصور، ثم تُقرأ من قبل النموذج أثناء التحليل دون علم المستخدم.
ويحذر الخبراء من أن هذه التعليمات قد تُحوّل مسار المهمة الأصلية؛ فبينما يطلب المستخدم تلخيص ملف ما، قد يتلقى النظام أمرًا خفيًا بتنفيذ إجراء ضار، مثل إرسال معلومات حساسة لطرف خارجي. ومع توسع قدرات الذكاء الاصطناعي التوليدي وواجهات المساعد الذكي، تزداد احتمالات حدوث مثل هذه الهجمات ما لم تُعزّز ضوابط الحماية.
ورغم أن الأنظمة الحديثة تضم آليات دفاع مدمجة، يؤكد متخصصون في الأمن السيبراني أنها ليست كافية دائمًا. ويوصون بضرورة تقييد وصول الذكاء الاصطناعي إلى الحد الأدنى من البيانات اللازمة، خاصة عند ربطه بقواعد بيانات أو حسابات شخصية. كما ينصحون بتجنب استخدام المتصفحات الوكيلة في المهام الحساسة مثل العمليات المصرفية.
ويشدد الخبراء على أهمية مراقبة «ما يدخل وما يخرج» من النظام الذكي، وعدم تمرير محتوى غير موثوق إليه. فالمستند الذي يبدو عاديًا قد يحتوي على تعليمات مضمّنة لا تظهر للمستخدم. ويعدّ فحص الملفات مسبقًا خطوة أساسية للحد من مخاطر الهجمات.
📌 الملخص:
هجمات الإدراج الخبيث تمثل تهديدًا متزايدًا مع تطور المساعدات الذكية، والخبراء ينصحون بتقييد الوصول وفحص المحتوى قبل تمريره لأنظمة الذكاء الاصطناعي.
