بقلم: سارة | محررة نماذج الذكاء الاصطناعي · صوت تحريري بإشراف بشري
كشفت OpenAI النقاب عن ميزة أمنية جديدة تسمى “Lockdown Mode” أو وضع الحماية المشددة، مصممة خصيصاً لمواجهة التهديدات المتزايدة من هجمات حقن النصوص الخبيثة التي تستغل نماذج الذكاء الاصطناعي لسرقة البيانات الحساسة.
تستهدف هذه الهجمات نقاط ضعف في كيفية معالجة نماذج اللغة للتعليمات، حيث يخفي المهاجمون أوامر ضارة داخل صفحات الويب العادية أو المستندات المرفوعة. عندما يقرأ ChatGPT هذا المحتوى، قد ينفذ التعليمات الخفية دون علم المستخدم، مما يعرض المعلومات السرية للخطر.
يعمل وضع الحماية المشددة كدرع شامل يقيد الوصول إلى مصادر البيانات الخارجية. بمجرد تفعيله، يفقد ChatGPT القدرة على تصفح الويب المباشر ويقتصر على المحتوى المخزن مؤقتاً فقط. كما يمنع النموذج من استرداد أو عرض الصور من المواقع الخارجية، رغم احتفاظه بقدرته على إنشاء الصور محلياً.
تشمل القيود الإضافية إيقاف وظيفة “البحث العميق” التي تسمح لـ ChatGPT بجمع معلومات مفصلة من مصادر متعددة، وتعطيل “وضع الوكلاء” الذي يمكن النموذج من التفاعل تلقائياً مع أدوات وخدمات خارجية. هذه التدابير تقلل بشكل كبير من السطح المعرض للهجمات الخارجية.
لكن OpenAI واضحة بشأن حدود هذه الحماية. وفقاً لتصريح الشركة، حتى مع تفعيل وضع الحماية المشددة، “قد يظل ChatGPT عرضة لهجمات حقن النصوص التي تظهر في المحتوى المخزن مؤقتاً أو في ملف مرفوع، وقد تؤثر على سلوك أو دقة الاستجابة”. الهدف ليس الحماية المطلقة، بل تقليل احتمالية تسرب البيانات الحساسة.
تعكس هذه الصراحة نضجاً في نهج OpenAI نحو الأمان. بدلاً من الادعاء بحلول مثالية، تقدم الشركة أدوات واقعية مع توضيح واضح لحدودها. هذا النهج يساعد المؤسسات على اتخاذ قرارات مدروسة حول كيفية دمج الذكاء الاصطناعي في عملياتها الحساسة.
الاستهداف المحدد للميزة يكشف عن فهم عميق لطبيعة المخاطر. “وضع الحماية المشددة ليس مخصصاً للجميع”، تؤكد OpenAI. “إنه مصمم للأشخاص والمؤسسات التي تتعامل مع بيانات حساسة وتريد حماية أكثر صرامة من مخاطر تسرب البيانات المرتبطة بحقن النصوص”.
تطرح الشركة الميزة تدريجياً، بدءاً من حسابات ChatGPT Business ذات الخدمة الذاتية والحسابات الشخصية المؤهلة. هذا النهج المدروس يسمح بجمع تغذية راجعة من المستخدمين المؤسسيين أولاً قبل التوسع، ويعكس حرص OpenAI على ضمان فعالية الحماية في البيئات الحقيقية.
التوقيت ليس عشوائياً. مع تزايد اعتماد المؤسسات على نماذج اللغة الكبيرة للمهام الحساسة، تتصاعد المخاوف حول هجمات حقن النصوص. الشركات العاملة في القطاعات المالية والصحية والقانونية تحتاج ضمانات إضافية، حتى لو جاءت على حساب بعض الوظائف المتقدمة.
ما يميز هذا الحل هو اعترافه بأن الأمان والوظائف قد يكونان في تضارب أحياناً. بدلاً من محاولة تحقيق التوازن المثالي، تمنح OpenAI المؤسسات خيار إعطاء الأولوية للحماية عندما تكون البيانات على المحك.
