OpenAI: لا حل جذري لهجمات “حقن الأوامر” على متصفحات الذكاء الاصطناعي

أقرت شركة OpenAI بأن متصفحات الذكاء الاصطناعي ستظل معرضة لهجمات تُعرف باسم Prompt Injection أو حقن الأوامر، رغم الجهود المستمرة لتعزيز مستويات الحماية، مؤكدة أن هذا النوع من الهجمات يشكل تحدياً طويل الأمد في بيئة الإنترنت المفتوحة.

وقالت الشركة في تدوينة رسمية إن الهجمات تعتمد على تعليمات خبيثة مخفية داخل صفحات ويب أو رسائل بريد إلكتروني، تُستخدم لخداع وكلاء الذكاء الاصطناعي، مشبهة الأمر بعمليات الاحتيال والهندسة الاجتماعية المنتشرة على الويب.

وأوضحت أن تفعيل وضع “الوكيل الذكي” في متصفح شات جي بي تي أطلس يوسع بطبيعته نطاق التهديدات الأمنية، في اعتراف صريح بتعقيد التحديات المرتبطة بالجيل الجديد من المتصفحات الذكية، وفق تقرير نشره موقع تك كرانش واطلعت عليه قناة اليمن الفضائية 

وأكدت الشركة أن باحثين أمنيين تمكنوا من التلاعب بسلوك المتصفح عبر تعليمات بسيطة مخفية داخل مستندات Google Docs، فيما أشارت شركة Brave إلى أن حقن الأوامر غير المباشر يمثل مشكلة هيكلية تطال معظم المتصفحات المدعومة بالذكاء الاصطناعي، بما فيها متصفح Comet من Perplexity.

كما حذر المركز الوطني للأمن السيبراني في المملكة المتحدة من أن هذه الهجمات قد لا يمكن منعها بالكامل، داعياً المؤسسات إلى التركيز على تقليل المخاطر بدلاً من افتراض إمكانية القضاء عليها نهائياً.

وتعتمد OpenAI نهجاً استباقياً يقوم على دورات استجابة سريعة واختبارات مستمرة، إضافة إلى استخدام مهاجم آلي قائم على النماذج اللغوية، قادر على محاكاة الهجمات واكتشاف الثغرات قبل استغلالها خارجياً. وبحسب الشركة، تمكن هذا النظام من دفع الوكلاء الذكيين إلى تنفيذ سيناريوهات ضارة معقدة، وكشف أساليب هجوم لم تظهر في اختبارات الفرق البشرية.

وفي أحد العروض التوضيحية، أظهر النظام محاولة هجوم دفعت الوكيل الذكي إلى إرسال رسالة استقالة بدلاً من رد تلقائي خارج أوقات العمل، قبل أن يتمكن النظام من اكتشاف المحاولة بعد التحديثات الأمنية.

ويرى الباحث الأمني رامي مكارثي من شركة Wiz أن التعلم المعزز أداة مهمة للتكيف مع سلوك المهاجمين، لكنه ليس حلاً كافياً بمفرده، مشيراً إلى أن المتصفحات الوكيلة تجمع بين صلاحيات واسعة ومستوى عالٍ من الاستقلالية، ما يجعلها في منطقة حساسة أمنياً.

وتوصي OpenAI المستخدمين بالحد من الصلاحيات، وطلب تأكيد المستخدم قبل تنفيذ إجراءات حساسة مثل إرسال الرسائل أو إجراء المدفوعات، إضافة إلى تقديم تعليمات دقيقة للوكلاء الذكيين.

ورغم اعتبار حماية المستخدمين أولوية، يشير مكارثي إلى أن العائد العملي من هذه المتصفحات لا يزال محل شك، مؤكداً أن قيمتها الحالية لا تبرر مستوى المخاطر المرتبط بوصولها إلى بيانات حساسة، رغم إمكانية تغير هذا التوازن مستقبلاً.