مايكروسوفت تحذر من ثغرة قادرة على كشف محتوى المحادثة مع روبوتات الدردشة

وسط الجدل المتواصل حول الانتشار الواسع لاستخدام الذكاء الاصطناعي وما يثيره من مخاوف تتعلق بالخصوصية والأخلاقيات، تواصل هذه التكنولوجيا التغلغل في جميع مجالات النشاط البشري.

يوم 7 نوفمبر/تشرين الثاني الجاري، كشفت شركة مايكروسوفت في مدونة عن ثغرة جديدة يمكنها كشف موضوعات المحادثات مع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي حتى عندما يكون المرور الشبكي مشفرًا.

يمكن للمهاجمين كشف موضوعات الدردشة رغم التشفير

أشارت الشركة إلى ثغرة أطلقت عليها اسم "Whisper Leak"، تتيح للمتجسسين استنتاج تفاصيل حساسة حول التعليمات (Prompts) من خلال تحليل أحجام حزم البيانات وتوقيت إرسالها عبر الشبكة. وجاء هذا التحذير في ظل تزايد مخاطر الخصوصية مع تعمّق دمج أدوات الذكاء الاصطناعي في الحياة اليومية، من المهام الشخصية الروتينية إلى الأعمال المهنية الحسّاسة. ووفقًا لمايكروسوفت، يستطيع المهاجمون تصنيف التعليمات المتعلقة بموضوعات معيّنة دون الحاجة لفك التشفير، وذلك فقط بتحليل الاستجابات المتدفقة من نماذج اللغة الكبيرة.

وتثير هذه الثغرة قلقًا بين أوساط المهتمين بالتقنية والخصوصية، لا سيما في الأنظمة القمعية، إذ قد يؤدي نقاش مواضيع مثل الاحتجاجات أو الانتخابات أو الموضوعات المحظورة إلى تعريض المستخدمين للمراقبة والاستهداف.

ووفقًا لباحثي مايكروسوفت، أظهرت الاختبارات أن المهاجم يمكن أن يحقق دقة بنسبة 100%، أي أنّ كل محادثة يُصنفها على أنها تتعلق بموضوع مستهدف ستكون صحيحة، مع قدرته في الوقت ذاته على التقاط ما بين 5% إلى 50% من إجمالي المحادثات المستهدفة.

وبصيغة بسيطة، فإن كل محادثة تقريبًا يحددها المهاجم على أنها "مشبوهة" ستكون بالفعل متعلقة بالموضوع المستهدف، مما يترك مجالًا شبه معدوم للإنذارات الكاذبة. هذا المستوى من الدقة يتيح للمهاجمين العمل بثقة عالية مع ضمان عدم إهدار الوقت على نتائج خاطئة.

 وتشير الأبحاث إلى أنه رغم تشفير جميع الاتصالات، فإن وكالة حكومية أو مزود خدمة إنترنت يراقب حركة تدفق البيانات نحو روبوت دردشة شائع قد يتمكن من تحديد المستخدمين الذين يناقشون موضوعات حساسة محددة مثل غسيل الأموال أو المعارضة السياسية أو غيرها من الموضوعات الخاضعة للمراقبة.

وتحذر مايكروسوفت من أن التهديد السيبراني قد يتفاقم مع الوقت، إذ يصبح الهجوم أكثر فاعلية كلما جمع المهاجم بيانات تدريب إضافية. وقد بينت الاختبارات أن دقة الهجوم تتحسن بازدياد حجم البيانات. كما أن أي مهاجم يمتلك "الصبر والموارد" سيحقق معدلات نجاح أعلى. 

ووفقًا للشركة، أجرت الفرق المختصة إفصاحات مسؤولة مع الشركات المتأثرة، وقد نشرت أوبن إيه آي ومسترال ومايكروسوفت وإيه آي إكس تدابير حماية، التزامًا منها بحماية خصوصية المستخدم في منظومة الذكاء الاصطناعي.

تدابير الحماية الجديدة من مطوري الذكاء الاصطناعي

قدمت أوبن إيه آي ومايكروسوفت Azure آلية تضيف سلسلة عشوائية من نصوص متفاوتة الطول إلى كل استجابة، بهدف إخفاء الطول الحقيقي للجمل البرمجية المرتبطة بالتعليمات.وقد لوحظ أن هذا الإجراء يقلل بشكل كبير من فعالية الهجوم، بحيث لا تبقى هناك مخاطر عملية تُذكر. 

كذلك أضافت مسترال معاملًا جديدًا تحت المفتاح "p" يؤدي وظيفة مشابهة.

ومع ذلك، تنصح مايكروسوفت المستخدمين بتجنب مناقشة الموضوعات شديدة الحساسية عند استخدام روبوتات الدردشة عبر شبكات غير موثوقة، واستخدام الشبكات الافتراضية الخاصة (VPN) لتأمين الاتصال، واختيار المزودين الذين طبقوا التدابير الوقائية، وتفضيل مقدمي النماذج غير المتدفقة، والبقاء على اطلاع بممارسات الأمان لدى المزوّدين.

ووسط ادعاءات بأن ثغرة Whisper Leak أثرت بالفعل على عدة روبوتات دردشة مثل كوبايلوت وشات جي بي تي وجيميناي، أكدت مايكروسوفت أنها تعاونت مع العديد من المزوّدين للتخفيف من المخاطر، وضمان حماية أطر نماذج اللغة الخاصة بها.

باحثون يكتشفون عيوبًا في شات جي بي تي تسمح بتسريب البيانات

قبل أيام من نشر مدونة مايكروسوفت حول “Whisper LeaK”، كشف باحثون عن مجموعة جديدة من الثغرات التي تؤثر على شات جي بي تي، والتي قد تسمح للمهاجمين بسرقة المعلومات الشخصية من ذاكرة المستخدمين وسجلات محادثاتهم.

وبحسب الباحثين، تم تحديد سبع ثغرات وتقنيات هجوم مرتبطة بنماذج GPT-4o وGPT-5، وقد عالجت أوبن إيه آي بعضها. 

وتعرّض هذه الثغرات النظام لهجمات الحقن غير المباشر (Indirect Prompt Injection)، التي يمكن أن تخدع نموذج اللغة الكبير وتدفعه إلى تنفيذ سلوكيات غير مقصودة أو خبيثة.

تنبهنا هذه التهديدات إلى ضرورة الاستخدام الآمن لنماذج الدردشة، على اختلافها، وأهمية عدم التعامل معها كصندوق أسرار يتسع جميع الأفكار. كما تفرض على الشركات التكنولوجية الكبرى مسؤولية إضافية مرتبطة بإطلاق حملات توعية حول كيفية استخدام هذه النماذج، والمخاطر المحتملة لمناقشة بعض المعلومات التي تعدّ "حساسة" أو "محظورة" من قبل السلطات الحاكمة في بلد المستخدم، أو أي شكل آخر من المعلومات التي قد تجعله عرضه للاستهداف من المهاجمين.

اقرأ/ي أيضًا

بعد تورط أنظمتها في الحرب على غزة.. مايكروسوفت توقف جزء من خدماتها للجيش الإسرائيلي

ما الذكاء الاصطناعي الذي تقدمه مايكروسوفت؟