احمد الحسيني يكتب:ثغرة شات جي-بي-تي الجديدة وما يقابلها — لماذا يبرز «ديب سيك» كمؤشر على قوة البحث الصيني؟
في أسابيع قليلة تحول النقاش حول الذكاء الاصطناعي من قدرات النماذج اللغوية إلى سؤال أمني بسيط لكنه عميق: ما مدى أمان المنصات التي تمنح الذكاء الاصطناعي سيطرة على المتصفح أو الذاكرة؟ أحدثت ثغرات اكتُشفت في متصفح ChatGPT Atlas موجة قلق لدى باحثي الأمن والمهتمين بالخصوصية، بينما تواصل شركة صينية ناشئة اسمها DeepSeek إذكاء النقاش عبر تقدمها البحثي السريع وانتشار نماذجها، ما يسلّط ضوءًا متباينًا على قوتَي الابتكار والاعتمادية في مشهد الذكاء الاصطناعي العالمي. LayerX+1
ماذا حدث مع ChatGPT (الجانب التقني والأمني)
أَظهرت تقارير بحثية أن ثغرات في بنية متصفح Atlas قد تسمح بحقن تعليمات خبيثة داخل ما يُشبه “ذاكرة” النسخة المتصلة بالمتصفح، بحيث تقوم مدخلات مُصمَّمة — كـعنوان URL مُزوَّر أو سلسلة نصية مُنسقة — بخداع النظام لتفسيرها كأوامر تنفيذية. النتيجة: إمكانيّة «زرع» أوامر مخفية يمكن أن تُنفّذ داخل الجلسة، أو توجيه المتصفح لعمل لم يقصدّه المستخدم. مجموعات أخرى أبلغت عن أساليب تسريب خادعة على مستوى الخدمة (service-side leaking) تُسمّى «ShadowLeak» والتي وصفت كـ«هجوم بلا نقرات» (zero-click indirect prompt injection) وتم الإبلاغ عنها وتصحيحها بالتعاون مع مزوّد الخدمة. هذه الحوادث تذكرنا أن واجهات الدمج بين نماذج اللغة والبيئة المحيطة — المتصفحات، قواعد البيانات، أو واجهات API — تشكل سطح هجوم جديدًا يتطلّب ممارسات أمنية متقدمة. The Hacker News+1
لماذا هذه الثغرات خطيرة عمليًا؟
لأنها تجمع بين أمرين: (1) قدرة النموذج على تفسير نص كسلوك تشغيلي، و(2) صلاحيات الوصول إلى موارد المستخدم أو النظام (التصفح، التخزين المؤقت، الاتصالات). النتيجة أن ثغرة واحدة قد تكشف بيانات حسّاسة أو تُمكّن مهاجمين من تنفيذ عمليات احتيال أو إدخال شيفرة خبيثة في سياق ثقة المستخدم بالنظام. المؤسسات التي تُوظّف LLMs في مهام حيوية يجب أن تعتبر التهديدات على مستوى التصميم (design-level) لا مجرد أخطاء برمجية قابلة للإصلاح السريع. LayerX+1
من ناحية أخرى — لماذا يُعتبر DeepSeek مختلفًا؟
خارج إطار الثغرات الفردية، يبرز DeepSeek كحالة دراسية تُظهر مدى سرعة الصين في بناء بنية بحثية وصناعية للذكاء الاصطناعي: الشركة أطلقت نماذج قوية، نشرت جزءًا من أكوادها وابتكاراتها (مثل خوارزميات انتباه فعّالة للمدد الطويلة) وحققت انتشارًا مستخدمًا كبيرًا في السوق المحلي، بل واعتُبرت «لحظة سputnik» للدفع الصيني نحو الاستقلال التقني في الذكاء الاصطناعي. تقارير صحفية ومحلّية تشير أيضًا إلى تعاونات بين شركات مثل DeepSeek والدوائر البحثية أو حتى جهات عسكرية/صناعية في الصين، ما يعكس قدرة المؤسسة البحثية-الصناعية على تحويل نتائج الأبحاث إلى تطبيقات واسعة النطاق. Reuters+2ذا غارديان+2
التميّز البحثي الصيني — بين نقاط القوة والقلق
تميّز DeepSeek لا يقتصر على سرعة التطوير فحسب، بل أيضاً على نهج «التركيز على البحث» ووجود مصادر تمويل قويّة تُمكّن تدريب نماذج تنافسية بتكاليف أقل واعتماد استراتيجيات مثل الإفراج عن أجزاء من الكود لتسريع الابتكار المجتمعي. هذا التكامل بين رأس المال، المواهب، والتركيز الرسمي على الأمن السيادي يدفع الصين لأن تكون لاعبًا أقوى بسرعة ملحوظة. ذا غارديان+1
ومع ذلك، تظهر تحقيقات استقصائية أن هذه السرعة قد ترافقها مخاطر: دراسات كشفت أن بعض النماذج قد تُنتج شيفرة أقل أمناً أو تُظهر تحيّزات عندما تُطلب منها التعامل مع مواضيع حسّاسة سياسياً، ما يفتح نقاشًا حول جودة البيانات، التحيّز البرنامجي، وأثر الإملاءات السياسية أو التجارية على موثوقية المخرجات. هذا يذكّرنا أن التفوّق الكمي في التدريب ليس بديلًا عن ضمانات أمنية وأخلاقية راسخة. The Washington Post
الخلاصة — درس أمني واستراتيجي واحد
ثغرات مثل تلك التي اكتُشفت في ChatGPT Atlas تبرز خطر الاندماج غير المؤمّن بين LLMs وبيئات التنفيذ؛ بينما حالة DeepSeek تبيّن أن القوة البحثية والبنية التمويلية السريعة يمكن أن تُقلب موازين الابتكار. لكن الفارق الحقيقي الذي يهمّ القادة والمشرّعين هو أن القدرة التقنية وحدها لا تكفي — يجب أن تُقابَل بضوابط هندسية، مراجعات أمنية منهجية، شفافية في البيانات، وسياسات أخلاقية تضمن أن النماذج القوية لا تتحول إلى أدوات تسريب أو تلاعب.
