ذكاء جوجل الاصطناعي اخترق ثلاث شركات حقيقية. كل ما احتاجه كان كلمة مرور ضعيفة.
في 19 سبتمبر، أكدت جوجل حادثة غير عادية حدثت قبل أربعة أشهر ولم يتم الإعلان عنها حتى الآن: نموذج جيميني اخترق بشكل مستقل أنظمة ثلاث شركات حقيقية.
لم يكن هذا هجومًا إلكترونيًا متعمدًا.
حدث ذلك خلال تمرين محكوم لالتقاط العلم أجرته شركة إيريجولار، وهي شركة أمنية إسرائيلية متخصصة في الذكاء الاصطناعي. تم إعطاء النموذج مهمة تبدو بسيطة: استرجاع معلومات من أنظمة شركة خيالية داخل بيئة اختبار.
لكن حدثت مشكلتان.
لم يكن من المفترض أن يكون للنموذج وصول إلى الإنترنت - لكنه كان لديه.
واسم الشركة الخيالية التي تم اختيارها للتمرين كان ينتمي إلى شركة حقيقية.
من هناك، تحرك كل شيء بسرعة.
بحث جيميني في الويب، وحدد الأنظمة التي اعتقد أنها جزء من بيئة التمرين، ودخل إليها.
في جميع الحالات الثلاث، توقف في اللحظة التي فهم فيها أن الأنظمة كانت حقيقية.
لكن ما يهم هنا ليس أن الذكاء الاصطناعي تمكن من اختراق نظام.
ما يهم هو كيف فعل ذلك.
ليست ثغرة يوم الصفر. ليست ثغرة معقدة. كلمة مرور.
في إحدى الحالات، حاول جيميني ببساطة مرة تلو الأخرى تخمين كلمة المرور - حتى نجح.
في الحالتين الأخريين، وجد بيانات اعتماد تم تسريبها عن طريق الخطأ إلى مستودع عام، واستخدمها.
هذا كل شيء.
لا استغلال جديد. لا يوم صفر. لا هجوم على سلسلة التوريد.
فقط تقنيتان قديمتان جدًا:
تخمين كلمة مرور، أو العثور على واحدة تركها شخص ما مكشوفة.
وهذا هو بالضبط سبب أهمية هذه الحادثة.
لم تكن الشركات الثلاث أهدافًا خاصة. لم يفعلوا شيئًا غير عادي. كانت أنظمتهم ببساطة قابلة للوصول من الإنترنت، وكانت بيانات اعتمادهم ضعيفة أو مكشوفة بالفعل.
هذا الوصف ينطبق على عدد لا يحصى من خوادم الإنتاج اليوم.
ما الذي تغير فعلاً
تخمين كلمات المرور موجود منذ عقود.
الجديد ليس التقنية.
الجديد هو من يقوم بها.
يجب على المهاجم البشري اختيار الأهداف، وجمع المعلومات، والمحاولة، والفشل، وتغيير الاتجاه والاستمرار.
يمكن لوكيل مستقل القيام بكل ذلك بنفسه.
يبحث في المعلومات العامة، ويقارن المصادر، ويحدد الخدمات، ويحاول بيانات الاعتماد، ويقرأ الردود، ويعدل خطوته التالية ويستمر.
دون أن يتعب.
دون أن يشعر بالملل.
بسرعة الآلات.
في هذه الحالة، لم يطلب منه أحد حتى الهجوم.
تم إعطاؤه مهمة مشروعة مع حدود لم تكن جيدة بما فيه الكفاية - وتم اختراق ثلاث شركات حقيقية كأثر جانبي.
وقد تكون هذه هي النقطة الأكثر أهمية على الإطلاق:
إذا كان بإمكان وكيل القيام بذلك عن طريق الخطأ، يمكنك أن تتخيل مدى انخفاض العائق للقيام بذلك عن قصد.
لماذا لن تساعد WAF أو CDN بالضرورة هنا
في اللحظة التي تسمع فيها "الذكاء الاصطناعي هاجم خادمًا"، تكون الغريزة هي التفكير في WAF أو CDN أو جدار حماية سحابي.
لكن في هذه الحالة، لم يكن أي منها في المسار.
لم يمر الوكيل "عبر الحافة".
وجد أنظمة مكشوفة على الإنترنت واتصل بها مباشرة.
وهنا يكمن الفرق المهم.
يمكن لطبقة الحافة حماية حركة المرور التي تمر من خلالها فقط.
إذا كان خادمك الأصلي لديه عنوان IP عام، وكانت بعض الخدمات مفتوحة مباشرة على الإنترنت، يمكن الوصول إليها دون المرور عبر CDN أو WAF على الإطلاق.
بعبارة أخرى:
المكان الوحيد الذي يرى بشكل موثوق كل اتصال يصل إلى خادمك هو الخادم نفسه.
تحمي كل طبقة أخرى فقط حركة المرور التي تمر فعليًا من خلالها.
ماذا كان سيوقف جيميني؟
هنا من المهم أن نكون دقيقين.
بالنسبة لتخمين كلمة المرور - نعم.
تخمين كلمة المرور يعمل فقط إذا تم إعطاء المهاجم عددًا كافيًا من المحاولات.
nuDefend يكشف عن حالات الفشل المتكررة في المصادقة ويقوم تلقائيًا بحظر عنوان المصدر بعد عدد قليل من المحاولات.
يحدث الحظر عند جدار الحماية النواة - قبل أن تصل المحاولة التالية حتى إلى الخدمة.
الوكيل الذي يحتاج إلى مئات المحاولات ببساطة لا يحصل عليها.
على اثنين من خوادم الإنتاج العادية الخاصة بنا، خلال نافذة 24 ساعة واحدة، سجلنا:
144 محاولة SSH فاشلة من 25 عنوانًا مختلفًا على خادم واحد.
344 محاولة على الثاني.
73 من تلك المحاولات استهدفت حساب root مباشرة.
تم حظر جميعها تلقائيًا.
وهذه ليست خوادم تحت هجوم مستهدف.
هذا ببساطة هو الضجيج الخلفي المستمر للإنترنت.
نفس نوع السلوك الذي أظهره جيميني في التمرين - فقط على نطاق عالمي، طوال الوقت.
بالنسبة لبيانات الاعتماد المكشوفة في مستودع - لا.
إذا قام شخص ما بتخزين كلمة مرور، أو مفتاح API، أو رمز داخل مستودع عام، فهذه فشل في العملية.
لا يمكن لأي وكيل يعمل على الخادم إصلاح بيانات اعتماد تم تسريبها بالفعل بأثر رجعي.
أي شخص يعد بخلاف ذلك يبيع وهمًا.
تحتاج إلى مسح المستودعات، وتشغيل مسح الأسرار، وتدوير بيانات الاعتماد المكشوفة، والتأكد من أنها لا تدخل الكود في المقام الأول.
وبالنسبة لوصول جيميني إلى الإنترنت - أيضًا لا.
كانت هذه مشكلة في الصندوق الرملي والأذونات من جانب جوجل.
تم إعطاء النموذج قدرة على الاتصال لم يكن من المفترض أن يمتلكها.
لا يمكن لأي برنامج حماية يعمل في الشركة المخترقة إصلاح خطأ في الأذونات داخل بيئة الذكاء الاصطناعي لشخص آخر.
بعبارة أخرى:
nuDefend لم يكن ليمنع جميع الحالات الثلاث.
كان سيتوقف عن واحدة منها.
لكن بالضبط النوع الذي يتكرر مرة بعد مرة، يومًا بعد يوم، على كل خادم عام تقريبًا على الإنترنت.
هذا هو بالضبط لماذا يجب أن يكون الدفاع على الخادم
nuDefend يتم تثبيته مباشرة على الخادم ويعمل حيث تصل الاتصال فعليًا.
يمنع عناوين IP المعروفة بأنها خبيثة عند جدار الحماية النواة - سواء الواردة أو الصادرة - قبل أن تصل حركة المرور إلى تطبيقك.
يكشف ويمنع محاولات تخمين بيانات الاعتماد المتكررة.
تتجدد قائمة التهديدات الموقعة كل 30 دقيقة، لذا يمكن حظر عنوان IP الذي تحول إلى خبيث اليوم على آلاتك اليوم، دون الحاجة إلى أي إجراء يدوي.
nuDefend يظهر أيضًا أي الخدمات تستمع حاليًا على خادمك، ومدى تعرض كل واحدة منها حقًا.
هذا مهم، لأنه بالضبط ما يفعله وكيل مستقل في بداية الهجوم:
أولاً، يحاول فهم ما هو مفتوح.
الفرق هو أنك ترى ذلك قبل أن يفعل.
يتم إنشاء التقارير محليًا وتبقى على خادمك.
لكن هذه القصة تشير إلى مشكلة أكبر
أكثر الفشل إثارة للاهتمام في حادثة جوجل لم يكن في الشركات الثلاث المخترقة.
كان في الذكاء الاصطناعي.
كان هناك عبء عمل مستقل مع وصول خارجي - ولم يكن من المفترض أن يوجد هذا الوصول أبدًا.
مما يعيد السؤال إلينا.
إذا كنت تدير اليوم:
خادم استدلال محلي،
وكيل ذكاء اصطناعي،
نظام أتمتة،
قاعدة بيانات متجهات،
أو وكيل متصل بالأنظمة الداخلية،
هل تعرف فعلاً أين يُسمح لذلك العملية بالاتصال؟
عادةً ما تكون الإجابة لا.
نحن نعرف أي المنافذ مفتوحة واردة.
نحن نعرف أي العمليات تعمل.
لكن من الصعب جدًا الإجابة عن:
مع من يتحدث كل عملية فعليًا، خارجيًا؟
وهذا هو بالضبط اتجاه الطبقة التالية التي نبنيها في nuDefend.
ليس فقط رؤية حركة المرور الصادرة.
لكن التعلم بمرور الوقت عن أي وجهات تتواصل معها كل عبء عمل عادة - ثم السماح فقط بما تحتاجه.
بعبارة أخرى:
تعلم أولاً. اسمح فقط بما ينتمي.
ليس لأن الذكاء الاصطناعي أكثر "خطورة" من أي برنامج آخر.
لكن لأن الوكيل المستقل يتخذ قرارات من تلقاء نفسه.
ومتى ما اتخذت عملية قراراتها الخاصة، لا يمكنك الاعتماد عليها ببساطة في التصرف بالطريقة التي كنت تنويها.
إنها تحتاج إلى حدود.
في هذه الأثناء؟ الأمور المملة لا تزال تعمل.
لا تترك الخدمات مفتوحة على الإنترنت إذا لم تكن بحاجة إلى ذلك.
لا تستخدم كلمات مرور سهلة التخمين.
لا تخزن بيانات الاعتماد في الكود.
ولا تدع أي شيء يحاول مرة بعد مرة حتى ينجح.
قد يكون الذكاء الاصطناعي يغير مشهد الأمن السيبراني.
لكن العديد من الاختراقات لا تزال تبدأ بنفس الخطأ القديم:
تركنا الباب مفتوحًا لفترة طويلة.
المصادر: CNN Business · The Hacker News · ABC News