الذكاء الاصطناعي يعمل على خادمكم. فإلى أين يتصل؟
نقلتم نظام الذكاء الاصطناعي إلى خادم Linux خاص بكم. يعمل النموذج على بطاقة الرسوميات لديكم، وتُحفظ المستندات في قاعدة بيانات تحت سيطرتكم، والوصول إلى النظام محمي بالمصادقة.
ثم يطرح سؤال بسيط: بأي خدمات خارجية اتصل هذا النظام أمس؟
الإجابة ليست متاحة دائمًا.
قد يضم نظام الذكاء الاصطناعي خادمًا للنماذج، وواجهة محادثة، ومكوّنًا لمعالجة المستندات، ومنصة أتمتة، وأدوات تتصل بخدمات خارجية. لكل مكوّن إعداداته، وقد ينشئ أي منها اتصالات عبر الشبكة.
تشغيل النموذج لديكم يوضح أين تجري عمليات المعالجة الخاصة به. لكن لفهم الوجهات التي قد تصل إليها المعلومات، يجب أيضًا معرفة نشاط بقية النظام.
ماذا يحدث في الطريق إلى النموذج؟
لنأخذ مثالًا على مساعد لتحليل المستندات يعتمد على نموذج لغوي محلي. يرفع المستخدم ملف PDF ويطلب تلخيصه.
بحسب الإعدادات، قد يرسل النظام صفحات ممسوحة ضوئيًا إلى خدمة خارجية للتعرّف على النص، أو يستخدم خدمة سحابية لإنشاء تمثيلات عددية للمحتوى — Embeddings — أو يرسل استعلامًا إلى محرك بحث. ومع ذلك، يظل بإمكان النموذج إنتاج الإجابة النهائية على خادمكم.
هذا مثال محتمل لبنية نظام كهذا. والمعنى بسيط: قبل أن يصل المستند إلى النموذج المحلي، قد تعالجه مكوّنات أخرى أو تنقل معلومات منه إلى جهات أخرى.
ترد تفاصيل هذه الخيارات أحيانًا في وثائق الأدوات نفسها. على سبيل المثال، تذكر وثائق Ollama أن Ollama لا تطّلع على طلباتكم أو بياناتكم عندما يعمل النموذج محليًا. وفي الوقت نفسه، يوفّر البرنامج نماذج سحابية وبحثًا على الويب، ويتيح تعطيل القدرات السحابية من الإعدادات.
وبالمثل، تصف وثائق n8n جمع بيانات الاستخدام والتشغيل، الذي يكون مفعّلًا افتراضيًا حتى عند الاستضافة الذاتية، وتشرح كيفية تعطيله. إرسال بيانات الاستخدام، والمعالجة السحابية، والاتصال بخدمة خارجية ضمن عملية أتمتة، استخدامات مختلفة. ويحتاج كل منها إلى فحص مستقل.
من المفيد معرفة أي من هذه الخيارات مفعّل لديكم، وما إذا كان يتوافق مع الطريقة التي قصدتم تشغيل النظام بها.
الاتصالات الصادرة أيضًا يجب أن تكون تحت سيطرتكم
حركة الشبكة الصادرة، أو Egress، هي حركة تخرج من الخادم أو من خدمة تعمل عليه إلى وجهة أخرى.
تحدد سياسة الوصول الوارد من يُسمح له بالاتصال بخدمتكم. وبالمثل، يجب تحديد الخدمات الخارجية التي يُسمح لخدمتكم بالاتصال بها. فحتى النظام المقيّد الوصول يمكنه بدء اتصالات خارجية إذا كانت إعدادات الشبكة تسمح بذلك.
يكتسب هذا السؤال أهمية إضافية مع وكلاء الذكاء الاصطناعي. فالوكيل القادر على قراءة الملفات، أو الاتصال بعناوين على الشبكة، أو تنفيذ الأوامر، يمكنه التأثير في أنظمة ومعلومات خارج نطاق المحادثة نفسها. ويعتمد حجم الضرر الذي قد يسببه إجراء خاطئ، من بين عوامل أخرى، على صلاحيات الوكيل والوجهات التي يستطيع الوصول إليها.
تشرح إرشادات OWASP بشأن الصلاحيات والقدرات الزائدة لوكلاء الذكاء الاصطناعي كيف يمكن أن يؤدي منح قدرات لا تتطلبها المهمة إلى زيادة المخاطر.
يمكن لقيود الشبكة أن تقلّص نطاق هذه الإجراءات. وإلى جانبها، يلزم أيضًا ضبط الصلاحيات داخل التطبيق، وتقييد صلاحيات مفاتيح الوصول، واشتراط الموافقة على الإجراءات الحساسة. وتزداد أهمية ذلك لأن حتى الخدمة الخارجية المعتمدة يمكن استخدامها لنقل معلومات حساسة.
إجمالي حركة الشبكة على الخادم لا يوضح الصورة كاملة
لنفترض أن خادمكم اتصل، خلال ساعة واحدة، بخدمة تخزين، ومستودع لتنزيل النماذج، وعنوان HTTPS لا تعرفونه.
لن يخبركم إجمالي حجم حركة الشبكة بالمكوّن الذي أنشأ كل اتصال. وعندما يمكن ربط الاتصال بخدمة محددة، يصبح الفحص أكثر تركيزًا: فالنسخ الاحتياطي المجدول الذي يتصل بخدمة تخزين شيء، ومساعد تحليل المستندات الذي يتصل بالوجهة نفسها لأول مرة يحتاج إلى تفسير آخر.
ينبغي أن يجيب الفحص المفيد عن أربعة أسئلة:
- أي خدمة أنشأت الاتصال؟ من المهم تحديد العملية أو الحاوية المسؤولة.
- بأي وجهة اتصلت؟ ما عنوان الوجهة، وما المعلومات الموثوقة المتاحة عن وظيفتها؟
- ما حجم البيانات المرسلة؟ من المهم التمييز بين البيانات المرسلة إلى الخارج والبيانات المستقبَلة.
- متى رُصدت الوجهة لأول مرة؟ هل حدث ذلك بعد تحديث، أو تغيير في الإعدادات، أو مهمة مجدولة؟
اتجاه حركة الشبكة مهم خصوصًا عند فحص حجمها. فتنزيل نموذج كبير يُدخل البيانات إلى الخادم في المقام الأول. أما رفع نسخة احتياطية فيرسل البيانات إلى الخارج في المقام الأول. وقد تنتج عن العمليتين حركة شبكة كبيرة، لكن دلالة كل منهما مختلفة.
وقد يستدعي نقل كمية صغيرة من البيانات الفحص أيضًا. فمفتاح API أو مستند سري قصير لا يشغل جيجابايتات.
كيف نفسّر النتائج؟
قد يساعد اسم مزوّد معروف في فهم الاتصال، لكن البنية التحتية المشتركة تخدم عملاء كثيرين. ولا يكشف عنوان IP وحده دائمًا عن الحساب أو المورد أو الجهة المحددة التي أُرسلت إليها البيانات.
كذلك، ليس كل اتصال متكرر اتصالًا وافقتم عليه بالضرورة. فقد يعمل مكوّن بإعدادات غير مرغوبة طوال فترة المراقبة، ويبدو جزءًا من النشاط المعتاد.
ولبيانات الشبكة حدود أيضًا. فعنوان الوجهة ووقت الاتصال وعدد البايتات المرسلة لا تكشف محتوى طلب مشفّر. ولتحديد ما إذا كانت معلومات حساسة قد انكشفت، قد يلزم فحص سجلات التطبيق أو إعداداته أو مصادر معلومات إضافية.
من المهم أيضًا فهم ما أمكن رصده. إذا لم تكن المراقبة تعمل خلال جزء من الوقت، فلن تتوفر صورة عن تلك الفترة. وعندما تعتمد المراقبة على أخذ العينات، قد تفوتها اتصالات قصيرة. لذلك يجب أن تتناسب الاستنتاجات المستخلصة من التقرير مع نطاق تغطيته.
افحصوا وافهموا، ثم غيّروا
يمكن البدء بخدمة واحدة تتعامل مع معلومات حساسة. حددوا الخدمات الخارجية التي يُفترض أن تتصل بها، وافحصوا نشاطها خلال فترة تشمل العمل المعتاد والمهام المجدولة والصيانة.
افحصوا الوجهات التي لا تملكون تفسيرًا واضحًا لها. إذا كان اتصال غير مرغوب فيه ناتجًا عن خيار لا تحتاجون إليه، فابدؤوا بفحص إعدادات ذلك الخيار. وإذا لزم فرض قيد على الشبكة، فطبّقوه على الخدمة والوجهة المعنيتين تحديدًا، وافحصوا أثره المتوقع، وتأكدوا من إمكانية إلغائه بسهولة.
من المفيد تكرار الفحص بعد إضافة أدوات أو تغيير الاتصالات بالخدمات الخارجية. فقد تتغير احتياجات النظام من الشبكة حتى لو بقي النموذج المحلي كما هو تمامًا.
كيف يساعد nuDefend؟
يتيح nuDefend إجراء هذا الفحص على خادم Linux نفسه. فهو يتعرّف على أدوات الذكاء الاصطناعي المدعومة، ويعرض وجهات الاتصال المرصودة لها، وحجم حركة الشبكة المرسلة، ووقت رصد كل وجهة لأول مرة. وعندما يتم التعرّف على الوجهة، يعرض أيضًا معلومات تساعد على فهم وظيفتها.
على خادم مثبّت عليه nuDefend، يمكن البدء بالأوامر التالية:
sudo nudefend workloads
sudo nudefend egress
sudo nudefend egress review Ollama
الأمر الأخير مثال لفحص خدمة Ollama تم التعرّف عليها في النظام. تعرض هذه الأوامر النتائج ولا تغيّر سياسة الشبكة.
إذا قررتم تقييد وجهة محددة، يتيح nuDefend حظرها للخدمة المعنية، مع معاينة لأثر الحظر وإمكانية إلغائه. ويعمل هذا التحكم إلى جانب الحظر التلقائي للعناوين الخبيثة المعروفة.
تعتمد مراقبة الأدوات داخل الحاويات على أخذ العينات، ولذلك قد لا تُرصد الاتصالات القصيرة. وتُعرض الفجوات في فترة المراقبة بوضوح، ولا يُصنَّف حجم حركة الشبكة وحده على أنه تسرّب للمعلومات. تُحفظ تقارير النشاط وسجل حركة الشبكة على خادمكم. وتتوفر تفاصيل القدرات والتغطية في الوثائق.
تشغيل نظام ذكاء اصطناعي على خادم خاص بكم يمنحكم التحكم في البنية التحتية. وتساعد مراقبة الاتصالات الصادرة على ممارسة هذا التحكم واتخاذ قرارات مستندة إلى معلومات بشأن الوجهات التي يُسمح للنظام بنقل المعلومات إليها.