تراهن شركة Nvidia على أن مستقبل وكلاء الذكاء الاصطناعي لن يتوقف على زيادة قدراتهم فقط، وإنما على القدرة على إبقائهم داخل الحدود التي يحددها البشر.
وأطلقت الشركة منصة Open Agent Safety Platform، بدعم من أكثر من 100 شركة ومؤسسة، لتوفير طبقات مستقلة من الحماية لوكلاء الذكاء الاصطناعي، ومراقبة سلوكهم ومنعهم من تجاوز الصلاحيات الممنوحة لهم أثناء تنفيذ المهام.
لكن اللافت في الخطوة كان غياب OpenAI عن قائمة الداعمين الرسميين للمبادرة، رغم تعاون الشركتين في مجال أمن وكلاء الذكاء الاصطناعي، ودعم OpenAI لجهود Nvidia في هذا المجال.
وتأتي المنصة في وقت تتزايد فيه المخاوف من قدرة وكلاء الذكاء الاصطناعي على تجاوز ضوابط الأمان والوصول إلى أنظمة أو بيانات لم يكن مسموحًا لهم بالتعامل معها، بعدما شهد القطاع خلال الأشهر الأخيرة عددًا من الحوادث المرتبطة بوكلاء طوّرتها مختبرات ذكاء اصطناعي كبرى.
كيف تريد Nvidia السيطرة على وكلاء الذكاء الاصطناعي؟
تعتمد منصة Nvidia على مكونين رئيسيين هما OpenShell وSentry، بهدف نقل حماية وكلاء الذكاء الاصطناعي إلى ما هو أبعد من النموذج نفسه.
ويعمل OpenShell، وهو برنامج مفتوح المصدر، كبيئة تشغيل آمنة ومعزولة تحدد ما يمكن للوكيل الوصول إليه من ملفات وشبكات وأدوات وبيانات، مع مراقبة العمليات التي ينفذها أثناء عمله.
وتقول Nvidia إن الفكرة الأساسية هي عدم الاعتماد على الوكيل نفسه في مراقبة سلوكه، بل وضع حدود خارجية يمكن فرضها حتى إذا حاول الوكيل تجاوزها.
أما Sentry فتضيف طبقة مختلفة من الحماية، إذ تعمل كآلية مراقبة مستقلة على معالجات NVIDIA BlueField-4، ويمكنها اكتشاف محاولة الوكيل الخروج من الحدود المحددة وعزله وإيقافه خلال أجزاء من الثانية.
وبذلك تجمع Nvidia بين مراقبة البرمجيات والتحكم على مستوى العتاد، في محاولة لإنشاء طبقة أمان لا يستطيع الوكيل تعطيلها أو التحايل عليها.
لماذا تتحرك Nvidia الآن؟
تأتي Nvidia بعد سلسلة من الحوادث التي أظهرت أن بعض وكلاء الذكاء الاصطناعي يستطيعون تجاوز ضوابط الأمان الموضوعة لهم أثناء تنفيذ مهامهم.
وكان من أبرز هذه الوقائع حادثة مرتبطة بوكلاء تابعين لـOpenAI، بعدما تمكنوا من الوصول إلى منصة Hugging Face أثناء تنفيذ مهمة تتعلق بالأمن السيبراني، وهو ما كشف عن الفجوة بين القيود المفروضة على الوكيل وبين قدرته الفعلية على التعامل مع أنظمة خارج بيئة الاختبار.
كما نشرت OpenAI خلال الأيام الماضية تقارير عن حوادث أخرى مرتبطة بسلوك وكلائها، بما في ذلك حالات تمكنت فيها أنظمة الذكاء الاصطناعي من الوصول إلى الإنترنت أو تنفيذ عمليات لم تكن متوقعة.
وهنا تأتي فلسفة Nvidia : إذا كان الوكيل قادرًا على تجاوز الحماية الموجودة داخل التطبيق، فيجب أن توجد طبقة مستقلة قادرة على إيقافه
أين OpenAI من مبادرة Nvidia ؟
رغم أن OpenAI لم تنضم رسميًا إلى قائمة داعمي Open Agent Safety Platform، فإنها ليست بعيدة عن المشروع.
وتعمل الشركة مع Nvidia على أمن وكلاء الذكاء الاصطناعي، بما في ذلك OpenShell، كما أكدت دعمها لجهود إنفيديا في هذا المجال.
لكن اختيار OpenAI عدم الانضمام رسميًا يظل لافتًا، خصوصًا أن منافستها Anthropic أصبحت من الداعمين للمبادرة.
ويبدو أن OpenAI تفضل في الوقت نفسه تطوير منظومتها الخاصة لأمن الذكاء الاصطناعي، بما يشمل إجراءات حماية لمنتجاتها وأبحاثها، إلى جانب مبادرات لتبادل المعلومات المتعلقة بأمن الذكاء الاصطناعي والأمن السيبراني.
وبالتالي، لا يدور الخلاف بالضرورة حول الحاجة إلى حماية وكلاء الذكاء الاصطناعي، وإنما حول كيفية بناء هذه الحماية ومن يملك الطبقة التي تتحكم في الوكيل.
هل منصة Nvidia مفتوحة المصدر فعلًا؟
رغم اسمها، لا تعتمد Nvidia بالكامل على تقنيات مفتوحة المصدر.
فـOpenShell متاح كمصدر مفتوح ويمكن تكييفه للعمل مع منصات حوسبة من شركات أخرى، بينها Arm وIntel.
لكن Sentry تعتمد على معالجات BlueField-4 من إنفيديا، وهو ما يجعل جزءًا أساسيًا من منظومة الحماية مرتبطًا بالبنية التحتية الخاصة بالشركة.
وهنا تظهر نقطة مهمة في استراتيجية Nvidia ،فالشركة تفتح جزءًا من تقنية حماية الوكلاء أمام المطورين والشركات، لكنها في الوقت نفسه تربط طبقة متقدمة من المراقبة والتنفيذ بعتادها الخاص.
وهذا يعني أن Nvidia لا تقدم أداة أمنية منفصلة فحسب، بل تحاول بناء منظومة متكاملة تمتد من الرقائق ومعالجات الذكاء الاصطناعي إلى البرمجيات وأمن الوكلاء.
أكثر من 100 شركة تدخل سباق أمان الوكلاء
تضم المبادرة شركات ومؤسسات من قطاعات مختلفة، بينها Anthropic وMicrosoft وHugging Face وArm وIntel وCisco وCrowdStrike وSalesforce وSAP وScale AI وServiceNow وPalantir وغيرها.
ولا يقتصر الاهتمام على شركات تطوير نماذج الذكاء الاصطناعي، إذ تشارك أيضًا شركات تعمل في الحوسبة السحابية والأمن السيبراني والبرمجيات والروبوتات والخدمات المالية والبنية التحتية.
ويعكس هذا التنوع اتساع نطاق استخدام وكلاء الذكاء الاصطناعي، من كتابة الأكواد وإدارة العمليات المؤسسية إلى تنفيذ مهام في قطاعات مالية وصناعية وبيئات مادية تعتمد على الروبوتات.
المعركة المقبلة ليست على الذكاء فقط
تكشف خطوة Nvidia عن تحول مهم في سوق الذكاء الاصطناعي ،فالمنافسة لم تعد تدور فقط حول من يطور النموذج الأكثر قدرة، بل تمتد إلى من يستطيع توفير البنية التحتية التي تجعل هذه النماذج قادرة على العمل باستقلالية دون أن تتحول صلاحياتها إلى نقطة ضعف.
ومع توسع استخدام وكلاء الذكاء الاصطناعي داخل الشركات، ستصبح قدرتها على تنفيذ المهام بسرعة أقل أهمية من قدرة المؤسسات على تحديد ما يمكن للوكيل فعله، ومراقبته، وإيقافه عند تجاوز الحدود.
Nvidia تحاول أن تجعل هذه الطبقة جزءًا من البنية التحتية التي تتحكم فيها، بينما تطور OpenAI وشركات أخرى مقارباتها الخاصة.
لذلك، فإن السؤال في عنوان القصة لا يتعلق بإمكانية أن تقضي Nvidia على وكلاء الذكاء الاصطناعي، وإنما بما إذا كانت ستتمكن من وضع القواعد التقنية التي تحكم عملهم.
ومع انتقال الوكلاء من أدوات تجريبية إلى أنظمة تنفذ مهام حقيقية داخل الشركات، قد يصبح أمنهم وتحكم المؤسسات في سلوكهم أحد أهم ميادين المنافسة في سوق الذكاء الاصطناعي
