Brex تحدد سياسة وكلاء الذكاء الاصطناعي بالمراقبة: مقاربة تجريبية

مقدمة تحليلية

أعلنت شركة Brex، المتخصصة في حلول التكنولوجيا المالية، عن اعتماد منهجية جديدة لبناء سياسات وكلاء الذكاء الاصطناعي (AI agents) لديها. ترتكز هذه المقاربة على مراقبة السلوك الفعلي للوكلاء أولاً، بدلاً من وضع مجموعة من القواعد المنظمة مسبقاً. لم تقدم الشركة تفاصيل محددة حول أنواع الوكلاء المعنيين، حجم البيانات المستخدمة للمراقبة، أو الأطر الزمنية للتطبيق. ينصب التركيز المعلن على استخلاص السياسات من البيانات السلوكية الفعلية، وهي خطوة تتجاهل النماذج التقليدية التي تبدأ بالتعريفات الإرشادية الصارمة. هذه المقاربة تضع تحديات جديدة في حوكمة الذكاء الاصطناعي، خاصة فيما يتعلق بالشفافية، المساءلة، والقدرة على التنبؤ بسلوك الأنظمة في ظل غياب قواعد تأسيسية واضحة.

التحليل التقني

المنهجية التي تصفها Brex، بتركيزها على 'مراقبة ما يفعله الوكلاء بالفعل' قبل صياغة السياسات، تمثل تحولاً عن الهندسة المعيارية في تصميم أنظمة الذكاء الاصطناعي. تقليدياً، تُبنى السياسات الأمنية والتشغيلية لوكلاء الذكاء الاصطناعي على مجموعات قواعد معرفة مسبقاً، تستند إلى متطلبات العمل، اللوائح القانونية، وممارسات الأمان المثلى. يتطلب هذا النهج تحديداً دقيقاً للمدخلات والمخرجات المتوقعة، والسلوكيات المسموح بها والمحظورة. في المقابل، تشير مقاربة Brex إلى عملية استدلالية، حيث يتم تجميع بيانات الأداء والسلوك للوكلاء العاملين، ثم تحليل هذه البيانات لتحديد الأنماط، نقاط الضعف المحتملة، أو السلوكيات غير المرغوب فيها، ومن ثم بناء سياسات للتحكم فيها.

هذه المقاربة قد تقلل من الجمود الأولي في تطوير السياسات، وتسمح بتكييف أسرع مع السلوكيات غير المتوقعة أو الناشئة للوكلاء، خاصةً في بيئات الأنظمة المعقدة التي تتفاعل فيها نماذج اللغات الكبيرة (LLMs) أو الوكلاء المستقلون (autonomous agents). ومع ذلك، فإن الغياب المعلن للقواعد التأسيسية المسبقة يعني أن السياسات قد تكون رد فعل وليست استباقية. لا تتوفر أي معلومات حول الآليات الفنية المحددة التي تستخدمها Brex لمراقبة الوكلاء، مثل نوع بيانات التتبع، أدوات التحليل، أو كيفية تفعيل السياسات المستخلصة. كما لم يتم الكشف عن تفاصيل حول معايير الأمان المطبقة، أو كيفية ضمان الامتثال للوائح دون إطار عمل قَبلي واضح. يُخشى من أن هذا المسار قد يؤدي إلى سياسات متأخرة عن التهديدات أو الثغرات الأمنية (CVEs) التي قد تظهر قبل رصدها، مما يعرض الأنظمة لمخاطر غير محسوبة.

السياق وتأثير السوق

تتزايد الحاجة إلى آليات حوكمة فعالة لوكلاء الذكاء الاصطناعي مع تزايد انتشارهم في القطاعات الحساسة كالتكنولوجيا المالية. يواجه السوق تحدياً مزمناً في الموازنة بين المرونة التشغيلية وضمان الامتثال والأمان. المقاربات التقليدية، التي تعتمد على تصميم 'أخلاقيات الذكاء الاصطناعي بالتعريف' أو 'الأمان بالصميم'، غالباً ما تتضمن أطراً متعددة الطبقات من القواعد والضوابط المسبقة. شركات مثل Google و Microsoft، عند تطوير وكلاء الذكاء الاصطناعي، تنشر وثائق تحدد مبادئها التوجيهية، مع التركيز على السلامة والعدالة والمساءلة قبل النشر الواسع.

في هذا السياق، تُمثل منهجية Brex انحرافاً ملحوظاً. بينما قد توفر سرعة في التكيف مع سلوكيات الوكلاء غير المتوقعة، فإنها تخاطر بوضع الشركة في موقف رد الفعل بدلاً من الاستباقية في معالجة المخاطر. لا تتوفر حالياً بيانات مقارنة حول أداء سياسات وكلاء الذكاء الاصطناعي المستخلصة بالمراقبة مقابل تلك المصممة مسبقاً، مما يجعل تقييم تأثير السوق لهذه المقاربة صعباً. المنافسون في قطاع التكنولوجيا المالية لم يعلنوا عن اعتماد منهجيات مماثلة بشكل صريح، مفضلين غالباً النهج الذي يضع الأمان والامتثال كمتطلبات أساسية تُصاغ منها القواعد قبل إطلاق الوكلاء للعمل بكامل طاقتهم. هذا يضع Brex في موقع فريد، لكنه غير مُختبر بالكامل من حيث المعيارية الصناعية.

رؤية Glitch4Techs

قرار Brex ببناء سياسة وكلاء الذكاء الاصطناعي عبر المراقبة الفعلية، وليس من خلال قواعد مسبقة، هو تكتيك محفوف بالمخاطر ولا يمكن الدفاع عنه تقنياً كنموذج أولي. هذا النهج، وإن بدا مرناً في التكيف مع سلوكيات الأنظمة الناشئة، يقوض الركيزة الأساسية لأمن الأنظمة الذكية: الشفافية والقدرة على التنبؤ. إن غياب إطار عمل قَبلي يحدد السلوكيات المقبولة والمحظورة مسبقاً، يعني أن السياسات الفعلية لن تتشكل إلا بعد وقوع سلوكيات قد تكون ضارة أو غير متوافقة. هذا التأخير الجوهري في تحديد الضوابط يجعل النظام عرضة للاستغلال ويقلل من القدرة على إجراء تدقيقات استباقية للمخاطر. التركيز على الاستجابة بعد المشاهدة بدلاً من التصميم بناءً على قواعد واضحة يضع Brex في موقف ضعف أمني، حيث تظل ثغرات الوكلاء المحتملة غير معنونة حتى تظهر في بيئة الإنتاج الفعلية، مما يزيد من تكلفة التعديل ويُعرّض البيانات للمخاطر.