عندما يستطيع وكلاء الذكاء الاصطناعي التنفيذ، يجب أن تحكم الضوابط الأمنية إجراءاتهم

يطرح وكلاء الذكاء الاصطناعي سؤالًا أمنيًا عمليًا في العمليات اليومية: ما الذي ينبغي السماح للوكيل بفعله نيابةً عن شخص ما؟

قد يتطلب التحقيق في مشكلة قراءة السجلات وفحص النظام. وقد تتطلب معالجتها تغيير الإعدادات، أو إعادة تشغيل خدمة، أو تعديل صلاحيات الوصول. ولكل خطوة مستوى مختلف من المخاطر.

تعتمد الاستقلالية المفيدة على حدود واضحة

نرى أن الاستقلالية المفيدة تعتمد على حدود واضحة:

• امنحوا كل وكيل صلاحيات وصول تناسب مهمته.
• حدّدوا الإجراءات التي يمكن تنفيذها تلقائيًا.
• اشترطوا الموافقة عندما تكون للإجراء تبعات أكبر.
• احتفظوا بأدلة على الطلب والتفويض والإجراء والنتيجة.
• تحقّقوا من تحقيق النتيجة المقصودة.

أمن الوكلاء والعمل الذي ينفّذونه

ينطبق ذلك على الوكلاء الذين ينفّذون مهام الأمن السيبراني، وعلى حماية الوكلاء أنفسهم أيضًا. تحتاج فرق الأمن السيبراني إلى فهم ما يستطيع الوكلاء الوصول إليه، وإلى الاحتفاظ بالتحكم فيما يمكنهم تغييره.

مع توسّع المؤسسات في استخدام الوكلاء، ينبغي أن تصبح هذه الضوابط جزءًا من طريقة إنجاز العمل.