レジリエンスへの脅威：AIサプライヤーへの依存度の高まり

بعد أن أصبح 人工知能 جزءًا لا يتجزأ من العمليات العالمية للمؤسسات بسرعة، بات يمتلك القدرة على التأثير في كل شيء، بدءًا من تحليل البيانات وصولاً إلى اتخاذ القرارات وحتى الأمن.

لكن معظم النقاشات تركز على قدرات الذكاء الاصطناعي وقوته وإنتاجيته ودقته، وتتجاهل قضية رئيسية واحدة.

فبينما ينصب اهتمام الجميع على ما يحدث عند تطبيق الذكاء الاصطناعي، قليلون جدًا هم من يتساءلون عما سيحدث عندما يختفي الوصول إلى قدرات الذكاء الاصطناعي فجأة.

من الأمثلة البارزة على ذلك الجدل الذي دار حول استعادة شركة Anthropic للوصول إلى نماذجها من الذكاء الاصطناعي Fable وMythos، والذي تمحور بشكل أساسي حول الجداول الزمنية للامتثال وآليات التحكم في التصدير.

ومع ذلك، قليلون هم من تساءلوا لماذا اكتشفت العديد من المؤسسات أن قرارًا خارجيًا واحدًا، خارج عن سيطرتها، أزال قدرة حيوية لأعمالها بين عشية وضحاها. باختصار، انقطاعات الوصول إلى الذكاء الاصطناعي هي عرض لمشكلة أكبر بكثير تتعلق بمرونة العمليات، وتكشف عن فجوة حوكمة مغفلة حول التبعية.

مع دمج المؤسسات للذكاء الاصطناعي بشكل أعمق في عملياتها التجارية، تحتاج إلى تحويل تركيزها من استكشاف ما إذا كان الذكاء الاصطناعي آمنًا بما يكفي حاليًا إلى البدء في التساؤل عما إذا كانت مؤسساتها تستطيع الاستمرار في العمل إذا أو عندما تصبح خدمات الذكاء الاصطناعي هذه غير متاحة.

الأمان لا يساوي المرونة

تثير هذه المواضيع التي نادرًا ما تُناقش نقطة مهمة مفادها أن الأمان والمرونة ليسا مترادفين.

الأمان يمنع ويحمي الأنظمة من الاختراق. وهذا يمنع المهاجمين من الوصول، ويقلل عدد الثغرات الأمنية، ويدافع ضد الكيانات الضارة – وهي كلها عناصر حاسمة في عمليات الأمان. أما المرونة فهي القدرة على مواصلة العمليات التجارية عندما تصبح الأنظمة أو الخدمات أو البيانات غير متاحة، بغض النظر عن السبب.

نميل إلى ربط المرونة بمواقف مثل الهجمات السيبرانية أو فشل البنية التحتية لتكنولوجيا المعلومات. لقد غير الذكاء الاصطناعي مشهد التهديدات للمؤسسات، وكيفية عملها مع الذكاء الاصطناعي، وحماية نفسها منه. يجب على المؤسسات الآن أن تخطط بشكل متزايد لانقطاع الوصول إلى أدوات الذكاء الاصطناعي الحيوية والوظائف الأساسية الناجم عن القرارات الجيوسياسية، أو اللوائح التنظيمية، أو التغييرات التي يجريها مقدمو التكنولوجيا أنفسهم.

لا يجب أن يتم اختراق الخدمة لتصبح غير متاحة. فقرار سياسي في الجانب الآخر من العالم يمكن أن يكون له نفس التأثير التشغيلي تمامًا. وقد رأينا ذلك بوضوح مع Anthropic.

مع أخذ ذلك في الاعتبار، يجب بناء المرونة في كيفية عمل المؤسسة وأن تشمل أي بنية تحتية جديدة للذكاء الاصطناعي، لضمان استمرارية الأعمال حتى في ظل التدخلات السياسية.

الذكاء الاصطناعي يخلق نوعًا جديدًا من الاعتماد على الموردين

بينما تشتمل التبعية التقليدية للبرمجيات عادةً على مورد واحد أو عدد قليل من الموردين، غالبًا ما يعتمد الذكاء الاصطناعي للمؤسسات على نظام بيئي مترابط لا تملكه المؤسسات أو تتحكم فيه. كل طبقة إضافية في نظام الذكاء الاصطناعي البيئي تمثل تبعية، وبالتالي نقطة فشل محتملة.

يخلق هذا أربعة عوامل خطر يجب على القيادة أن تكون على دراية بها:

データ主権: قد تتم معالجة بيانات المؤسسة بموجب ولايات قضائية قانونية لا تتحكم فيها المؤسسة، مع رؤية محدودة لمن يمكنه الوصول إليها أو ما إذا كانت تغذي 将来のモデルを訓練する.

سيادة النموذج: غالبًا ما يكون للمؤسسات سيطرة قليلة أو معدومة على توفر النموذج، أو قدرات الميزات وتغييراتها، أو قرارات الوصول، مما يعرضها للخطر إذا قرر مزود فجأة تقييد الوصول أو سحب القدرات.

الاعتماد على البنية التحتية: يعتمد جزء كبير من نظام الذكاء الاصطناعي البيئي للمؤسسات اليوم على عدد قليل من مقدمي الخدمات السحابية الذين يعملون بموجب ولايات قضائية وطنية محددة.

مخاطر سلسلة توريد الذكاء الاصطناعي: يشير النظام المترابط من النماذج التأسيسية ومنصات الحوسبة السحابية وموردي البرمجيات إلى أن أي اضطراب في طبقة واحدة يمكن أن ينتشر بسرعة عبر مكدس التكنولوجيا الأوسع.

تعتمد هذه العوامل بشكل متزايد على الجغرافيا السياسية بدلاً من التكنولوجيا بحد ذاتها.

حوكمة الذكاء الاصطناعي: قضية على طاولة مجلس الإدارة

الحقيقة هي أن عقد المورد وحده لا يمكنه ضمان الوصول المتواصل إلى الأدوات والمنصات التي استثمرت فيها المؤسسة. لكن أطر الحوكمة لم تتطور حقًا لتأخذ هذه المشكلة في الحسبان. فقط الأطر الناشئة حديثًا مثل NIS2 و DORA تدرك أن المرونة يجب أن تتجاوز مجرد درء تهديدات الأمن السيبراني.

أفضل ممارسة للمؤسسات عند التعامل مع عقود الموردين وأطر الحوكمة الخاصة بها هي فهم مواضع الاعتماد على الموردين وتطوير خطط طوارئ تسمح لها بالعمل بسلاسة خلال فترات الاضطراب.

سواء كان الاعتماد ضمن منصة 人工知能، أو حل ITSM، أو نظام CRM، أو أي تقنية أخرى بالغة الأهمية للأعمال، يجب على المؤسسات تقييم كيفية استمرارها في العمل إذا تغير الوصول بين عشية وضحاها. يجب أن يخضع الذكاء الاصطناعي لنفس التدقيق الذي يخضع له أي مورد آخر حاسم من طرف ثالث.

ابدأ بتطبيق أطر المرونة قبل الاضطراب التالي

علاوة على ذلك، يجب على مجالس الإدارة توخي الحذر بشأن قبول ادعاءات قدرات الذكاء الاصطناعي على ظاهرها. ينبغي على المؤسسات طلب أدلة تثبت أن ادعاءات الموردين تحقق مخرجات قابلة للقياس.

بينما يمكن للذكاء الاصطناعي تحديد كم هائل من نقاط الضعف المحتملة بسرعة، فإن مجرد الاكتشاف لا يحسن المرونة. تظل الخبرة البشرية هنا ضرورية للتحقق من النتائج، وتحديد أولويات الإصلاحات بناءً على ترتيب تأثيرها التجاري الفوري، وضمان تركيز الموارد حيث يوجد الخطر الحقيقي.

الدرس الأكبر من اضطرابات الذكاء الاصطناعي الأخيرة هو مدى استخفاف العديد من المؤسسات باعتمادها على تقنيات لا تملك سيطرة مؤكدة عليها. ومع تجدد الحديث من المشرعين الأمريكيين حول “مفتاح إيقاف” محتمل للذكاء الاصطناعي، يجب أن يكون هذا في صدارة الأولويات.

يجب على قادة الأعمال أن يدركوا أنه مع كل الفرص التي يفتحها الذكاء الاصطناعي، فإن خطر الاعتماد على الموردين يتبعه عن كثب. لو كنت رئيسًا لقسم التكنولوجيا في مؤسسة كبرى اليوم، لضمنت أن تفهم الفرق في جميع أقسام التكنولوجيا والأمن من أين تنشأ قدرات الذكاء الاصطناعي الحيوية، والتبعيات الموجودة عبر سلسلة التوريد، وكيف يمكن للعمليات أن تظل مرنة إذا تغير الوصول بين عشية وضحاها.

في النهاية، سيتحدد مستقبل الاستخدام الناجح للذكاء الاصطناعي في المؤسسات من خلال دمج المؤسسات لاستراتيجيات الحوكمة والمرونة في خطط الأعمال، بحيث تستمر الأعمال بأمان كالمعتاد خلال الاضطرابات التجارية والسياسية والتشغيلية.

تصنيفاتنا لأفضل منصات النسخ الاحتياطي السحابي.