دراسة IBM: 75% من التنفيذيين في الإمارات رفعوا حوادث الذكاء الاصطناعي إلى القيادة العليا
أظهرت دراسة حديثة أجرتها شركة IBM (المدرجة في بورصة نيويورك تحت الرمز: IBM) أن الحوادث المرتبطة بالذكاء الاصطناعي لم تعد مجرد مسألة تقنية هامشية، بل أصبحت تصل فعليًا إلى طاولة مجالس إدارة المؤسسات في دولة الإمارات.
ويأتي هذا التطور في وقت تواجه فيه قدرات الحوكمة وإدارة المخاطر ضغوطًا متزايدة مع تسارع وتيرة تبني هذه التقنيات على نطاق واسع.
ووفقًا لنتائج الاستطلاع، أفاد 75% من التنفيذيين في الإمارات بأن بعض الحوادث المرتبطة باستخدام الذكاء الاصطناعي استدعت اهتمام مجلس الإدارة أو الإدارة التنفيذية العليا خلال الاثني عشر شهرًا الماضية.
وتتنوع هذه الحوادث لتشمل تحديات تشغيلية أو تقنية، مثل تعطل أحد الوكلاء، أو انكشاف البيانات، أو أخطاء في اتخاذ القرارات المدعومة بالذكاء الاصطناعي، أو حوادث أمنية ذات صلة.
ولم تقتصر التداعيات على المستوى الرقابي فحسب، إذ أشار 49% من المشاركين الذين أفادوا بتصعيد الحوادث إلى مستويات القيادة العليا إلى قيام مؤسساتهم بتعديل سياسات حوكمة الذكاء الاصطناعي أو أطرها، فيما غيّر 40% منهم خطط الاستثمار في الذكاء الاصطناعي أو خطط نشر تطبيقاته.
الفجوة بين سرعة النشر وجاهزية الحوكمة
يكشف الاستطلاع عن مفارقة واضحة: عندما تتجاوز وتيرة نشر الذكاء الاصطناعي مستوى جاهزية أطر الحوكمة والامتثال، يجد نحو 60% من المشاركين في الإمارات أنفسهم مضطرين لمواصلة النشر ضمن حدود المخاطر المتفق عليها، مع تكيّف أطر الحوكمة في الوقت نفسه.
في المقابل، يفضّل 30% تأجيل النشر إلى حين جاهزية هذه الأطر بشكل كامل.
وتشير الدراسة إلى أن التطور المتسارع في قدرات وكلاء الذكاء الاصطناعي وتوليهم مهامًا أكثر استقلالية يفتح آفاقًا جديدة لتعزيز الإنتاجية والابتكار، لكنه يضاعف في المقابل الحاجة إلى أطر حوكمة قادرة على مواكبة هذا التحول الجذري.
الذكاء الاصطناعي الوكيل: من التجربة إلى الإنتاج
أفاد 38% من المشاركين في الإمارات بأن الذكاء الاصطناعي الوكيل دخل بالفعل مرحلة الإنتاج في وظيفة واحدة أو أكثر، من بينهم 13% قاموا بدمجه في العمليات المؤسسية على نطاق واسع.
ويتوقع 78% أن يتمتع وكلاء الذكاء الاصطناعي بمستوى من الاستقلالية في اتخاذ القرارات بحلول عام 2027.
وفيما يتعلق بجاهزية الأطر، أكد 41% أن أطر الحوكمة لديهم مصممة للتوسع بالتوازي مع نشر الذكاء الاصطناعي الوكيل، بينما أشار 35% إلى أن الأطر الحالية قادرة على مواكبة هذا التوسع، لكنها ستحتاج إلى مزيد من التعزيز.
الحوكمة كمكوّن أساسي وليس خطوة لاحقة
وفي تعليقه على نتائج الدراسة، قال شكري عيد، نائب الرئيس والمدير العام لشركة IBM في منطقة الخليج وبلاد الشام وباكستان: “مع تنامي تطور وكلاء الذكاء الاصطناعي والاعتماد عليهم في القرارات والإجراءات، ينبغي أن تصبح الحوكمة جزءًا لا يتجزأ من آلية عمل الذكاء الاصطناعي، لا مجرد خطوة لاحقة.
وبالنسبة إلى المؤسسات في دولة الإمارات، يعني ذلك إرساء مساءلة واضحة، وتعزيز الرقابة، وتطوير ضوابط قادرة على التوسع بالتوازي مع تبني هذه التقنيات.
وسيكون ترسيخ الثقة في الذكاء الاصطناعي منذ البداية عاملًا أساسيًا لتحويل الابتكار إلى قيمة أعمال مستدامة على المدى الطويل، مع إدراك المخاطر المرتبطة به”.
المساءلة والمسؤولية القانونية في عصر الذكاء الاصطناعي
وعلى الرغم من أن مخاطر الذكاء الاصطناعي تخضع رسميًا للحوكمة على مستوى مجالس الإدارة في جميع المؤسسات الإماراتية التي شملها الاستطلاع تقريبًا، لم تكشف الدراسة عن توافق واضح بشأن الجهة المسؤولة عن النتائج السلبية الناجمة عن وكلاء الذكاء الاصطناعي المستقلين.
وجاء رئيس إدارة المخاطر أو رئيس إدارة الامتثال في مقدمة الجهات المسؤولة بنسبة 21%، تلتها المسؤولية المشتركة بين أعضاء محددين بالاسم من الإدارة التنفيذية العليا بنسبة 17%، ثم رئيس قسم المعلومات أو رئيس قسم التكنولوجيا بنسبة 15%.
غياب إطار موحّد للمسؤولية القانونية
تباينت آراء المشاركين بشأن المسؤولية القانونية عندما يتسبب نظام ذكاء اصطناعي في أضرار جسيمة.
إذ يرى 26% أن المسؤولية القانونية عن الذكاء الاصطناعي مسألة معقدة للغاية وترتبط بسياق كل حالة، بما يجعل من الصعب تقديم إجابة عامة بشأنها.
وأشار 19% إلى عدم وجود إطار تنظيمي كافٍ حتى الآن، فيما يرى 16% أن المسؤولية ينبغي أن تتوزع بصورة متناسبة بين المؤسسة التي تنشر الوكيل والمورّد التقني.
ولإدارة وكلاء الذكاء الاصطناعي الذين من المرجح أن يتخذوا قرارات بصورة متزايدة الاستقلالية في كل مرحلة بحلول عام 2027، يتوقع التنفيذيون في الإمارات الحاجة إلى أطر قانونية أو تعاقدية رسمية تحدد مسؤولية مورّدي الذكاء الاصطناعي (37%)، وهياكل حوكمة عابرة للولايات القضائية (36%)، إلى جانب القدرة على إيقاف أنشطة الوكلاء فورًا على مستوى المؤسسة بالكامل (36%).
أبرز النتائج الأخرى للدراسة
تفاوت في قياس المخاطر المالية
أجرى 39% من المشاركين تقييمًا رسميًا للمخاطر المالية الناجمة عن الثغرات في حوكمة الذكاء الاصطناعي، خضع لمراجعة مجلس الإدارة، فيما وضع 38% تقديرات مالية أولية لم تخضع لمراجعة منتظمة أو لم تشمل جميع المخاطر.
مخاطر الذكاء الاصطناعي لدى الأطراف الثالثة
يقر نحو نصف المشاركين في الإمارات (49%) بوجود ثغرات أو قيود في مدى تغطية أطر الحوكمة لديهم لأنظمة الذكاء الاصطناعي التي يستخدمها المورّدون والشركاء التقنيون والجهات المشاركة في سلاسل التوريد.
ولا يراقب مخاطر الذكاء الاصطناعي لدى الأطراف الثالثة بصورة مستمرة سوى 29%، فيما يشترط 16% الحصول على تأكيد مستقل أو شهادة اعتماد.
الاستراتيجية الوطنية للذكاء الاصطناعي تحفّز الاستثمار في الحوكمة والابتكار المسؤول
أشار 59% إلى متطلبات الاستراتيجية الوطنية للذكاء الاصطناعي باعتبارها أحد المحركات الرئيسية للاستثمار في حوكمة الذكاء الاصطناعي في دولة الإمارات، تلتها متطلبات الامتثال التنظيمي الدولي بنسبة 42%، ثم المتطلبات التنظيمية الخاصة بالقطاعات بنسبة 38%.
التعليقات