دراسة SAS وIDC: غياب الشفافية يدفع 97% من الموظفين لتجاوز قرارات الذكاء الإصطناعي 

كتب حاتم عبد الرحيم 

كشف تقرير جديد صادر عن شركة SAS، استند إلى رؤى بحثية لمؤسسة IDC، أن اعتماد معايير موثوقة للذكاء الاصطناعي يمثل أحد أهم العوامل التي تمكّن المؤسسات من جني عوائد مجزية من استثماراتها في هذا المجال. وقد اعتمد التقرير على استطلاع عالمي شمل 2699 من صناع القرار في قطاعي الأعمال والتكنولوجيا بـ28 دولة، أظهرت نتائجه أن المؤسسات التي تعتمد ممارسات موثوقة في الذكاء الاصطناعي ترتفع لديها احتمالية الإبلاغ عن تحقيق عائد استثماري قوي من مشروعاتها في هذا المجال بمعدل يصل إلى 15 ضعفًا مقارنة بغيرها.

وأشار التقرير السنوي الثاني حول تأثير البيانات والذكاء الاصطناعي: اقتصاد الثقة الجديد إلى أن المؤسسات التي تعتمد أفضل ممارسات الحوكمة، وتتمتع بمستويات عالية من جودة البيانات وقابلية التدقيق، ما زالت تتفوق باستمرار على نظيراتها، وإن كانت تشكّل شريحة محدودة نسبيًا من السوق. وقد حققت هذه المؤسسات عائدًا على الاستثمار من تطبيقات الذكاء الاصطناعي يعادل ضعف ما حققته المؤسسات الأخرى على الأقل، في المقابل، لم تتجاوز نسبة المؤسسات المتأخرة في تبنّي ممارسات موثوقة للذكاء الاصطناعي التي أفادت بتحقيق نتائج مماثلة أقل من مؤسسة واحدة من كل 20 مؤسسة.

تكتسب هذه النتائج أهمية خاصة بالنسبة لمصر، التي تصدرت الدول الأفريقية وجاءت في المرتبة 51 عالميًا من بين 195 دولة في مؤشر جاهزية الحكومات للذكاء الاصطناعي لعام 2025 الصادر عن مؤسسة “أكسفورد إنسايتس”، محققة 

تقدمًا لافتًا بواقع 14 مركزًا خلال عام واحد. ويعكس هذا التقدم الزخم المتنامي الذي تحظى به الاستراتيجية الوطنية المصرية للذكاء الاصطناعي 2025-2030، التي تستهدف رفع مساهمة الذكاء الاصطناعي إلى 7.7% من الناتج المحلي الإجمالي، وتأهيل 30 ألف متخصص في هذا المجال بحلول عام 2030. ومع توسّع مصر في طموحاتها المتعلقة بالذكاء الاصطناعي على المستويين الحكومي والصناعي، تسلّط نتائج تقرير SAS الضوء على العوامل التي ستحدد مدى قدرة هذا النمو على التحول إلى عوائد ملموسة على أرض الواقع؛ وفي مقدمتها تسريع وتيرة نشر تطبيقات الذكاء الاصطناعي، وتوظيفها بطرق تحظى بثقة الموظفين والجهات التنظيمية، ويمكن تفسير آلياتها وشرحها بوضوح وشفافية.

قال براين هاريس، المدير التنفيذي للتكنولوجيا في شركة SAS: “إن تطبيق الذكاء الاصطناعي بالشكل الصحيح، يجعل تأثيره هائلًا. لكن أحدث الأنظمة الذكية قد تسجل معدلات خطأ تتجاوز 25% عند التعامل مع المهام المعقدة ، وهو مستوى لا يمكن قبوله في عمليات صنع القرار الحاسمة. ولضمان الدقة والاتساق، يتعين على المؤسسات دمج الخبرات المتخصصة ضمن سير عمل الأنظمة الذكية، مع الإبقاء على الدور المحوري للعنصر البشري في الحوكمة والإشراف. وستتمكن المؤسسات التي تنجح في تحقيق هذا التوازن من تضييق فجوة الثقة واكتساب ميزة تنافسية في سوق الذكاء الاصطناعي.”

وصرح كريس مارشال، نائب رئيس شركة IDC: “مع تزايد استقلالية أنظمة الذكاء الاصطناعي، تجد المؤسسات نفسها أمام تحدٍ جديد يتمثل في الحفاظ على الثقة في أنظمة لا يفهم الموظفون آليات عملها بشكل كامل. وتُظهر نتائجنا أن تعزيز الرقابة، ووضوح التفسيرات، وترسيخ المساءلة، إلى جانب بناء أسس متينة للبيانات، لم تعد مجرد خيارات إضافية، بل باتت متطلبات أساسية لا غنى عنها لتوسيع نطاق استخدام الذكاء الاصطناعي بنجاح.”

تغطي نتائج التقرير ثلاثة محاور رئيسية هي:

يشكّل الذكاء الاصطناعي الذي يعجز عن تفسير مخرجاته عبئًا كبيرًا على المؤسسات والأعمال

وجد الباحثون أن موظفي العديد من المؤسسات يترددون بشكل متزايد في الاعتماد على أنظمة قد تقدم مخرجات غير دقيقة، أو تعجز عن توضيح الأسس التي استند إليها الذكاء الاصطناعي في اتخاذ قراره النهائي. ومع تزايد استقلالية هذه الأنظمة، تتفاقم هذه المشكلة، ما يجعل وضوح التفسير عنصرًا حاسمًا لنجاح تطبيقات الذكاء الاصطناعي.

كما تناول التقرير أيضا إحدى العقبات الرئيسية تحول دون نجاح تبنّي الذكاء الاصطناعي، تتمثل في لجوء الموظفين إلى تجاوز قرارات هذه الأنظمة وإجراء تعديلات يدوية بسبب عدم ثقتهم في مخرجاتها. وهو ما يعمق فجوة الثقة في الذكاء الاصطناعي، ويكلّف المؤسسات أيضًا وقتًا وإنتاجية وأرباحًا. وبما أن جودة القرارات التي يتخذها الذكاء الاصطناعي تعتمد على جودة البيانات التي يستند إليها، فإن بناء أساس متين وموثوق للبيانات يُعد عاملًا محوريًا للمؤسسات الساعية إلى الحد من معدلات تجاوز الموظفين لقرارات هذه الأنظمة.

أبرز النتائج

• يتجاوز 97.2% من المستخدمين توصيات الذكاء الاصطناعي في بعض الحالات على الأقل.

• يُعد عجز النظام عن تفسير قراراته السبب الرئيسي الذي يدفع الموظفين إلى تجاوز مخرجات الذكاء الاصطناعي، بصرف النظر عن مدى صحتها.

• تنخفض نسبة الثقة في الذكاء الاصطناعي من 76% للذكاء الاصطناعي التوليدي إلى 66% للذكاء الاصطناعي الوكيل، ما يعكس تصاعد المخاوف مع تزايد استقلالية هذه الأنظمة.

ممارسات الذكاء الاصطناعي الموثوقة تقود نجاح الأعمال

يكشف التقرير عن اتساع فجوة العائد على الاستثمار بين المؤسسات التي تضع ممارسات الذكاء الاصطناعي الموثوقة في صدارة أولوياتها، وتلك التي لا تفعل ذلك. وتشير النتائج إلى أن المؤسسات التي تحقق أكبر قيمة من الذكاء الاصطناعي لا تعتمد بالضرورة على تقنيات مختلفة عن غيرها، بل تتميز بقدرتها على إدارة هذه التقنيات بأسلوب مختلف.

النتائج الرئيسية

• تزيد احتمالية أن تحقق المؤسسات التي تستثمر في ممارسات الذكاء الاصطناعي الموثوقة عائدًا قويًا أو مرتفعًا على استثماراتها في هذا المجال بنحو 15 مرة، مقارنةً بالمؤسسات الأخرى (62% مقابل 4%).

• تحقق المؤسسات التي تطبق أقوى ممارسات الذكاء الاصطناعي الموثوقة مكاسب أكبر بنحو 1.85 مرة عبر 13 نتيجة أعمال مختلفة، من بينها نمو الإيرادات، وخفض التكاليف، وتحسين تجربة العملاء.

• يعتزم 85% من المؤسسات الرائدة في مجال الذكاء الاصطناعي، التي تتبنى ممارسات موثوقة، زيادة استثماراتها في هذا المجال بأكثر من 10% خلال العام الجاري، مما يسهم في اتساع فجوة الأداء.

تُهدر العديد من المؤسسات الوقت والمال بسبب ضعف البنية التحتية للبيانات

تعتمد معظم المؤسسات في تطبيق الذكاء الاصطناعي على بيانات وبنية تحتية قديمة أو غير متطورة إلى حد كبير. وفي ظل غياب بنية تحتية قوية للبيانات تدعم الشفافية وقابلية التفسير، تجد هذه المؤسسات صعوبة في إدارة الذكاء الاصطناعي بفعالية وتحقيق القيمة المرجوة منه.

النتائج الرئيسية:

• تمتلك 17.5% فقط من المؤسسات بنية تحتية للبيانات مُحسّنة بالكامل وجاهزة بما يكفي لتلبية متطلبات الذكاء الاصطناعي الوكيل، مما يؤثر سلبًا على الأداء. 

• المؤسسات التي تمتلك بنية تحتية مُحسّنة للبيانات أكثر ترجيحًا بأربع مرات لتحقيق عائد استثمار قوي متوقع من مشروعات الذكاء الاصطناعي، وأكثر ترجيحًا بست مرات لفرض ضوابط جودة البيانات وقابلية التفسير اللازمة لبناء الثقة.

تعمّق في التفاصيل

تستند نتائج التقرير إلى استطلاع عالمي شمل 2,699 من صناع القرار المطّلعين على مبادرات البيانات والذكاء الاصطناعي في شركاتهم، أو المؤثرين فيها بشكل مباشر. وأُجري الاستطلاع في 28 دولة، وشمل أربعة قطاعات رئيسية هي: الخدمات المصرفية، والتأمين، وعلوم الحياة، والقطاع العام. كما يسلّط التقرير الضوء على حالات استخدام فعلية ضمن هذه القطاعات، والنتائج التي توضح كيفية تعامل القادة فيها -على مستوى العالم- مع تقنيات الذكاء الاصطناعي.

أبرز النتائج:

• يتجاوز قادة القطاع المصرفي الامتثال التنظيمي، إذ باتوا ينظرون إلى الحوكمة القوية للذكاء الاصطناعي باعتبارها ميزة تنافسية وضرورة تشغيلية في آن واحد؛ فقد وضعت 85% من البنوك الرائدة في مجال الذكاء الاصطناعي أطر عمل واضحة للحوكمة، مقارنة بـ29% فقط من البنوك المتأخرة في هذا المجال.

• يعتزم 41% من قادة القطاع العام زيادة استثماراتهم في الذكاء الاصطناعي الموثوق بنسبة تتجاوز 20% خلال العام المقبل، وهي وتيرة نمو تتجاوز ما تتبناه أكثر المؤسسات طموحًا في مختلف القطاعات.

• نجحت 23% من المؤسسات العاملة في مجال علوم الحياة في توسيع نطاق استخدام الذكاء الاصطناعي ليشمل الشركة بأكملها، وهي أعلى نسبة مقارنة بأي قطاع آخر.