تحقيق استقصائي | الذكاء الاصطناعي. خطر وجودي لا يحتمل العبث والتنظير

بقلم: إسلام خيامي الهواري
باحث ومحلل في الأنظمة الذكية وخبير في الأمن السيبراني

ملف خاص: ماذا ينتظر البشرية مع اقتراب عام 2030؟ مقدمة التحقيق: حين تتحول التكنولوجيا من أداة إلى قوة يصعب احتواؤها لم يعد الذكاء الاصطناعي مجرد تقنية تساعد الإنسان على إنجاز مهامه بسرعة أكبر، أو نظام رقمي يجيب عن الأسئلة ويحلل البيانات؛ بل أصبح قوة متنامية التأثير في الاقتصاد والإعلام والأمن والتعليم والصحة، وبدأ يفرض أسئلة تتجاوز حدود التطور التقني إلى مستقبل الإنسان نفسه وبينما تتسابق الشركات والدول لتطوير أنظمة أكثر قدرة على التفكير والتحليل وتنفيذ المهام،

يبرز سؤال جوهري: ماذا يحدث عندما تصبح الأنظمة الذكية قادرة على اتخاذ قرارات مؤثرة، وتنفيذ عمليات معقدة، والتأثير في ملايين البشر، بينما تظل آليات الرقابة والمحاسبة أبطأ من وتيرة تطورها؟ إن الخطر لا يكمن بالضرورة في أن تستيقظ الآلات يوما لتعلن الحرب على الإنسان، كما تصور أفلام الخيال العلمي؛ بل قد يبدأ بصورة أكثر هدوءا وتعقيدا: قرار آلي خاطئ يتسبب في أضرار واسعة، أو حملة تضليل يصعب كشفها، أو هجوم سيبراني يستغل أدوات ذكية، أو منظومة اقتصادية تعتمد على الخوارزميات دون فهم كاف لحدودها، أو أنظمة متقدمة تتصرف على نحو لم يتوقعه مطوروها ومع اقتراب عام 2030، لم يعد السؤال هو ما إذا كان الذكاء الاصطناعي سيغير العالم؛ فالتغيير بدأ بالفعل السؤال الأكثر إلحاحا هو: هل ستنجح البشرية في وضع قواعد تحكم هذه القوة، أم ستجد نفسها تحاول معالجة الأضرار بعد وقوعها؟

أولا: سباق الذكاء الخارق. من يضغط على المكابح؟ تتنافس مؤسسات بحثية وشركات تكنولوجية كبرى على تطوير أنظمة أكثر قدرة على الاستدلال والبرمجة والتخطيط واستخدام الأدوات الرقمية ويمنح هذا السباق فرصا اقتصادية وعلمية هائلة، لكنه يثير في الوقت نفسه مخاوف بشأن السلامة، خصوصا عندما تطرح أنظمة جديدة في الأسواق قبل اختبار جميع سلوكياتها المحتملة في ظروف الاستخدام الواقعية وتزداد حساسية المسألة عندما تنتقل الأنظمة من مجرد إنتاج النصوص والصور إلى تنفيذ مهام متتابعة، والوصول إلى أدوات رقمية، وكتابة الشيفرات البرمجية، وتحليل الثغرات، أو اتخاذ إجراءات نيابة عن المستخدم فالخطأ في إجابة نصية قد يكون محدود الأثر، لكن الخطأ في نظام متصل بشبكة حيوية أو منصة مالية أو بنية تحتية حساسة قد تكون له نتائج مختلفة تماما

وهنا تظهر المعضلة: كيف يمكن الاستفادة من قدرات الذكاء الاصطناعي المتقدمة دون منحها صلاحيات تتجاوز قدرة البشر على المراجعة والتدخل؟ إن مصطلح «الذكاء الخارق» يشير إلى سيناريو افتراضي تتجاوز فيه قدرات نظام اصطناعي القدرات البشرية في مجالات واسعة ولا يوجد حتى الآن إجماع علمي على موعد ظهوره أو حتى على الصورة التي قد يتخذها لذلك، فإن التعامل الجاد مع هذا الاحتمال لا يتطلب إعلان حتميته، بل يتطلب دراسة المخاطر الممكنة، ووضع اختبارات وضمانات تتناسب مع مستوى القدرة والصلاحيات

ثانيا: هل يمكن أن يفقد الإنسان السيطرة على الآلة؟

من أكثر المخاوف تعقيدا مسألة التوافق بين أهداف الأنظمة المتقدمة والقيم والمصالح الإنسانية فقد ينجز النظام مهمة بكفاءة وفق الهدف الذي حدد له، لكنه قد ينتج نتيجة ضارة إذا كان الهدف ناقصا، أو كانت القيود غير كافية، أو لم تحسب الآثار الجانبية بدقة وتزداد أهمية هذا التحدي عندما يستطيع النظام التخطيط لخطوات متعددة، أو استخدام أدوات خارجية، أو العمل لفترات طويلة مع تدخل بشري محدود ولا يعني ذلك أن الأنظمة الحالية تمتلك إرادة مستقلة شبيهة بإرادة الإنسان، أو أنها ستخرج حتما عن السيطرة لكن التعقيد المتزايد يجعل من الضروري اختبار سلوكها في الظروف غير المتوقعة، وتحديد صلاحياتها، ومنعها من اتخاذ إجراءات عالية الخطورة دون موافقة بشرية مناسبة

ومن هنا تبرز أسئلة لا يجوز تأجيلها: ، من يتحمل المسؤولية إذا اتخذ نظام ذكي قرارا أدى إلى خسائر جسيمة؟ ، كيف نضمن إمكانية إيقاف الأنظمة التي تتصرف على نحو غير آمن؟ ، هل يستطيع المستخدمون معرفة متى يتعاملون مع نظام آلي، وما حدود موثوقيته؟ ، كيف يمكن التحقق بصورة مستقلة من ادعاءات الشركات بشأن سلامة منتجاتها؟ إن الإجابة عن هذه الأسئلة ليست شأنا تقنيا فقط، بل قضية قانونية وأخلاقية واقتصادية تمس المجتمع بأكمله

ثالثا: الأمن السيبراني.

عندما يصبح الهجوم أسرع من الدفاع يمثل الأمن السيبراني أحد المجالات التي قد تتغير قواعدها بصورة كبيرة بفعل الذكاء الاصطناعي فالأدوات الذكية يمكن أن تساعد فرق الدفاع على تحليل السجلات، واكتشاف الأنشطة غير المعتادة، وفرز التنبيهات، والاستجابة للحوادث بسرعة أكبر لكن القدرات نفسها قد يستغلها المهاجمون في تحسين رسائل التصيد الاحتيالي، وصناعة محتوى مقنع ينتحل شخصيات حقيقية، وأتمتة أجزاء من عمليات الاحتيال، وتحليل المعلومات المتاحة علنا لاستهداف الضحايا ويزداد الخطر عندما تجتمع هذه القدرات مع سرقة بيانات الدخول أو ضعف أنظمة التحقق أو سوء إدارة الصلاحيات ففي هذه الحالات، لا تكون المشكلة في الذكاء الاصطناعي وحده، بل في استخدامه ضمن بيئة تفتقر إلى الحماية الكافية كما تفرض الهجمات المدعومة بالأدوات الذكية تحديا على المؤسسات التي تعتمد على وسائل تقليدية للكشف عن التهديدات، إذ قد تصبح بعض الهجمات أكثر تخصيصا وأسرع تغيرا ومع ذلك، لا ينبغي تصوير كل هجوم إلكتروني على أنه نتاج ذكاء اصطناعي، ولا افتراض أن الآلات قادرة على اختراق أي نظام فنجاح الهجمات يظل مرتبطا بعوامل متعددة، منها الثغرات التقنية، وسلوك المستخدمين، وجودة الحماية، ومستوى صلاحيات المهاجم الاستنتاج الاستقصائي: الخطر الحقيقي لا يكمن في مجرد وجود أدوات ذكية، بل في اختلال ميزان القوة بين سرعة الهجوم، وقدرة المؤسسات على اكتشافه، ومدى استعدادها للتعامل معه

رابعا: التزييف العميق.

عندما تفقد الصورة والصوت قدرتهما على إثبات الحقيقة لم تعد الصورة أو التسجيل الصوتي دليلا كافيا وحده على أن شخصا ما قال كلاما أو نفذ فعلا معينا فقد أصبح من الممكن إنتاج مواد اصطناعية تحاكي الوجوه والأصوات بدرجات متفاوتة من الإقناع وتفتح هذه التقنية أبوابا للاستخدامات الإبداعية والتعليمية، لكنها قد تستغل أيضا في الابتزاز، والاحتيال المالي، والتشهير، وانتحال هوية المسؤولين، والتأثير في الرأي العام تخيل أن يتلقى موظف اتصالا يبدو مطابقا لصوت مديره، يطلب فيه تحويل أموال بصورة عاجلة أو أن ينتشر تسجيل مزيف لشخصية عامة في توقيت حساس، قبل أن تتمكن الجهات المعنية من التحقق منه في مثل هذه الحالات، قد ينتشر الضرر أسرع من التصحيح ولا يقتصر الخطر على تصديق المحتوى المزيف؛ فهناك خطر معاكس أيضا، يتمثل في إنكار التسجيلات الحقيقية بحجة أنها قد تكون مصطنعة وتتطلب مواجهة هذه المشكلة الجمع بين التحقق من مصادر المحتوى، والتحقق من الهوية عبر قنوات مستقلة، واستخدام وسائل توثيق رقمية مناسبة، وتدريب الموظفين والجمهور على عدم اتخاذ قرارات مالية أو شخصية حساسة اعتمادا على مقطع صوتي أو مرئي وحده

خامسا: الوظائف والاقتصاد.

من سيستفيد ومن سيدفع الثمن؟ قد يسهم الذكاء الاصطناعي في رفع الإنتاجية وخفض تكلفة بعض الخدمات وظهور مهن جديدة لكنه قد يؤدي أيضا إلى تقليص الحاجة إلى بعض المهام، وإعادة تشكيل وظائف قائمة، وفرض ضغوط على العاملين الذين لا تتاح لهم فرص التدريب وإعادة التأهيل ولا يتوقف التأثير عند الوظائف التي تتطلب مهارات بسيطة؛ إذ يمكن للأدوات التوليدية أن تؤثر في أجزاء من أعمال الكتابة والترجمة وخدمة العملاء والتحليل الإداري والبرمجة والتصميم، مع اختلاف حجم التأثير بحسب طبيعة المهنة والقطاع ومستوى الاعتماد على الأتمتة لكن اختفاء مهنة كاملة ليس النتيجة الوحيدة الممكنة ففي كثير من الحالات، قد تتغير المهام داخل الوظيفة نفسها، ويصبح العامل مسؤولا عن الإشراف على أنظمة ذكية والتحقق من نتائجها ومعالجة الحالات التي لا تستطيع التعامل معها

وتكمن المشكلة الاجتماعية في سرعة التحول وتوزيع مكاسبه فإذا ارتفعت الإنتاجية بينما تركزت الأرباح لدى عدد محدود من المؤسسات، ولم تتوافر برامج فعالة للتدريب والحماية الاجتماعية، فقد تتسع الفجوات الاقتصادية بين الفئات والمناطق أما إذا اقترن التطور باستثمارات في التعليم والتدريب وسياسات انتقال مهني عادلة، فقد تتحول بعض هذه التغيرات إلى فرص حقيقية وبالتالي، فإن السؤال ليس فقط: كم وظيفة يمكن أن يؤديها الذكاء الاصطناعي؟ بل أيضا: من سيملك أدواته، ومن سيحصل على عوائده، ومن سيتحمل تكلفة الانتقال إلى اقتصاد جديد؟

سادسا: الخصوصية والمراقبة.

من يملك بيانات الإنسان؟ تعتمد كثير من تطبيقات الذكاء الاصطناعي على البيانات في التدريب أو التشغيل أو التخصيص وقد تشمل البيانات معلومات شخصية أو سلوكية أو مهنية، ما يجعل طريقة جمعها واستخدامها والاحتفاظ بها قضية أساسية وتظهر المخاطر عندما تجمع معلومات أكثر مما يلزم، أو تستخدم خارج الغرض الذي جمعت من أجله، أو تتاح لأطراف غير مخولة، أو تدمج بيانات متفرقة لإنتاج استنتاجات حساسة عن الأفراد كما قد تؤدي أنظمة التعرف والتحليل إلى توسيع نطاق المراقبة إذا استخدمت دون ضوابط واضحة، أو إذا تعذر على الأشخاص معرفة كيفية اتخاذ القرارات التي تمسهم وتتطلب الحماية تحديد أغراض جمع البيانات، وتقليل ما يجمع منها، وتقييد الوصول إليها، وتوفير وسائل للمراجعة والاعتراض، وإجراء تقييمات منتظمة للمخاطر فالخصوصية ليست ترفا في عصر رقمي؛ إنها شرط أساسي للحفاظ على استقلال الإنسان وحقه في ألا يتحول كل سلوك يصدر عنه إلى مادة قابلة للتحليل والاستغلال

سابعا: التضليل والتحيز.

هل يمكن للخوارزمية أن تعيد إنتاج الظلم؟ لا تعمل الأنظمة الذكية في فراغ؛ فهي تبنى وتختبر وتستخدم ضمن بيئات بشرية، وقد تتأثر بياناتها أو نتائجها بالتحيزات الموجودة في المجتمع أو في مصادر البيانات وقد تظهر هذه المشكلة في أنظمة التوظيف، أو تقييم الطلبات، أو تقديم الخدمات، أو ترتيب المحتوى، عندما تنتج مخرجات تضر فئات معينة أو تعطي انطباعا زائفا بالموضوعية ويزداد الأمر تعقيدا عندما تقدم الأنظمة إجابات خاطئة بصياغة واثقة، أو تنشئ مراجع غير صحيحة، أو تختلق تفاصيل تبدو معقولة فالإقناع اللغوي لا يساوي الدقة، والنتيجة التي تبدو احترافية ليست بالضرورة صحيحة وتصبح المخاطر أكبر عندما تعتمد المؤسسات على هذه المخرجات دون مراجعة بشرية مستقلة، أو عندما لا يعرف المتضررون أساس القرار ولا يملكون وسيلة للاعتراض عليه لذلك، يجب أن تقترن الأنظمة المستخدمة في القرارات الحساسة باختبارات للعدالة والدقة، وتوثيق مناسب، ومراجعة بشرية ذات صلاحية حقيقية للتدخل، وآليات واضحة لتصحيح الأخطاء

ثامنا: ماذا قد يواجه العالم بحلول 2030؟

لا يمكن الجزم بأن عام 2030 سيشهد ظهور ذكاء خارق أو فقدانا شاملا للسيطرة على الآلات لكن من الممكن رسم سيناريوهات مختلفة استنادا إلى اتجاهات التطور الحالية، مع التأكيد أن هذه السيناريوهات ليست تنبؤات مؤكدة السيناريو الأول: تطور مضبوط تتقدم الأنظمة الذكية، وتواكبها اختبارات سلامة وقوانين واضحة وتدريب للعاملين، فتتحقق فوائد في الطب والتعليم والصناعة مع الحد من الأضرار السيناريو الثاني: سباق أسرع من الرقابة تتوسع التطبيقات التجارية والأمنية بسرعة أكبر من قدرة المؤسسات على اختبارها وتنظيمها، فتزداد حوادث الخصوصية والتضليل والأخطاء المؤثرة السيناريو الثالث: تصاعد التهديدات المركبة يجمع المهاجمون بين الذكاء الاصطناعي والثغرات التقنية والهندسة الاجتماعية، فتزداد صعوبة التحقق من الهوية والمعلومات، وتتطلب حماية المؤسسات استثمارات أكبر وتنسيقا أوسع السيناريو الرابع: مخاطر الأنظمة شديدة الاستقلالية إذا تطورت الأنظمة إلى قدرات متقدمة في التخطيط والتنفيذ واستخدام الأدوات مع رقابة غير كافية، فقد تظهر مشكلات أصعب في التنبؤ بالسلوك والتحكم في الصلاحيات ويظل حجم هذه المخاطر وتوقيتها موضع بحث ونقاش علمي وتشير هذه السيناريوهات إلى أن المستقبل ليس مسارا واحدا محتوما؛ بل يتأثر بالقرارات التي تتخذها الشركات والحكومات والباحثون والمجتمعات خلال السنوات المقبلة

تاسعا: من المسؤول عن منع الكارثة قبل وقوعها؟

لا يمكن تحميل جهة واحدة مسؤولية جميع مخاطر الذكاء الاصطناعي فالمسؤولية موزعة بين مطوري الأنظمة، والشركات التي تنشرها، والمؤسسات التي تستخدمها، والجهات التنظيمية، والباحثين المستقلين، والمجتمع المدني وتبدأ المسؤولية من إجراء اختبارات قبل الإطلاق، وتقييم المخاطر بحسب مستوى القدرة والصلاحيات، ومراقبة الأداء بعد النشر، وتوفير قنوات للإبلاغ عن الحوادث، وإجراء مراجعات مستقلة للأنظمة ذات التأثير الكبير كما ينبغي ألا تمنح الأنظمة صلاحيات واسعة في القطاعات الحساسة دون ضوابط متناسبة ويشمل ذلك الفصل بين الاختبار والتشغيل الفعلي، وتقييد الوصول إلى البيانات والأدوات، وتسجيل الإجراءات، وإتاحة الإيقاف والتدخل البشري عند الضرورة ولا يكفي أن تعلن المؤسسة أن نظامها «آمن»؛ بل ينبغي أن تقدم أدلة قابلة للفحص على اختباره، وحدود استخدامه، ومواطن قصوره، وطريقة التعامل مع الإخفاقات أما على المستوى الدولي، فإن الطبيعة العابرة للحدود للتكنولوجيا تجعل التعاون في معايير السلامة والإبلاغ عن الحوادث والحد من الاستخدامات الضارة عنصرا مهما في إدارة المخاطر

عاشرا: ما الذي يجب أن يتغير الآن؟

إذا كانت السنوات المقبلة ستشهد توسعا في استخدام الذكاء الاصطناعي، فإن الاستعداد لا ينبغي أن ينتظر ظهور أزمة كبرى وهناك خطوات عملية يمكن أن تقلل المخاطر:

1 اختبارات مستقلة للأنظمة المتقدمة: فحص قدراتها وحدودها وسلوكها في الظروف غير المتوقعة قبل نشرها على نطاق واسع

2 رقابة بشرية حقيقية: عدم الاكتفاء بوجود شخص شكليا في سلسلة القرار، بل منحه المعلومات والصلاحيات اللازمة للتدخل

3 تقييد الصلاحيات الحساسة: عدم ربط الأنظمة عالية المخاطر مباشرة بإجراءات مالية أو أمنية أو تشغيلية خطيرة دون ضوابط مناسبة

4 حماية البيانات: تقليل جمع المعلومات، وتشفيرها عند الحاجة، وتقييد الوصول إليها، وتحديد مدد الاحتفاظ بها 5 مواجهة التزييف العميق: تحسين التحقق من الهوية ومصدر المحتوى، ونشر الوعي بوسائل الاحتيال الحديثة 6 تأهيل القوى العاملة: توسيع التدريب وإعادة التأهيل، ومساعدة المتضررين من التحولات المهنية

7 الشفافية والمحاسبة: توضيح حدود الأنظمة وطرق الاعتراض على القرارات المؤثرة، وتحديد المسؤوليات القانونية

8 الإبلاغ عن الحوادث: إنشاء آليات عملية لتوثيق الإخفاقات ومشاركة الدروس المستفادة، مع حماية المعلومات الحساسة هذه الخطوات لا تعني إيقاف التطور، بل تعني ربطه بمستوى مناسب من المسؤولية، حتى لا تصبح سرعة الابتكار مبررا لتجاهل عواقبه الخاتمة: المستقبل ليس ملكا للخوارزميات إن الذكاء الاصطناعي ليس شرا مطلقا، كما أنه ليس ضمانا تلقائيا للتقدم إنه قوة تقنية تتوقف نتائجها على طريقة تصميمها واستخدامها، وعلى القواعد التي تحكمها، وعلى مدى استعداد البشر لتحمل مسؤولية القرارات التي يفوضونها إليها وقد تكون أخطر لحظة في هذا التحول ليست اللحظة التي تتجاوز فيها الآلة قدرة الإنسان في مهمة معينة، بل اللحظة التي يتخلى فيها الإنسان عن واجبه في الفهم والتحقق والمحاسبة، ويمنح الأنظمة صلاحيات لا يعرف حدودها ومع اقتراب عام 2030، ينبغي ألا يتحول الخوف من المستقبل إلى تهويل، ولا أن يتحول التفاؤل بالتكنولوجيا إلى غطاء لتجاهل المخاطر المطلوب هو نقاش علمي صريح، واختبارات جادة، وقوانين قابلة للتطبيق، واستعداد اجتماعي واقتصادي يسبق الأزمات بدلا من أن يلاحقها فالتحدي الحقيقي ليس في صنع آلة أكثر قدرة فحسب، بل في بناء منظومة تضمن أن تظل هذه القدرة في خدمة الإنسان، لا أن يتحول الإنسان إلى تابع لقراراتها إن الكلمة أصلها نبض، والنبض الحقيقي لا يمكن تسليمه للآلة لتتحكم بمستقبل البشر بالأرقام والوثائق:

ماذا تقول الدراسات الدولية؟

1 ربع العاملين عالميا معرضون لتأثير الذكاء الاصطناعي التوليدي خلصت دراسة مشتركة بين منظمة العمل الدولية والمعهد الوطني البولندي للأبحاث ، نشرت في 20 مايو 2025، إلى أن وظيفة واحدة من كل أربع وظائف على مستوى العالم تقع ضمن فئات التعرض بدرجات متفاوتة للذكاء الاصطناعي التوليدي

وأوضحت الدراسة أن التحول في طبيعة الوظائف يرجح أن يكون أكثر شيوعا من اختفاء الوظائف بالكامل وهذا يعني أن التحدي لا يقتصر على البطالة، بل يشمل إعادة توزيع المهام والمهارات والدخل

المصدر: منظمة العمل الدولية، دراسة Generative AI and Jobs: A Refined Global Index of Occupational

Exposure 2 إدارة المخاطر أصبحت مجالا مؤسسيا قائما وضع المعهد الوطني الأمريكي للمعايير والتكنولوجيا إطارا لإدارة مخاطر الذكاء الاصطناعي، يتناول موثوقية الأنظمة وسلامتها وأمنها وشفافيتها وحماية الخصوصية والحد من التحيز الضار ويؤكد هذا الإطار أهمية إدارة المخاطر عبر مراحل تصميم النظام وتطويره واستخدامه وتقييمه، بدلا من انتظار وقوع الضرر ثم محاولة احتوائه المصدر: NIST، Artificial Intelligence Risk

Management Framework 3 عام 2030 ليس موعدا مؤكدا لظهور الذكاء الخارق من المهم التمييز بين المخاطر الموجودة بالفعل، مثل الاحتيال الرقمي والتزييف العميق وأخطاء الأنظمة الآلية، وبين السيناريوهات المستقبلية المتعلقة بظهور أنظمة تتجاوز القدرات البشرية في مجالات واسعة أو يصعب التحكم في سلوكها لا ينبغي تقديم أي موعد محدد لظهور هذه القدرات باعتباره حقيقة علمية محسومة لكن عدم اليقين بشأن توقيتها لا يلغي الحاجة إلى اختبار الأنظمة المتقدمة، وتقييد صلاحياتها، ووضع خطط للاستجابة للإخفاقات الخلاصة التوثيقية: الأدلة المتاحة تدعم وجود مخاطر عملية تستوجب المعالجة الآن، بينما تظل بعض المخاطر الوجودية المستقبلية موضع بحث وتقييم وقوة التحقيق الصحفي تكمن في توضيح هذا الفرق، لا في الخلط بين الوقائع والاحتمالات المصادر التي يمكن الاستناد إليها في النسخة المنشورة منظمة العمل الدولية ، دراسة تأثير الذكاء الاصطناعي التوليدي على الوظائف، 2025 المعهد الوطني الأمريكي للمعايير والتكنولوجيا ، إطار إدارة مخاطر الذكاء الاصطناعي