• توطئة:

لم يعد تطوير الذكاء الاصطناعي يتمثل في تدريب نماذج أكثر سرعة أو أكبر حجما أو أعلى دقة، لأن هذا السباق التقني تجاوز بالفعل مرحلة إثبات الإمكانات. أما التحدي الحقيقي الذي يواجه المختبرات العالمية اليوم فيكمن في سؤال أكثر تعقيدا: كيف يمكن منح الأنظمة الذكية قدرا متزايدا من الاستقلالية دون أن تتحول إلى مصدر للمخاطر أو تنفصل عن الأهداف التي صُممت من أجلها؟

ومن هنا برزت ثلاثة مفاهيم لم تعد مجرد موضوعات بحثية متخصصة، بل أصبحت الإطار المرجعي الذي تُبنى عليه الأجيال الجديدة من الأنظمة الذكية، وهي: الذكاء الاصطناعي الوكيلي (Agentic AI)، ومحاذاة الذكاء الاصطناعي (AI Alignment)، وأمان الذكاء الاصطناعي (AI Safety). وتتناول هذه الدراسة هذه الركائز بوصفها منظومة واحدة، تكشف كيف انتقل الذكاء الاصطناعي من هندسة الخوارزميات إلى هندسة السلوك، ومن تعظيم القدرات إلى تنظيم السلطة الرقمية، ومن إنتاج الإجابات إلى إدارة القرار داخل بيئات تشغيلية معقدة ومتغيرة.

• كيف أصبحت الوكالة (Agentic AI)، والمحاذاة (AI Alignment)، والأمان (AI Safety) الركائز الثلاث للأنظمة الذكية المستقلة؟

شهد الذكاء الاصطناعي خلال العقدين الأخيرين تحولا نوعيا لم يقتصر على زيادة حجم النماذج أو تحسين قدرتها على الفهم والتوليد، بل امتد إلى إعادة صياغة الأسئلة الجوهرية التي تحكم هذا المجال. فبينما انشغلت الأجيال السابقة من الأبحاث بقضايا الدقة الحسابية، وسرعة التعلم، وكفاءة الخوارزميات، أصبحت الأدبيات المعاصرة تركز على إشكالية أكثر عمقا تتمثل في كيفية بناء أنظمة لا تكتفي بالذكاء، وإنما تمتلك القدرة على العمل بصورة مستقلة، مع بقائها منضبطة بأهداف الإنسان وقيمه وحدود السلامة المقبولة.

ويلاحظ أن معظم المبادرات البحثية الكبرى الصادرة عن المؤسسات الرائدة، مثل OpenAI وAnthropic وGoogle DeepMind، وكذلك الأطر التنظيمية الحديثة الصادرة عن الاتحاد الأوروبي والمعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST)، لم تعد تتعامل مع هذه الإشكالية بوصفها قضية واحدة، وإنما بوصفها منظومة مترابطة تقوم على ثلاثة أعمدة أساسية: الذكاء الاصطناعي الوكيلي (Agentic AI)، ومحاذاة الذكاء الاصطناعي (AI Alignment)، وأمان الذكاء الاصطناعي (AI Safety).

وليس من قبيل المصادفة أن تتكرر هذه المفاهيم في الأدبيات الحديثة بصورة متلازمة؛ إذ إن كل واحد منها يعالج جانبا مختلفا من المشكلة نفسها. فالذكاء الاصطناعي الوكيلي يجيب عن سؤال ما الذي يستطيع النظام القيام به؟، بينما تعالج المحاذاة سؤال ما الذي ينبغي أن يقوم به؟، أما أمان الذكاء الاصطناعي فينصرف إلى سؤال كيف نضمن ألا يؤدي سلوكه إلى نتائج ضارة، حتى عندما يخطئ أو يعمل في ظروف غير متوقعة؟.

ومن ثم فإن هذه المفاهيم الثلاثة لا تمثل حقولا مستقلة، بل تشكل ما يمكن تسميته المثلث البنيوي للذكاء الاصطناعي المتقدم؛ فكل ضلع منها يعالج جانبا لا تستطيع الضلعان الآخران تعويضه. فالنظام قد يكون قادرا على التخطيط والعمل باستقلالية، لكنه يظل خطرا إذا لم تكن أهدافه متوافقة مع أهداف الإنسان، وقد يكون متوافقا مع القيم الإنسانية، لكنه يظل غير آمن إذا عجز عن التعامل مع الحالات الاستثنائية أو فشل في إدارة المخاطر التشغيلية.

ولهذا فإن السؤال المركزي في الذكاء الاصطناعي المعاصر لم يعد: كيف نصنع نموذجا أكثر ذكاء؟، بل أصبح: كيف نصنع نموذجا يمتلك القدرة، ويتصرف وفق الأهداف الصحيحة، ويظل آمنا في جميع مراحل عمله؟

• 1- من الذكاء الحسابي إلى الذكاء الوكيلي – التحول في فلسفة الأنظمة الذكية:

ارتبط الذكاء الاصطناعي، لفترة طويلة، بفكرة النظام الذي يستجيب لمدخلات المستخدم ويولد مخرجات مناسبة. وكان نجاح النموذج يُقاس بقدرته على الإجابة الصحيحة، أو التصنيف الدقيق، أو التنبؤ الأفضل.

غير أن هذا التصور بدأ يتغير جذريا مع ظهور النماذج اللغوية الكبيرة، ثم الوكلاء الأذكياء القادرين على استخدام الأدوات، والتخطيط، واستدعاء المعلومات، والتفاعل مع البيئات الرقمية، وإدارة المهام الممتدة زمنيا. وهكذا انتقل الذكاء الاصطناعي من نموذج الاستجابة (Response Model) إلى نموذج الفعل (Action Model).

وهذا التحول يحمل دلالة عميقة؛ فالنظام لم يعد مجرد وسيط معرفي، بل أصبح فاعلا رقميا يمتلك قدرا متزايدا من الاستقلالية التشغيلية. ومن هنا ظهر مفهوم Agentic AI ليصف هذا الجيل الجديد من الأنظمة التي لا تقتصر على إنتاج المعرفة، وإنما توظفها في تحقيق أهداف محددة عبر سلسلة مترابطة من القرارات والإجراءات.

لكن كل توسع في قدرة النظام على الفعل يوسع في المقابل دائرة المخاطر المحتملة، وهو ما يجعل الحاجة إلى المحاذاة والأمان نتيجة طبيعية لهذا التطور، لا خيارا إضافيا.

• 2- لماذا لا تكفي القدرة وحدها؟

من الأخطاء التي صاحبت المراحل الأولى من تطور الذكاء الاصطناعي الاعتقاد بأن تحسين الأداء سيؤدي تلقائيا إلى تحسين النتائج.

إلا أن التجارب العملية كشفت أن النظام قد يحقق الهدف الذي طُلب منه بطريقة تختلف جذريا عن نية المستخدم، أو قد يفسر التعليمات بصورة حرفية تتجاهل السياق والقيم الضمنية، أو قد يسلك مسارات غير متوقعة من أجل تعظيم مؤشر أداء معين.

وتوضح هذه الظاهرة أن امتلاك النظام لقدرات عالية لا يضمن بالضرورة أن يستخدمها في الاتجاه المرغوب. ومن هنا ظهر مفهوم AI Alignment بوصفه محاولة للإجابة عن سؤال بالغ الحساسية:

كيف نضمن أن تكون أهداف النظام، واستراتيجياته، وقراراته، متوافقة مع المقاصد الإنسانية التي صُمم من أجلها؟ وبذلك انتقل الاهتمام من بناء القدرة إلى توجيه القدرة.

• 3- لماذا لا تكفي المحاذاة وحدها؟

قد يبدو للوهلة الأولى أن تحقيق المحاذاة يكفي لضمان سلامة النظام. غير أن الواقع أكثر تعقيدا. فالأنظمة الذكية تعمل في بيئات مفتوحة، تتغير فيها البيانات باستمرار، وتظهر فيها حالات لم تكن موجودة أثناء التدريب، كما تتعرض لمحاولات الاختراق، أو التلاعب، أو إساءة الاستخدام.

وفي مثل هذه البيئات قد يكون النظام متوافقا تماما مع أهداف الإنسان، لكنه يفشل في التعامل مع ظرف استثنائي، أو يتخذ قرارا غير متوقع نتيجة تغير السياق، أو يقع ضحية لهجوم يستغل نقاط ضعفه.

وهنا يظهر الدور المحوري لـ AI Safety. فالأمان لا يقتصر على حماية النظام من المهاجمين، ولا على تقليل الأخطاء البرمجية، وإنما يشمل تصميم منظومة تجعل النظام قادرا على:

• العمل بصورة موثوقة.
• مقاومة الانحرافات غير المقصودة.
• احتواء الأخطاء قبل تضخمها.
• التوقف الآمن عند الحاجة.
• العمل ضمن حدود المخاطر المقبولة.

وبذلك يصبح الأمان إطارا شاملا لإدارة السلوك، لا مجرد طبقة أمنية تضاف بعد اكتمال النظام.

• خلاصة واستنتاج:

تكشف القراءة البنيوية للأدبيات المعاصرة أن الذكاء الاصطناعي الوكيلي، ومحاذاة الذكاء الاصطناعي، وأمان الذكاء الاصطناعي، ليست مفاهيم متوازية أو متنافسة، بل تمثل ثلاث طبقات متكاملة في تصميم الأنظمة الذكية الحديثة. فالوكالة تمنح النظام القدرة على الفعل، والمحاذاة تضبط اتجاه هذا الفعل، بينما يضمن الأمان أن يبقى هذا الفعل موثوقا وقابلا للسيطرة حتى في الظروف غير المتوقعة. ومن ثم، فإن فهم أي واحد من هذه المفاهيم بمعزل عن الآخرين يؤدي إلى قراءة ناقصة لطبيعة الذكاء الاصطناعي المعاصر.

• التكامل البنيوي بين الذكاء الاصطناعي الوكيلي ومحاذاة الذكاء الاصطناعي وأمانه:

لماذا لا تستطيع أي ركيزة أن تحل محل الأخرى؟

تكشف القراءة المتأنية للأدبيات الحديثة أن أحد أكثر الأخطاء شيوعا في تناول موضوعات الذكاء الاصطناعي يتمثل في دراسة Agentic AI وAI Alignment وAI Safety باعتبارها حقولا منفصلة، لكل منها أدبياته ومشكلاته الخاصة. غير أن هذا التصور لم يعد يعكس طبيعة التحول الذي يشهده المجال اليوم. فداخل المختبرات البحثية الكبرى لم تعد هذه المفاهيم تُناقش على أنها مسارات مستقلة، وإنما باعتبارها طبقات مترابطة داخل معمارية واحدة، لا يكتمل تصميم النظام إلا باكتمالها جميعا.

فالوكيل الذكي لا يصبح أكثر أمانا بمجرد تقييد صلاحياته، كما أن النظام لا يصبح أكثر توافقا مع الإنسان لمجرد تحسين بيانات تدريبه. إن العلاقة بين الركائز الثلاث علاقة بنيوية، بحيث يؤدي الخلل في واحدة منها إلى إضعاف المنظومة بأكملها. ومن ثم فإن الانتقال من النماذج اللغوية التقليدية إلى الأنظمة الوكيلية متعددة الخطوات فرض إعادة تعريف مفهوم التطوير نفسه؛ فلم يعد التطوير يعني إضافة وظائف جديدة، وإنما بناء توازن دائم بين القدرة، والغاية، والضبط.

ولهذا السبب، بدأت الأدبيات الحديثة تتحدث عن “الهندسة المتكاملة للأنظمة الوكيلية”، حيث تُصمم القدرة التشغيلية، وآليات المحاذاة، وضمانات الأمان في الوقت نفسه، لا بصورة متعاقبة كما كان يحدث في الأجيال السابقة.

• 1- الذكاء الاصطناعي الوكيلي – هندسة القدرة (Capability Architecture):

يشكل Agentic AI البنية التشغيلية للنظام الذكي. فهو لا يركز على كيفية إنتاج النصوص أو الصور أو الأكواد، وإنما على كيفية تحويل النموذج إلى فاعل رقمي يستطيع:

• تحليل الهدف.
• تقسيم المهمة إلى مراحل.
• اختيار الأدوات المناسبة.
• ترتيب الأولويات.
• اتخاذ قرارات وسيطة.
• تعديل خطته أثناء التنفيذ.
• تقييم النتائج قبل الانتقال إلى الخطوة التالية.

وهنا يكمن الفرق الجوهري بين الوكيل الذكي والنموذج التقليدي. فالنموذج التقليدي يعمل وفق منطق:

سؤال ← إجابة.

أما الوكيل الذكي فيعمل وفق منطق أكثر تعقيدا:

هدف ← تخطيط ← تنفيذ ← مراجعة ← تصحيح ← استكمال المهمة.

وبذلك تصبح القدرة الأساسية للنظام ليست إنتاج المعرفة، وإنما إدارة دورة كاملة من الأفعال المترابطة. غير أن هذه القدرة نفسها تخلق طبقة جديدة من المخاطر؛ لأن كل خطوة إضافية تمنح النظام مساحة أوسع للتصرف بصورة مستقلة.

ولهذا لا يمكن فصل هندسة القدرة عن هندسة المحاذاة.

• 2- محاذاة الذكاء الاصطناعي – هندسة المقاصد (Intent Architecture):

كثيرا ما تُختزل المحاذاة في فكرة “جعل النموذج يطيع المستخدم”، لكن هذا التفسير يبقى قاصرا عن استيعاب طبيعة المشكلة. فالطاعة ليست هي الغاية الأساسية للمحاذاة.

إذ يمكن للنظام أن يطيع التعليمات بدقة، ومع ذلك ينتج نتائج تتعارض مع المصلحة المقصودة، أو يحقق الهدف بطريقة تتجاهل الاعتبارات الأخلاقية أو القانونية أو الاجتماعية.

ومن ثم فإن المحاذاة لا تعني الامتثال الحرفي، وإنما القدرة على فهم مقصد الإنسان لا مجرد أوامره. ولهذا أصبحت الأدبيات الحديثة تميز بين ثلاثة مستويات متداخلة للمحاذاة:

محاذاة الأهداف (Goal Alignment):

ويُقصد بها توافق الأهداف التشغيلية للنظام مع الأهداف التي صُمم من أجلها. فلا يكفي أن ينجز المهمة، بل ينبغي أن ينجزها بالطريقة التي تحقق الغاية المقصودة.

محاذاة القيم (Value Alignment):

وتتعلق بإدماج المبادئ الأخلاقية والاجتماعية والقانونية في عملية اتخاذ القرار. فالوكيل الذكي قد يمتلك عدة بدائل صحيحة تقنيا، لكن المحاذاة تحدد أيها أكثر انسجاما مع القيم الإنسانية.

المحاذاة السياقية (Context Alignment):

وهي من أكثر الاتجاهات تطورا في الأدبيات الحديثة. فالقرار الذي يكون مناسبا في سياق معين قد يصبح غير مقبول في سياق آخر. ولهذا لم تعد المحاذاة ثابتة، بل أصبحت عملية ديناميكية تعتمد على فهم البيئة، والغاية، والقيود المحيطة بالمهمة.

ومن هنا يتضح أن المحاذاة ليست طبقة أخلاقية تضاف بعد بناء النظام، وإنما البنية التي تحدد كيفية استخدام القدرة التي يوفرها Agentic AI.

أمان الذكاء الاصطناعي – هندسة الحدود (Boundary Architecture):

إذا كان الذكاء الوكيلي يمنح النظام القدرة على الفعل، والمحاذاة تحدد اتجاه هذا الفعل، فإن AI Safety يتولى تحديد الحدود التي لا يجوز للنظام تجاوزها. لكن من الخطأ اختزال الأمان في مقاومة الاختراقات أو منع الأعطال.

فالأمان في الأدبيات المعاصرة أصبح أقرب إلى نظرية لإدارة السلوك غير المتوقع. فالأنظمة الوكيلية تعمل في بيئات مفتوحة، تتفاعل مع أدوات خارجية، وتواجه بيانات جديدة باستمرار. ومن ثم يصبح السؤال الحقيقي:

كيف يتصرف النظام عندما يواجه موقفا لم يُصمم له مسبقا؟

هنا يظهر مفهوم الأمان بوصفه قدرة على:

• احتواء الأخطاء قبل تضخمها.
• تقليل آثار القرارات الخاطئة.
• منع التصعيد غير المقصود.
• الحفاظ على إمكانية التدخل البشري.
• إيقاف المهمة عند تجاوز حدود المخاطر.

وبذلك فإن الأمان لا يمنع الخطأ دائما، لكنه يمنع تحوله إلى كارثة.

لماذا يفشل النظام إذا غابت إحدى الركائز؟

تكشف التجارب العملية أن غياب أي ركيزة من الركائز الثلاث يؤدي إلى نمط مختلف من الإخفاق. إذا امتلك النظام قدرة عالية دون محاذاة، فإنه قد يصبح فعالا في تحقيق أهداف لم يقصدها الإنسان أصلا.

وإذا امتلك محاذاة جيدة دون قدرة تشغيلية، فسوف يبقى مجرد مساعد محدود لا يستطيع تنفيذ المهام المعقدة. أما إذا امتلك القدرة والمحاذاة معا، لكنه افتقر إلى الأمان، فإن النظام سيظل عرضة للانحراف عند مواجهة ظروف استثنائية أو هجمات أو بيانات غير مألوفة.

ولهذا يمكن القول إن العلاقة بين الركائز الثلاث ليست علاقة تكامل وظيفي فقط، وإنما علاقة اعتماد متبادل (Interdependence)، حيث لا تستطيع أي ركيزة تعويض غياب الأخرى.

• من دورة التعلم إلى دورة الحوكمة:

أحد التحولات العميقة في الأدبيات الحديثة يتمثل في انتقال الاهتمام من دورة تدريب النموذج إلى دورة تشغيله. ففي الماضي كان نجاح النظام يُقاس بجودة التدريب. أما اليوم، فإن نجاح الوكيل الذكي يُقاس بقدرته على إدارة دورة تشغيل كاملة تشمل:

• استقبال الهدف.
• تفسير النية.
• تخطيط التنفيذ.
• مراقبة النتائج المرحلية.
• تقييم مستوى المخاطر.
• مراجعة السلوك.
• التعلم من التجربة.

وهذا يعني أن النظام لا يحتاج فقط إلى نموذج لغوي قوي، بل إلى منظومة حوكمة ترافقه أثناء العمل. ومن هنا بدأ يظهر اتجاه بحثي جديد ينظر إلى الذكاء الاصطناعي باعتباره عملية تشغيل مستمرة، لا نموذجا ثابتا.

التحول من هندسة النماذج إلى هندسة المنظومات:

ربما يتمثل أهم تحول شهدته السنوات الأخيرة في أن المنافسة لم تعد تدور حول بناء أفضل نموذج لغوي، وإنما حول بناء أفضل منظومة تشغيلية. فالنظام الوكيلي الحديث لم يعد يتكون من نموذج واحد، بل من:

• نموذج للاستدلال.
• وذاكرة طويلة الأمد.
• وأدوات خارجية.
• وآليات تخطيط.
• ونظام محاذاة.
• وإطار للأمان.
• ووحدة للرقابة البشرية.
• وسجل كامل لجميع القرارات.

ومن ثم فإن التطوير الحقيقي أصبح يدور حول تصميم العلاقة بين هذه المكونات، لا حول تحسين كل مكون بصورة منفصلة. ولهذا فإن مفهوم Agentic AI في صورته المعاصرة لم يعد يشير إلى نموذج ذكي، بل إلى منظومة معرفية متكاملة تعمل داخل إطار تحكم تنظيمي وأخلاقي وتقني واحد.

نحو نموذج “القدرة – المحاذاة – الأمان”:

في ضوء التحولات السابقة، يمكن اقتراح إطار تفسيري لفهم العلاقة بين الركائز الثلاث. فالذكاء الاصطناعي المتقدم يقوم على ثلاث طبقات متراكبة:

• القدرة (Capability): وتمثلها الأنظمة الوكيلية التي تمنح النموذج إمكانية الفعل والتخطيط والتنفيذ.
• المقصد (Alignment): ويحدد الاتجاه الذي ينبغي أن تستخدم فيه تلك القدرة، بما ينسجم مع القيم والأهداف الإنسانية.
• الضبط (Safety): ويضمن بقاء النظام ضمن الحدود المقبولة، حتى عند الخطأ أو الغموض أو تغير السياق.

ولا تعمل هذه الطبقات بصورة خطية، بل تتفاعل باستمرار أثناء دورة حياة النظام، بحيث تؤثر كل طبقة في الأخرى، وتشكل معها بنية واحدة لإنتاج سلوك موثوق وقابل للمساءلة.

• خلاصة واستنتاج:

يتبين أن الذكاء الاصطناعي الوكيلي، ومحاذاة الذكاء الاصطناعي، وأمان الذكاء الاصطناعي، لا تمثل ثلاثة اتجاهات متنافسة في البحث العلمي، بل ثلاثة مستويات متكاملة في هندسة الأنظمة الذكية. فالوكالة تمنح النظام القدرة على الفعل، والمحاذاة تمنحه البوصلة التي توجه هذا الفعل، بينما يوفر الأمان الحدود التي تمنع انحرافه تحت تأثير الخطأ أو التعقيد أو البيئات غير المتوقعة.

وبهذا المعنى، فإن الانتقال إلى الجيل القادم من الذكاء الاصطناعي لا يتطلب تطوير نماذج أكثر قوة فحسب، بل بناء منظومات تجمع بين القدرة والمقصد والضبط في إطار واحد من الحوكمة التقنية والمؤسسية.

من سباق النماذج إلى سباق الحوكمة:

• كيف سيعيد التكامل بين Agentic AI وAI Alignment وAI Safety تشكيل مستقبل الذكاء الاصطناعي؟

إذا كانت المرحلة الأولى من تطور الذكاء الاصطناعي قد انشغلت ببناء الخوارزميات، ثم ركزت المرحلة الثانية على تدريب النماذج اللغوية العملاقة، فإن المرحلة التي بدأت تتشكل اليوم تنتمي إلى منطق مختلف تماما. فالسؤال الذي يهيمن على المختبرات الكبرى لم يعد يدور حول إمكانية إنتاج نموذج أكثر قوة من سابقه، وإنما حول الكيفية التي يمكن بها إدارة القوة نفسها.

لقد أصبح واضحا أن التحدي الحقيقي لا يبدأ عندما يصبح النظام قادرا على التفكير أو التخطيط أو استخدام الأدوات، بل يبدأ عندما يصبح قادرا على الاستمرار في العمل باستقلالية داخل بيئات معقدة ومتغيرة، دون أن يفقد ارتباطه بالمقاصد الإنسانية أو يخرج عن حدود السلوك المقبول.

وهذا التحول يعكس انتقال الذكاء الاصطناعي من مرحلة توسيع القدرات إلى مرحلة تنظيم القدرات. لذلك لم تعد مفاهيم الذكاء الاصطناعي الوكيلي، والمحاذاة، والأمان، تمثل موضوعات متخصصة داخل علوم الحاسوب، بل أصبحت الإطار النظري الذي يُعاد في ضوئه تعريف معنى النظام الذكي نفسه. فالنموذج الذي يفتقر إلى الوكالة لن يكون قادرا على تنفيذ المهام المركبة، والنموذج الذي يفتقر إلى المحاذاة سيصبح فاعلا بلا بوصلة، أما النموذج الذي يفتقر إلى الأمان فسيظل مصدر قلق مهما بلغت دقته أو كفاءته.

من هنا، فإن مستقبل الذكاء الاصطناعي لن يتحدد بمقدار ما تستطيع النماذج أن تعرفه، وإنما بمقدار ما تستطيع المؤسسات أن تحكمه وتوجهه وتراجع سلوكه بصورة مستمرة.

• 1- نهاية سباق “النموذج الأكبر” وبداية سباق “المنظومة الأكثر موثوقية”:

لعدة سنوات، ارتبط التقدم في الذكاء الاصطناعي بمؤشرات كمية واضحة: عدد المعلمات (Parameters)، حجم البيانات، القدرة الحاسوبية، ونتائج الاختبارات القياسية. وكان الافتراض الضمني أن النموذج الأقوى سيصبح تلقائيا الأكثر نفعا. غير أن هذا المنطق بدأ يفقد كثيرا من صلاحيته مع انتقال النماذج من إنتاج المحتوى إلى إدارة الأفعال.

فالوكيل الذكي لا يُقيَّم فقط بجودة استجاباته، وإنما بقدرته على اتخاذ سلسلة طويلة من القرارات، والتعامل مع أحداث لم يسبق أن واجهها، واستخدام أدوات خارجية، والتفاعل مع وكلاء آخرين، والعمل داخل أنظمة إنتاج حقيقية. وفي هذه البيئة يصبح الفارق بين نموذجين متقاربين في الأداء اللغوي أقل أهمية من الفارق بين منظومتين تختلفان في جودة الحوكمة.

ولهذا بدأت المنافسة الفعلية تتحول من سباق النماذج (Model Race) إلى سباق المنظومات (Systems Race). فالمنظومة الأكثر تقدما ليست التي تمتلك أقوى نموذج لغوي فقط، وإنما التي تستطيع أن تنسق بين قدراته، وآليات محاذاته، وضمانات أمانه، وإجراءات التدقيق، والإشراف البشري، وسجلات المراجعة، ضمن بنية تشغيلية واحدة.

إن هذه النقلة تكشف أن الذكاء الاصطناعي لم يعد منتجا برمجيا منفردا، بل أصبح بنية مؤسسية معقدة تتداخل فيها الهندسة والقانون والإدارة والأخلاق.

• 2- إعادة تعريف مفهوم الثقة في عصر الوكلاء الأذكياء:

في الأدبيات التقليدية كان الحديث عن الثقة في الأنظمة الرقمية يرتبط غالبا بالدقة أو الاعتمادية أو انخفاض معدل الخطأ. أما في الأنظمة الوكيلية، فقد أصبح مفهوم الثقة أكثر تركيبا؛ لأن المستخدم لا يسلّم النظام مهمة واحدة، بل يمنحه مساحة للتصرف، والتخطيط، وإعادة ترتيب الأولويات.

ولهذا لم تعد الثقة تُبنى على سؤال: هل أعطى النظام الإجابة الصحيحة؟، بل على سلسلة من الأسئلة الأكثر عمقا: هل فهم الهدف كما قصده المستخدم؟ هل اختار الوسائل المناسبة؟ هل امتنع عن تجاوز الصلاحيات الممنوحة له؟ وهل كان سلوكه قابلا للتفسير والمراجعة إذا ظهرت نتائج غير متوقعة؟

وبذلك تغادر الثقة المجال التقني الضيق لتصبح علاقة مؤسسية تقوم على إمكانية التنبؤ بالسلوك أكثر من قيامها على صحة المخرجات وحدها. فالخطأ في حد ذاته ليس دائما المشكلة الأساسية؛ إذ يمكن للنظام أن يخطئ بطريقة مفهومة وقابلة للتصحيح، ويمكنه في المقابل أن ينجح في تنفيذ المهمة، لكنه يفعل ذلك عبر مسار لا يمكن تفسيره أو الدفاع عنه.

ومن هنا أصبحت المحاذاة والأمان عنصرين من عناصر بناء الثقة، لا مجرد آليتين لتقليل المخاطر.

• 3- الحوكمة بوصفها البنية الرابعة غير المرئية:

رغم أن الأدبيات كثيرا ما تتحدث عن ثلاث ركائز رئيسة، فإن القراءة التحليلية تكشف وجود عنصر رابع يربط بينها جميعا، هو الحوكمة (AI Governance). فالوكالة، والمحاذاة، والأمان، لا تتحول إلى ممارسة مؤسسية إلا إذا وُجد إطار يحدد من يمنح الصلاحيات، ومن يراجعها، ومن يتحمل المسؤولية عند الإخفاق.

ولهذا أصبحت الحوكمة تمثل البنية التي تُترجم المبادئ النظرية إلى إجراءات عملية. فهي التي تحدد متى يجوز للوكيل أن يعمل بصورة مستقلة، ومتى يصبح التدخل البشري إلزاميا، وكيف تُوثق القرارات، وكيف تُراجع بعد التنفيذ، وكيف تُدار حالات الفشل أو التعارض بين الأهداف.

ومن دون هذا المستوى المؤسسي، تبقى مفاهيم المحاذاة والأمان مجرد خصائص تقنية معزولة، لا قواعد حاكمة للسلوك داخل المؤسسات. إن التحول الحقيقي في الذكاء الاصطناعي لا يتمثل في إنتاج وكلاء أكثر استقلالا، بل في إنتاج مؤسسات أكثر قدرة على إدارة هذه الاستقلالية.

• 4- لماذا تتجه الأدبيات إلى تجاوز مفهوم “النموذج” نفسه؟

تتزايد في السنوات الأخيرة المؤشرات على أن مفهوم النموذج اللغوي الكبير لم يعد الوحدة الأساسية للتحليل. فالاهتمام العلمي يتجه تدريجيا نحو النظام الكامل الذي يعمل فيه النموذج، بما يشمله من ذاكرة، وأدوات، ووكلاء فرعيين، وآليات تخطيط، وبروتوكولات تواصل، وضوابط حوكمة.

وهذا التحول يعكس تغيرا إبستمولوجيا مهما؛ إذ لم يعد الذكاء خاصية تُنسب إلى النموذج وحده، بل إلى المنظومة التي تنظم تفاعله مع البيئة. فالوكيل لا يصبح فعالا لأنه يمتلك نموذجا لغويا متقدما فقط، وإنما لأنه يعمل داخل بنية تعرف متى تسمح له بالتصرف، ومتى تطلب منه التوقف، ومتى تُحيل القرار إلى الإنسان، ومتى تُفعّل آليات المراجعة.

ومن هنا فإن النقاش العلمي يتحول تدريجيا من هندسة النماذج إلى هندسة السلوك المؤسسي للأنظمة الذكية.

• 5- نحو انتقال من “الذكاء الاصطناعي” إلى “الذكاء المؤسسي”:

من النتائج التي يمكن استخلاصها من تطور الأدبيات أن الذكاء الاصطناعي يتجه إلى فقدان طابعه الفردي. فلم يعد النظام يُقيَّم بوصفه أداة مستقلة، بل بوصفه جزءا من دورة عمل مؤسسية تضم الإنسان، والخوارزمية، والبيانات، والضوابط التنظيمية.

ولهذا يمكن القول إن المرحلة القادمة لن تكون مرحلة الذكاء الاصطناعي بالمعنى التقليدي، وإنما مرحلة الذكاء المؤسسي (Institutional Intelligence)، حيث يصبح الأداء نتاجا للتفاعل بين عدة طبقات: الوكيل الذكي، وآليات المحاذاة، وضمانات الأمان، وقواعد الحوكمة، والبنية القانونية، والثقافة التنظيمية للمؤسسة.

وفي هذا السياق، لن يكون السؤال المطروح أمام المؤسسات: هل ينبغي اعتماد الذكاء الاصطناعي؟، بل: كيف يمكن إعادة تصميم المؤسسة بحيث يصبح الذكاء الاصطناعي جزءا من بنيتها التشغيلية دون أن يخل بتوازن السلطة والمسؤولية؟

وهذا سؤال إداري وقانوني بقدر ما هو سؤال تقني، وهو ما يفسر دخول كليات الإدارة، والحوكمة، والقانون، والسياسات العامة بقوة إلى هذا الحقل الذي كان يُعد حتى وقت قريب حكرا على علوم الحاسوب.

• 6- قراءة تركيبية في العلاقة بين الركائز الثلاث:

إذا نظرنا إلى هذه المفاهيم من منظور تكاملي، أمكن القول إن Agentic AI يمثل البعد التنفيذي للذكاء الاصطناعي، لأنه يمنح النظام القدرة على المبادرة والتخطيط والعمل. وتمثل AI Alignment البعد المعياري، لأنها تضبط العلاقة بين السلوك الآلي والمقاصد الإنسانية، بينما تمثل AI Safety البعد الوقائي الذي يحافظ على استقرار المنظومة عند التعرض للخطأ أو الغموض أو التغيرات غير المتوقعة.

غير أن القيمة الحقيقية لهذا المثلث لا تكمن في جمع ثلاثة مفاهيم متجاورة، بل في إعادة تعريف الذكاء الاصطناعي باعتباره نظاما لإدارة القرار، لا مجرد نظام لإنتاج المعرفة. وهذه النقلة تغير طبيعة البحث العلمي نفسه؛ إذ يصبح التركيز على كيفية تنظيم السلطة الرقمية، وتوزيع المسؤولية، وضبط حدود الاستقلالية، أكثر أهمية من السعي إلى تحسين المؤشرات التقنية المجردة.

ولهذا تبدو هذه الركائز الثلاث أشبه بدستور معرفي للجيل الجديد من الأنظمة الذكية؛ فهي تحدد ما يستطيع النظام فعله، وما ينبغي أن يفعله، وكيف يظل ملتزما بذلك حتى عندما تتغير البيئة التي يعمل فيها.

• خلاصة عامة:

تكشف هذه الدراسة أن الذكاء الاصطناعي الوكيلي، ومحاذاة الذكاء الاصطناعي، وأمان الذكاء الاصطناعي، لا تمثل مجرد اتجاهات بحثية متجاورة، بل تعبر عن تحول بنيوي في فلسفة تطوير الأنظمة الذكية. فالانتقال من النماذج التي تستجيب للأوامر إلى الوكلاء القادرين على الفعل المستقل فرض إعادة بناء الإطار النظري الذي يحكم هذا المجال؛ إذ لم تعد القدرة التقنية معيارا كافيا للحكم على جودة النظام، بل أصبحت هذه القدرة مشروطة بمدى توافقها مع المقاصد الإنسانية، وبقدرة المنظومة على احتواء المخاطر والمحافظة على قابلية السلوك للمراجعة والتفسير.

ومن ثم، فإن المستقبل المرجح للذكاء الاصطناعي لن يتحدد بمن ينجح في إنتاج النموذج الأقوى، وإنما بمن ينجح في بناء المنظومة الأكثر اتزانا بين القدرة، والمحاذاة، والأمان، والحوكمة. وهذا هو التحول الذي يمنح هذه الركائز الثلاث مكانتها بوصفها الأساس النظري والعملي الذي سيقوم عليه الجيل القادم من الأنظمة الذكية المستقلة، ويجعلها من أكثر المفاهيم تأثيرا في رسم ملامح العلاقة المستقبلية بين الإنسان والآلة.

• أهم الأسئلة المطروحة حول الركائز التي يقوم عليها الذكاء الاصطناعي:

ما المقصود بالذكاء الاصطناعي الوكيلي (Agentic AI)؟

هو نمط متقدم من الذكاء الاصطناعي يستطيع التخطيط، واتخاذ القرارات، واستخدام الأدوات، وتنفيذ سلسلة مترابطة من المهام بصورة شبه مستقلة لتحقيق هدف محدد، بدلا من الاكتفاء بالاستجابة المباشرة لأوامر المستخدم.

ما الفرق بين AI Alignment وAI Safety؟

تهدف AI Alignment إلى ضمان توافق أهداف وسلوك النظام مع القيم والمقاصد الإنسانية، بينما يركز AI Safety على تصميم الأنظمة بحيث تعمل بصورة موثوقة وآمنة، وتظل قابلة للسيطرة حتى عند الخطأ أو تغير البيئة التشغيلية أو التعرض لهجمات.

لماذا تُعد هذه الركائز الثلاث مترابطة؟

لأن الوكالة تمنح النظام القدرة على الفعل، والمحاذاة تحدد الاتجاه الذي ينبغي أن يستخدم فيه هذه القدرة، بينما يضمن الأمان أن يظل هذا السلوك منضبطا وقابلا للمساءلة. ولا يمكن لأي ركيزة أن تعوض غياب الركيزتين الأخريين.

هل تعتمد الشركات الرائدة هذه المفاهيم؟

نعم. تعتمد مختبرات مثل OpenAI وGoogle DeepMind وAnthropic هذه الركائز في تطوير الوكلاء الأذكياء، كما أصبحت محورا للأطر التنظيمية الدولية مثل NIST AI RMF والاتحاد الأوروبي AI Act.

ما أهمية هذه المفاهيم بالنسبة للمؤسسات؟

تمثل هذه الركائز الأساس لتطوير أنظمة ذكاء اصطناعي يمكن الوثوق بها داخل القطاعات الحساسة، مثل الصحة، والقطاع المالي، والإدارة العامة، والصناعة، والأمن السيبراني، حيث لا تكفي الكفاءة التقنية وحدها، بل يجب أن تقترن بالحوكمة والشفافية والمساءلة.

هل تمثل هذه الركائز مستقبل الذكاء الاصطناعي؟

تشير الأدبيات الحديثة إلى أنها أصبحت الإطار المرجعي لتطوير الأنظمة الذكية المتقدمة، ومن المتوقع أن تشكل الأساس النظري والتطبيقي للجيل القادم من الوكلاء الأذكياء والأنظمة المستقلة.

• خاتمة:

تكشف هذه الدراسة أن مستقبل الذكاء الاصطناعي لن يتحدد بقدرة النماذج على إنتاج محتوى أكثر جودة، بل بقدرتها على العمل داخل منظومات مؤسسية تجمع بين الاستقلالية، والمحاذاة، والأمان في آن واحد. فالذكاء الاصطناعي الوكيلي يمنح الأنظمة القدرة على التخطيط والتنفيذ، لكن هذه القدرة لا تكتسب مشروعيتها إلا عندما تُوجَّه عبر محاذاة دقيقة مع القيم والأهداف الإنسانية، وتُحاط بضمانات أمان تحد من السلوك غير المتوقع وتُبقي القرار قابلا للمراجعة والمساءلة.

ومن ثم فإن الركائز الثلاث لا تمثل مسارات بحثية متوازية، بل تشكل البنية النظرية والهندسية التي سيقوم عليها الجيل القادم من الأنظمة الذكية، بما يجعلها أساسا لفهم مستقبل الحوسبة الوكيلية، والنماذج الحدودية، والحوكمة الرقمية في العقود القادمة.

• مراجع الدراسة:

1. Russell, Stuart & Norvig, Peter (2021)

Artificial Intelligence: A Modern Approach (4th Edition). Pearson.

المرجع الأكاديمي الأشهر في الذكاء الاصطناعي، ويؤسس لمفهوم الوكيل الذكي ويشرح تطور الأنظمة القائمة على الوكلاء.

2. Amodei, Dario et al. (2016)

Concrete Problems in AI Safety.

الورقة المرجعية التي وضعت الإطار البحثي الحديث لقضايا سلامة الذكاء الاصطناعي وإدارة المخاطر في الأنظمة المستقلة.

3. Christian, Brian (2020)

The Alignment Problem: Machine Learning and Human Values. W. W. Norton & Company.

من أهم الكتب التي تناولت بصورة شاملة إشكالية محاذاة الذكاء الاصطناعي وربط التعلم الآلي بالقيم الإنسانية.

4. Anthropic (2024)

Building Effective AI Agents.

مرجع هندسي يشرح تصميم الوكلاء الأذكياء، ودورات التخطيط، واستخدام الأدوات، وإدارة الاستقلالية التشغيلية.

5. National Institute of Standards and Technology (NIST). (2023)

Artificial Intelligence Risk Management Framework (AI RMF 1.0).

الإطار المرجعي العالمي لإدارة مخاطر الذكاء الاصطناعي، ويتناول الحوكمة، والإشراف البشري، والموثوقية، والسلامة.

6. European Union (2024)

Regulation (EU) 2024/1689 – Artificial Intelligence Act (AI Act).

أول تشريع شامل لتنظيم الذكاء الاصطناعي وفق مستويات المخاطر، مع تركيز خاص على الإشراف البشري والأنظمة عالية الخطورة.

7. Wooldridge, Michael (2009)

An Introduction to MultiAgent Systems (2nd Edition). Wiley.

من أهم المراجع في نظرية الوكلاء متعددين (Multi-Agent Systems)، ويشكل الأساس النظري لفهم تطور الذكاء الاصطناعي الوكيلي.