بقلم: خالد العدام
لم تعد المخاوف المرتبطة بالذكاء الاصطناعي تنحصر في احتمال أن يقدم روبوت محادثة إجابة خاطئة أو أن ينتج صورة مزيفة. الخطر الحقيقي بدأ يظهر في مكان آخر: ماذا يحدث عندما يصبح النموذج قادراً على تنفيذ المهام المعقدة بنفسه، واستخدام الأدوات، وكتابة البرمجيات، واكتشاف الثغرات، واتخاذ سلسلة من القرارات دون انتظار تدخل الإنسان في كل خطوة؟
هنا تحديداً يبرز نموذج Astra الذي تطوره شركة OpenAI.
فالشركة نفسها أقرت، في تحديث حديث، بأن الاختبارات الداخلية أظهرت تقدماً كبيراً في قدرات النموذج في البرمجة الوكيلة والأمن السيبراني، إلى درجة أنها لم تعد قادرة على استبعاد وصوله إلى مستوى «حرج» من القدرات السيبرانية.
قد يبدو الأمر للوهلة الأولى إنجازاً تقنياً يستحق الاحتفاء. لكنه، من زاوية أخرى، يفتح واحداً من أخطر الأسئلة في تاريخ الذكاء الاصطناعي: هل نحن بصدد بناء أدوات لم تعد حدود استخدامها واضحة حتى بالنسبة إلى صانعيها؟
المشكلة ليست في أن Astra «ذكي».. بل في أنه يستطيع أن يفعل
الفرق بين الذكاء الاصطناعي التقليدي والذكاء الاصطناعي الوكيل ليس تفصيلاً تقنياً.
النموذج التقليدي ينتظر السؤال ويقدم الإجابة.
أما النموذج الوكيل فيمكن أن يحصل على هدف، ثم يخطط للوصول إليه، ويستخدم الأدوات المتاحة، ويختبر النتائج، ويصحح أخطاءه، ويواصل العمل.
وهنا ينتقل الذكاء الاصطناعي من كونه مستشاراً إلى كونه منفذاً.
وهذه النقلة تحمل فوائد هائلة، لكنها تحمل أيضاً خطراً جوهرياً: كلما زادت استقلالية النظام، تقلصت المسافة بين «القرار الذي اتخذه الإنسان» و«الفعل الذي نفذه النظام».
وقد يكون الخطأ في إجابة نصية مجرد معلومة خاطئة.
لكن الخطأ في نظام قادر على تنفيذ الأوامر واستخدام الأدوات قد يعني حذف بيانات، أو تغيير إعدادات، أو كشف معلومات حساسة، أو اتخاذ سلسلة من الإجراءات يصعب إيقافها في الوقت المناسب.
الأمن السيبراني.. الوجه الأكثر إثارة للقلق
ربما تكون أخطر نقطة في قصة Astra هي الأمن السيبراني.
فالأمن الرقمي يقوم في الأساس على سباق دائم بين من يبحث عن الثغرات ومن يحاول إغلاقها.
وعندما يدخل نموذج ذكاء اصطناعي شديد القدرة إلى هذا السباق، فإنه يمكن أن يخدم الطرفين.
يمكن استخدامه لمساعدة الشركات على اكتشاف نقاط الضعف قبل المهاجمين، وتحليل كميات ضخمة من الأكواد، واختبار الأنظمة، وتسريع الاستجابة للهجمات.
لكن الوجه الآخر أكثر إثارة للقلق.
إذا امتلكت جهة خبيثة نموذجاً قادراً على أتمتة أجزاء كبيرة من عمليات البحث عن الثغرات وتحليل الأنظمة، فإن تكلفة شن هجمات معقدة قد تنخفض بشكل كبير.
وهنا لا تكمن المشكلة فقط في «قوة» النموذج، وإنما في توسيع دائرة الأشخاص القادرين على تنفيذ أعمال كانت تتطلب سابقاً خبرة تقنية عالية ووقتاً طويلاً.
من يحتكر القوة؟
هناك سؤال آخر غالباً ما يتم تجاهله في الاحتفال بالتقدم التقني:
من يمتلك هذه النماذج؟
إذا أصبحت النماذج الوكيلة قادرة على تنفيذ أعمال متقدمة في البرمجة والأمن والبحث والتحليل، فإن القوة التقنية ستتركز أكثر في أيدي الشركات التي تمتلك البنية التحتية والحوسبة والبيانات.
وهذا يخلق فجوة جديدة بين الشركات والدول والمجتمعات.
قد يصبح الوصول إلى أفضل نموذج ذكاء اصطناعي شبيهاً بالوصول إلى بنية تحتية استراتيجية، وليس مجرد الاشتراك في خدمة رقمية.
وهنا تظهر مخاطر الاحتكار: عدد محدود من الشركات قد يمتلك أدوات قادرة على التأثير في قطاعات واسعة من الاقتصاد الرقمي.
ماذا لو أخطأ الوكيل؟
هذه ربما إحدى أكثر المشكلات تعقيداً.
في نموذج المحادثة التقليدي، عندما يخطئ الذكاء الاصطناعي، يمكن للمستخدم ببساطة تجاهل الإجابة.
لكن ماذا يحدث عندما يكون النموذج وكيلاً يمتلك صلاحية تنفيذ إجراءات حقيقية؟
من المسؤول إذا اتخذ قراراً خاطئاً؟
هل المسؤول هو المستخدم الذي أعطاه المهمة؟
أم الشركة التي طورت النموذج؟
أم الجهة التي صممت الأداة؟
أم النظام نفسه؟
المشكلة أن الإطار القانوني في معظم الدول لم يُصمم أصلاً للتعامل مع كيانات برمجية قادرة على التخطيط والتنفيذ بصورة شبه مستقلة.
الخطر الأكبر: الثقة الزائدة
ربما لا يكون أخطر ما في Astra هو أن يصبح «شريراً»، كما تصوره بعض أفلام الخيال العلمي.
الخطر الأكثر واقعية قد يكون أن نثق به أكثر مما ينبغي.
عندما يعطي النظام نتائج ممتازة في 90 أو 95 في المائة من الحالات، يميل الإنسان إلى التعامل معه باعتباره موثوقاً.
لكن في الأنظمة الحساسة، قد تكون نسبة الخطأ الصغيرة كافية لإحداث كارثة.
المشكلة أن الإنسان قد يتوقف تدريجياً عن مراجعة عمل النظام لأنه أصبح «جيداً بما يكفي».
وهنا يتحول الذكاء الاصطناعي من أداة تحت إشراف الإنسان إلى نظام يعتمد عليه الإنسان دون رقابة حقيقية.
الوظائف.. الخطر الذي لا يمكن تجاهله
هناك أيضاً الجانب الاقتصادي.
إذا أصبح Astra أو نماذج مشابهة قادرة على تنفيذ أجزاء كبيرة من العمل البرمجي والتحليل والبحث وإدارة المهام، فإن الشركات ستعيد النظر في عدد الأشخاص المطلوبين لإنجاز الأعمال نفسها.
قد لا تختفي الوظائف بين ليلة وضحاها، لكن طبيعة الوظيفة نفسها قد تتغير.
المبرمج قد يتحول إلى مشرف على وكلاء برمجيين.
والصحفي قد يستخدم وكلاء لجمع المعلومات وتحليل الوثائق وصياغة المسودات.
والمحلل المالي قد يعتمد على وكلاء لمراقبة الأسواق وإعداد التقارير.
وهنا يصبح السؤال الحقيقي ليس: هل سيأخذ الذكاء الاصطناعي وظائف البشر؟
بل:
كم من المهارات التي يتعلمها الإنسان اليوم ستظل ذات قيمة اقتصادية بعد خمس أو عشر سنوات؟
لا ينبغي أن نطلب إيقاف الذكاء الاصطناعي
ومع ذلك، فإن النقد الجاد لا يعني الدعوة إلى إيقاف التطور.
Astra، مثل غيره من النماذج المتقدمة، يمكن أن يكون أداة هائلة لتحسين الأمن السيبراني، وتطوير البرمجيات، والبحث العلمي، والتعليم، والإنتاجية.
المشكلة ليست في وجود التكنولوجيا.
المشكلة في منحها صلاحيات أكبر من قدرة الإنسان على مراقبتها.
ولهذا ينبغي أن يسبق إطلاق النماذج الوكيلة نقاش حقيقي حول حدود صلاحياتها، وما يمكنها الوصول إليه، ومتى يجب أن تتوقف، ومن يملك حق إيقافها.
نحن بحاجة إلى «قاطع طوارئ» للذكاء الاصطناعي
إذا كانت النماذج المقبلة ستتمكن من تنفيذ مهام معقدة بصورة مستقلة، فلا يكفي أن تكون «ذكية».
يجب أن تكون أيضاً قابلة للمراقبة والإيقاف والمحاسبة.
نحتاج إلى أنظمة تمنع الوكيل من تجاوز الصلاحيات المحددة له، وتسجل قراراته وإجراءاته، وتتيح للإنسان التدخل في اللحظة المناسبة.
كما يجب ألا تكون عبارة «السلامة» مجرد شعار تسويقي ترفقه الشركات بإطلاق كل نموذج جديد.
فكلما ارتفعت قدرات النموذج، يجب أن ترتفع معها معايير اختباره ورقابته.
Astra قد يكون اختباراً أكبر من مجرد نموذج جديد
قد لا يكون السؤال الأهم عند إطلاق Astra هو: «كم نقطة حصل عليها في اختبارات الذكاء؟»
بل:
كم من السلطة يمكن أن نعطيها لنظام لا نعرف بعد كل حدود قدراته؟
وهنا تكمن المفارقة.
نحن نريد ذكاءً اصطناعياً أكثر قدرة لأنه سيحل لنا مشكلات أكثر تعقيداً.
لكن كلما أصبح أكثر قدرة، أصبح من الضروري أن نضع له حدوداً أكثر صرامة.
هذه هي المعضلة الحقيقية التي تواجه OpenAI ومنافسيها اليوم:
نريد من الآلة أن تفكر وتنفذ، لكننا لا نريد أن تفقد قدرتنا على إيقافها عندما تفكر أو تنفذ بشكل خاطئ.
وبين الطموح نحو بناء أقوى وكيل رقمي في العالم، والخوف من أن تصبح بعض قدراته أكبر من أن تخضع للرقابة التقليدية، يقف Astra أمام اختبار لن يكون تقنياً فقط.
إنه اختبار لحدود الثقة بين الإنسان والآلة.
وقد يكون هذا، في النهاية، أخطر سؤال يطرحه الجيل الجديد من الذكاء الاصطناعي.
