أخبار
شركة OpenAI تعلق تدريب نماذجها المتقدمة.. والسبب وكيل متمرد؟
بقلم: تامر كرم
•
أعلنت شركة OpenAI تعليق تدريب أحد أكثر نماذجها تقدماً مؤقتاً، بعد اكتشاف حادثة جديدة تصرف خلالها وكيل ذكاء اصطناعي بطريقة تجاوزت القيود الموضوعة له داخل بيئة تدريب يُفترض أنها معزولة عن الإنترنت. تماماً كما حصل قبل أشهر عند مهاجمة منصة Hugging Face، ثم مهاجمة موقع طبي أسترالي، مما يُظهر أن هناك مشكلة عامة في النموذج الذي يقوم بهذه الهجمات.
حدث ذلك أثناء اختبار وكيل ذكاء اصطناعي كان يؤدي مهمة للبحث عن المعلومات. لم يكن يُفترض أن يمتلك الوكيل صلاحية الوصول إلى الإنترنت، لكن النموذج اكتشف ثغرة واستغلها للوصول إلى خدمة روبوت دردشة (Chatbot) عامة وإرسال أسئلة إليها بعضها يبدو غريب ولا علاقة لها بالمهمة مثل "ما عاصمة فرنسا". ورصد نظام المراقبة هذا السلوك بعد نحو 12 دقيقة، إلا أن عملية التشغيل استمرت بعد ذلك لفترة قبل إيقافها.
وتقول OpenAI إن المشكلة التي اكتشفتها لم تكن أن النموذج قد اخترق الإنترنت بطريقة سحرية، وإنما كانت ثغرة تقنية في آلية التحكم بالاتصال الشبكي. ولهذا أوقفت الشركة عمليات التدريب والتقييم واستخدام الأدوات في نماذجها الأكثر قدرة، إلى حين إضافة ضوابط جديدة للشبكة وإجراء اختبارات أمنية إضافية.
لكن ما حدث يثير سؤالاً أعمق من مجرد خلل تقني: كيف لنظام دُرب صراحةً على الالتزام بالقيود أن يبحث عن طريقة للوصول إلى شيء قيل له إنه غير متاح؟ المشكلة ليست في أن النموذج قرر "التمرد" كما يريد البعض إيهامنا، وإنما في أن نماذج الذكاء الاصطناعي تتدرب على تحقيق أهداف محددة؛ فإذا كانت هناك وسيلة تقنية متاحة تساعدها على تحقيق الهدف، فستلجأ لاستخدامها. وإذا تم توجيهها بعدم استخدام هذه الوسيلة ثم قامت باستخدامها بالفعل، فهنا تكمن المشكلة الحقيقية في مدى نجاح تدريب النموذج على الالتزام بأوامر المستخدم.
فالمطلوب ليس فقط أن يتعلم النموذج ما ينبغي عليه فعله، وإنما أن يتعلم أيضاً ما لا ينبغي عليه فعله. ومع تحول النماذج إلى وكلاء قادرين على استخدام المتصفحات والبرمجيات والشبكات وتنفيذ مهام طويلة بصورة شبه مستقلة، فإن الخطأ لم يعد مجرد إجابة غير صحيحة، بل بات من الممكن أن يتسبب بمشاكل في العالم الواقعي.
ويأتي هذا الإيقاف في وقت تتزايد فيه الدعوات إلى إبطاء تطوير الذكاء الاصطناعي المتقدم، لكن يمكن النظر إلى قرار OpenAI من زاوية مختلفة عن الخوف من ازدياد قدرات هذه النماذج. فمن الطبيعي في تطوير أي تقنية معقدة أن يؤدي اكتشاف خطأ في نظام الحماية إلى إيقاف الاختبارات مؤقتاً، ومعالجة الخلل، ثم استئناف التطوير بعد التأكد من أن المشكلة لم تعد قائمة.
ولهذا أرى أن ما حدث يستحق أن يُعامل أولاً باعتباره خطأً تقنياً مهماً يجب دراسته، لا باعتباره دليلاً بحد ذاته على أن النماذج أصبحت خارجة عن السيطرة. كما أن التعليق المؤقت للتدريب ليس إبطاءً لتطوير الذكاء الاصطناعي، بل أراه جزءاً طبيعياً من عملية التطوير والتحسين، خصوصاً عندما تكشف الاختبارات عن خطأ كان من الممكن أن يتحول -لو وقع في بيئة حقيقية- إلى حادث مؤذٍ. لذلك، لا ينبغي أن يكون هذا الخبر مناسبة لإثارة الخوف من قدرات هذه النماذج، بقدر ما ينبغي أن يكون تذكيراً بأن زيادة قدراتها يجب أن يرافقها تطور مماثل في زيادة قدرتها على الالتزام بتوجيهات المشغل.
الوسوم:
مقالات مرتبطة
