عندما نسأل ChatGPT عن شيء غير موجود ونطلب منه معلومات عنه، فإنه غالباً ما يقوم باختلاق معلومات غير موجودة، تُعرف هذه الظاهرة بالهلوسة Hallucination. مثلاً سأله أحدهم عن حرب البندورة الخضراء، فقام بسرد قصص عنها. وسأله آخر عن حملة الملوخية فاختلق معلومات عنها لا أصل لها. وقس على ذلك الأمثلة الكثيرة التي نصادفها يومياً على السوشال ميديا.

لماذا تحدث ظاهرة الهلوسة؟

نماذج اللغة مثل ChatGPT و غوغل بارد Bard تم تدريبها على كم هائل من البيانات المتواجدة على الانترنت. ومبدأ عملها يقوم على توليد كلمات بناءاً على الدخل الذي يأتيها. فمهما كان الدخل ستقوم بتوليد الكلمات الأكثر الاحتمالية بناءاً على ما تدربت عليه.

كيف يحاول ChatGPT و غوغل Bard حل المشكلة؟

يُلاحظ أن فريق ChatGPT يقوم بجمع الأسئلة التي يُخطىء بها ويقومون بإعادة تدريبه ليجيب عليها بطريقة صحيحة. بينما تستخدم غوغل نظام تحقق من الحقائق Fact Checking وتكتشف أن السؤال غير منطقي أو كاذب، فيجيب عليه حتى بدون استخدام نموذج اللغة. المثال في الأعلى لتوضيح الظاهرة وكيف يمكن استخدام ال Fact Checking وغوغل Bard يخطىء في أسئلة أخرى كذلك.

ماذا تفعل إنفيديا؟

أعلنت إنفيديا اليوم عن نظام اسمه Guardrails لمساعدة المطورين الذين يستخدمون نماذج اللغة للتحكم بها والحد من ظاهرة الهلوسة. تتيح إنفيديا أن يقوم المطور بالتحقق من أجوبة نموذج اللغة باستخدام نموذج ذكاء اصطناعي آخر للتحقق من الحقائق، فإن كانت نتيجته ليست حقيقة Fact يقوم بالطلب من نموذج اللغة بتوليد جواب آخر.

من خلال Guardrails يمكن للمطور أن يبرمج هذا الشيء بطريقة سهلة جدا، فكل ما عليه فعله هو فقط أن يُعرف قاعدة للنظام تقول أنه إذا لم يكون الجواب حقيقة Fact فاطلب منه جواب آخر أو افعل أي شيء يريده المطور.

يفيد هذا النظام في تخصيص نماذج اللغة لكل مطور. فمثلا إن كنت تستخدم نموذج اللغة للإجابة عن أسئلة تخص منتجك فلا تريد منه الحديث عن منتج منافس، تقوم بتعريف قاعدة تقول إذا كان الموضوع عن المنافس فأجب بهذه الطريقة. وإذا كان مثلا موضوع السؤال عن شيء آخر غير موضوع التطبيق فأجب بهذا.

وبهذا لا تعالج انفيديا مشكلة الهلوسة فقط بل تساهم في تخصيص نماذج اللغة حسب حاجات كل مطور أو تطبيق.

تبني إنفيديا طبقة أمان فوق نماذج اللغة لتساعد في تخصيص أجوبتها حسب الحاجة. الخدمة متاحة عبر خدمة انفيديا السحابية المسماة NeMO. كما أن المشروع مفتوح المصدر ومتاح على GitHub عبر الرابط.. https://github.com/NVIDIA/NeMo-Guardrails