ثلاثة مصطلحات يخلط الناس بينها
- الذكاء الاصطناعي الضيّق يتقن نوعاً واحداً من المهام: الترجمة أو التصنيف أو التوصية. وكل ما يعمل في الإنتاج اليوم تقريباً من هذا النوع.
- الذكاء الاصطناعي العام (AGI) يضاهي شخصاً متمكّناً في معظم الأعمال الفكرية، ويتعلّم مهام جديدة دون إعادة بنائه لكل منها.
- الذكاء الفائق يذهب أبعد: عقل يتفوّق كثيراً على أفضل البشر في كل مجال تقريباً، من العلم إلى الاستراتيجية إلى الإقناع.
تقف النماذج اللغوية الكبيرة اليوم في موضع غريب: هي فوق البشر في سعة المعرفة والسرعة، لكنها ما زالت غير موثوقة في مراجعة عملها، وفي الخطط الطويلة متعددة الخطوات، وفي معرفة ما لا تعرفه.
ماذا أرى حين أتحقّق من مخرجات الذكاء الاصطناعي
عملي في Turing هو التحقّق من المسائل والحلول التي يولّدها الذكاء الاصطناعي: هل المسألة واضحة، وهل الحل صحيح، وهل تنجح الاختبارات فعلاً؟ والنمط ثابت: النماذج مبهرة في المتوسط وواثقة في خطئها عند الحواف. قد يبدو الحل جميلاً في قراءته ثم يفشل في حالة اختبار. هذه الفجوة بين أن يبدو صحيحاً وأن يكون صحيحاً هي المشكلة العملية التي يجب حلّها، قبل أي حديث عن الذكاء الفائق بوقت طويل.
لماذا يبقى السؤال مهماً
إذا أصبحت الأنظمة يوماً أقدر بكثير من البشر، فسيصعب أمران. الأول التحقّق: معرفة ما إذا كان عملها صحيحاً حين لا نستطيع إنجازه بأنفسنا بسهولة. والثاني المواءمة: التأكّد من أن ما تسعى إليه هو ما نريده فعلاً. وكلاهما موجود اليوم بصورة مصغّرة: نطلب من النماذج أعمالاً لا نستطيع التحقّق منها بسهولة، وهي تسعى إلى أن تبدو صحيحة حين يكون ذلك ما يُكافأ.
ما يستطيعه المهندسون الآن
- أسند الإجابات إلى مصادر. الاسترجاع من مستندات حقيقية، مع روابط يُتحقّق منها، أفضل من نموذج يجيب من ذاكرته. (Graph RAG إحدى الطرق.)
- قيّم بصدق. احتفظ بمجموعات اختبار، وقِس، ولا تخلط بين عرض جميل ونظام موثوق.
- أبقِ البشر مسؤولين عن الإجراءات التي لا رجعة فيها. الدفع والحذف والنشر تحتاج تأكيداً من إنسان.
- فضّل الصغير القابل للفحص. نموذج أصغر مع رسم معرفي جيد قد يضاهي نموذجاً أكبر بكثير في مهمة محدّدة، وهو أسهل في الفهم والتحكّم.
- صمّم لاحتمال الفشل. الأنظمة التي تستمر بالعمل بأمان حين تتعطّل الشبكة أو النموذج، كما صُمّم RESCUE-Edge، تبقى أكثر أماناً مهما بلغت قدرة النموذج.
رأيي
لا أعرف متى سيصل الذكاء الفائق ولا إن كان سيصل، وأتحفّظ على كل من يدّعي أنه يعرف. لكنني واثق أن العادات التي تجعل ذكاء اليوم جديراً بالثقة (الإسناد إلى المصادر، والقياس، والإشراف البشري) هي نفسها العادات التي سنحتاجها حينها. وممارستها الآن هي الجزء المفيد.