الذكاء الاصطناعي · قراءة عقل النموذج
لماذا يصعب أن نرى ما بداخل نموذج لغوي؟
ما الذي ستشاهده
النموذج اللغوي مليارات من الأرقام، ونحن نعرف كل واحد منها. ومع ذلك لا نستطيع أن نقرأ لماذا يجيب كما يجيب. فكل خلية عصبية تنشط لأفكار كثيرة لا علاقة بينها في آن واحد، القطط والسيارات والشعر، لأن النموذج يحشر أفكارًا أكثر من عدد خلاياه. والباحثون اليوم يفكّون هذه الخلطات إلى سمات منفصلة، خيطًا خيطًا.
