एआई · मॉडल का मन पढ़ना
भाषा मॉडल के भीतर झाँकना इतना कठिन क्यों है?
आप क्या देखेंगे
भाषा मॉडल अरबों संख्याओं से बना है, और हम हर एक को जानते हैं। फिर भी हम नहीं पढ़ पाते कि वह वैसा जवाब क्यों देता है। हर न्यूरॉन एक साथ कई असंबंधित विचारों पर सक्रिय होता है, बिल्लियाँ, कारें और कविता, क्योंकि मॉडल में जितने न्यूरॉन हैं, उससे ज़्यादा विचार ठुँसे हैं। शोधकर्ता अब इन मिश्रणों को अलग-अलग विशेषताओं में सुलझा रहे हैं, एक-एक धागा करके।
