هوش مصنوعی · خواندن ذهن یک مدل
چرا دیدنِ درونِ یک مدل زبانی اینقدر دشوار است؟
آنچه خواهید دید
یک مدل زبانی میلیاردها عدد است، و ما تک‌تکشان را می‌دانیم. با این حال نمی‌توانیم بخوانیم چرا آن‌طور پاسخ می‌دهد. هر نورون هم‌زمان برای ایده‌های بسیاری که ربطی به هم ندارند فعال می‌شود، گربه‌ها، خودروها و شعر، چون مدل ایده‌هایی بیش از نورون‌هایش در خود فشرده است. پژوهشگران اکنون این آمیزه‌ها را به ویژگی‌های جدا از هم باز می‌کنند، رشته به رشته.
