ШІ · Читання думок моделі
Чому так важко зазирнути всередину мовної моделі?
Що ви побачите
Мовна модель це мільярди чисел, і ми знаємо кожне. Та ми не можемо прочитати, чому вона відповідає саме так. Кожен нейрон спрацьовує одразу на багато не пов'язаних ідей, на котів, машини й поезію, бо модель пакує більше ідей, ніж має нейронів. Тепер дослідники розплутують ці суміші на окремі ознаки, нитка за ниткою.
