ИИ · Чтение мыслей модели
Почему так трудно заглянуть внутрь языковой модели?
Что вы увидите
Языковая модель это миллиарды чисел, и мы знаем каждое. И всё же мы не можем прочитать, почему она отвечает именно так. Каждый нейрон срабатывает сразу на множество несвязанных идей, на кошек, машины и поэзию, потому что модель упаковывает больше идей, чем у неё нейронов. Теперь исследователи распутывают эти смеси на отдельные признаки, нить за нитью.
