인공지능 · 모델의 마음 읽기
언어 모델의 속을 들여다보기는 왜 그렇게 어려울까요?
이 영상에서 볼 내용
언어 모델은 수십억 개의 숫자이고, 우리는 그 하나하나를 다 압니다. 그런데도 모델이 왜 그렇게 답하는지는 읽어 낼 수 없습니다. 뉴런 하나가 고양이, 자동차, 시처럼 서로 무관한 여러 개념에 동시에 반응합니다. 모델이 뉴런 수보다 더 많은 개념을 담고 있기 때문입니다. 연구자들은 이제 이 뒤엉킨 것들을 실 한 가닥씩 풀어 각각의 특징으로 나누고 있습니다.
