AIの頭脳は最初から綺麗だった

初期のモデルにおけるpolysemanticity（多義性）の原因は、superposition（重ね合わせ）だと考えられていました。この考えは、ネットワークが概念を任意にごちゃ混ぜに詰め込んでいると多くの研究者に信じさせましたが、任意に見えた詰め込みのほとんどはrecursive generalization（再帰的汎化）であり、これはそれほど懸念されるものではありません。これは、ネットワークをまず解きほぐす必要なく、直接研究できることを意味します。mechanistic interpretability（メカニズム的解釈可能性）の見通しは、私たちが考えていたよりもはるかに良いかもしれません。