AIの危険な知識を消す仕組み

GRAM (Gradient-Routed Auxiliary Modules)は、多くのフィルターをかけたモデルを個別に学習させる利点を、たった一つのモデルを学習させるコストで実現します。 この技術は、悪用されうる知識の各カテゴリごとに、AIモデルに専用の取り外し可能な「知識の区画」を与え、悪用されうるデータから学習する際にのみ、それらの区画を更新します。 これにより、モデルの知識の一部を学習後に削除することが可能になり、モデルの安全性を高めるためのより強力な枠組みを提供します。