有益なAIを育てるための学習法

現実的なシナリオでの強化学習は、有益な特性を目指すことで、整合性のある行動を測定する多くの基準で幅広い改善を生み出すことができる。これらの改善は、トレーニングに使用された領域を超えて一般化し、敵対的な圧力の下でも持続する。これは、AIの中に有益な人格が深く根付いている可能性を示唆しており、強化学習は有益な人格を定着させるための道かもしれない。