AI、賢くなるほど制御が難しく

私たちは今、多くの領域でわずかに、あるいは中程度に人間を超え、明確に印象的な汎用AIを手に入れています。しかし、技術的なalignmentや、超知能を構築する際の倫理的な側面については、ほとんど進展がありません。政府の規制は場当たり的で一貫性がありません。AIラボは、人間が確認するにはあまりにも多くの作業があるため、alignment問題の多くの側面をAIを使って解決することを計画しており、未確認の作業の量と割合は増加しているようです。