AIがAI研究を自動化したら？

この記事は、Redwood Researchの主任科学者であるRyan Greenblatt氏へのインタビュー記録を含んでいます。彼は技術的なAIの安全性とセキュリティの研究に注力しています。このインタビューは、現在AIの世界で最も議論されているトピックの一つであるrecursive self-improvement (RSI)について取り上げています。RSIを達成した場合の一つの可能性として、世界が急速に数十億もの超知能を持つ方向へと進み、それらのそれぞれが、あらゆる分野の人間の専門家よりも劇的に有能になるというものがあります。Greenblatt氏は、このシナリオは可能であると信じており、人間が2031年までにAI R&Dを自動化すると予測しています。