モデルopenai2026-07-15
文章AI「GPT-Red」自分で賢く安全に
GPT-Red: Unlocking Self-Improvement for Robustness
OpenAIは、AI自身が安全性を高めるシステム「GPT-Red」を開発。AIが危険な指示に強くなり、より信頼できるAIの実現に貢献します。
GPT-Redは、OpenAIが開発した自動のred teamingシステムです。これはself-playを使って、AIの安全性、alignment、そしてprompt injectionに対するrobustnessを向上させます。
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。