メタ、画像と文章を同じ形式で扱えるAIを発表

Meta AIは、画像とテキストを、検索と生成のために同じ柔軟な長さの連続トークンシーケンスに変換する手法であるFLATを発表しました。Nested dropoutは、情報を粗いものから細かいものへと配置し、モデルが使用するトークンの数を変えることで、計算量と視覚的な詳細を交換できるようにします。