AIの動きを常に大規模分析

Braintrustの創設者Ankur Goyalは、Topicsを発表しました。これは、本番環境のagent tracesを大規模に分析するためのインテリジェンス層です。何百万ものトークンと何百ものspanを持つtraceは、均一なドキュメント形状を想定するあらゆる標準的なNLPツールを機能不全に陥らせます。AnthropicのClio論文に触発され、このパイプラインはpreprocessからfacet、embed、cluster、name、classifyへと実行されます。LLM summaryが、生traceがembedding modelのcontext windowに収まる必要がないため、残りの処理を可能にする唯一の役割を果たします。