AIが文章から情報を効率抽出

情報抽出チームは、常に選択を迫られています。小さなエンコーダーモデルは安価ですが柔軟性に欠け、大規模言語モデルは柔軟ですが文書あたりの費用が高くなります。Fastinoは、このギャップを埋めるためにGLiNER2.5をリリースしました。このリリースでは、スパン列挙を境界予測に置き換えています。モデルは、すべての候補スパンを幅のグリッドに対してスコアリングする代わりに、エンティティがどこで始まりどこで終わるかをスコアリングします。この一つの変更により、最大エンティティ幅の制限がなくなり、4,096語のコンテキストが可能になり、固定されたスキーマに対してシーケンス長に比例した計算量を維持します。また、共同エンティティ-関係デコーディング、タスク横断的なラベル制約、およびスパンごとの属性も可能になります。16のゼロショットベンチマーク全体で、多言語チェックポイントはGLiNER2の56.09に対し、全体で56.17のmacro F1スコアを達成し、XNLIでは24.75ポイントの向上を見せました。74M、194M、287Mパラメータの3つのチェックポイントが、Apache 2.0ライセンスでHugging Faceで提供されています。デプロイ可能か？はい、FastinoはApache 2.0ライセンスで3つのGLiNER2.5チェックポイントをHugging Faceで公開しており、pip install "gliner2[local]" (Python 3.10+)を介してCPU、CUDA、またはMPSでローカル推論が可能です。現在、推論プロバイダーはこれらのチェックポイントをホストしていないため、自己ホスティングがデプロイパスとなります。企業レベル：あらゆる階層。74Mおよび194Mのチェックポイントは標準的なCPUボックスで動作するため、2人チームでもGPU予算なしで抽出を実装できます。大規模な組織は、トークンごとのLLM抽出に代わる、fine-tuning可能でプライベートホスト型の選択肢を得られます。産業：法務および契約業務、ヘルスケアおよび臨床文書、金融サービス、保険請求、顧客サポート、AI安全ツール。アプリケーション：PII検出と編集、契約条項抽出、エージェントメモリ用ナレッジグラフ、エージェントおよびモデルルーティング、ガードレール分類、否定および投与量属性を含む臨床エンティティ抽出。何が変わったのか以前のGLiNERモデルは、候補スパンを列挙することでエンティティを特定していました。つまり、すべての開始位置がすべての許容幅とペアになり、それぞれがスキーマに対してスコアリングされていました。この設計は、計算を幅の軸に縛り付け、