GoogleのAIチップが外部で使える

GoogleのTPUv7 Ironwoodは、NvidiaのB200/B300チップと比較して、1ドルあたりの性能が最大50%向上しています。Ironwoodは、Googleが他社の推論ワークロードを競合する最初の世代であり、このチップは直接購入するか、Google自身のクラウドを通じてレンタルすることができます。Googleは何十年にもわたるソフトウェアエンジニアリングの経験があるため、外部向けのTPUソフトウェアは急速に成熟するはずです。この記事では、TPUシステムを検証し、そのstackを広く利用可能にするために必要な手順について議論します。