TOPICS 最新トピックス
現在、AI処理の環境としてGPUが広く利用されていますが、AI処理に特化した設計ではないため、CPUとメモリ間の通信の効率や消費電力の面で、さらなる改善の余地があります。そのため、AI処理においてGPUに代わる、より最適化されたソリューションが求められています。
Tenstorrent AIアクセラレーターは、AI処理に特化した専用アクセラレーターで、AIのアルゴリズムに最適化されたアーキテクチャーを採用し、従来のGPUでのAI処理のいくつかの課題を解決します。
Tenstorrent AIアクセラレーターではPyTorch、ONNX、TensorFlowといったAIモデルをそのまま稼働させることができるので、既存のAIモデルの有効活用した開発が可能です。
- AI処理に特化した(Domain Specific )アクセラレーター
- Graph処理アクセラレーター/データフロー型、PIM(Processor In Memory)
- Tensix コア、条件付き処理や疎行列処理にも柔軟に対応可能なアーキテクチャー
- PCIカードから小型サーバー、データセンターまでをカバー
Tenstorrent AIアクセラレーターは、チップ上では同時に複数の命令を処理可能することが可能です。さらに大半の処理では最初と最後のオペレーションの時のみメモリと通信します。命令処理毎にメモリにアクセスする方式よりも、DRAM帯域幅を約10倍節約でき、低電力で高速な処理が可能となります。