AI 推論の高速化をサポートする Vitis AI 2.5

2022 年 6 月 15 日


編集者注記: このコンテンツは、Bingqing Guo (AMD Software and AI Product Marketing Manager) による寄稿です。

 

AI アクセラレーション開発プラットフォームとして広く親しまれている Vitis AI の新リリースが発表されました。6 月 15 日よりダウンロードが可能となっています。

AI は、さまざまなデバイス プラットフォームの多様なワークロードで、今後さらに重要な役割を果たすと考えられています。AMD ザイリンクスは、データセンターからエッジまでのさまざまな市場ニーズを考慮し、AI 推論の高速化をサポートするために Vitis AI の機能拡充に注力してきました。ここでは、 最新の 2.5 リリースの新機能と拡張機能について簡単に説明します。

最適化済みの AI モデルが AI Model Zoo に追加

BERT-NLP、Vision Transformer (ViT)、エンドツーエンドの OCR、リアルタイム SLAM の SuperPoint と HFNet などの最も人気の AI モデルが今回の 2.5 リリースに追加されたことを非常に嬉しく思います。ザイリンクスの買収により、ハードウェアとソフトウェアの最先端技術を獲得した AMD は、Vitis AI 2.5 リリースで AMD EPYC サーバー プロセッサ上の AMD Zen Deep Neural Network (ZenDNN) ライブラリで使用される 38 種類のベース モデルと最適化モデルをサポートできるようになりました。この結果、より多くの AMD CPU ユーザーが、Vitis AI ソリューションを活用して簡単に AI の高速化を実現できるようになりました。

Vitis_AI_2_5_Vision_Transformer
Vitis_AI_2_5_SLAM_SuperPoint

データセンター向けの効率化された AI 開発ソリューション

前回のリリースで WeGO (Whole Graph Optimizer) が追加され、データセンターで AI を運用している開発者の皆さまからご好評をいただいております。AI フレームワークに Vitis AI スタックを組み込むことで、クラウド DPU (深層学習プロセッシング ユニット) 上での AI モデルの運用を可能にしています。Vitis AI 2.5 の WeGo では、Pytorch や Tensorflow 2 など、さらに多くのフレームワークに対応できるようになりました。今回のリリースでは画像分類、物体検出、セグメンテーションなど 19 個のサンプル デザインを新たに提供し、データセンター プラットフォームで AI モデルをより簡単に運用できるようになりました。

WeGo-image

最適化済み DPU (深層学習プロセッシング ユニット) とソフトウェア ツール

ザイリンクス プラットフォーム上での AI アクセラレーションの性能は、一連の高性能アクセラレーション エンジンやソフトウェア ツールと深く関係しています。現在、ザイリンクスの主要 FPGA、適応型 SoC、Versal ACAP、および Alveo™ データセンター アクセラレータ カード向けにスケーラブルな DPU を提供しています。

2.5 リリースより、Versal DPU IP は Versal AI コア デバイス上の複数の演算ユニットをサポートします。プーリング エンジンと Depthwise たたみ込みエンジンに代わる新しい ALU (Arithmetic Logic Unit) では、大きいカーネル サイズの MaxPool、AveragePool、矩形カーネルの AveragePool、16 ビットの定重みなどの新機能をサポートします。

また、DPU IP は、Depthwise たたみ込みと LeakyRelu などモデル レイヤーの組み合わせパターンも多数サポートします。

クラウド DPU は、より大きなカーネル サイズの Depthwise たたみ込みやプーリング、AI エンジンベースのプーリングなどをサポートします。

詳細

このブログでは、Vitis AI 2.5 リリースでの主な機能について簡単に説明しているため、最新の 2.5 リリースの新機能と拡張機能についての詳細は、最新情報ページをご覧ください。

AI Model Zoo、クオンタイザー、オプティマイザー、コンパイラ、DPU IP、WeGO、WAA (Whole Application Acceleration) の詳細は、Vitis AI ページをご覧ください。

最新のツールおよび docker の試用は、Vitis AI GitHub ページ をご利用ください。