生成 AI の分野は急速に進歩しており、人間の行動を根本から変えてしまう、さまざまなアプリケーションを生み出しています。医学や法律の試験に合格できるほどの複雑な問題を解く能力を持つ GPT モデルは、人間の能力に近づいているとも言えます。ただし、重要な問題が 1 つ残されていることを忘れてはなりません。こうした高度なモデルをインテルが提供する CPU や最新のディスクリート GPU で実行できるのか? という問題です。

このワークショップでは、Stable Diffusion、CLIP、BLIP などトランスフォーマー・モデルの世界を深く掘り下げると同時に、このタイプのモデルをインテルのハードウェア上で実行するためにどのような最適化を行っているかを詳しく解説します。また、各自のマシンで実行できる Jupyter* Notebook のチュートリアルについても紹介し、これらのパワフルなツールの使用方法を実際に体験していただこうと考えています。

このセッションで得られる内容

• AI アプリケーションを、インテルの GPU と CPU を横断したヘテロジニアスなアーキテクチャーを基盤に実装する方法
• インテル^® AI アクセラレーター、インテル^® X^e マトリクス・エクステンション (インテル^® XMX)、インテル^® アドバンスト・マトリクス・エクステンション (インテル^® AMX) の活用方法
• 綿密に作られた Jupyter* Notebook から生成 AI モデルの開発
• HuggingFace* Transformer モデルを使用し、強力な AI ソリューションを短時間で開発
• ダイナミック・シェイプの最適化によるディープラーニング性能の最大化

量子化とは、浮動小数点値をそれよりも値範囲の小さい有限離散値の集合にマッピングする、ディープラーニングの有用なプロセスです。メモリー・フットプリントを大幅に縮小して、ディープラーニング・モデルの演算量を削減する、強力な手法であり、リソース制約の厳しいデバイス上への実装を最適化します。

ディープラーニング・モデルに適用する、さまざまな種類の量子化手法について詳しく解説します。さらに、OpenVINO™ ツールキットを補完するニューラル・ネットワーク圧縮フレームワーク (NNCF) の概要を紹介し、卓越したパフォーマンスを実現する方法について解説します。

このセッションで得られる内容

• 量子化の重要性とさまざまな手法
• OpenVINO™ ツールキットと NNCF の活用方法
• Jupyter* Notebook で実装したニューラル・ネットワークの性能をグラフで示し、量子化の前後で比較

OpenVINO™ ツールキットの最新版、2023.1 がリリースされました。OpenVINO™ ツールキットの最新バージョンの最新情報をまとめてご紹介します。

CPU、GPU などとともに、生成 AI と LLM モデルに関する改良点をいくつか紹介します。OpenVINO™ ツールキットの最適化手法を活用して、CPU だけで Llama2 をラップトップ PC で実行できることをご存知でしょうか。この変化の激しい AI の世界でインテルがどのように取り組んでいるのかを解説します。

このセッションで得られる内容

• CPU と GPU の両方で OpenVINO™ ツールキット上で LLM モデルを実行する方法
• インテルがどのように最適化し、生成 AI の主要な課題を修正したのか
• 生成 AI は ML とどのように異なり、どのような問題に直面しているのか
• 生成 AI のための iGPU と GPU を使用したヒントとトリック、そしてソフトウェア・アップデートによる Stable Diffusion の潜在的な利点