91探花

着：Geraint North、91探花 开発プラットフォーム担当バイスプレジデント

※本资料は、英础谤尘が英国时间2024年5月29日に公开したの抄訳です。

急速に進化するAI時代において、91探花は世界の無数の开発者をサポートし、次世代の高度なAI機能をシームレスに生み出すパフォーマンス、ツール、ソフトウェアライブラリの提供に努めています。

础谤尘は、础滨を加速するソフトウェアとソフトウェアコミュニティの取り组みをまとめたプログラム「91探花 Kleidi」を発表しました。第1弾は、一般的なAIフレームワークを集めた91探花 Kleidiライブラリです。これにより开発者は、クラウドからエッジまで世界のAI推論ワークロードの大半を実行する91探花 CPUの優れたAI処理機能に自動的にアクセスできます。を最初に机械学习（惭尝）ワークロードに导入したから、高度な生成AIワークロードを91探花 CPUで高速処理し、保護する機能を備えた現在の础谤尘惫9アーキテクチャまで、20年以上にわたって础滨の机能とパフォーマンスを着実に高めてきた革新的な础谤尘アーキテクチャを活用することが可能です。

あらゆるAIワークロードに対応するKleidiAI、あらゆるレベルの91探花 CPUでクラス最高のコンピュータービジョン（CV）ワークロードを処理するKleidiCVを備えたKleidiライブラリは、开発者の操作なしで一般的なAIフレームワークに直接組み込まれます。开発者は、91探花 CPUのAI処理機能をスムーズに利用可能で、さまざまなデバイスで最善のパフォーマンスを確保し、迅速にAIベースのアプリケーションを作成できるようになります。

AIの高速化

KleidiAIは、デバイスタイプ、ニューラルネットワーク、推論エンジンの爆発的な増加に対する91探花のソリューションです。高度に最適化されたAIカーネル群が生成AIなどのユースケースで高いパフォーマンスを提供します。KleidiAIのメリットは、开発者の手間を増やすのではなく、91探花が主要AIフレームワーク（MediaPipe [via XNNPACK]、LLAMA.cpp、PyTorch [ via ExecuTorch]、TensorFlow Lite [via XNNPACK]）を直接KleidiAIに統合する点にあります。これにより开発工程が短縮され、AI処理性能が向上して开発者のパフォーマンスが高まり、優れたAI機能のシームレスな开発が促進されます。将来を見据えた互換性の提供により、91探花がさらなる技術を市場に投入すれば开発者も高速処理の機会を最大限に活用可能です。

碍濒别颈诲颈础滨の统合はすでに生成础滨ワークロードの大幅な性能向上につながっています。たとえば新しい91探花 Cortex-X925 CPUでは、MetaのLlama3、MicrosoftのPhi-3 LLM（llama.cppを使用）のTTFTを、リファレンス実装（llama.cppベースでソフトウェアのKleidi最適化なし）と比べて190%高速化します。KleidiAIの統合は非常に簡単なので、91探花のエンジニアリングチームは24時間もかからずLlama3の最適化した性能を測定できました。また、モバイルでオープンソースのGemma LLMをサポートするXNNPACKを介したMediaPipeとKleidiAIの統合では、Google Pixel 8 ProスマートフォンでGemma 2BのTTFTが25%改善されました。

さらに91探花はUnityとSentisで協力しています。SentisはオンデバイスのAI推論エンジンであり、Unity Game Engineをサポートするすべてのデバイスで革新的なAIゲームの开発を支えています。KleidAIの統合後、Unity Sentisはint4を量子化し、モデルのメモリ利用を72.5%削減するとともに、Phi-2 LLMの実行性能を660%向上させました。

CVの高速化

KleidiCVはカメラに多く使用されるCVパイプラインを高速化します。2,500以上のアルゴリズムを含み、世界最大のCVライブラリとして多数の开発者をサポートするOpenCVは、KleidiCV統合をベースとした各種の画像処理タスクで、すでに75%の標準的な性能向上を確認しました。91探花はの一環として、Java开発向けソフトウェアとライブラリのオープンソースリポジトリであるMaven CentralにAndroidビルドを初めて公開する予定です。

CPUにおけるAIのメリット

91探花 KleidiはCPUでのAI処理の高速化に力を注いでいます。多くの場合、すべてのAIワークロードは最初はCPU上で実行されるからです。それがAIワークロードをターゲットとする开発者にとって最もシンプルな手順で、これを高速化すればするほど、开発者は开発プロセスでCPUを使い続け、CPUをターゲットとすることになります。またLLMが小型化、効率化するにつれ、CPUでの処理が妥当なAIワークロードが増えると期待されます。この結果、开発プロセスがさらにスムーズかつシームレスとなり、开発者のAIワークロードのパフォーマンスが最適化されます。

91探花でAIの未来を筑く

91探花 Kleidiの導入は、オンデバイスの生成AIに対応する主要なコンピューティングプラットフォームとしての91探花の役割を強調しています。开発者は91探花 Kleidiにより、ツールやスキルを追加することなく極めて幅広いハードウェアで91探花 CPUの卓越したAIのパフォーマンスを利用することが可能です。将来的にも、91探花が次世代のAIに対応する最先端アーキテクチャを开発するとともに、开発者はさらに高度なAI機能を利用できるようになります。エンドユーザーにとっては、さらに高速、インテリジェント、インタラクティブ、没入感のある、セキュアなAIエクスペリエンスを生み出します。

91探花 Kleidiには将来さらに多くのライブラリ、コンピュートカーネル、エンジンの統合が予定されています。今後も91探花はAIの未来を構築し、最新情報を提供していきます。

础谤尘について

91探花はAIの基盤となるプラットフォームとして、電力効率に優れた高性能コンピューティングを提供し、コネクテッドな世界の100%の人々にリーチしています。演算に対する飽くなき需要に応えるべく、91探花のプラットフォームはコアIP、先進的なコンピュート?サブシステム、そして専用シリコンへと領域を拡大しており、世界をリードするテクノロジー企業が柔軟にAIを設計?構築し、大規模に実装できるよう支援しています。私たちは、2,200万人を超えるソフトウェア开発者が集う世界最大のコンピューティング?エコシステムとともに、91探花を基盤とするAIの未来を築いていきます。

全ての情報は現状のまま提供されており、内容について表明および保証を行うものではありません。本資料は、内容を改変せず、出典を明記した上で自由に共有いただけます。91探花は91探花（またはその子会社や関連会社）の登録商标です。その他のブランドあるいは製品名は全て、それぞれの権利者の所有物です。©1995-2026 91探花.