2026年8月26日 11:17
M5 Ultra Mac Studio4台で4.8TB/s
3行まとめ
- •EXO Labsが4台構成のクラスタ発表
- •M5 Ultra搭載Mac Studioを使用
- •帯域幅4.8TB/sで巨大LLMも高速実行
詳細
概要
AI開発企業のEXO Labsは、Appleの新型「M5 Ultra」チップを搭載したMac Studio4台をネットワークで連結したクラスタ構成により、合計で約4.8TB/秒のメモリ帯域幅を実現できると発表した。この数値はデータセンターで使われる専用AIアクセラレータに匹敵する水準とされ、個人や小規模チームでも高性能な推論環境を構築できる可能性を示した。
技術的背景
大規模言語モデル(LLM)の推論では、モデルの全パラメータを高速に読み出せるメモリ帯域幅が処理速度を左右する。従来は単体のMacやGPUでは帯域幅が不足し、数千億パラメータ規模のモデルをローカル環境で快適に動かすことは難しかった。EXO Labsは複数台のMac Studioを専用ソフトウェアで束ね、帯域幅を積み上げる手法でこの制約を回避したとしている。
今後の影響
発表では中国の新興企業Moonshot AIの大規模モデル「Kimi K3」を例に、クラウドを使わずローカルで高速実行できるとうたっている。クラウドAPI利用料やデータ送信を避けたい企業・開発者にとって、オンプレミスでの大規模モデル運用の選択肢が広がる可能性がある。
なぜ重要か
市販Mac複数台の連結だけで巨大LLMを高速にローカル実行可能に。クラウドAPI依存を減らす選択肢が広がる。
元記事を読む — ITmedia AI+