AnyLanguageModel 1.0、Appleでローカル実行

背景

AnyLanguageModelは、Hugging FaceがApple向けに開発しているSwiftライブラリである。AppleのFoundation Modelsフレームワークと同じ形のAPIを使い、ローカルで動くオープンモデルや外部のクラウドモデルを切り替えて利用できる。iOSやmacOSのアプリ開発者が、モデルごとの実装差を意識せずに済むことを狙って公開された。

それから1年が経過し、今回バージョン1.0が公開された。

内容

1.0は、この1年間の開発と利用の積み重ねをまとめた安定版のリリースである。Apple端末上でローカルモデルを動かす際の窓口を一本化し、アプリ側のコード変更を抑えたままモデルを差し替えられる点が特徴である。オンデバイス推論により、データを端末外へ送らずに処理できる。

今後の影響

Apple向けアプリの開発者にとって、ローカルモデルを組み込む際の選択肢が安定版として整った。プライバシーを重視する業務アプリやオフライン動作が必要なアプリで、導入判断の材料になる。なお、元記事の詳細情報は限られており、個別の機能や対応モデルの一覧は本文では確認できていない。