2026年9月18日 02:15
Base Labs、Hugging Face等とAI安全提携
Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
3行まとめ
- •Base LabsがAI安全性で新提携
- •Hugging Face・Goodfireと連携
- •オープンモデルの訓練・監視手法を公開
詳細
背景
Baseten傘下の研究グループBase Labsは、AIモデルの推論基盤を手掛けるBasetenが今年立ち上げた組織で、オープンウェイトモデルの安全性研究を専門に行う。生成AIの普及に伴い、企業が独自にホストするオープンモデルの安全性確保が課題となっており、Base LabsはHugging FaceとGoodfireという2社と新たに提携し、この分野の研究基盤を強化する方針を示した。
内容
今回の提携でBase Labsは、オープンモデルの訓練方法や、稼働中のモデルを監視する手法を開発し、その成果を公開する計画だ。Hugging Faceはオープンソースのモデル配布・共有プラットフォームを運営し、GoodfireはAIモデルの内部構造を解析する解釈可能性（インタープリタビリティ）技術に強みを持つ企業で、両社の知見を組み合わせることで、閉鎖的なクローズドモデルに頼らずに安全性を担保する手法の確立を目指す。
今後の影響
オープンウェイトモデルは誰でも改変・再配布できる自由度の高さが利点である一方、悪用や誤動作への対策が難しいという課題を抱えてきた。今回の提携により訓練・監視の標準的な手法が公開されれば、オープンモデルを利用する企業や開発者が安全性を高めやすくなり、クローズドモデル中心だったAI安全性研究の裾野が広がる可能性がある。
なぜ重要か
オープンウェイトモデルの訓練・監視手法が公開されれば、企業や開発者が安全性を確保しやすくなり、業界全体の安全対策底上げにつながる。
元記事を読む — TechCrunch AI