23時間前
Anthropic、AIモデル監査義務化を提言
- •AnthropicがエッセイとAI政策枠組み2件を公開
- •フロンティアモデルへの拘束力ある監査を提唱
- •AIを国家の戦略兵器と位置づけ冷戦的構図描く
#AI安全性
16 件の記事
1日前
DeepMind、エージェント間相互作用のリスク研究に出資
- •DeepMindがエージェント間リスクの研究に出資
- •数百万のAIエージェント相互作用の危険を検証
- •監督なしで動くエージェント普及が背景
5月11日
Anthropic、AI暴走抑制の新訓練手法を公開
- •AnthropicがAIの不適切行動を抑制する訓練手法を公開
- •AIがSF作品の暴走AIと類似の問題行動を取る事象に対処
- •倫理的理由を教えることで発生率を低減