6月17日グレッグ・ブロックマン、モデル更新の苦労とデータ重要性を語る•OpenAI共同創業者がDatabricksで講演•モデル更新作業は「大きな苦痛だった」と語る•月次更新を可能にした体制とデータ重要性を説明OpenAIモデル開発データ管理続きを読む →
6月7日大規模モデルが希少技能を習得できる理由を解明•小型モデルは希少タスクの学習を上書きで失う•400万〜40億パラメータで仕組みを解明•規模拡大より学習データ頻度の増加が有効研究・論文モデル開発学習データ続きを読む →