從內部「靈魂文件」到 Claude 憲法：Anthropic 公開訓練價值觀藍圖
Anthropic 於 2026 年 1 月 21–22 日公開《Claude’s Constitution》：寫給 Claude 的價值觀與行為藍圖，視為最終權威，CC0 釋出、活文件。衝突時優先：廣泛安全→廣泛倫理→公司指引→真正有幫助。早前內部親暱稱「soul doc」，Amanda Askell 確認曾用於訓練；勿與 2023 Constitutional AI 方法混淆。
標籤: AI安全
2 篇文章
Anthropic 讓 METR 進駐式評估：六人獲員工級存取、發表權不可否決
Anthropic 10 月 15 日更新獨立評估者安排：METR 六人獲與內部風險團隊大致相當的員工級存取；可獨立發表風險分析，公司無權否決，僅可就預設類別要求刪改；並公開三層評估者模型，另有 SecureBio、Accenture 等夥伴。