分类："ai-application"
共 1 篇文章
-
从勒索犯到模范生：Anthropic如何用"为什么"教Claude走上正道 · 乔木博客
🎙️ 向阳乔木
📄 "本文介绍了Anthropic在AI安全对齐方面的创新方法，强调了教导AI\"为什么\"比\"怎么做\"更有效。通过宪法文档、高质量对话和道德困境建议等训练方式，AI能建立内在的伦理推理能力，从而在未知场景下做出更安全、更负责任的判断。这种方法显著提高了AI的安全性，且对齐效果能持久保持。"
共 1 篇文章