我一直对 security 和 safety 这两个概念的区别挺困惑的。我之前在内容安全团队工作过，那时候我们叫 Content Safety；现在转到网络安全，叫的却是 Cyber Security。但真要问这两个词的差别到底在哪，我自己其实是比较模糊的。
有时候自己想，第一反应是：会不会是战略和技术的区别？但其实也不大对。因为 safety 也可以很技术，也可以很战略，可以是一项很专用的技术，用来保障某项 safety；也可以是一套大的 safety 战略，这些都是可以的。那么它们之间的区别到底是什么呢？
仔细想想，区别可能在于，在可能造成伤害的东西背后，有没有一个对抗你的对手。这里的「一个」是虚指，它可能是一群人，也可能是一套系统。如果对面没有人，只是随机和失效，那它就是 safety；而如果对面有人在跟你博弈，那它就是 security。举个例子，一座桥断了。如果是因为金属疲劳而断裂，那就属于 safety issue，要避免它，我们需要增加冗余、加固结构，来减少这类来源于随机、复杂性和人为失误的事故。
而如果这座桥是有人在上面放了炸弹炸断的，那它实际上是一场和其他人的博弈。对方会专挑你最薄弱的地方下手，随着你的防御变化，他也会换别的攻击方式。这就是 security。
从对抗这两种情形出发，如何应对冗余其实是个挺有趣的切入点。在 safety 的世界里，冗余是纯粹的好东西，我们可以引入备用电源、多重校验等等，备份越多其实越安心。而 security 则正相反：每多加一些组件，就多一些攻击面，对手可能会专挑那些新加的部分下手。所以在怎么让系统更安全这件事上，safety 和 security 的思路也是不一样的。
然而在当今 AI 的语境下，security 和 safety 的关系似乎也有了一些变化。我们能明显发现，AI safety 被放在了一个道德和战略的制高点上。比如 Anthropic 以 safety 为名，不让别人用自家模型做开发，用安全的名义主张只有自己才能造这些前沿模型。safety 对他们而言变成了一种权力的话术。而背后那些 AI security 的问题 ，比如越狱、prompt injection、数据投毒这些，却成了偏工程性的、只有专业领域里的人才会关注的东西。可当这些 AI security 被攻破的时候，往往反而会让 AI safety 面临危险。
而在中文语境下，这两者却是同一个词。这也是为什么我们会发现，当前很多法律法规里把这两者混用，反而造成标准和理解上的模糊，甚至变成一种认知上的负债。