炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：虎嗅APP）

本文来自微信公众号： HavenlonLabs ，作者：HavenlonLabs，原文标题：《人无完人之后：商业系统为什么也该接受「不完美主体」》

小时候，家里的老人常说一句话：人无完人。

那时我们大概只把它理解成一种待人处世的宽容——不要因为一个人的缺点就否定他，也不要要求别人永远正确。直到真正进入社会之后才慢慢明白，这句话比想象中更深。一个家庭能够长期维持，并不是因为每个人都不会犯错；一个团队能够持续合作，也不是因为里面恰好聚集了一群永远理性、永远正确的人。恰恰相反，越成熟的关系和制度，越早接受一个事实：任何人都会在某一个时刻看错、判断错、理解错，甚至会在完全善意的情况下把事情做错。人无完人因此不只是一种宽容，它同时包含着一种非常深的制度智慧——一种关于如何与必然的不完美共处的智慧。

只是这种智慧，我们似乎并没有真正带进现代技术系统。

今天的企业会认证身份、划分岗位、分配角色、授予权限，然后让这些拥有合法身份与合法权限的人、程序与机器进入越来越重要的业务流程。从财务支付到数据库管理，从生产调度到代码发布，再到今天开始出现的AI Agent，现代商业系统一直在努力回答"谁可以做什么"。但一个很少被认真追问的问题是：当我们已经证明一个主体"有资格做"之后，是不是就等于证明了它"这一次做的是对的"？答案显然不是。而这，可能正是"不完美主体"值得被重新讨论的原因。

我们经常把文明的进步理解成能力的提升：更好的教育、更严谨的职业训练、更精准的机器、更聪明的软件。可如果换一个角度观察就会发现，人类那些真正可靠的制度，其实建立在一个完全不同的假设之上——人不会因为足够专业，就突然失去犯错的可能。医生接受漫长训练，医院依然需要复核；飞行员经验丰富，航空系统依然需要检查清单、交叉确认和冗余设计；财务人员值得信任，公司依然会做职责分离；管理层拥有决策权，成熟企业依然需要董事会、审计和治理结构。这里面并没有一个隐含前提说"这些人不值得相信"，恰恰相反，这些制度往往正是为最专业、最重要、最值得信任的人设计的。因为制度真正防范的从来不只是恶意，它同时防范疲劳、误解、信息不完整、认知偏差、错误判断，以及那些谁都无法完全消除的偶然性。真正成熟的制度并不是对完美人格的奖励，而是对人性有限性的承认。

所以"不完美"本身并不可怕。真正危险的，是一个系统只有在所有参与者都保持正确时才能成立。如果一个组织要求每一个员工永远谨慎、每一个管理员永远清醒、每一个管理者永远理性、每一个程序永远符合预期，那么问题并不出在这些主体不够优秀，而在于这个结构从一开始就太脆弱——它把全部稳定性押在了最不稳定的变量上。文明真正成熟的标志，也许不是主体越来越完美，而是系统越来越能够容纳主体的不完美。

我们有时候会说"残缺也是一种美"。这句话放进技术和商业世界，需要更谨慎一些。错误本身并不值得赞美：一次误转账不会因为人性不完美而变得浪漫，一次错误操作造成生产事故，也不会因为"谁都会犯错"就失去责任。真正值得讨论的不是错误之美，而是承认错误必然存在之后所产生的结构之美。一座桥梁的可靠，不来自工程师相信钢材永远不会疲劳，而来自设计者知道材料存在极限；一套数据库的可靠，不是因为开发者相信每次写入都一定成功，而是因为系统准备了事务、校验、回滚与恢复；一个组织真正成熟，也不是因为它找到了一群绝不会犯错的人，而是因为它清楚错误发生之后应该在哪里被发现、在哪里被阻断、影响半径应该有多大，以及什么事情绝不能由一个人的一次判断直接变成不可逆的现实。

这是一种非常重要的思维变化。我们不再问"怎样让主体绝不犯错"，而开始问"如果主体一定可能犯错，结构应该怎样设计"。前一个问题追求完美，后一个问题追求韧性；前者试图改变人性，后者开始尊重现实。很多伟大的工程系统，真正可靠的地方恰恰就在这里——它们并没有消灭不确定性，而是给不确定性留下了位置；没有假设每一个参与者永远正确，而是让错误很难一次穿透全部边界。从这个意义上说，缺陷不是美，能够容纳缺陷而不失去秩序，才是结构真正的美。

三、商业系统嘴上接受"人无完人"，技术上却仍在寻找"完美主体"

现代企业的信息系统，本质上长期围绕身份与权限构建：你是谁，属于什么部门，担任什么角色，拥有什么权限，可以访问哪些资源。这一整套体系非常重要，它解决了企业数字化最基础的问题——不是任何人都能做任何事。但随着系统越来越自动化，一个长期隐藏的问题开始显现：身份解决的是"你是谁"，权限解决的是"你能不能做"，它们并没有自动回答"你这一次到底应不应该这样做"。身份可信、权限合法、行动正确，其实是三个不同层次的问题，而现代系统常常把前两者当成了第三者的证明。

这道缝隙在现实中随处可见。一个CFO拥有大额付款权限，并不意味着他输入的每一个收款账户都是正确的；一个数据库管理员拥有最高权限，并不意味着凌晨执行的每一条删除命令都符合真实业务意图；一个程序拿到了合法的API Credential，也不意味着它在任何状态下调用这个接口都符合公司的目标。**合法主体，不等于正确行动。**这正是传统权限系统最容易被高估的地方：它能够证明一个动作来自被允许的主体，却很难单独证明这个动作本身值得发生。

过去这个问题并没有那么突出，因为企业里还存在大量看起来低效、实际上承担着风险缓冲作用的东西——开会、确认、电话、签字、等待、人工复核。很多关键动作最终仍然要经过人的节奏，商业世界正是依靠这些组织摩擦，吸收了相当一部分不确定性。但AI正在系统性地消除这些摩擦。

AI Agent经常被描述成一种全新的风险，但从更长的时间尺度看，它真正新鲜的地方也许并不是"它会犯错"。人一直会犯错，程序一直会有Bug，管理者一直会误判，自动化系统也从来没有真正完美过。AI Agent真正改变的，是一个不完美主体第一次同时拥有了机器的速度、软件的规模和持续自主行动的能力。一个人一天能够执行的关键操作是有限的，一个Agent可以不断调用API；一个员工同时管理的业务对象有限，一个系统可以同时面对成千上万个账户；一个人的错误通常需要本人不断参与才能持续扩大，而Agent可以读取结果、重新规划路径、选择新的工具，然后自动进入下一步。

于是问题发生了本质变化。过去，错误扩散的速度通常低于组织观察错误的速度；而在未来，行动的速度可能第一次系统性地超过人的观察速度。这意味着我们不能再简单地把安全建立在"人工最终会看见"之上——当机器在几秒内完成人需要几小时才能复盘的动作序列时，Human-in-the-Loop本身也不能再被当作最终的安全假设；同样，也不能继续相信只要主体通过了认证、拿到了合法权限，就足以支撑它持续执行下去。AI没有发明错误，它只是第一次让错误拥有了机器的速度、软件的规模和自动化的连续性。

这也是为什么今天很多企业一边希望Agent能够真正进入生产，一边又本能地不敢把最关键的权力交出去。问题并不是大家不相信AI有能力，而是大家还没有解决一个更基础的问题：如果一个拥有巨大行动能力的主体注定不可能永远正确，我们应该如何让它安全地行动？

五、未来企业真正需要管理的，可能不只是"谁有权"，而是"什么事情可以真的发生"

这会带来一个非常重要的商业系统变化。过去的企业治理大量关注主体——谁是员工，谁是管理员，谁是负责人，谁拥有授权。未来，当Agent开始参与越来越多真实执行之后，企业还必须进一步关注行动本身：它准备做什么，对象是谁，参数是什么，当前的现实状态是什么，这次行动依据什么，它必须处于什么边界之内。这里发生的不是传统权限体系的简单加强，而是一种控制对象的迁移：企业的控制体系需要从单纯管理Identity、Role、Permission，进一步进入Action、State、Evidence、Boundary。过去我们主要管理"权力属于谁"，未来还要管理"权力如何在一次具体行动中被兑现"。

这两件事情看起来很接近，实际上并不相同。一个主体可以拥有某种能力，但系统仍然可以要求它的每一次高价值行动重新面对现实边界；一个主体可以被长期信任，但具体动作仍然可以被拒绝；一个人在组织里的地位可以很高，但这并不意味着任何一次执行都应该自动继承这种信任。也许未来真正成熟的企业系统，会越来越少依赖"因为是他，所以可以"这样一句话，而越来越依赖另一种判断：因为这一次行动满足了边界，所以可以。

这个变化看起来只是安全架构的调整，实际上可能影响整个企业治理方式。企业未来不仅要回答"谁有权"，还要回答"这一次到底想让什么事情发生"。当AI开始参与支付、交易、采购、生产、云基础设施、供应链和客户服务之后，企业真正面对的已经不只是"AI是否值得信任"，而是怎样设计一种结构，让一个不需要被假设为完美的主体，仍然能够安全地参与真实商业。

过去很长一段时间，我们习惯于寻找"可信的人"：可信员工、可信管理员、可信机构、可信软件、可信环境。这种思维非常符合人的直觉，因为相信一个主体，比理解一整套结构要简单得多——如果这个人可靠，我们就愿意把更多权力交给他；如果这个系统可信，我们就愿意让它处理更重要的任务。但"不完美主体"真正提出的问题是：如果任何主体最终都存在失误、偏离甚至失陷的可能，那么真正值得信任的，是否应该从一个具体主体转向主体之间的结构？

这并不是走向绝对的不信任，恰恰相反，这是一种更有野心的信任方式。它不再要求一个人、一台机器或者一个AI永远正确，而是通过分离判断与执行、限制作用边界、保留否决能力、验证现实状态、留下完整证据，让一个并不完美的主体依然能够获得足够大的行动空间。这可能也是未来企业自动化最重要的悖论之一：越想让机器自主，就越不能要求机器必须完美。因为如果一家企业只有在确信AI永远不会犯错时才敢让它真正执行，那么完全自主的商业系统永远不会到来；真正让自动化进入核心业务的前提，反而是接受它一定会犯错，并提前设计好错误不能穿透的边界。

所以"不完美主体"并不是一种保守主义，也不是在反对自动化。它实际上是一种更激进的自动化哲学——正因为不再要求主体永远正确，企业才可能真正把更大的行动空间交给AI。

小时候听"人无完人"，我们把它当成一句关于宽容的话。今天回过头看，它也许还是一条非常好的工程原则。人会犯错，程序会犯错，管理者会犯错，AI也会犯错，这个事实并不会因为技术继续进步而消失。模型可能越来越聪明，Agent的规划能力可能越来越强，企业自动化的范围也会越来越大，但只要系统仍然面对不完整的信息、复杂的现实和变化中的环境，"绝对正确的主体"就很难真正存在。

于是未来真正值得竞争的，也许不是谁能找到更接近完美的主体，而是谁能够更早建立一种结构，让不完美不再等于失控。当所有企业都可以买到更强的模型，当智能逐渐变成一种基础能力，真正稀缺的会是另一种东西：谁敢让AI进入生产，谁敢让它操作真实资源，谁敢让它参与资金和资产的流转，同时又不需要把企业的安全寄托在"它这一次应该不会错"上。这可能才是AI时代商业系统真正需要完成的跃迁——从相信某个主体，走向相信一套结构；从寻找不会犯错的人，走向设计能够容纳错误的系统；从追问"谁值得信任"，走向追问"什么事情值得发生"。

人无完人。这句话在过去是一种生活智慧，它教我们如何宽容地对待彼此。在AI时代，它也许还要被进一步理解成一种系统设计原则：

主体可以不完美，结构必须足够成熟。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4890698.html?f=wyxwapp