虽然引入人工智能正在提升企业生产力，但也有警告指出，其背后组织“判断主权”可能会逐渐削弱。有观点指出，在专注于速度和效率的同时，人类确定方向和承担责任的角色可能会被人工智能逐渐挤占。
为Silicon Angle撰稿的Holistic AI联合创始人兼联合首席执行官埃姆雷·卡齐姆(Emre Kazim)近期分析指出，企业正迅速将人工智能内化，从客户应答到决策制定皆是如此。他解释说，风险并非突然暴露，而是以“安静、渐进且易于合理化”的方式显现。这意味着，表面上工作效率提高了，但内部人类的判断和责任可能会变得模糊。
卡齐姆将此描述为组织的“能动性”（即自行判断和决定的能力）的弱化。当人类不再设定方向，而开始停留在被动监督人工智能系统所提出结果的水平时，这种变化就开始了。他认为，这种转变并非一朝一夕宣告完成，而是通过每一次小决定的积累而固化。
人工智能如今已超越工具，正在成为“工作环境”
他指出，人工智能已不再是单纯的软件，而是正在转变为企业工作的“环境”本身。实际上，许多企业正在通过学习品牌指南、运营手册、过往决策记录等内部数据，来打造组织专属的人工智能模型。这样构建的系统，可能看起来比任何特定员工都更能广泛地理解整个组织的背景脉络。
问题就在这里产生了。因为，如果系统看起来了解所有背景，那么质疑或反驳其结果的行为，可能会让人感觉像是在否定组织本身。卡齐姆解释说，人工智能越是使用自信而流畅的语言给出完整的答案，提出反对意见的成本就越高。
他基于自身学术背景强调，应该建立一种更重视“提问”而非“共识”的组织文化。他主张，健康的组织并非建立在简单的对齐之上，而是建立在一个过程之上，即便令人不适，也要验证推理、动摇假设。
便利的委托转变为“依赖”的瞬间
卡齐姆解释说，人类向来习惯于将部分思考委托给工具。使用GPS代替纸质地图，使用电子表格代替手算，都是自然而合理的变化。但他认为，人工智能在维度上有所不同，因为它不仅替代简单计算，还替代推理、语言生成、推荐乃至决策。
他指出，人们一开始并非有意放弃判断力。只是当人工智能在几秒内给出答案时，人们便跳过了深思和验证这一认知负担。结果，判断并非被“放弃”，而是在“不被使用”的过程中逐渐弱化。
为了说明这一点，他举了一位熟人的园艺管理案例。这位熟人利用人工智能助手管理植物选择、浇水日程和修剪时机，花园也保持得相当稳定。但是，当罕见的害虫出现时，他无法自行应对。这并非因为时间不足，也非能力不够。而是因为像季节的流转、干土的触感、下雨前叶片的变化这类理解花园的感觉本身已经消失了。
卡齐姆认为，这个案例同样适用于企业。即便表面运营更加顺畅，如果组织成员不理解为何会得出那样的结论，他们最终只会成为人工智能计划的“管理者”。
### 组织趋同性本就存在，但人工智能使其大大加速
他指出，企业原本就具有按共同叙事运作、容易失去外部视角的结构。员工们强化相似的假设，重复组织内部的逻辑，逐渐减少分歧。他认为，人工智能并非创造了这种倾向，而是将其大规模扩散开来。
根据卡齐姆的说法，能动性的弱化在日常运营中显现出来。领导者看似仍握有决策权，但实际上很容易不加深入追问地接受人工智能的建议。由于结果呈现得过于精细且自信，提出反驳本身便成了一种负担。久而久之，工作流程和思维方式也会根据系统运行的结构进行重组。最终，人们会习惯于毫无疑问地接受那些整理得干净利落的答案。
解决方案不是拒绝人工智能，而是将“人类意图”结构化
卡齐姆划清界限，表示解决方案不在于拒绝人工智能。关键在于进行设计，防止效率悄然取代判断。为此，他首先指出必须承认人类倾向于信任权威性的答案并避免摩擦。
他介绍了其公司为处理这类问题而正在研究的“守护代理”。他解释说，这并非单纯的监视工具，而是一种将政策、控制、期望水平等人类意图反映到系统中并持续执行的结构。既然人类会动摇，系统会扩展，那么意图也需要明确定义、验证并在必要时更新。
他认为，领导者们应当思考适应人工智能时代的组织设计。应当创建允许异议和讨论的工作流程，并明确在哪些节点上人类判断优先于系统逻辑。他还建议，应鼓励提问、反驳和独立思考，并通过教育让团队能够察觉便利使用转变为依赖的信号。
卡齐姆的结论是，最终竞争力并非取决于多快引入人工智能，而在于在此过程中能多大程度地守护人类的判断力。他指出，人工智能改变组织运营方式的潮流难以避免，但这一变化是会取代还是强化人类判断，最终取决于领导力。
TP AI注意事项 本文已使用基于TokenPost.ai的语言模型进行摘要。可能遗漏原文的主要内容或与事实不符。