企业级统一平台服务企业Boomi正以顺应"智能体企业"时代的人工智能(AI)管控战略抢占先机。不过，在业界，随着自主行动的AI智能体迅速增加，而能够安全管理这些智能体的机制和成本控制体系尚未充分建立的担忧也在加剧。
Boomi首席执行官史蒂夫·卢卡斯(Steve Lucas)近日在接受TheQube采访时表示，Boomi的愿景已从"互联企业"经"自动化企业"进化为如今的"智能体企业"。他指出，目前客户最为敏感的关注点是"安全"。
卢卡斯强调，要在企业内部安全地运行多种智能体型AI和尖端模型，必须实现"容器化"。他指出，开放权重模型虽然非常强大，但在没有管控的情况下将其释放到企业系统中是危险的。他特别说明，能够自我修正的智能体至少需要隔离的执行环境和可以立即终止的"终止开关"。
开源AI智能体扩散引发企业安全紧张
这种警惕感随着近期开源AI智能体"OpenClaw"及其英伟达($NVDA)相关版本"NemoClaw"受到关注而更加强烈。卢卡斯判断，尽管企业正在着手制定新的AI战略，但第一步并非性能竞争，而是安全部署。
他认为，在一些企业环境中，未经验证的AI智能体已经流入内部，增加了软件漏洞暴露的可能性。首席信息官(CIO)和首席技术官(CTO)们尤其担忧的也是这一点。
卢卡斯透露，实际上，Boomi的客户公司正在利用其平台监控进入企业内部的智能体，在此过程中，已出现发现未注册的基于笔记本电脑的AI智能体的案例。例如，员工或开发者在个人设备上利用外部模型创建简单的智能体后，再连接到公司系统，就可能通过不受管理的路径使整个企业面临风险。
Boomi："现在就需要管控层级和政策制定"
Boomi去年推出了智能体管控产品系列"AgentStudio"。其中包含在一个集成空间中监控和管理AI智能体的"智能体控制塔"。
卢卡斯解释说，要使智能体企业战略有效运作，必须具备多层级的安全装置和基于容器的执行环境。他强调，特别是在监管审查或内部审计的情况下，企业必须能够追踪像"黑匣子"一样运作的智能体在组织内部到底做了什么。这意味着，AI治理的核心最终不在于技术引入本身，而在于"管控层级"和"政策制定"能多早准备好。
AI成本负担也在扩大……"有企业称支出比去年多出10倍"
智能体企业转型中的另一个关键变量是成本。卢卡斯表示，目前许多企业事后才确认去年在AI上的花费远超预期。据他了解，部分企业发现支出达到了平时的10倍水平。
AI基础设施的投资热潮不太可能立即降温，这也加大了负担。企业既要引入AI以确保竞争力，同时必须一并解决安全、运营管理和成本这三个问题。卢卡斯称，在现场听到最多的问题，在安全审查之后，最终还是集中在"成本"上。
按换算标准，1美元约为1469韩元。若AI基础设施运营费、模型使用费、外部解决方案联动费以及数据管理费叠加，对韩国国内企业来说负担也不小。尤其是大规模组织，各部门重复投资的可能性更高，因此成本效率体系变得至关重要。
人与AI共同管理的"AIOps"角色备受关注
AI的扩散也加剧了对人力结构的思考。企业内员工正密切关注在AI智能体不断增加的环境中，自身角色将如何变化。卢卡斯认为，这种变化的交汇点在于"AIOps"。
他表示，在市场上涌现出无数AI企业和解决方案的情况下，真正的问题不在于哪种技术最好，而在于组织内部由谁来进行整合并实现最高效的运营。这说明，智能体企业并非仅靠引入AI就能完成，还需要一个让人类与智能体共同工作的运营框架。
这番言论表明，企业AI市场现已超越实验阶段，正迈向实质性的运营管控阶段。智能体企业成为新标准的可能性很大，但其前提是"安全"、"治理"和"成本管理"。相较于多快引入AI，如何安全且高效地处理AI，正成为决定未来竞争力的关键变量。
TP AI 注意事项 基于TokenPost.ai语言模型对文章进行了摘要。正文主要内容可能被遗漏或与事实不符。