生成型人工智能安全初创公司Portal26发布了一款新模块，旨在防止企业级AI代理过度消耗“令牌”。该模块针对自主型AI代理意外重复任务或扩大范围导致成本激增的问题，重点提升企业AI运营的稳定性。
Portal26于24日（当地时间）宣布，推出可为单个代理、特定工作流程以及整个组织单位设定令牌预算的功能。接近设定限额的代理将自动调整速度，若超出限额，则可暂停或完全终止。令牌是大型语言模型（LLM）在处理和生成文本时使用的运算单位，使用量越大，成本也越高。
该公司解释道，多阶段自主型AI代理可能会陷入递归循环、过度查询系统，或以超出原始任务范围的方式运作。在这种情况下，令牌使用量会呈指数级增长，导致企业同时面临意想不到的账单和运营不稳定。Portal26强调，该产品是首个专门针对此类风险进行企业级管理的工具。
首席执行官阿尔蒂·拉曼表示：“代理型AI虽然强大，但如果没有成本控制，很快就会变得昂贵且混乱。”他以优步科技公司（$UBER）为例，说明企业正切身感受到AI部署速度与成本可预测性之间的冲突。他补充道，新模块可以向客户展示详细使用情况，有助于减少收到计划外账单的情况。
该模块不仅仅是限制使用量，还包含了实时显示令牌在整个代理系统中如何被使用及使用位置的功能。它还配备了接近限额时自动干预的适应性安全措施。其构想并非由财务部门事后整理成本，而是从一开始就将成本可预测性作为AI运营的默认设置。
随着企业将生成型AI从实验阶段扩展到实际业务环境，这类问题愈发突出。在跨多个任务、模型调用连锁进行的代理型系统中，每次调用都会产生成本。如果代理重复运行或自行扩大执行范围，成本可能会在现有预算控制措施生效前急剧增长。
Portal26近期还推出了聚焦于AI安全和业务价值衡量的“代理管理”工具。首席产品与AI官帕克西·拉詹评价，这款新产品不仅仅是成本控制工具，更是实现“负责任的AI运营”的核心基础。
另一方面，Portal26是一家获得风险投资支持的初创公司，至今已通过两轮融资共筹集1500万美元，约合221.625亿韩元。其中，去年11月获得的资金为900万美元，约合132.975亿韩元。主要投资方包括Refinery、Shasta Ventures和Fusion Fund。
随着企业间的生成型AI竞争从实验阶段转向运营阶段，“成本控制”正与“性能”并驾齐驱，成为核心课题。AI代理的普及速度越快，精准管理令牌使用量的工具的重要性预计也将随之增长。
TP AI注意事项 本文基于TokenPost.ai语言模型进行摘要。正文主要内容可能被遗漏或与事实存在出入。