打造人工智能开发工具的初创公司RadixArk成功获得了1亿美元（约合1460亿6000万韩元）的种子轮投资。该公司以开源为基础，提出同时提升“学习”与“推理”效率的技术，正在崛起为AI基础设施市场的新星。
据《华尔街日报》当地时间5日报道，本轮投资由英伟达（$NVDA）的风险投资部门NVentures和Spark Capital领投。此外，AMD（$AMD）、Databricks、博通（$AVGO）首席执行官霍克·谭等也参与了投资。本轮投资后，RadixArk的估值达到4亿美元（约合5842亿4000万韩元）。
RadixArk正基于SGLang和Miles这两个开源项目开发商业AI开发工具。其中，SGLang是公司成立前核心团队就已参与开发的技术，而Miles则于去年11月对外发布。
核心在于“降低学习成本”和“提升推理速度”
Miles是一款帮助更高效进行强化学习项目的软件。强化学习是训练大语言模型（LLM）时广泛使用的方法，其结构让模型通过试错来提升性能。
据RadixArk介绍，Miles可以将拥有1万亿个参数的LLM压缩到单个高性能显卡内存足以容纳的形态。这种方式能显著降低模型学习所需的硬件负担，从而降低整体训练成本。
此外，Miles还包含了名为“MrlX”的“异步共同进化框架”。该功能将多个AI代理置于同一模拟环境中同时进行学习。其原理是每个代理通过学习彼此的行为和结果，能够更快地优化推理能力。
SGLang，通过重用KV缓存降低基础设施负担
训练完成后，SGLang在推理阶段发挥作用。SGLang提供了构建AI模型响应用户请求的“推理环境”所需的组件。公司方面表示，该技术已在由超过40万个显卡组成的AI集群中得到应用。
尤其值得关注的是“KV缓存”重用功能。LLM在解析用户指令的过程中会生成大量临时数据，这些数据存储在名为KV缓存的结构中。通常每次请求结束后会清空缓存，但SGLang允许部分数据在下一个请求中重新利用。
这种方式减少了每次从头生成数据的需要，从而降低了基础设施开销，同时有望带来响应速度的提升。对于AI服务企业而言，这意味着可以同时降低服务器成本和延迟时间。
除此之外，SGLang还包含多项性能优化功能。通过“推测解码”的方式，将部分任务交给更轻量级的模型处理以减轻硬件负担，并且可以将计算任务分散到不同架构的芯片上进行处理。在特定环境中，这种结构能够大幅提升模型性能。
从开源扩展到商业基础设施
RadixArk计划未来基于Miles和SGLang，推出“托管基础设施”及各种开发工具的商业化产品。其形式很可能是支持客户在云端直接托管AI模型。同时，公司也计划持续推进开源版本的功能升级。
此次融资不仅仅是单纯的资金筹集，更表明AI产业的竞争重心正从模型本身迅速转向“开发效率”和“运营基础设施”。英伟达、AMD和Databricks等主要玩家从早期阶段便参与其中，这一点也佐证了该市场的成长潜力。
TP AI注意事项 本文使用TokenPost.ai基础语言模型进行摘要。文中可能遗漏主要内容或与事实存在差异。