实时推理优化初创公司Runware在A轮融资中成功筹集5000万美元（约720亿韩元），正式启动全面增长。本轮投资由达尔文资本领投，康卡斯特风投、Insight Partners、a16z Speedrun、Speedinvest等知名风险投资机构大规模参与。通过此次融资，Runware的累计融资额已达到6600万美元（约950亿韩元）。
Runware由罗马尼亚开发者二人组弗拉维乌·拉杜列斯库和约安娜·赫雷尼丘克于2023年创立，其创立目标是革命性地提升用于图像、视频、音频生成的AI实时推理速度。他们因对早期生成式AI工具缓慢的推理速度感到不满，从而开发了自身的优化方法。
Runware通过博客解释说，阻碍AI普及的主要障碍是缓慢的推理速度，这严重损害了用户体验。同时，还指出了主要大型语言模型（LLM）的碎片化可访问性和过高成本也是问题。为解决这些问题，Runware表示，通过将定制化AI推理硬件与优化的软件栈相结合，实现了相比传统数据中心最高快10倍且成本更低的性能。
Runware的核心能力在于其"声速推理引擎"和自主设计的硬件。通过基于API的集成方式，客户无需依赖特定LLM的基础设施或额外的集成过程，即可将其集成到应用程序中。此外，公司专注于开源模型优化，并为新版本发布提供"零日"支持，能够即时响应最新模型。
在软件层面，公司对模型加载和卸载进行了极致优化，支持超过40万个模型进行实时推理。赫雷尼丘克在接受TechCrunch采访时表示："我们的目标是成为所有智能应用的通用API"，并透露了未来将支持超过200万个模型，并计划扩展至图像、视频、音频之外的其他AI模态。
Runware在成立两年内已生成超过10亿个结果，并以此支持了超过20万名开发者和3亿全球终端用户。其主要客户包括Together Computer、知识平台Quora、图片分享网站Pripic、网站建设服务Wix等。
与此同时，Runware在推理优化市场中正与Fal.ai、Replicate等公司竞争。Fal.ai近期筹集了1.4亿美元（约2000亿韩元），企业估值达45亿美元（约6.48万亿韩元），但其更侧重于扩大模型范围而非推理速度。Runware则与这些竞争对手不同，在成本结构上也寻求差异化。现有厂商通常采用基于计算时间的计费方式，而Runware则基于结果单价收费，让客户仅为其所需部分付费。
借此轮融资，Runware预计将在技术升级和生态系统扩展两方面同时发力。其旨在消除AI推理瓶颈的战略将在实际产业现场引发何种变化，值得关注。
