瞄准大规模数据处理局限性的人工智能初创公司Graphon Inc.已获得830万美元（约合124.3亿韩元）的种子轮投资，并正式成立。其战略是通过弥补大型语言模型（LLM）的“上下文窗口”局限，提高企业级AI的准确性和实用性。
本轮投资由Novera Ventures领投。包括Perplexity AI、三星电子、日立的企业风险投资组织在内，共有超过7家投资者参与。Graphon正在开发一个软件平台，该平台从大规模数据集中提取并存储核心关系与模式，然后帮助LLM重新调用并利用这些信息。
LLM的局限与Graphon的应对方法
即便是目前最先进的LLM，其一次性能够处理的输入量也存在明显限制。通常，最新模型的上下文窗口约为100万个令牌，这大致相当于数千页文本。对于读取并理解庞大的企业数据、安全日志或整个文档存储库而言，这仍然是不够的。
为弥补这一问题，业界广泛使用了RAG（即检索增强生成）技术。RAG的方式是分析超过100万个令牌的数据集，提取相关记录后提供给LLM。然而，许多人指出，虽然它在甄别单个信息重要性方面有优势，但在精确把握分散记录之间的“关系”方面存在弱点。
例如，即便从大规模网络安全数据中提取出恶意代码信号，也可能无法区分这些信号代表着不同的攻击，还是属于同一个黑客攻击活动的痕迹。Graphon正是瞄准了这一点。该公司解释道，他们会在数据集中找到核心模式并存储在“持久关系记忆”中，之后让LLM能够在不受上下文限制的情况下利用这些模式。
技术架构与核心人物
据悉，Graphon的平台利用一个拥有约2亿个参数的小型AI模型来识别模式。在此过程中采用了“图”结构——图是一种非常适合于表达对象之间连接关系的数据结构。据评估，这对整理企业数据这种相互关联信息众多环境中的有意义的模式十分有利。
此外，与公司同名的概念“图函数”（Graphon function）也是核心关键技术。图函数是一种数学工具，用于在以图形形式存储的数据中找到相互连接的记录。为图函数发展做出贡献的计算机科学家Christian Borgs目前作为Graphon的技术顾问参与其中。
首席执行官Arbaaz Khan表示：“在过去十年里，AI学会了模仿语言，但现实世界并非由‘令牌’构成，而是由‘关系’构成。”他说：“通过保留这种结构，我们可以让基础模型在企业环境中变得更准确、更有用。”
市场趋势与展望
Graphon是在帮助LLM处理更多数据的初创公司潮流中应运而生的。最近成功获得投资的Subquadratic声称，他们开发出了一种Transformer架构，可以仅通过一次提示处理多达1400万个令牌。另一家新兴公司Standard Intelligence则选择采用“掩码压缩”技术，通过剔除提示中不重要的信息来提高实际处理容量。
市场分析认为，生成式AI的竞争正在从扩大模型规模转向提升“数据利用效率”。如果Graphon的方法能在实际企业应用中同时证明其性能和成本效益，那么它很有可能在AI基础设施市场中快速提升其存在感。
TP AI 注意事项 本文使用基于TokenPost.ai的语言模型进行了摘要总结。正文主要内容可能存在遗漏或与事实不符之处。