泽塔立方(Zetacube)向三星SDI(现Hudson尖端材料韩国)清州工厂供应了本地人工智能服务器“SAI”,并基于此完成了大数据智能文档检索系统的构建。该系统即使在外部网络阻断环境下也能稳定运行大规模LLM,可实现安全强化与快速业务支持。泽塔立方计划借此案例加速推广本地AI基础设施。
提供超小型AI数据中心解决方案“纳米数据中心(NANODC)”及本地人工智能服务器“SAI(System to AI)”的泽塔立方宣布,已向三星SDI(现Hudson尖端材料韩国)清州工厂供应了其基于本地开源LLM的AI服务器系统“SAI”。
泽塔立方的“SAI”是一种无需外部互联网连接、可在本地网络环境中独立运行的本地化人工智能服务器解决方案。其开发旨在弥补以往使用基于云的LLM服务过程中可能出现的安保问题、响应速度慢、使用成本高、系统访问限制等不足。如其名称“System to AI”所示,其特点在于包含了将企业现有系统转型为AI系统的集成服务。
三星SDI在约50年间生产偏光膜等尖端零部件及材料的过程中,积累了大量的质量管理资料、生产履历、社规、手册等文档数据,但原有的基于数据库的检索系统难以根据用户意图检索和利用其中混杂的多语言文档及特殊或工业术语的资料。
尽管应用了Elastic Search等现有检索技术和多种算法,但在实现超越简单关键词检索的智能检索方面仍存在困难,且受三星集团安保政策限制,无法连接外部互联网,因此也难以引入基于云的解决方案。
在此背景下,泽塔立方于今年4月举行的世界IT展上首次公开了基于本地开源LLM的“SAI”解决方案。三星SDI获悉后,经过长期审核,于10月底接收了该系统,并着手开发文档检索系统,于12月完成构建。
此次构建的系统采用泽塔立方的“SAI-4000”系列,这是一款经过优化、能够以合理成本稳定运行800亿参数规模大型语言模型的高性能AI服务器解决方案。泽塔立方基于开源LLM和向量数据库,为三星SDI构建了符合其需求的负载与管道,并支持了包括数据清洗和嵌入作业在内的整体构建工作。
所有开发与运营过程均在外部网络完全阻断的本地环境中进行,从根源上杜绝了资料泄露风险,并通过基于本地网络的运营,实现了相比云环境快数倍的响应速度。
已构建的系统能对三星SDI40余年来积累的手册、生产记录、质量管理文档、社规等资料按类别进行智能检索,并由LLM实时摘要以支持访问原文。公司期待此系统不仅能提升业务效率,还将在新员工培训、内部知识管理等多个领域发挥作用。
泽塔立方代表赵正贤表示:“此次向三星SDI供应SAI服务器,证明了本地化‘企业专用人工智能服务器’可同时具备效率与安全性,是既能从根源阻断日益频发的安保事故,又能让企业核心资产安全地进行AI学习的最佳解决方案。”
泽塔立方未来将持续推出面向不同客户群的专用SAI服务器套件,同时计划以主力解决方案纳米数据中心为基础,通过分布式AI集群引领人工智能基础设施的普及化。


