Techub News 消息,开源项目 Mesh LLM 将闲置英伟达 GPU 整合为点对点网络,支持大语言模型分布式推理,并提供 OpenAI 兼容 API 供开发者直接替换云端模型。 该项目获 Jack Dorsey 支持,通过「Skippy」管道将大模型分区到多节点运行,局域网处理 2350 亿参数模型速度约每秒 16 token。其激励层 Meshtrain 以 MeshCoin 奖励贡献者,Block 旗下 Buzz 应用已集成该网络,数据不经过外部数据中心。(CryptoBriefing)