站内快照 · 国内可打开。外网原文可能无法访问。

• 论文公开站arXiv2026年9月29日 6:16

  Kafila：在可信异构消费级机器集合上服务大语言模型

  Kafila: Serving Large Language Models on a Trusted Set of Heterogeneous Commodity Machines

  研究组成员或朋友圈各自拥有几台消费级计算机，但单台都不足以运行一个有能力的大语言模型。现有系统在开放集群中汇聚此类算力，而仅接纳可信机器的群体则无法使用。

  原文链接