跳到主要内容

采用情况

MatrixHub 是一个面向企业级 AI 推理基础设施的开源、自托管、兼容 Hugging Face 的模型仓库。

采用者​

此列表仅包含同意公开其组织名称的组织。如需添加或移除你的组织,请提交更新此页面的拉取请求。

DaoCloud 在其 Token Factory 平台上以私有模型中心的方式运行 MatrixHub,支持 Hugging Face 兼容访问、内网模型缓存、项目级仓库和运维工作流。

外部集成文档​

vLLM 的 MatrixHub 文档说明了如何将 HF_ENDPOINT 指向 MatrixHub 实例,使 vllm serve 通过内网而非公共 Hugging Face Hub 获取模型权重。

NVIDIA Dynamo 的 MatrixHub 模型加载指南展示了如何配置 Kubernetes 部署,使 Dynamo 的前端和 worker 组件通过 MatrixHub 加载已缓存的模型权重。

llm-d 的自托管模型仓库指南说明了如何在 modelserver.env 中配置 HF_ENDPOINT,使 llm-d 的模型服务 Pod 通过 MatrixHub 加载已缓存的模型权重。

MatrixHub 参考资料​

添加你的组织​

如需添加你的组织,请提交更新此页面的拉取请求,欢迎贡献。