AI 推理一体机方案

本方案面向上市公司与中大型企业，提供本地部署 480B 级大模型的 AI 推理一体机：硬件只是载体，交付的是已经接好企业知识、装好岗位 Agent、可以直接上岗的“AI 生产力单元”。内容包括商业模式、主力模型与机型、价格与单台预算、分阶段商业计划、采购渠道与供应商、与二手服务器合作方的合作方式，以及自研心智系统（前额叶系统、语义记忆、团队 Agent 模式）。

一、定位：卖生产力，不卖机器

二、商业模式

2.1 交付内容

一台一体机交付时包含四层：

1. 硬件：多卡推理服务器或高内存工作站，按使用人数选档（见第三部分）。
2. 模型：480B 级开源大模型本地部署，完成量化、多卡并行与推理加速；同一台机器上另配小模型负责检索、向量化与任务分派。
3. 心智系统与场景包：我方自研的心智系统（见第九部分），由前额叶系统、语义记忆和团队 Agent 模式组成，以开源 Hermes Agent 为基础框架；首批场景包括知识库问答、销售外脑、合同与制度审查、财务分析、代码与数据处理、内训陪练等，首次交付含 2–3 个场景。
4. 服务：上门部署、员工培训、知识库首次整理，以及之后每年的模型更新、知识库维护、新 Agent 上架与远程运维。

2.2 收入结构

2.3 客户为什么会长期续约

客户的粘性来自使用中不断沉淀的东西，而不是锁住数据：

• 知识库：企业制度、产品资料、历史合同、客户问答持续入库，越用越准。
• 工作流：Agent 接入审批、报表、客服等日常流程后，员工习惯围绕它工作。
• 持续更新：开源模型每季度都有新版本，客户需要有人评估、替换和回归测试。

合同中写明数据归客户所有、可随时导出。这一条在销售时能打消客户顾虑，留住客户靠的是服务质量与不断上新的场景。

2.4 合规要点

• 一体机部署在客户内网、服务于企业内部员工，一般不属于面向公众的生成式 AI 服务；客户若将其对公众开放，应由客户自行完成相应备案或登记。
• 英伟达方案只能采购中国特供型号。 原版 RTX PRO 6000（96GB）受美国出口管制，不得销往中国大陆和港澳；境内合规销售的是中国特供版 RTX PRO 6000D（84GB）。采购合同写明型号、原厂质保与合规来源证明。
• 政府、国企与有国资投入的客户只报国产版。 据 2025 年下半年的公开报道，监管部门已要求有国资投入的数据中心使用国产 AI 芯片，并劝阻大型科技企业采购英伟达中国特供卡；民营企业客户可以报英伟达方案，但要提示供货与政策风险。

三、主力模型与机型

3.1 主力模型

主力模型为通义千问 Qwen3-Coder-480B-A35B：总参数 4,800 亿，采用混合专家结构，每次调用约 350 亿参数参与计算，因此推理速度远快于同等规模的稠密模型；采用 Apache 2.0 许可，可以免费商用。

这个模型在编程、数据处理与多步骤智能体任务上最强。以通用问答、公文写作为主的客户，可以在同一台硬件上换用同级的通义千问通用模型（约 400B 级），具体版本以官方模型卡为准。

3.2 机型分档

价格为 2026 年 10 月国内市场参考价。受服务器内存与显卡涨价影响，报价按到货价调整。

选型说明：

• 按客户性质分两条主线：民营企业以标准版为主，政府、国企与有国资投入的客户只报国产版。
• 标准版：4 张 6000D 装下 4 位量化的 480B 模型后，只剩约 45GB 留给多人同时对话的上下文缓存，同时使用人数按 20–40 人报，交付前须实测。需要更多人同时使用的客户直接上旗舰版。
• 个人与演示版单机就能跑 480B，体积小、静音、即插即用，用作销售演示机，也卖给高管个人或小团队。上一代 M3 Ultra 的 512GB 配置已于 2026 年 3 月停售，改用 M5 Ultra 512GB；国行价格和交期以苹果公布为准。
• 旗舰版用于集团级部署或对效果要求最高的客户，8 位运行接近原版效果。
• 国产版的价格与 480B 实测性能都须向整机厂商确认后再报价；目前没有查到 Qwen3-Coder-480B 在昇腾上的官方适配记录，要求厂商出具适配证明与实测的吞吐、并发数据。
• 显卡占英伟达方案硬件成本的七成以上，加上服务器内存大幅涨价，报价须设 15 天有效期，或约定按到货成本调整。

四、套餐价格

付款节奏：签约预付 50%，到货安装 40%，验收 10%。硬件以销定采，不备库存。

五、单台预算与利润（标准版，三年）

按续约率 80%、每台每年加购 0.25 个 Agent 测算。硬件由客户直接采购，不计入下表。

要点：

• 首单实施毛利率约 63%（15 − 3.75 − 1.8 = 9.45 万元 ÷ 15 万元）。硬件单价高，但不经过我方账户，利润全部来自服务与场景。
• 如果把客户的硬件支出也算进去，单台三年总支出约 75 万元，其中我方毛利约 20 万元，约占 27%。
• 各档位的单台经济性、五年损益与敏感性见《AI 推理一体机财务模型》。

六、商业计划

6.1 三个阶段

6.2 三年测算（基准情景）

档位组合为个人与演示版 25%、标准版 55%、旗舰版 15%、国产版 5%；续约率 80%，每台每年加购 0.25 个 Agent；八成硬件由客户直接采购。

第一、二年亏损，第三年净利润转正。第四、五年净利润分别约 273 万元、463 万元，第五年末年度续费规模约 1,368 万元。

6.3 启动资金

累计现金流最低约 −284 万元，再加第一年 3 个月固定开支作为储备，建议启动资金约 347 万元，分两期到位：

如果全部硬件都由我方过账且不加价，资金需求会升到约 508 万元，因此三方合同是默认采购方式。销量只有基准的 60% 时，资金需求升到约 577 万元，第二期资金应以复制期的签约台数和续约率达标为前提。

七、采购渠道与供应商

只列机构层面的信息。型号与价格以厂商书面报价为准；标“待核实”的，须先确认授权与资质再采购。

7.1 标准版与旗舰版：英伟达方案整机与板卡

注：英伟达公布的 RTX PRO 服务器合作厂商名单中没有中国大陆厂商；国内 6000D 整机目前多为渠道商组装。建议由整机厂或英伟达授权总代供货，签“供货方—我方—客户”三方合同，写明采购的是 6000D、原厂质保与合规来源证明。

7.2 国产版：昇腾整机

海光路线：中科曙光（603019）与海光信息（688041）已完成 DeepSeek 在海光 DCU 上的适配，可作为昇腾之外的第二国产方案，具体型号待核实。

7.3 个人与演示版：苹果渠道

7.4 大模型一体机品牌：可能的供货方，也是竞品

我方和这些品牌的区别不在硬件，而在自研心智系统（前额叶系统、语义记忆、团队 Agent 模式）、场景包与持续服务；它们卖的是机器加通用模型，我方卖的是已经接好企业知识、装好岗位 Agent 的生产力单元。

7.5 算力租赁与托管（托管租用合作对象）

国内二手 GPU 服务器回收商本次没有找到可公开核实的机构，接触前按经营范围、检测场地与质保能力逐家核验。

八、二手服务器合作方式

8.1 480B 配置下二手机器的定位变化

主力模型改为 480B 后，单台至少需要约 300GB 显存，二手机器的价格优势基本消失：

• 按公开行情，二手 A100 80GB 单卡约 1.2–1.8 万美元，8 卡整机（640GB）的价格与新的 8 卡 6000D 旗舰版相当，但代际更老、耗电更高、没有原厂质保。
• 二手 A100 40GB 8 卡（320GB）只能勉强装下 4 位量化模型，几乎没有空间留给多人同时使用。
• 3090、4090 等消费级显卡显存太小，8 张也装不下 480B 模型。

因此二手服务器不再作为交付给客户的经济版，合作重点转向下面四种方式。只有二手 A100 80GB 单卡价格降到 5 万元以下时，才值得重新评估。

8.2 四种合作方式

建议顺序：托管租用最先谈，它让预算有限的中型企业也能用上 480B，是对“几十万元一台”门槛的直接补充；以旧换新作为大客户的促成手段；联合销售用于借合作方的客户资源放量。

8.3 二手机器的选型红线

九、软件方案：自研心智系统

9.1 三项自研核心

一体机的软件核心是我方自研的心智系统，由三部分组成：前额叶系统、语义记忆和团队 Agent 模式。开源框架与一体机厂商的产品，多数停留在“一问一答”或预设的固定流程，这三项是我方的核心差异。

前额叶系统：Agent 的“大脑皮层前额叶”

人脑的前额叶负责设定目标、制定计划、做出判断和控制行为。前额叶系统在 Agent 中承担同样的职责：

• 把一项任务拆成步骤，并记住做到了哪一步；
• 在几种做法之间权衡，选出更合适的一种；
• 发现结果偏离目标时，自己回头纠正；
• 决定什么时候调用哪个 Agent、哪项工具或哪段记忆。

有了这一层，Agent 才能完成写一份尽调报告、核对一批合同这类需要多步骤推进的工作，而不只是回答单个问题。

语义记忆：按意思记住，而不是按字面记住

例如员工问“上次那家客户对报价的意见”，语义记忆能把相关的报价单、往来邮件和会议纪要一起找回来，即使里面没有出现“报价意见”这几个字。

团队 Agent 模式：一群 Agent 像团队一样分工协作

多个角色不同的 Agent 组成一支团队，例如资料员负责收集、分析师负责研究、审核员负责挑错、执行者负责产出，由前额叶系统分派任务、汇总结果，并在意见不一致时做出裁决。

• 与《上市公司 Agent 落地方案》的三层架构（信息采集、研究辩论、决策风控）直接对应。
• 一台一体机上可以同时运行多支团队，分别服务董秘、财务、销售等不同部门。
• 团队的分工与协作规则可以按企业的岗位设置调整，这是加购 Agent 的主要形式。

9.2 与开源 Hermes Agent 的关系

开发团队坚持全开源路线：模型、推理引擎和基础框架都选开源、可以审查源代码的产品，不用闭源的商业大模型和平台。Nous Research 开源的 Hermes Agent（2026 年 2 月开源，MIT 许可，可免费商用和二次开发）作为基础框架，提供工具调用、技能沉淀和多渠道接入等通用能力；前额叶系统、语义记忆与团队 Agent 模式是我方在它之上自研的部分。开发者已有可运行的系统，封装成产品后就可以直接销售。

9.3 和商业模式的对应

9.4 软件分层

9.5 封装销售前要处理的事项

十、下一步

1. 开发者在样机上演示 480B 模型加心智系统：前额叶系统完成一项多步骤任务、语义记忆跨文档找回、团队 Agent 协作产出各一例；并实测 4 卡 6000D 标准版的同时使用人数与响应速度。
2. 开发者出具前额叶系统、语义记忆与团队 Agent 模式的技术说明，作为对客户技术团队讲解和申请软件著作权的底稿。
3. 向两家以上整机厂商和英伟达授权总代询价 6000D 标准版、旗舰版，取得型号合规与交期的书面确认；向华为及两家昇腾整机厂商索取 480B 适配证明、实测数据与报价。
4. 采购样机两台（标准版、个人与演示版），完成三个标准场景包的适配。
5. 从双方现有客户中选 3 家上市公司或中大型企业作为样板客户，安排演示。
6. 接触 1–2 家有机房的算力服务商，谈 480B 专属整机的托管租用。
7. 确定合作伙伴政策与双方收入分配，纳入《收费模式》。
8. 整理开源组件清单与许可声明，确定对外产品名称。