Skip to content

cost-estimation.md

Latest commit

 

History

History
212 lines (153 loc) · 12.1 KB

cost-estimation.md

File metadata and controls

212 lines (153 loc) · 12.1 KB
Raw

成本测算表（cost-estimation）

文档版本 撰写日期 对应 PRD 对应技术方案
V1.0 2026-06-17 PRD 四-非功能、六-商业化 技术实现方案 §10（模型/成本/国产化合规）、§9（部署）

重要声明：本表所有模型单价、基础设施价格均为测算假设值，仅用于量级评估，以各厂商/云服务商官方最新定价为准。汇率按 1 USD ≈ 7.2 CNY 估算。Token 量按经验估算，实际随内容长度、缓存命中率、并发而波动。分国内（通义/DeepSeek + 自托管）与海外（Claude + OpenAI）两套；产品默认国内方案（合规优先，技术方案 §10）。

0. 测算方法说明

  • 分档路由（对齐 LLMGateway 的 reasoning/general/light 三档与 config.py 的 MODEL_*）：高频简单任务走 light（最便宜），常规生成走 general，仅 GitHub 深度解析等高价值复杂推理才上 reasoning。
  • Token 估算粒度：1 个汉字 ≈ 1.5–2 token，1 万字中文 ≈ 1.6–2 万 token；英文按词估。下文取保守中位。
  • 缓存收益（系统提示/术语词典固定前缀、相同 URL 去重、检索结果缓存）单列在 §5，未在 §2/§3 的「裸算」中扣除。

1. 模型单价假设表（每百万 token，USD / CNY）

以下为测算假设值，非官方报价；实际以官方最新定价为准。input/output 分别计价。

1.1 海外（Claude + OpenAI）

档位 模型（假设） 输入 $/1M 输出 $/1M 说明
reasoning Claude Opus 4.8 5.00 25.00 深度推理；1M 上下文档可能溢价，按标准档估
general Claude Sonnet 4.6 3.00 15.00 报告/MD/RAG 答案
light Claude Haiku 4.5 1.00 5.00 翻译/打标/去重/Query 改写
embedding OpenAI text-embedding-3-small 0.02 — 向量化
rerank （Claude 体系无原生 rerank，复用自托管 bge-reranker 或 Cohere Rerank） 约 1.00 / 1k 次查询 — 见 §1.2

1.2 国内（通义 / DeepSeek + 自托管）

档位 模型（假设） 输入 ¥/1M 输出 ¥/1M 说明
reasoning 通义 qwen-max（或 DeepSeek-R 系列） 20.00 60.00 深度推理
general 通义 qwen-plus（或 DeepSeek-V 系列） 2.00 6.00 常规生成；性价比高
light 通义 qwen-turbo 0.30 0.60 高频翻译/打标/去重
embedding 通义 text-embedding-v3 0.50 — 或自托管 bge-m3（仅算电费/GPU 摊销，近似 0 边际）
rerank 自托管 bge-reranker-v2-m3 摊销在 embedding 容器 — 边际成本近似 0（GPU/CPU 容器固定成本，见 §4）

自托管 bge-m3 + reranker：边际调用成本趋近 0，成本主要落在 §4 基础设施（GPU/CPU 容器）。国内大规模场景下，自托管 Embedding/Rerank 是关键降本杠杆。

2. 按用量场景的单次 token 估算

下表给出单次操作的 token 与成本估算（裸算，未计缓存）。"国内"列用 §1.2 单价，"海外"列用 §1.1 单价。

2.1 资讯流 6h 任务（翻译 + 打标）

  • 频率：每天 4 次（6h 一次），每次处理约 50 条最终保留（去重前抓取约 150–300 条）。
  • 单条处理（light 档）：去重判别 + 清洗 + 翻译标题正文 + 打标，合计约 input 1,500 token + output 500 token。
  • 去重 embedding：单批约 300 条 × 平均 200 token ≈ 6 万 token/批。
项目 单位 国内（¥） 海外（$）
单条翻译+打标（light） 1 条 0.0008 0.0040
单批 50 条保留处理 1 批 0.04 0.20
单批去重 embedding（6 万 token） 1 批 0.00003（自托管近 0） 0.0012
单批合计 1 批 ≈ 0.04 ≈ 0.20
每天 4 批 日 ≈ 0.16 ≈ 0.80
每月（30 天） 月 ≈ ¥4.8 ≈ $24（≈¥173）

资讯成本是全平台共担的固定成本（不随用户数线性增长），量级很小。可用批量接口再降约一半。

2.2 单次 GitHub 深度解析（reasoning 档，约万字报告）

  • 输入：README + 依赖文件 + 目录树 + 提示 ≈ input 30,000 token（大仓更多）。
  • 输出：万字中文报告 + Mermaid + 竞品对比 ≈ output 20,000 token。
方案 输入成本 输出成本 单次合计
国内 qwen-max 30k×¥20/1M = ¥0.60 20k×¥60/1M = ¥1.20 ≈ ¥1.8
海外 Opus 4.8 30k×$5/1M = $0.15 20k×$25/1M = $0.50 ≈ $0.65（≈¥4.7）

加上入库 embedding（报告分块约 2 万 token，自托管近 0 / 海外约 $0.0004）可忽略。GitHub 深度解析是单次最贵的高价值操作，因此 reasoning 档仅此类才用。

2.3 单次站点重构（general 档，MD/PPT）

  • 输入：多页正文抽取（≤3 层 BFS）≈ input 40,000 token。
  • 输出：结构化 MD + 3–5 场景示例代码 ≈ output 15,000 token（PPT 大纲略少）。
方案 输入成本 输出成本 单次合计
国内 qwen-plus 40k×¥2/1M = ¥0.08 15k×¥6/1M = ¥0.09 ≈ ¥0.17
海外 Sonnet 4.6 40k×$3/1M = $0.12 15k×$15/1M = $0.225 ≈ $0.35（≈¥2.5）

2.4 单次 RAG 问答（general 档 + 检索）

  • Query 改写（light）：input 100 + output 50 token，可忽略。
  • 检索 embedding（query 1 条）：近 0。
  • 生成（general）：注入 TopN=8 条 snippet ≈ input 4,000 token + output 800 token。
方案 单次合计
国内 qwen-plus 4k×¥2/1M + 0.8k×¥6/1M ≈ ¥0.013
海外 Sonnet 4.6 4k×$3/1M + 0.8k×$15/1M ≈ $0.024（≈¥0.17）

防幻觉短路（召回空/低分）的问答不调用生成模型，成本为 0。命中率假设按 70% 计入生成成本。

3. 三档用户规模的月度 LLM 成本区间

用量假设（每活跃用户每月）：

行为 free 用户 pro 用户
GitHub/站点解析 3 次（free 上限） 20 次
RAG 问答 0（free 不解锁） 100 次
资讯浏览 仅读 Redis，不耗 LLM 同
收藏入库 embedding 10 次×2k token 30 次×2k token

用户构成假设：免费∶付费 ≈ 9∶1（行业常见漏斗）。下表按此构成给区间（低值=国内方案，高值=海外方案）。资讯固定成本 §2.1 单列。

3.1 100 活跃用户（约 90 free + 10 pro）

项目 国内（¥/月） 海外（¥/月，折算）
解析（90×3 + 10×20 = 470 次，混合档） ≈ 470×¥1.0 ≈ ¥470 ≈ 470×¥3.5 ≈ ¥1,645
RAG（10×100×70% = 700 次） ≈ ¥9 ≈ ¥120
入库 embedding ≈ 0（自托管） ≈ ¥10
资讯固定成本 ¥5 ¥173
小计 ≈ ¥490 / 月 ≈ ¥1,950 / 月

3.2 1,000 活跃用户（约 900 free + 100 pro）

项目 国内（¥/月） 海外（¥/月）
解析（4,700 次） ≈ ¥4,700 ≈ ¥16,450
RAG（7,000 次） ≈ ¥90 ≈ ¥1,200
入库 embedding ≈ ¥0–50 ≈ ¥100
资讯固定成本 ¥5 ¥173
小计 ≈ ¥4,800 / 月 ≈ ¥17,900 / 月

3.3 10,000 活跃用户（约 9,000 free + 1,000 pro）

项目 国内（¥/月） 海外（¥/月）
解析（47,000 次） ≈ ¥47,000 ≈ ¥164,500
RAG（70,000 次） ≈ ¥900 ≈ ¥12,000
入库 embedding ≈ ¥0–500（自托管） ≈ ¥1,000
资讯固定成本 ¥5 ¥173
小计（裸算） ≈ ¥48,000 / 月 ≈ ¥178,000 / 月
应用 §5 降本后 ≈ ¥30,000–34,000 / 月 ≈ ¥110,000–125,000 / 月

结论：LLM 成本由「解析次数」主导（reasoning 档单价高 + 单次 token 量大）。国内方案约为海外的 1/3.5，这是默认国产化合规路线的成本侧收益。解析配额护栏（free 每月 3 次）是控成本的关键阀门。

4. 基础设施成本（阿里云，人民币/月，估算）

规格为建议起步值，按 ECS/RDS/Redis/OSS/ACR 官方价目量级估算；包年包月通常更省。

4.1 100–1,000 用户（起步，minimal profile，Embedding 走 API）

资源 规格建议 估算 ¥/月
ECS（api + worker + 中间件混部，或 2 台） 8 vCPU / 16 GB（如 ecs.g7 系列），1–2 台 ¥600 – 1,400
RDS PostgreSQL 2 vCPU / 4 GB，100 GB SSD ¥400 – 600
Redis（云数据库 Tair/Redis） 2 GB 主从 ¥150 – 300
OSS（对象存储） 100 GB 存储 + 请求 ¥30 – 80
公网带宽 5 Mbps 固定 或 按量 ¥150 – 400
ACR（容器镜像服务） 企业版基础 / 个人版 ¥0 – 100
Qdrant（自托管在 ECS，无独立费用） 复用 ECS 含在 ECS
小计 ≈ ¥1,300 – 2,900 / 月

4.2 1,000–10,000 用户（full profile，自托管 bge-m3 + reranker）

资源 规格建议 估算 ¥/月
ECS（api ×2 + worker-default ×2 + worker-crawler ×2） 16 vCPU / 32 GB ×3–4 台 ¥4,000 – 8,000
GPU ECS（Embedding/Rerank 自托管，bge-m3） 1×T4/A10 级，1 台（可 CPU 但慢） ¥1,800 – 4,000
RDS PostgreSQL 4 vCPU / 16 GB，500 GB SSD，高可用 ¥1,200 – 2,000
Redis 8 GB 集群版 ¥600 – 1,200
OSS 1–5 TB + 流量 ¥200 – 800
公网带宽 / CDN 20–50 Mbps 或按量 + CDN ¥800 – 2,500
ACR 企业版 ¥100 – 300
小计 ≈ ¥8,700 – 18,800 / 月

自托管 GPU 把 Embedding/Rerank 的 LLM 调用成本压到近 0，规模越大越划算；小规模反而 API 更省（无需养 GPU）。Qdrant 数据增长后建议独立节点或加内存。

5. 成本控制策略与降本比例估计

对齐技术方案 §10.2。下表给出各策略落地后的估算降本比例（叠加非简单相加，存在重叠，总效果取保守）。

策略 机制 估算降本
分档路由 80% 高频任务（翻译/打标/去重/Query 改写）走 light，仅深度解析上 reasoning LLM 总成本 降 40–55%
Prompt 缓存 系统提示 + 术语词典固定前缀缓存；相同长上下文命中缓存价 输入 token 成本 降 20–40%
检索结果 / URL 去重缓存 相同 query 召回缓存；相同 GitHub/站点 URL 解析去重（已解析直接返回） 解析/RAG 降 10–25%（视重复率）
批处理 资讯翻译/打标走批量接口（非实时） 资讯档 降约 50%
配额护栏 free 每月 3 次解析、按 plan 限每日 LLM 调用（LLM_DAILY_CALL_LIMIT_*），防滥用/被刷 防尾部失控，封顶而非降均值
自托管 Embedding/Rerank 国内 full profile，bge-m3 + bge-reranker，边际成本近 0 向量化/重排成本 降 90%+（转为固定 GPU 成本）

综合估计：以上策略叠加后，LLM 总成本相对裸算可降约 35–50%（§3.3 已示意）。基础设施成本相对刚性，靠包年包月、混部、按需伸缩 worker 优化约 15–25%。

6. 小结

  • 默认国内方案（通义/DeepSeek + 自托管 bge）综合成本约为海外（Claude + OpenAI）方案的 1/3 – 1/3.5，且规避网络/合规风险，是产品默认路线。
  • 成本主导项是「解析次数 × reasoning 档」，因此分档路由 + 解析配额护栏是最有效的两个杠杆。
  • 各档用户规模月度总成本（LLM + 基础设施，国内方案，应用降本后估算）：
    • 100 用户：约 ¥1,800 – 3,400 / 月
    • 1,000 用户：约 ¥9,000 – 18,000 / 月
    • 10,000 用户：约 ¥40,000 – 53,000 / 月
  • 再次声明：以上全部为估算假设值，仅供量级评估与商业化定价参考，实际以官方最新定价与真实用量为准。