ag九游会老哥交流社区:deepseek服务器包含软件、硬件含概电力AI知识库私有化布置 70b的布置价格多少

  DeepSeek 70B 一般运转在开源的 Linux 体系上，深度学习结构如 PyTorch 和 GPU 驱动如 CUDA 也是免费的。若运用 Ollama 等开源东西简化布置，可无需额定费用。若需延聘工程师进行模型量化或并行计算等优化，假定 1 名工程师 1 个月薪资 2 万元，软件开发本钱约 25 万元（视开发需求而定）。

  以 4 张 RTX 4090 为例，每张满载约 450W，总功耗约 1800W，加上 CPU 等其他部件，每天运转 24 小时耗电约 50 度。以工业用电 0.8 元 / 度计，每月电费约 1200 元。散热方面，若运用机房空调，每月额定约 500 元。电力与散热年本钱约为（1200+500）×12=2.04 万元。

  本地布置后需专人保护，包含硬件毛病排查、软件更新等。若延聘一名运维工程师，年薪约 15-20 万元。

  综上所述，计划初度投入约为 7.5（硬件）+2（软件）=9.5 万元，年运营本钱约为 2.04（电力）+15（运维）=17.04 万元，首年总本钱约为 26.54 万元。数据中心计划初度投入约为 23.7（硬件）+5（软件）=28.7 万元，年运营本钱约为 2.04（电力）+20（运维）=22.04 万元，首年总本钱约为 50.74 万元。