你们公司上本地 DeepSeek 了吗？

This topic created in 609 days ago, the information mentioned may be changed or developed.

好奇这么多公司搞大模型私有化部署，都用来干啥呢？感觉也就个知识库问答，没有太大价值。

4 replies

supuwoerc

Mar 3, 2025

上了 v3,r1 还有蒸馏的小模型，一部分给内部部门在 dify 放工作流做问答，一部分给开发用 roo code 和 continue 。

没啥特别大的价值，但是自己部署的不卡，而且领导不担心内部资料流出。

Mandyer

Mar 3, 2025

@supuwoerc 请问机器配置是什么样子的，多少参数的模型？

supuwoerc

Mar 3, 2025

@Mandyer
DeepSeek-R1：总参数 671B, 激活 37B,16 张 H800 一个实例
DeepSeek-R1-Distill-Qwen-32B：总参数 32B ，激活 32B ，1 张卡一个实例

ccloving

Mar 3, 2025

@supuwoerc 同感，只是做个问答，感觉真没必要花这么多钱。