我要投稿

他因选DeepSeek 70B 体验差，被开除

发布日期：2025-03-28 06:58:32 浏览次数： 1608 来源：算力百科

受害者案例

这个案例是真实的，这个哥们之前问过我选什么版本，我俩还探讨过选什么版本比较好，我推荐他选满血版，哪怕是选择一个量化Q4的，他们预算不多，领导的意思是先做个AI助手，再慢慢体验后续逐步集成到业务系统里。

最终，他们选择了一个之前合作过的集成商，提供了一个DeepSeek 蒸馏的70B版本，部署了一个AI助手用，领导说不好用，天天PUA他，然后就吵吵起来了，被迫离职。

领导很好学，天天在体验APP

现在的领导都是既要又要还要，很多领导虽然技术不咋地，但是他们朋友多，朋友们各种推荐，下载一堆大模型app。

我认识一个部委的处级干部，手机上有5 6个大模型APP，Deepseek 、豆包、通义、kimi、文小言都有，没事的时候各种体验，跟我分享他的体验效果，哪个好，哪个不好，他的想法，美其名曰，与时俱进。

这类领导很多，他天天泡在大模型APP上体验，他们也需要聊天话题。现在内网给他一个70B私有化的助手，他能体验好么？由奢入俭难啊，他已经体验过效果好的大模型，智障版真心看不上。

我们一定要牢记，现阶段的领导已经完成了市场化教育，虽然他们不懂技术，但是他们一直在体验优秀的，高智商大模型，他们知道智商最高的模型是什么样，虽然他们不知道怎么应用大模型，但是他们内心对大模型的效果，有自己的想像，虽然大多数是空想。

员工没有错，预算有限

员工没有错，都是预算不够惹的祸。预算充足，谁不想用最好的，谁不想买最好的，但是囊中羞涩，领导不给批更高的预算，被逼无奈，只能退而求其次，选择一个70B。

选型工程师选一个70B，可以预测到领导体验不好，但是领导体验不好叼你两句就叼你两句呗，你干啥要跟领导顶着来啊，还是太年轻了，打工过程中，一定要记住“领导一定是对的”这是高情商的表现。当年我就是这么被PUA的，虽然我知道年轻人从来不喜欢听建议，因为我就不喜欢听别人的建议，我也有跟领导吵架美其名曰“主动离职”的经历。

在这里有一个小建议，虽然Deepseek方向很火，但是相关工作招聘的岗位依然不多，大环境使然，各位同学能忍就忍，工作不是那么好找，或者骑驴找马，找到再提离职。正是因为这样的现状，让某些领导更加的变本加厉PUA。

最近群里讨论最多话题就是用什么版本够用？

群友回答最多的答案是“用什么版本的大模型主要看场景”，选择哪个版本主要看钱，钱多啥都不是事，钱少啥都是事。

硬件成本=参数版本（智商程度=精确度）*并发数*响应速度。

在硬件一定的情况下，参数越大占用硬件资源越大，并发数和响应速度越慢。

算力百科团队建议一体机厂商，不妨把应用场景分为两类：实时任务和非实时任务。

非实时任务：例如智能客服、会议纪要、行业分析、离线翻译、合同审阅等等任务不需要实时性，任务提交等几分钟就是可以接受的，但是要求准确率极高，所以这种场景就需要高智商版671B。

实时任务：同声传译、问答练习、业务助手、企业内搜，这类任务既要求准确性又要求实时性。

在大模型内网部署，算力资源有限的情况下，任务一定要分优先级，排队机制很重要，需要实时性的任务，优先级高的任务及时响应，非实时任务可以排队到晚上处理。

以ds为借口，被开除的人会更多

真正的干活的能有多少决策权呢？选择什么样的模型还不是领导决定的？但是承担责任的往往都是干活的。

deepseek一体机已经完成了很多场景落地，但是更多没有完成业务闭环，跟风的居多。

算力百科团队调研过的客户用起来的场景，都是通过原业务伙伴落地的，而且效果特别好。举两个完成闭环的业务场景。

例如，某伙伴AI社工已经完成落地，每个基层网个人人手一个AI助手，用来给协助孤寡老人办理业务，大大提高了办事效率。他们之前就是提供社区管理业务系统的开发商，目前AI社工卖的很好，目前跟运营商合作非常紧密，运营商为什么愿意分包给他们，因为他们业务做的落地啊。

例如：某伙伴电子病历AI助手上线，之前的电子病历都是写好模版，把一些关键空格空着，让医生填写，现在不需要了，AI自动读取相关化验单和化验数据，自动完成电子病历填写，并且标红，由医生审核即可，大大节约了医生电子病历填写时间。当然这个伙伴本来就是国内top5的电子病历软件提供商。

目前很多客户选择deepseek一体机都只能web访问个助手，只是因为很多信息不能发到公网上，所以在内网用，但是无奈内网又选了个智障版。根本不好用，造成事与愿违，选型的技术人员最后成为内网兜底背锅的那个人，类似的矛盾随着一体机成交量的上升，类似的矛盾肯定是越来越多。因此类矛盾离职的也肯定越来越多

DeepSeek业务黑马和白马

业务黑马：就是业务系统很熟悉，最好是之前开发某一个系统的，现在用AI改进这个系统去落地，并且快速完成商业闭环。

业务白马：就是履历非常靓丽，海龟、名校、大厂根红苗正，通过资本故事获得资本青睐，用资本的力量推动业务商业闭环。

最终能落地的一定是业务商业能完成闭环的场景，所以建议客户选择一体机的时候一定要选择这两种供应商，才有可能走下去，如果只是买个硬件，那基本上最后就gg。

DeepSeek模型和应用部署，私有化模式一共有两种：

A:完全私有化：模型和应用都私有化在一体机里，这种称之为完全私有化。

B：混合私有化：模型公有云，应用私有化在一体机里，这种称之为混合私有化（类似混合云）

个人认为，如果混合私有化和公有云没啥区别，如果想拿你数据，肯定一样拿走，中小微就直接用公有云得了。

你们说这个小伙冤枉不冤枉？！好像都没错！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-31

如何利用Dify轻松构建你的专属语料库？

2025-03-30

大模型的秘密武器：模型蒸馏技术

2025-03-30

Xinference 本地部署全流程详解与疑难解答

2025-03-30

客服中心如何微调专属AI大模型

2025-03-30

全网首家，教你快速打造个人/企业版本 cursor

2025-03-29

DeepSeek-R1本地化部署全流程

2025-03-28

AI训练平台终极构建指南：结合RoCE/IB网络、3FS存储与HAI平台

2025-03-28

微调篇「数据集构建」保姆级教程来了！

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

一文读懂DeepSeek-R1本地部署配置要求（建议收藏）

2025-02-04

DeepSeek R1 671B 完整版本地部署教程来了！！！

2025-02-04

太爽了！o1 现在可以天天享用了

2024-09-18

万字综述 10+ 种 LLM 投机采样推理加速方案

2024-07-11

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-07-09

FP8 低精度训练：Transformer Engine 简析

2024-07-11

彻底理解系列之：FP32、FP16、TF32、BF16、混合精度

2024-07-26

别被Deepseek低成本冲昏头！本地化部署后续的“甜蜜陷阱”，你真能扛住吗？

2025-02-05

ollama 部署 deepseek-r1 70B 模型完整指南

2025-01-27

o3-mini 完全指南：一个被 DeepSeek 破大防的模型

2025-02-01

大家都在问

如何利用Dify轻松构建你的专属语料库？

2025-03-31

从 0 到 1，Agentic Ops 如何打造企业级 AI 生产力？

2025-03-20

DeepSeek-R1的Qwen-32B蒸馏模型与QwQ-32B模型，谁更强？

2025-03-16

部署DeepSeek的4条路，企业级客户到底该咋走？

2025-03-16

谷歌Gemma 3 27b 到底能不能打，写个游戏测试下？

2025-03-13

强化学习(RL)是什么? 它和微调有什么区别?

2025-03-13

从DeepSeek到Manus：如何实现本地LLM微调+联网开发？

2025-03-11

Manus，为何是他们做出来了？

2025-03-07

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB