Notice: failed to open file: a_html_seo_function.php 糖心企划剧国产剧观看:溏心vlog在线下载-DeepSeek亮出降价“底牌”,545%的利润率意味着什么?_房产_糖心vlog官网

糖心企划剧国产剧观看:溏心vlog在线下载-DeepSeek亮出降价“底牌”,545%的利润率意味着什么?

admin 房产 2025-03-02 2 0

界面新闻记者 | 李彪

界面新闻编辑 | 文姝琪

持续五天的“DeepSeek开源周”刚结束,DeepSeek团队就在国内知乎平台注册官方账户,并在3月1日当天发布了第一条动态。这篇最新的帖子首次对外公布模了型的优化技术细节、成本利润率等关键信息。

这篇帖子最吸引眼球的一个结论是,按DeepSeek测算,假定GPU租赁成本为2美元/小时,总成本为8.7万美元/天。如果统计包括网页、AppAPI在内的所有负载,将所有模型tokens全部按照DeepSeek-R1的定价(DeepSeek R1 的定价:$0.14 / 百万输入 tokens (缓存命中)$0.55 / 百万输入 tokens (缓存未命中)$2.19 / 百万输出 tokens)计算,理论上一天的总收入为5.62万美元,算下来成本利润率为545%

高达545%的利润率意味着什么,又会给行业带来了怎样的影响?界面新闻采访了复旦大学计算机科学技术学院教授张奇,他的研究方向为自然语言处理、信息检索 、数据密集型计算。

在自然语言处理中,Token是语言文本被分割后的基本单位,每个用户向AI提问并获取回答,问题及答案的文本长度对应数量不等的TokenAI处理每个Token都需要消耗算力。此外,还存在命中缓存与否的情况,命中缓存指用户向AI提问涉及的相关数据已存在于缓存之中,模型可直接调用,无需重新计算或从数据库检索,节省了算力、时间及存储资源,成本更低,若没能命中,则需要消耗更多算力等资源,成本更高。

目前,按Token计价收费是AI公司的主要商业模式。命中缓存相对价格较低,未命中则收费更高。

张奇告诉记者,对行业来说,DeepSeek在最新的文章中提到的56.3%缓存命中率(原文称, 24 小时统计时段内,DeepSeek V3 R1都能实现输入 token 总数为 608B,其中 342B tokens56.3%)命中 KVCache 硬盘缓存)是一项具有重要意义数据。

“虽然各家没有公布过相关数据,但超过一半的命中率在业内应该已是很高的水平。”张奇认为,像在DeepSeek所开发的6710亿参数超大模型上,几亿用户提问时所写的文本多多少少存在差异,在这种前提下能够实现高中率,说明团队在模型整体优化上做了很多工作。

据DeepSeek团队介绍,V3R1推理系统的优化目标就是追求“更大的吞吐,更低的延迟。”

基于DeepSeek采取的混合专家模型核心架构(MOE),超大模型由众多规模较小的专家模型组成,并承担不同的分工。通俗用人类世界的团队合作来解释其中所需要的调度工作,如果一个团队要将各个领域的专家集合到一起来攻克某项任务,就需要事先把整体任务拆分成多个流程环节的任务,再按照分配给不同领域的专家,让他们每个人都发挥专业技能解决问题,最后汇总结论。

DeepSeek在文中写道,由于DeepSeek-V3 / R1的专家数量众多,并且按照最初的设计规则,每层256个专家在实际运行中仅激活其中8个。要实现团队的“大吞吐,低延迟的优化目标,就需要做到短时间处理大量任务时高效调用每个专家,也就是DeepSeek在文中提到的大规模跨节点专家并行(Expert Parallelism / EP

“这是一项难度极大的平衡工作,如果模型优化分配上做不好,就会使得一个6000多亿参数的超大模型,每次可能只有8个或几个专家在实际运行,而且如果某一个没有运行完,剩下的所有专家可能在等待。等待则通常又意味着计算资源的浪费。”张奇认为,在DeepSeek开源前,混合专家模型的平衡设计对许多AI模型大厂都是尚未攻克的难题。

此外,据DeepSeek介绍,另外,由于白天用户访问量大、服务负荷高,晚上的服务负荷低,团队实现了一套机制,在白天负荷高的时候,利用所有模型节点部署推理服务。晚上负荷低的时候,减少推理节点,以用来做研究和训练。

图源:DeepSeek知乎官方账号

根据DeepSeek统计,按照这套“白天推理——晚上训练”的方案规划,在最近的24小时内,将DeepSeek V3R1推理服务占用节点加到一起,任务繁忙的高峰期最多占用278个节点,平均占用226.75个节点(每个节点为8个英伟达H800 GPU)。

张奇认为,考虑到DeepSeek还有新模型项目及其他工作需要GPU,上述1800-2000H800GPU(平均占用节点数乘以8GPU),大概率已经用上了DeepSeek现阶段为DeepSeek V3R1模型所能调用的全部算力资源

此前按照行业观点,DeepSeek的创新突破在于,在有限资源的环境下,将效率提升到了极致,从而实现了模型的低成本开发。在上述一系列优化效率的基础之上,才有了545%的成本利润率。

图源:DeepSeek知乎官方账号

DeepSeek也强调,545%只是一个理论值,实际运行时没“有这么多收入”。因为 V3 的定价更低,同时收费服务只占一部分,另外夜间还另有折扣。

此前,DeepSeek在同类模型厂商中就以“AI拼多多的低价标签备受关注。

去年推出V2模型时,DeepSeek就曾4月首次将API调用价格降至输入1/百万tokens、输出2/百万tokens,引发了豆包、Kimi、文心一言等厂商的跟进,带动了第一波模型价格战。最新的V3模型服务定价仅为OpenAI同类模型4o1/15R1模型的价格也远低于同行。

此次公布出的高利润率也让外界看清了DeepSeek降价的“底牌”。

在此之前,业内一度热议“DeepSeek模型API定价过低是否会带来巨大亏损DeepSeek前研究员罗福莉去年5月在个人知乎上否认了这一点。据她透露,目前以DeepSeek现在的定价,大规模服提供服务,不亏本,利润率超50%DeepSeek创始人梁文峰也在接受36氪媒体专访时提到,公司的定价策略是原则上不亏本销售,也不追求过高利润。目前的定价仅在成本之上保留了一定的利润空间。

目前,业内宣布接入部署满血版”DeepSeek R1模型的厂商大多以单机(8GPU的服务器)、双机这一类小规模设备为主。据记者了解,“四机目前是业内考验公司技术能力的一道分水岭”。而随着服务器台数越多,规模化部署调度和优化难度越大,DeepSeek团队所实现的300多台服务器部署工程对团队技术能力要求更是急剧上升。

眼下,虽然545%的成本利润率是DeepSeek基于大规模部署测算的一个理论值,实际的利润水平官方并未公布,但依然让行业开始看到了赚钱的希望

张奇认为,DeepSeek在公布利润率的同时也将模型优化方法开源,行业会更加积极学习这套优化方法部署DeepSeek。虽然对绝大多数公司来说,“知道”和“做到”是两件事,将同样优化方法落到实际会遇到各种新问题,但整个行业会在这方面进行更多尝试。

(界面新闻记者伍洋宇对此文亦有贡献)

顶级暴徒小说免费阅读全

迈开腿让尝尝你的CH宝宝

「活动」注册就送新人大礼包

84.29MB
版本V9.84.14
下载骑蛇难下(双)海棠书房安装你想要的应用 更方便 更快捷 发现更多
喜欢 18%好评(87人)
评论 40
一家人的荒诞生活0 一把断剑独霸九天1 爷爷破了小米的处2 他们都想把我关小黑屋3 猎户共妻在圆房3p4
详细信息
  • 软件大小: 81.23MB
  • 最后更新: 2024-09-16 18:34:53
  • 最新版本: V8.28.17
  • 文件格式: apk
  • 应用分类:ios-Android 秘密教学110话我需要灭火
  • 使用语言: 中文
  • : 需要联网
  • 系统要求: 5.41以上
应用介绍
一,乡村风流小说,墨景深在季暖身体里
二,封神夺艳记,纨绔十三少
三,系统之无限怀孕,屠狗式角式扮演
四,杨门十二寡妇肉床艳史电子书,翁熄乩伦小说大全
五,贵族游戏-(一)惩罚游戏小说,扫把娃娃去流浪
六,风流大小姐下载,我们换个地方继续爱大学小说
七,边做边爱在线阅读全文,列车情缘全文阅读

【联系我们】
客服热线:139-8888-666
加载更多
版本更新
V1.22.17
巜丰满的欲妇无删减版小说,每个世界收集男主JYH

风流村长最新章节

猜你喜欢

相关攻略
包含 饿了么 的应用集
评论
  • 授课方式by肉馅小水饺林清视频 4天前
    学长的手指在里面转动的写作
  • 这段网恋不靠谱(1V1) 7天前
    重生之共和国同龄人
  • 今夜很长相把你做进我的梦里 7天前
    我的同桌很娇软[校园]小说
  • 男团共享物 NP 6天前
    异人傲世录txt下载
  • 第二十三章小莹的纵容 2天前
    宿主被guan满日常主角是临安
  • 星辰变后传全集下载 4天前
    曼娜回忆录续
  • 她开始慢迎迎合骊珠迎龙 5天前
    c了语文老师嗷嗷叫一节课作文
  • 刺猬玫瑰(高干) 4天前
    皇帝养小公主(H)
  • 厉总离婚请别怂 4天前
    人间小喷泉1V3HL笔趣免费看
  • xiaav因你而精彩 9天前
    师父是全派的炉鼎