异动
关注
社群
搜公告
产业库
时间轴
公社AI
通知
全部已读
暂无数据
私信
暂无数据
登录注册
我的主页
退出
西塔二胡
这个人很懒,什么都没有留下
个人资料
西塔二胡
2025-03-03 22:01:52
AI新趋势 - 全闪存数据中心之二
书接上文,再来谈一谈,为什么以存代算,建设全闪存数据中心是一种不可逆的趋势。 首先来看下,DeepSeek周末公布的系统架构图: 最下面的KVCache层,就是保存在SSD固态硬盘中,从API来的请求,会先去KVCache问一下,能命中的话就不用去Decode Service了,就是不用去算力卡重新计算了,那这个KVCache的缓存效率有多高呢,来看下官方的数据: 一天内输入token 6080亿个,其中3420亿直接命中KVCache缓存,命中率高达56.3%,也就是相同的API请求情况下,有
S
同有科技
S
德明利
S
江波龙
6
1
8
6.34
西塔二胡
2025-03-03 22:00:47
AI新趋势 - 全闪存数据中心
DeepSeek最新文章公布其大模型R1的成本利润率高达545%,惊掉无数人的下巴,太吓人了,为什么可以达到如此惊人的利润率,看了文章发现,DeepSeek采用了一套超高效率的架构来完成这个事情,这不是随便什么一键部署大模型的工具可以做的事情,是通过一整套AI infra的工具链来完成,这也是为什么DS要举办开源周活动目的,手把手的教给你,泪目,一己之力带领国内AI站上新台阶。 我们来看看,DeepSeek在开源周开源的FlashMLA、DeepEP、DeepGEMM、DualPipe和EPLB
S
同有科技
S
德明利
S
香农芯创
3
2
8
6.16
西塔二胡
2025-03-01 09:19:29
全闪存AI数据中心的时代即将到来
上周五DS开源周压轴出场的3FS项目,以分布式存储,通过RDMA+SSD的组合,在180节点集群跑出6.6TiB/s的读取吞吐 ,KVCache查找峰值40GiB/s,大幅度提高LLM推理速度。 另外HW即将于3月3日发布的全闪存数据中心解决方案,这两大事件揭示了一个确定性趋势:AI大模型推理的爆发式增长,正在倒逼数据中心存储架构的全面革新,企业级SSD存储将迎来大规模增长。 同有科技作为国产高端全闪存存储的领军者,深度受益该方向的增长,子公司忆恒创源企业级SSD国产TOP1,2024年营收增长
S
同有科技
5
4
11
3.04
上一页
1
下一页
前往
页
西塔二胡
2025-03-03 22:01:52
AI新趋势 - 全闪存数据中心之二
书接上文,再来谈一谈,为什么以存代算,建设全闪存数据中心是一种不可逆的趋势。 首先来看下,DeepSeek周末公布的系统架构图: 最下面的KVCache层,就是保存在SSD固态硬盘中,从API来的请求,会先去KVCache问一下,能命中的话就不用去Decode Service了,就是不用去算力卡重新计算了,那这个KVCache的缓存效率有多高呢,来看下官方的数据: 一天内输入token 6080亿个,其中3420亿直接命中KVCache缓存,命中率高达56.3%,也就是相同的API请求情况下,有
S
同有科技
S
德明利
S
江波龙
6
1
8
6.34
西塔二胡
2025-03-03 22:00:47
AI新趋势 - 全闪存数据中心
DeepSeek最新文章公布其大模型R1的成本利润率高达545%,惊掉无数人的下巴,太吓人了,为什么可以达到如此惊人的利润率,看了文章发现,DeepSeek采用了一套超高效率的架构来完成这个事情,这不是随便什么一键部署大模型的工具可以做的事情,是通过一整套AI infra的工具链来完成,这也是为什么DS要举办开源周活动目的,手把手的教给你,泪目,一己之力带领国内AI站上新台阶。 我们来看看,DeepSeek在开源周开源的FlashMLA、DeepEP、DeepGEMM、DualPipe和EPLB
S
同有科技
S
德明利
S
香农芯创
3
2
8
6.16
西塔二胡
2025-03-01 09:19:29
全闪存AI数据中心的时代即将到来
上周五DS开源周压轴出场的3FS项目,以分布式存储,通过RDMA+SSD的组合,在180节点集群跑出6.6TiB/s的读取吞吐 ,KVCache查找峰值40GiB/s,大幅度提高LLM推理速度。 另外HW即将于3月3日发布的全闪存数据中心解决方案,这两大事件揭示了一个确定性趋势:AI大模型推理的爆发式增长,正在倒逼数据中心存储架构的全面革新,企业级SSD存储将迎来大规模增长。 同有科技作为国产高端全闪存存储的领军者,深度受益该方向的增长,子公司忆恒创源企业级SSD国产TOP1,2024年营收增长
S
同有科技
5
4
11
3.04
上一页
1
下一页
前往
页
西塔二胡
2025-03-03 22:01:52
AI新趋势 - 全闪存数据中心之二
书接上文,再来谈一谈,为什么以存代算,建设全闪存数据中心是一种不可逆的趋势。 首先来看下,DeepSeek周末公布的系统架构图: 最下面的KVCache层,就是保存在SSD固态硬盘中,从API来的请求,会先去KVCache问一下,能命中的话就不用去Decode Service了,就是不用去算力卡重新计算了,那这个KVCache的缓存效率有多高呢,来看下官方的数据: 一天内输入token 6080亿个,其中3420亿直接命中KVCache缓存,命中率高达56.3%,也就是相同的API请求情况下,有
S
同有科技
S
德明利
S
江波龙
6
1
8
6.34
西塔二胡
2025-03-03 22:00:47
AI新趋势 - 全闪存数据中心
DeepSeek最新文章公布其大模型R1的成本利润率高达545%,惊掉无数人的下巴,太吓人了,为什么可以达到如此惊人的利润率,看了文章发现,DeepSeek采用了一套超高效率的架构来完成这个事情,这不是随便什么一键部署大模型的工具可以做的事情,是通过一整套AI infra的工具链来完成,这也是为什么DS要举办开源周活动目的,手把手的教给你,泪目,一己之力带领国内AI站上新台阶。 我们来看看,DeepSeek在开源周开源的FlashMLA、DeepEP、DeepGEMM、DualPipe和EPLB
S
同有科技
S
德明利
S
香农芯创
3
2
8
6.16
西塔二胡
2025-03-01 09:19:29
全闪存AI数据中心的时代即将到来
上周五DS开源周压轴出场的3FS项目,以分布式存储,通过RDMA+SSD的组合,在180节点集群跑出6.6TiB/s的读取吞吐 ,KVCache查找峰值40GiB/s,大幅度提高LLM推理速度。 另外HW即将于3月3日发布的全闪存数据中心解决方案,这两大事件揭示了一个确定性趋势:AI大模型推理的爆发式增长,正在倒逼数据中心存储架构的全面革新,企业级SSD存储将迎来大规模增长。 同有科技作为国产高端全闪存存储的领军者,深度受益该方向的增长,子公司忆恒创源企业级SSD国产TOP1,2024年营收增长
S
同有科技
5
4
11
3.04
上一页
1
下一页
前往
页
西塔二胡
2025-03-03 22:01:52
AI新趋势 - 全闪存数据中心之二
书接上文,再来谈一谈,为什么以存代算,建设全闪存数据中心是一种不可逆的趋势。 首先来看下,DeepSeek周末公布的系统架构图: 最下面的KVCache层,就是保存在SSD固态硬盘中,从API来的请求,会先去KVCache问一下,能命中的话就不用去Decode Service了,就是不用去算力卡重新计算了,那这个KVCache的缓存效率有多高呢,来看下官方的数据: 一天内输入token 6080亿个,其中3420亿直接命中KVCache缓存,命中率高达56.3%,也就是相同的API请求情况下,有
S
同有科技
S
德明利
S
江波龙
6
1
8
6.34
西塔二胡
2025-03-03 22:00:47
AI新趋势 - 全闪存数据中心
DeepSeek最新文章公布其大模型R1的成本利润率高达545%,惊掉无数人的下巴,太吓人了,为什么可以达到如此惊人的利润率,看了文章发现,DeepSeek采用了一套超高效率的架构来完成这个事情,这不是随便什么一键部署大模型的工具可以做的事情,是通过一整套AI infra的工具链来完成,这也是为什么DS要举办开源周活动目的,手把手的教给你,泪目,一己之力带领国内AI站上新台阶。 我们来看看,DeepSeek在开源周开源的FlashMLA、DeepEP、DeepGEMM、DualPipe和EPLB
S
同有科技
S
德明利
S
香农芯创
3
2
8
6.16
西塔二胡
2025-03-01 09:19:29
全闪存AI数据中心的时代即将到来
上周五DS开源周压轴出场的3FS项目,以分布式存储,通过RDMA+SSD的组合,在180节点集群跑出6.6TiB/s的读取吞吐 ,KVCache查找峰值40GiB/s,大幅度提高LLM推理速度。 另外HW即将于3月3日发布的全闪存数据中心解决方案,这两大事件揭示了一个确定性趋势:AI大模型推理的爆发式增长,正在倒逼数据中心存储架构的全面革新,企业级SSD存储将迎来大规模增长。 同有科技作为国产高端全闪存存储的领军者,深度受益该方向的增长,子公司忆恒创源企业级SSD国产TOP1,2024年营收增长
S
同有科技
5
4
11
3.04
上一页
1
下一页
前往
页
西塔二胡
2025-03-03 22:01:52
AI新趋势 - 全闪存数据中心之二
书接上文,再来谈一谈,为什么以存代算,建设全闪存数据中心是一种不可逆的趋势。 首先来看下,DeepSeek周末公布的系统架构图: 最下面的KVCache层,就是保存在SSD固态硬盘中,从API来的请求,会先去KVCache问一下,能命中的话就不用去Decode Service了,就是不用去算力卡重新计算了,那这个KVCache的缓存效率有多高呢,来看下官方的数据: 一天内输入token 6080亿个,其中3420亿直接命中KVCache缓存,命中率高达56.3%,也就是相同的API请求情况下,有
S
同有科技
S
德明利
S
江波龙
6
1
8
6.34
西塔二胡
2025-03-03 22:00:47
AI新趋势 - 全闪存数据中心
DeepSeek最新文章公布其大模型R1的成本利润率高达545%,惊掉无数人的下巴,太吓人了,为什么可以达到如此惊人的利润率,看了文章发现,DeepSeek采用了一套超高效率的架构来完成这个事情,这不是随便什么一键部署大模型的工具可以做的事情,是通过一整套AI infra的工具链来完成,这也是为什么DS要举办开源周活动目的,手把手的教给你,泪目,一己之力带领国内AI站上新台阶。 我们来看看,DeepSeek在开源周开源的FlashMLA、DeepEP、DeepGEMM、DualPipe和EPLB
S
同有科技
S
德明利
S
香农芯创
3
2
8
6.16
西塔二胡
2025-03-01 09:19:29
全闪存AI数据中心的时代即将到来
上周五DS开源周压轴出场的3FS项目,以分布式存储,通过RDMA+SSD的组合,在180节点集群跑出6.6TiB/s的读取吞吐 ,KVCache查找峰值40GiB/s,大幅度提高LLM推理速度。 另外HW即将于3月3日发布的全闪存数据中心解决方案,这两大事件揭示了一个确定性趋势:AI大模型推理的爆发式增长,正在倒逼数据中心存储架构的全面革新,企业级SSD存储将迎来大规模增长。 同有科技作为国产高端全闪存存储的领军者,深度受益该方向的增长,子公司忆恒创源企业级SSD国产TOP1,2024年营收增长
S
同有科技
5
4
11
3.04
上一页
1
下一页
前往
页
15
关注
8
粉丝
26.03
工分
社区规则
服务协议
隐私政策
沪ICP备20009443号
© 2020 上海韭研信息科技有限公司
关于韭研公社
问题反馈
有问题请联系
@韭菜团子
公社愿景:韭研公社,原韭菜公社,投资干货最多的共享社群,汇聚全网最深度的基本面研究,消弭个人滞后机构的逻辑鸿沟。
风险提示:韭研公社里任何网友的发言,都有其特定立场,均不构成投资建议,请投资者独立审慎决策。
2
3