吴迪:DeepSeek是对云厂商的大考,火山引擎比友商快3倍

摘要

截至 2 月 11 日已经有 160 余家企业集体官宣上架或接入了 DeepSeek

随着 DeepSeek 爆火出圈,阿里云、百度云、腾讯云、华为云、火山引擎等云厂商先后宣布接入,据媒体的不完全统计,截至 2 月 11 日已经有 160 余家企业集体官宣上架或接入了 DeepSeek。

在海量的并发需求之下,对各厂商系统承载力和推理速度都造成了不小的负担,甚至不少厂商上的 DeepSeek 服务接连出现:「服务器繁忙,请稍后重试」的回复。

与此同时,众多应用企业和开发者也在测试各家对 DeepSeek 的支持能力,自发进行评测并罗列出了一份测试榜单:综合对比之下,火山引擎首 token 响应时间:1.01 秒,推理速度:35.50 tokens/s、生成速度:37.76 tokens/s,总体生成平均速度:33.01 tokens/s,明显领先于其他友商。

对此,火山引擎智能算法负责人吴迪在朋友圈表示,表格所呈现的推理速度和延迟差异,反映不同 AI 系统的技术能力。

吴迪表示,「很多人知道火山引擎的 AI 技术能力强,但难以进行对比和验证,现在各云平台在 R1 模型同时起跑,给了大家一份可以被检验的清晰答卷。火山引擎的推理延迟最低,平均生成速度是其他云平台的 3~5 倍。」

吴迪朋友圈

根据中文通用大模型综合性评测基准 SuperCLUE 在 2 月 12 日发布的稳定性评测榜单显示,火山引擎在稳定性上同样位居榜首。

SuperCLUE 稳定性测评总榜

最新文章

极客公园

用极客视角,追踪你不可错过的科技圈.

极客之选

新鲜、有趣的硬件产品,第一时间为你呈现。

张鹏科技商业观察

聊科技,谈商业。