流量暴增,Kimi一度宕机,大模型推动推理侧算力需求增长
各科技厂商为保持其千亿或万亿参数AI大模型的竞争力。今日重要性:据第一财经报道,21日下午,月之暗面旗下大模型应用kimi的APP和小程序均无法正常使用。
在此之前,月之暗面发布情况说明:从2024.3.20 9:30:00开始,观测到Kimi的系统流量持续异常增高,流量增加的趋势远超对资源的预期规划。这导致了从2024.3.2010:00:00开始,有较多的SaaS客户持续的体验到429:engine is overloaded的异常问题,并对此表示深表抱歉。
广发证券表示,在AI大模型领域,Claude、Gemini、SenseChat-V4、星火大模型和Kimi等大模型在持续追赶GPT-4,算力的需求随着模型参数量和训练数据集的增加而增加。各科技厂商为保持其千亿或万亿参数AI大模型的竞争力,有望持续投入和优化AI算力基础设施。另一方面,随着各类AI大模型产品性能的提升,用户规模和使用量的增加也推动推理侧的算力需求增长。
公司方面,华西证券表示包括:
算力租赁等:鸿博股份亚康股份恒为科技润泽科技
国产算力服务器链:高新发展神州数码拓维信息中科曙光等。
*免责声明:文章内容仅供参考,不构成投资建议
*风险提示:股市有风险,入市需谨慎