查看: 893|回复: 4
收起左侧

[软件相关] 业界首个!美团发布LongCat-2.0:总参数规模1.6万亿 全程由国产算力训练

[复制链接]
anyangmo
发表于 2026-6-30 14:16:26 | 显示全部楼层 |阅读模式
业界首个!美团发布LongCat-2.0: 总参数规模1.6万亿  全程由国产算力训练

快科技6月30日消息,今日,美团发布新一代万亿参数大模型LongCat-2.0,并将对外开源。

据介绍,LongCat-2.0是业界首个依靠国产算力完成训练、推理全流程的万亿参数大模型,总参数规模1.6万亿,从零开始预训练,原生支持1M超长上下文。

此前,该大模型的测试版本在OpenRouter上的总调用量已跻身全球前三。

其中在Hermes的月调用量位列全球第一,在Claude Code的月调用量位列全球第二,仅次于Claude Opus 4.8。

LongCat官方宣布,将于近期开源Infra框架、推理引擎、模型参数等核心技术,以回馈全球开发者社区。


据悉,LongCat-2.0预训练数据规模超过30T tokens,覆盖中文、英文、多语言和代码等多类数据。

面对万卡级训练中的硬件故障、通信异常、显存压力与数值波动,LongCat团队从稳定性、正确性和效率三方面攻克国产算力训练难题。

在稳定性上,通过HCCL异常处理、弹性扩缩卡和自动故障恢复,将月均日故障率降低70%以上。

在正确性上,通过自研设计确定性算子、Bitwise一致性验证和参数检测,保障训练结果的可靠,同时基于实践提升关键模块计算精度、优化Reduce逻辑。

在效率上,通过流水线调度、显存优化和算子级控核,训练MFU提升1.5倍。

最终,LongCat实现稳态日吞吐超过1T tokens/day,完成万亿参数MoE模型在国产算力上的稳定训练。






xndd
发表于 2026-6-30 17:17:50 | 显示全部楼层
现在卷大模型,现在卷各种skill
dreamake
发表于 2026-6-30 19:48:27 | 显示全部楼层
本帖最后由 dreamake 于 2026-6-30 19:49 编辑

美团是拥有外卖的大数据啊,大模型可以精准推荐你吃啥,常去哪家馆子!
anyangmo
 楼主| 发表于 2026-7-1 08:27:04 | 显示全部楼层
dreamake 发表于 2026-6-30 19:48
美团是拥有外卖的大数据啊,大模型可以精准推荐你吃啥,常去哪家馆子!

现在是AI发展的初期,各个大公司都会去抢AI这块肥肉.......
liwind
发表于 2026-7-1 12:34:02 | 显示全部楼层
AI赋能
您需要登录后才可以回帖 登录 | 快速注册

本版积分规则

手机版|杀毒软件|软件论坛| 卡饭论坛

Copyright © KaFan  KaFan.cn All Rights Reserved.

Powered by Discuz! X3.4( 沪ICP备2020031077号-2 ) GMT+8, 2026-10-31 14:08 , Processed in 0.047394 second(s), 4 queries , Redis On.

卡饭网所发布的一切软件、样本、工具、文章等仅限用于学习和研究,不得将上述内容用于商业或者其他非法用途,否则产生的一切后果自负,本站信息来自网络,版权争议问题与本站无关,您必须在下载后的24小时之内从您的电脑中彻底删除上述信息,如有问题请通过邮件与我们联系。

快速回复 客服 返回顶部 返回列表