腾讯混元Hy4 preview发布

星岛财讯,8月28日,腾讯混元发布并开源新一代大语言模型Hy4 preview,总参数770B、激活参数49B,上下文长度突破1M,在代码、办公、科学等真实生产力任务上展现出卓越能力。Hy4 preview在模型尺寸、上下文长度、数据规模上都进行了显著的扩展,预训练和后训练的共同进步带来了智能水平的又一次巨大提升。

来源︱公司动态