摩尔线程千卡GPU集群!憨侯完成700亿参数大模型训练
快科技5月17日消息,摩尔线程、憨猴科技集团联合宣布,基于摩尔线程的夸娥(KUAE)千卡智算集群,憨猴集团成功完成了7B、34B、70B不同参数量级的大模型分布式训练。经双方共同严苛测试,兼容适配...
zhiyongz
2024-05-18 09:52:26阅读:293
快科技5月17日消息,摩尔线程、憨猴科技集团联合宣布,基于摩尔线程的夸娥(KUAE)千卡智算集群,憨猴集团成功完成了7B、34B、70B不同参数量级的大模型分布式训练。经双方共同严苛测试,兼容适配...