【聚集2024数字科技生态大会】“超大算力”一致供应“智算异构四芯混训处理计划”正式发布
12月3日,以“联创智汇·数领未来”为主题的2024数字科技生态大会科学技能立异协作论坛在广州举行。
论坛期间,作为基础研究协作立异效果,中国电信携手协作伙伴正式对外发布了面向大模型的“智算异构四芯混训处理计划”。该效果由中国电信联合壁仞科技、中兴通讯、中科院计算所、上海人工智能实验室、北京邮电大学、中科加禾、天数智芯、沐曦协同,攻关异构混训的要害中心技能问题,打造“彼此连通、高效协同”的生态格式,推进新式信息基础设施协调开展。
本次效果发布是,中国电信面向智算年代模型规划急剧增加引发的算力荒问题做出的有力测验。中国电信以“四个面向”为底子,依托云网交融大科创设备,创造性地打造一致练习结构、一致调集通讯库、一致RDMA网络的一体化处理计划,有用处理了异构芯片间“生态竖井”、“算力孤岛”问题,完成异构算力的互联、互通、互调,是“息壤”算力一体化调度渠道战略开展的要害一环。
“智算异构四芯混训处理计划”完成结构、通讯库、渠道、网络的全栈异构,适配Llama等世界干流模型与中国电信自研星斗大模型,完成跨异构芯片网络功能提高30%,异构通讯功率大于98%,异构练习功率达同构练习的95%。效果完成三个严重职业打破,打破并行练习结构调度木桶效应难题,选用算力感知的非均质拆分完成不均衡算力高效使用;打破异构通讯难题,初次完成GDR(GPU-Direct RDMA)技能构成四芯直连高功能通讯计划;打破异构RDMA功能瓶颈,选用全自研拥塞操控算法完成多链路网络流量均衡操控。创下异构厂商数量“之最”,业界初次构成异构四芯并行练习处理计划,为职业推进异构算力混池练习,打造异构算力“合力”,完成“超大算力”一致供应,构成典型事例,推进算力生态工业高质量开展与昌盛。
未来,中国电信将持续携手工业协作伙伴,一起打造异构算力生态联盟,推进异构混池练习处理计划的规划化使用,敞开多元算力驱动的人工智能新年代,为新质生产力开展供应要害驱动力。
【聚集2024数字科技生态大会】“超大算力”一致供应,“智算异构四芯混训处理计划”正式对外发布