“以大模型为代表的人工智能技术的迭代升级,正以前所未有的速度推进。对于大模型而言,高效能、大规模的算力资源管理是重大需求,而系统软件是解决这一需求的基础核心支撑。”实验室主任、北大计算机学院教授刘譞哲介绍,实验室将依托北大计算机学院在系统软件领域的专业优势,利用企业在大模型应用场景和系统工程方面的积累,对大模型系统软件开展科研攻关。
来自高校和企业的科研人员将在实验室内,重点围绕大模型的训练、推理等开展科研工作。“比如,我们将面向大模型训练的分布式计算技术和系统,提高训练效率,降低训练故障率;基于大模型推理任务的特点,提高推理吞吐量,降低推理延迟。”刘譞哲说。
随着实验室的建设和发展,还将有一批批北大学生进入实验室实习实践,和产业一线科研人员一起开展科研工作。北大表示,希望通过本次校企合作,促进“科研-应用-产业”闭环的良性发展,打造产学研深度融合的创新生态。