研究团队开发开源大模型训练框架 Oobleck 提供快速且有保障的故障修复

要点:密歇根大学的研究团队开发了一种名为Oobleck的开源大型模型训练框架，利用管道模板的概念，提供了快速而有保障的故障恢复，避免训练吞吐量下降。Oobleck的设计核心是管道模...