大模型训练和加速的新技术与挑战

主题介绍；
AI模型急速增大与硬件算力缓慢增长的尖锐矛盾，已成为制约AI生产力解放和发展的主要痛点。基于多年在学术上的卓越成就和工业界的深厚积累，尤洋教授团队攻克多维张量并行、序列并行、异构内存管理、大规模优化库、自适应任务调度等多项核心关键技术，开源了面向大模型时代的通用深度学习系统Colossal-AI，可实现高效快速部署AI大模型训练和推理，降低AI大模型应用成本。。潞晨科技开源复现ChatGPT的RLHF训练过程的完整解决方案，开源类Sora架构视频生成模型及完整低成本解决方案Open-Sora，目前已更新至v1.1，总训练成本仅1万美元，发布后一个月已收获GitHub Star近两万颗。

主题大纲：
1.大模型时代的挑战与机遇；
2.底层系统和基础设施；

演讲人介绍：
师从尤洋教授，毕业于新加坡国立大学，在全球超算会议SC上发表一作论文。7年高性能AI系统经验，Colossal-AI系统核心开发者。