网易云音乐大模型实践及创新

主题介绍：
今年3月份SUNO AI 发布V3版本，在音乐人圈子里引发了不小轰动，网友评价其为：音乐界的ChatGPT。作为音乐平台开发者，即感叹技术的日新月异，同时感受到变革带来的挑战。

本次分享，将介绍网易云音乐的大模型应用实践以及在大模型方向的技术创新和规划。分享包括三个部分：首先是平台和实践，介绍基于LLMOps理念实现的大模型微调、部署、评测、标注链路，分享我们采用 zero offload技术来降低微调需要的资源门槛。此外，还会介绍基于自研 Modelzoo 实现大模型分布式管理、推理部署、推理优化以及平台提供的人工标注和机器标注流程。实践部分，将分享在音乐社区领域，如何基于大模型的闲聊对话全链路解决方案增加用户主动会话意愿，提升用户留存率。其次，也将会介绍我们在Agent实践领域，共同探讨Agent 落地存在的问题及解决方案。最后，会介绍网易云音乐在多模态方面的一些应用。

为迎接未来AI应用浪潮，我们也在大模型推荐、交互式 AI以及内容生成方向进行了探索，在规划部分，也会分享我们在技术创新方面的进展。

主题大纲：
1.演进历程：平台定位、背景；
2.平台架构：技术栈、架构；
3.LLMOps：大模型微调、部署、评测、标注链；
4.实践：大模型应用案例：基于LLM对话系统、Agent实践、多模态内容生成等；
5.创新和规划：大模型推理、AIGC搜索方面的探索。

演讲人介绍：
毕业于西安电子科技大学，有多年云计算开发及架构师经验。2020年加入网易云音乐，作为资深算法平台工程师，从事大规模图计算、Modelzoo、机器学习平台开发工作。