【美图】AIGC运维之旅的探索和挑战

演讲简介：
1. 探索算力的多维世界：选择与应用的艺术
在AI的世界中，算力展现出无尽的多样性和复杂性。我们将深入探讨不同类型的GPU和NPU（例如昇腾）之间的独特差异，以及如何基于特定的算法需求，作出算力选择。
2. 精细化的训练与推理集群管理：巧妙平衡成本与效益
训练与推理集群各自蕴含着独特的管理巧思。在这一部分，我们将剖析这两者在日常交付、权限控制和成本监控等方面的管理差异，特别是在面对训练集群高昂成本的挑战时，如何实施精细化管理。
3. 赋能多云生态：揭示标准化管理的力量
标准化是实现多云管理的金钥匙。本环节将探讨如何通过实施标准化流程和协议，实现多云环境中的流畅交付和协同。
4. 流量的智能调度：自动化与智能化的完美融合
流量调度是多云环境中的核心艺术。我们将展示如何通过自动化和智能化技术，实现流量的精确调度和优化，确保资源的最大化利用和服务的最优性能。
5. 安全与合规：构建大模型训练集群的坚固防线
在大模型训练集群的运维中，安全与合规是至关重要的基石。本节将深入探讨在大模型训练过程中遇到的安全与合规问题，并分享如何通过实施有效策略，确保训练集群的安全稳固。

主题大纲：
1. 美图AIGC历程；
2. 多元算力的选择和应用；
3. 标准化赋能多云生态；
4. 多云管理和稳定性运营；
5. 多云流量调度 & 弹性伸缩；
6. 大模型安全和成本建设