随着人工智能技术的进步,AI技术已从理论研究逐步转向实际生产和应用。然而,在实际开发过程中,常常会遇到各种挑战,例如GPU成本高昂,如何充分利用每一台GPU资源;还有开发环境复杂多变,包括CUDA、cuDNN、TensorFlow、PyTorch等多种工具和版本不断更新,如何实现兼容并选择合适的框架等。
针对开发环境复杂的问题,目前较为流行的一种解决方案是使用Docker技术。Docker是一种基于LXC容器技术的开源软件,用Go语言编写,能够将代码及其运行环境打包成一个整体,并且具备很强的迁移性。开发者可以将代码及其运行环境打包成Docker镜像,从而在不同平台上运行。相比传统的基于硬件的虚拟化技术,Docker是在操作系统层面进行虚拟化,可以直接利用宿主机的操作系统资源,更加轻量级。因此,在开发过程中,Docker成为了应对不同开发环境依赖问题的最佳选择。
大量Docker容器相对容易管理和调度,但在云端大规模容器的调度上又该如何操作呢?又如何优化容器中的机器学习推理过程呢?为了让用户更好地了解容器云中机器学习加速的原理和构建方法,智东西公开课特别推出了机器学习容器云课程。[b]8月20日晚7点[/b],由超集信息中国平台研发总监李盘宵和NVIDIA解决方案架构师黄煜主讲,为大家带来主题为《AI Max机器学习平台的大规模容器调度方案解析》的在线讲座。
李盘宵老师将从NVIDIA GPU在当前AI领域的应用现状入手,详细解析大规模容器调度方案,并深入介绍机器学习平台AI Max的架构和应用。而黄煜老师则会向大家介绍NVIDIA DGX A100系统和A100 GPU,以及NVIDIA NGC软件中心的底层加速机制。
李盘宵是超集信息中国平台的研发总监,在AI和云计算平台领域拥有丰富的架构设计和研发经验。他带领团队开发了基于Kubernetes和Docker的大规模容器AI云平台,该产品在市场上处于领先地位。他擅长Kubernetes、Docker和微服务等多项技术。黄煜是NVIDIA解决方案架构师,本科和硕士均毕业于北京邮电大学。他在基于3D视觉的人体关键点预测和碰撞预测等领域积累了丰富经验。作为NVIDIA解决方案架构师,他致力于为NVIDIA的合作伙伴提供GPU软硬件和深度学习开发方面的技术支持。
[b]课程内容[/b]
主题:AI Max机器学习平台的大规模容器调度方案解析
大纲:
NVIDIA GPU在当前AI领域的应用现状
大规模容器调度方案解析
机器学习平台AI Max的架构和应用
NVIDIA DGX A100系统与A100 GPU
NVIDIA NGC软件中心介绍
[b]讲师简介[/b]
李盘宵,超集信息中国平台研发总监,在AI和云计算平台领域具有丰富的架构和研发经验。他带领团队开发了基于Kubernetes和Docker的大规模容器AI云平台,该产品在市场上处于领先地位。他擅长Kubernetes、Docker和微服务等多项技术。
黄煜,NVIDIA解决方案架构师,本科和硕士均毕业于北京邮电大学。他在基于3D视觉的人体关键点预测和碰撞预测等领域积累了丰富经验。作为NVIDIA解决方案架构师,他致力于为NVIDIA的合作伙伴提供GPU软硬件和深度学习开发方面的技术支持。
[b]直播信息[/b]
时间:8月20日19点
地点:智东西公开课小程序
[b]报名方式[/b]
添加智东西公开课小助手芒芒(ID:zhidxclass005)报名,添加时请注明“姓名-公司/学校-职位/专业”。由于报名人数较多,优先通过备注信息的报名者。