http://t.cn/AXwY4A4W
PyTorch 刚发了篇官博介绍 PyTorch Monarch ，这是一个全新的分布式编程框架，它的核心思想是让开发者能像编写单机 Python 程序一样，去编排和控制整个 GPU 集群，极大地简化了大规模、复杂 AI 工作流的开发。
Monarch 采用单控制器（Single Controller）模型，即由一个主 Python 脚本来统一指挥和调度所有分布式资源，让整个集群感觉就像是本地机器的扩展。