这是名为 DeepSpeed 的 Linux 应用程序，其最新版本可以作为 v0.11.1_Patchrelease.zip 下载。 它可以在免费的工作站托管提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行这个名为 DeepSpeed 的应用程序。
请按照以下说明运行此应用程序：
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统，使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序，安装并运行。
SCREENSHOTS
Ad
极速
商品描述
DeepSpeed 是一款易于使用的深度学习优化软件套件，可为深度学习训练和推理提供前所未有的规模和速度。 使用 DeepSpeed，您可以：
1. 训练/推理具有数十亿或数万亿参数的密集或稀疏模型
2. 实现出色的系统吞吐量并高效扩展至数千个 GPU
3. 资源受限 GPU 系统的训练/推理
4. 实现前所未有的低延迟和高推理吞吐量
5. 实现极致压缩，以低成本实现无与伦比的推理延迟和模型尺寸缩减
DeepSpeed 提供了系统创新的融合，使大规模 DL 培训变得有效和高效，大大提高了易用性，并根据可能的规模重新定义了 DL 培训领域。 ZeRO、3D-Parallelism、DeepSpeed-MoE、ZeRO-Infinity 等这些创新都属于训练支柱。
項目特色
- DeepSpeed 汇集了张量、管道、专家和零并行等并行技术的创新，并将它们与高性能定制推理内核、通信优化和异构内存技术相结合，以实现前所未有的规模推理，同时实现无与伦比的延迟、吞吐量和降低成本。 这种用于推理的系统技术的系统组合属于推理支柱
- 为了进一步提高推理效率，DeepSpeed 为研究人员和从业者提供易于使用且组合灵活的压缩技术来压缩他们的模型，同时提供更快的速度、更小的模型大小并显着降低压缩成本。 此外，SoTA 在压缩方面的创新，如 ZeroQuant 和 XTC，都包含在压缩支柱下。
- DeepSpeed 库（此存储库）将 DeepSpeed 训练、推理和压缩支柱中的创新和技术实施并打包到一个易于使用的开源存储库中。 它允许在单个训练、推理或压缩管道中轻松组合大量特征。 DeepSpeed 库被 DL 社区大量采用，并已用于启用一些最强大的模型
程式语言
Python
分类
这是一个也可以从 https://sourceforge.net/projects/deepspeed.mirror/ 获取的应用程序。 它已托管在 OnWorks 中，以便以最简单的方式从我们的免费操作系统之一在线运行。
