这是名为 AIMET 的 Linux 应用程序,其最新版本可以下载为 1.28.0.zip。 它可以在工作站的免费托管服务提供商 OnWorks 中在线运行。
使用 OnWorks 免费下载并在线运行这个名为 AIMET 的应用程序。
请按照以下说明运行此应用程序:
- 1. 在您的 PC 中下载此应用程序。
- 2. 在我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX 中输入您想要的用户名。
- 3. 在这样的文件管理器中上传这个应用程序。
- 4. 从此网站启动OnWorks Linux online 或Windows online emulator 或MACOS online emulator。
- 5. 从您刚刚启动的 OnWorks Linux 操作系统,使用您想要的用户名转到我们的文件管理器 https://www.onworks.net/myfiles.php?username=XXXXX。
- 6. 下载应用程序,安装并运行。
SCREENSHOTS
Ad
艾梅特
商品描述
高通创新中心 (QuIC) 通过其开创性的模型效率研究,处于在边缘实现低功耗推理的前沿。 QuIC 的使命是帮助将生态系统迁移到定点推理。 带着这个目标,QuIC 推出了 AI 模型效率工具包 (AIMET) - 一个为经过训练的神经网络模型提供高级量化和压缩技术的库。 AIMET 使神经网络能够在定点 AI 硬件加速器上更高效地运行。 量化推理比浮点推理快得多。 例如,我们在 Qualcomm® Hexagon™ DSP 而不是 Qualcomm® Kryo™ CPU 上运行的模型实现了 5 到 15 倍的加速。 此外,与 8 位模型相比,4 位模型的内存占用也减少了 32 倍。 然而,通常在量化机器学习模型时(例如,从 32 位浮点值到 8 位定点值),会牺牲模型精度。
項目特色
- 均衡权重张量以减少跨通道的幅度变化
- 张量分解技术将一个大层分成两个较小的层
- 更正由于量化而引入的层输出偏移
- 从层中删除冗余输入通道并重建层权重
- 使用量化sim进一步训练模型以提高准确性
- 自动选择模型中每一层的压缩量
程式语言
Python
分类
这是一个也可以从 https://sourceforge.net/projects/aimet.mirror/ 获取的应用程序。 它已托管在 OnWorks 中,以便以最简单的方式从我们的免费操作系统之一在线运行。