Это приложение для Linux под названием Torch-TensorRT, последний выпуск которого можно загрузить как Torch-TensorRTv1.3.0.zip. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн это приложение под названием Torch-TensorRT с OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ
Ad
Факел-ТензорРТ
ОПИСАНИЕ
Torch-TensorRT — это компилятор для PyTorch/TorchScript, предназначенный для графических процессоров NVIDIA с помощью оптимизатора глубокого обучения TensorRT и среды выполнения NVIDIA. В отличие от компилятора PyTorch Just-In-Time (JIT), Torch-TensorRT является компилятором с опережением времени (AOT), что означает, что перед развертыванием кода TorchScript вы выполняете явный этап компиляции, чтобы преобразовать стандартную программу TorchScript в модуль, ориентированный на движок TensorRT. Torch-TensorRT работает как расширение PyTorch и компилирует модули, которые легко интегрируются в среду выполнения JIT. После компиляции использование оптимизированного графа не должно отличаться от запуска модуля TorchScript. У вас также есть доступ к набору конфигураций TensorRT во время компиляции, поэтому вы можете указать рабочую точность (FP32/FP16/INT8) и другие параметры для вашего модуля.
Особенности
- Создайте контейнер докеров для Torch-TensorRT.
- NGC-контейнер NVIDIA
- Требуется Libtorch 1.12.0 (создана с помощью CUDA 11.3)
- Сборка с использованием tarball-дистрибутивов cuDNN и TensorRT
- Протестируйте с использованием бэкэнда Python
- У вас есть доступ к набору конфигураций TensorRT во время компиляции.
Язык программирования
C + +
Категории
Это приложение также можно загрузить с https://sourceforge.net/projects/torch-tensorrt.mirror/. Он был размещен в OnWorks, чтобы его можно было легко запускать в Интернете с помощью одной из наших бесплатных операционных систем.
