Це програма Linux під назвою TensorRT Backend For ONNX, останню версію якої можна завантажити як ONNX-TensorRT8.6EARelease.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та запустіть цю програму під назвою TensorRT Backend For ONNX з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
ЕКРАНИ
Ad
Сервер TensorRT для ONNX
ОПИС
Аналізує моделі ONNX для виконання за допомогою TensorRT. Розробка основної гілки стосується останньої версії TensorRT 8.4.1.5 із підтримкою повних розмірів і динамічної форми. Щоб дізнатися про попередні версії TensorRT, зверніться до відповідних гілок. Створення об’єктів INetwork у повнорозмірному режимі з підтримкою динамічної форми потребує виклику C++ і API Python. Поточні підтримувані оператори ONNX можна знайти в матриці підтримки операторів. Для створення всередині докерів ми рекомендуємо використовувати та налаштовувати контейнери докерів згідно з інструкціями в основному (репозиторій TensorRT). Зауважте, що цей проект залежить від CUDA. За замовчуванням збірка шукатиметься в /usr/local/cuda для встановлення набору інструментів CUDA. Якщо ваш шлях CUDA інший, перезапишіть шлях за замовчуванням. Моделі ONNX можна конвертувати в серіалізовані механізми TensorRT за допомогою виконуваного файлу onnx2trt.
Функції
- Моделі ONNX можна конвертувати в текст, який читається людиною
- Моделі ONNX можна конвертувати в серіалізовані двигуни TensorRT
- Моделі ONNX можна оптимізувати за допомогою бібліотек оптимізації ONNX
- Модулі Python
- TensorRT 8.4.1.5 підтримує випуск ONNX 1.8.0
- Сервер TensorRT для ONNX можна використовувати в Python
Мова програмування
C + +
Категорії
Це додаток, який також можна завантажити з https://sourceforge.net/projects/tensorrt-backend-onnx.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.
