این برنامه لینوکس با نام Torch-TensorRT است که آخرین نسخه آن را می توان با عنوان Torch-TensorRTv1.3.0.zip دانلود کرد. می توان آن را به صورت آنلاین در ارائه دهنده میزبانی رایگان OnWorks برای ایستگاه های کاری اجرا کرد.
این برنامه با نام Torch-TensorRT را با OnWorks به صورت آنلاین دانلود و اجرا کنید.
برای اجرای این برنامه این دستورالعمل ها را دنبال کنید:
- 1. این برنامه را در رایانه شخصی خود دانلود کنید.
- 2. در فایل منیجر ما https://www.onworks.net/myfiles.php?username=XXXXX نام کاربری مورد نظر خود را وارد کنید.
- 3. این برنامه را در چنین فایل منیجر آپلود کنید.
- 4. OnWorks Linux آنلاین یا شبیه ساز آنلاین ویندوز یا شبیه ساز آنلاین MACOS را از این وب سایت راه اندازی کنید.
- 5. از سیستم عامل لینوکس OnWorks که به تازگی راه اندازی کرده اید، به مدیر فایل ما https://www.onworks.net/myfiles.php?username=XXXXX با نام کاربری که می خواهید بروید.
- 6. اپلیکیشن را دانلود کرده، نصب و اجرا کنید.
عکس ها
Ad
Torch-TensorRT
شرح
Torch-TensorRT یک کامپایلر برای PyTorch/TorchScript است که پردازنده‌های گرافیکی NVIDIA را از طریق TensorRT Deep Learning Optimizer و Runtime NVIDIA هدف قرار می‌دهد. برخلاف کامپایلر Just-In-Time (JIT) PyTorch، Torch-TensorRT یک کامپایلر پیش از زمان (AOT) است، به این معنی که قبل از استقرار کد TorchScript خود، یک مرحله کامپایل صریح را برای تبدیل یک برنامه TorchScript استاندارد به ماژولی که موتور TensorRT را هدف قرار می دهد. Torch-TensorRT به عنوان یک افزونه PyTorch عمل می کند و ماژول هایی را کامپایل می کند که به طور یکپارچه در زمان اجرا JIT ادغام می شوند. پس از کامپایل، استفاده از نمودار بهینه شده، تفاوتی با اجرای یک ماژول TorchScript ندارد. شما همچنین در زمان کامپایل به مجموعه تنظیمات TensorRT دسترسی دارید، بنابراین می‌توانید دقت عملکرد (FP32/FP16/INT8) و سایر تنظیمات را برای ماژول خود تعیین کنید.
امکانات
- یک داکر ظرف برای Torch-TensorRT بسازید
- کانتینر NVIDIA NGC
- نیاز به Libtorch 1.12.0 (ساخته شده با CUDA 11.3)
- با استفاده از توزیع‌های cuDNN و TensorRT تاربال بسازید
- با استفاده از باطن پایتون تست کنید
- شما در زمان کامپایل به مجموعه تنظیمات TensorRT دسترسی دارید
زبان برنامه نویسی
++C
دسته بندی ها
این برنامه ای است که می تواند از https://sourceforge.net/projects/torch-tensorrt.mirror/ نیز دریافت شود. در OnWorks میزبانی شده است تا به آسانی از یکی از سیستم عامل های رایگان ما به صورت آنلاین اجرا شود.
