alt-nvidia-361-cuda-mps-control - क्लाउड में ऑनलाइन

कार्यक्रम:

नाम

एनवीडिया-क्यूडा-एमपीएस-कंट्रोल - एनवीडिया सीयूडीए मल्टी प्रोसेस सर्विस प्रबंधन कार्यक्रम

SYNOPSIS

एनवीडिया-क्यूडा-एमपीएस-नियंत्रण [-d]

वर्णन

MPS एक रनटाइम सेवा है जिसे CUDA का उपयोग करके कई MPI प्रक्रियाओं को चलाने के लिए डिज़ाइन किया गया है
समवर्ती रूप से एक ही जीपीयू पर एक तरह से जो एमपीआई प्रोग्राम के लिए पारदर्शी है। एक CUDA
यदि सिस्टम पर MPS नियंत्रण डेमॉन चल रहा है तो प्रोग्राम MPS मोड में चलता है।

जब किसी प्रोग्राम में CUDA को पहली बार आरंभ किया जाता है, तो CUDA ड्राइवर इससे कनेक्ट करने का प्रयास करता है
एमपीएस नियंत्रण डेमॉन. यदि कनेक्शन का प्रयास विफल हो जाता है, तो प्रोग्राम वैसे ही चलता रहता है
आम तौर पर एमपीएस के बिना होगा। यदि फिर भी, कनेक्शन डेमॉन को नियंत्रित करने का प्रयास करता है
सफल होने पर, CUDA ड्राइवर डेमॉन से अपनी ओर से MPS सर्वर शुरू करने का अनुरोध करता है।
यदि कोई MPS सर्वर पहले से चल रहा है, और उस सर्वर प्रक्रिया की उपयोगकर्ता आईडी मेल खाती है
अनुरोध करने वाली क्लाइंट प्रक्रिया के बारे में, नियंत्रण डेमॉन केवल क्लाइंट को सूचित करता है
इसकी प्रक्रिया, जो फिर सर्वर से जुड़ने के लिए आगे बढ़ती है। यदि कोई एमपीएस सर्वर नहीं है
सिस्टम पर पहले से ही चल रहा नियंत्रण डेमॉन उसी के साथ एक एमपीएस सर्वर लॉन्च करता है
उपयोगकर्ता आईडी (यूआईडी) अनुरोध करने वाली ग्राहक प्रक्रिया के रूप में। यदि पहले से ही कोई एमपीएस सर्वर है
चल रहा है, लेकिन क्लाइंट प्रक्रिया की तुलना में एक अलग उपयोगकर्ता आईडी के साथ, नियंत्रण डेमॉन
जैसे ही उसके सभी क्लाइंट का काम पूरा हो जाए, मौजूदा सर्वर को बंद करने का अनुरोध करता है। एक बार
मौजूदा सर्वर समाप्त हो गया है, नियंत्रण डेमॉन उपयोगकर्ता आईडी के साथ एक नया सर्वर लॉन्च करता है
कतारबद्ध क्लाइंट प्रक्रिया के समान।

एमपीएस सर्वर साझा जीपीयू संदर्भ बनाता है, अपने ग्राहकों का प्रबंधन करता है, और काम जारी करता है
अपने ग्राहकों की ओर से GPU. एक MPS सर्वर एक बार में 16 क्लाइंट CUDA संदर्भों का समर्थन कर सकता है
समय। संचार की सभी जटिलताओं के साथ, एमपीएस सीयूडीए कार्यक्रमों के लिए पारदर्शी है
क्लाइंट प्रक्रिया, सर्वर और ड्राइवर के भीतर छिपे नियंत्रण डेमॉन के बीच
बायनेरिज़.

वर्तमान में, CUDA MPS केवल 64-बिट Linux पर उपलब्ध है, इसके लिए एक ऐसे उपकरण की आवश्यकता होती है जो समर्थन करता हो
एकीकृत वर्चुअल एड्रेस (UVA) और इसकी गणना क्षमता SM 3.5 या उच्चतर है। अनुप्रयोग
CUDA MPS के तहत प्री-CUDA 4.0 API की आवश्यकता समर्थित नहीं है। एमपीएस भी समर्थित नहीं है
मल्टी-जीपीयू कॉन्फ़िगरेशन पर। नियंत्रण प्रारंभ करते समय कृपया CUDA_VISIBLE_DEVICES का उपयोग करें
एकल डिवाइस तक दृश्यता सीमित करने के लिए डेमॉन।

विकल्प

-d
यह मानते हुए कि उपयोगकर्ता के पास पर्याप्त विशेषाधिकार (जैसे रूट) है, एमपीएस नियंत्रण डेमॉन प्रारंभ करें।

-एच, --मदद
सहायता संदेश प्रिंट करें।

<नहीं तर्क>
एमपीएस नियंत्रण डेमॉन के लिए फ्रंट-एंड प्रबंधन उपयोगकर्ता इंटरफ़ेस प्रारंभ करें, जो होना आवश्यक है
सबसे पहले शुरू हुआ. फ्रंट-एंड यूआई stdin से EOF तक कमांड पढ़ता रहता है। आदेश हैं
न्यूलाइन कैरेक्टर द्वारा अलग किया गया। यदि कोई अमान्य आदेश जारी किया जाता है और अस्वीकार कर दिया जाता है, तो एक त्रुटि
संदेश stdout पर मुद्रित किया जाएगा। यदि फ्रंट-एंड यूआई की निकास स्थिति शून्य है
डेमॉन के साथ संचार सफल है. यदि डेमॉन है तो एक गैर-शून्य मान लौटाया जाता है
नहीं मिला या डेमॉन से कनेक्शन अप्रत्याशित रूप से टूट गया है। नीचे "छोड़ें" आदेश देखें
निकास स्थिति के बारे में अधिक जानकारी के लिए।

एमपीएस नियंत्रण डेमॉन द्वारा समर्थित कमांड:

get_server_list
सभी एमपीएस सर्वरों की पीआईडी ​​की सूची प्रिंट करें।

प्रारंभ_सर्वर -यूआईडी यूआईडी
निर्दिष्ट उपयोगकर्ता के लिए एक नया एमपीएस सर्वर प्रारंभ करें (यूआईडी).

शटडाउन_सर्वर पीआईडी [-f]
दिए गए अनुसार MPS सर्वर को बंद करें पीआईडी. एमपीएस सर्वर कोई भी नया स्वीकार नहीं करेगा
क्लाइंट कनेक्शन और यह तब बाहर निकल जाता है जब सभी मौजूदा क्लाइंट डिस्कनेक्ट हो जाते हैं। -f मजबूर है
तत्काल बंद. यदि कोई क्लाइंट एक दोषपूर्ण कर्नेल लॉन्च करता है जो हमेशा के लिए चलता है, a
MPS सर्वर को जबरन बंद करने की आवश्यकता हो सकती है, क्योंकि MPS सर्वर बनाता है और
अपने ग्राहकों की ओर से GPU कार्य जारी करता है।

get_client_list पीआईडी
दिए गए MPS सर्वर से जुड़े सभी क्लाइंट के PID की सूची प्रिंट करें पीआईडी.

छोड़ना [-t TIMEOUT]
एमपीएस नियंत्रण डेमॉन प्रक्रिया और सभी एमपीएस सर्वर बंद करें। एमपीएस डेमॉन को नियंत्रित करता है
वर्तमान एमपीएस सर्वर और एमपीएस क्लाइंट की प्रतीक्षा करते समय नए क्लाइंट स्वीकार करना बंद कर देता है
को खत्म करने। अगर TIMEOUT निर्दिष्ट किया गया है (सेकंड में), डेमॉन एमपीएस सर्वर को बाध्य करेगा
यदि वे अभी भी पीछे चल रहे हैं तो बंद करें TIMEOUT सेकंड.

यह आदेश समकालिक है. फ्रंट-एंड यूआई डेमॉन के बंद होने की प्रतीक्षा करता है,
फिर डेमॉन की निकास स्थिति लौटाता है। सभी एमपीएस सर्वरों पर निकास स्थिति शून्य है
शालीनता से बाहर निकल गए हैं.

वातावरण

CUDA_MPS_PIPE_DIRECTORY
उस निर्देशिका को निर्दिष्ट करें जिसमें संचार के लिए उपयोग किए जाने वाले नामित पाइप शामिल हैं
एमपीएस नियंत्रण, एमपीएस सर्वर और एमपीएस क्लाइंट। इस पर्यावरण चर का मान
एमपीएस नियंत्रण डेमॉन और सभी एमपीएस क्लाइंट प्रक्रियाओं में सुसंगत होना चाहिए।
डिफ़ॉल्ट निर्देशिका /tmp/nvidia-mps है

CUDA_MPS_LOG_DIRECTORY
वह निर्देशिका निर्दिष्ट करें जिसमें MPS लॉग फ़ाइलें हैं। इस वेरिएबल का उपयोग किसके द्वारा किया जाता है
एमपीएस केवल डेमॉन को नियंत्रित करता है। डिफ़ॉल्ट निर्देशिका /var/log/nvidia-mps है

onworks.net सेवाओं का उपयोग करके ऑनलाइन alt-nvidia-361-cuda-mps-control का उपयोग करें