Windows ML सामान्य उपलब्धता में है — Windows ऐप्स के लिए एक एकीकृत ऑन-डिवाइस AI रनटाइम

मुख्य अपडेट

Microsoft ने Windows ML को सामान्य उपलब्धता में स्थानांतरित कर दिया है: एक उत्पादन-तैयार ऑन-डिवाइस अनुमान रनटाइम जो Windows ऐप SDK (1.8.1 से शुरू) में शामिल है और Windows 11 उपकरणों (24H2 या नए) पर चलता है। यह रनटाइम एक हार्डवेयर एब्स्ट्रैक्शन लेयर है जो विक्रेता "निष्पादन प्रदाताओं" (AMD, Intel, NVIDIA, Qualcomm) का उपयोग करके ONNX मॉडलों को उपलब्ध सर्वोत्तम XPU (CPU/GPU/NPU) पर मैप करता है। Microsoft डेवलपर टूलिंग (VS कोड के लिए AI टूलकिट और AI देव गैलरी) भी प्रदान करता है ताकि Windows ML के लिए मॉडलों को परिवर्तित, क्वांटाइज़ और परीक्षण किया जा सके। (blogs.windows.com)

यह क्यों महत्वपूर्ण है

डेस्कटॉप और नेटिव Windows ऐप्स बनाने वाले डेवलपर्स के लिए, Windows ML ऑन-डिवाइस AI को एक विशेष अनुकूलन से एक समर्थित, क्रॉस-हार्डवेयर विकल्प में बदल देता है। व्यावहारिक रूप से, इसका मतलब है कि सेमांटिक सर्च, इमेज/वीडियो प्रोसेसिंग, और रियल-टाइम अनुमान जैसी सुविधाओं के लिए कम विलंबता और बेहतर गोपनीयता; बड़े पैमाने पर अनुमान के लिए कम क्लाउड लागत; और बिना विशेष विक्रेता कोड के NPUs और विशेषीकृत सिलिकॉन के लिए सरल समर्थन। माइग्रेशन कार्य ठोस है: मॉडलों को ONNX में परिवर्तित करें (और क्वांटाइजेशन पर विचार करें), Windows ऐप SDK को अपडेट करें, विक्रेता निष्पादन प्रदाताओं और ड्राइवर स्टैक्स के बीच मान्यता प्राप्त करें, और AOT कार्यभार को प्रोफाइल और संकलित करने के लिए AI टूलकिट का उपयोग करें। हार्डवेयर और ड्राइवर द्वारा प्रदर्शन में भिन्नता की अपेक्षा करें; व्यापक क्रॉस-डिवाइस परीक्षण आवश्यक है, और उद्यमों को प्रबंधित बेड़े के लिए ड्राइवर/फर्मवेयर स्टैक्स को मान्य करने की आवश्यकता होगी। कुल मिलाकर, Windows ML Windows पर उत्पादन स्थानीय-AI सुविधाओं को शिप करना व्यावहारिक बनाता है, न कि प्रयोगात्मक। (blogs.windows.com)

स्रोत

• Source