सभी पाठ

कोर्स

कक्षा 10 एआई: गहन अधिगम और बहुमोडल एआई

PyTorch में तस्वीरों, टेक्स्ट और आवाज़ के लिए न्यूरल नेटवर्क बनाओ और प्रशिक्षित करो।

पाठ क्रम से करो। अंत में तुम एक न्यूरॉन का आउटपुट निकाल सकोगे, ReLU, सिग्मॉइड और softmax सक्रियणों की तुलना कर सकोगे, और NumPy से एक छोटे नेटवर्क का आगे का पास लिख सकोगे। तुम किसी काम के लिए हानि चुन सकोगे, ग्रेडिएंट डिसेंट और बैकप्रोपेगेशन समझा सकोगे, और PyTorch में प्रशिक्षण और जाँच का पूरा लूप वाली स्क्रिप्ट लिख सकोगे। तुम CNN से तस्वीर वर्गीकारक प्रशिक्षित कर सकोगे, सकारात्मक समीक्षाओं को नकारात्मक से अलग करने वाला भाव वर्गीकारक प्रशिक्षित कर सकोगे, समझा सकोगे कि ध्यान दूसरे टोकन को कैसे तौलता है, और छोटी आवाज़ क्लिप वर्गीकृत कर सकोगे। तुम ओवरफिटिंग घटा सकोगे, पहले से प्रशिक्षित मॉडल को नई श्रेणियों पर फाइन-ट्यून कर सकोगे, गलतियों को समूहित कर उनका कारण ढूँढ सकोगे, और अनदेखी तस्वीरों पर जाँचा हुआ समझदार वन्यजीव मॉनिटर प्रस्तुत कर सकोगे।

इन पाठों का इस्तेमाल कैसे करो

  • जिस पाठ पर यह करो लिखा है, वहीं से शुरू करो। जब शीर्षक के नीचे की पंक्ति खुद कर सको, तब आगे बढ़ो।
  • पहले खेल खेलो। फिर प्रश्नोत्तरी करो। 8/10 सही पर पास। वर्कशीट कागज़ पर हैं। उत्तर नीचे हैं।
  • हर पाठ पिछले पाठ पर टिका है। हर प्रशिक्षण का नोट रखो: समायोजन, हानि का वक्र, और जाँच का अंक।
  • कोड वाले पाठ मुफ़्त ऑनलाइन नोटबुक में GPU के साथ Python और PyTorch इस्तेमाल करते हैं। छोटे मॉडल और छोटे डेटा सेट काफ़ी हैं। सिर्फ़ वही खुले डेटा सेट इस्तेमाल करो जिनकी अनुमति है, और लोगों की फ़ोटो बिना अनुमति के कभी प्रशिक्षण में मत डालो।

हर पाठ में खेल, प्रश्नोत्तरी और वर्कशीट हैं।

0/36

न्यूरल नेटवर्क की नींव

  1. 1न्यूरॉनइनपुट, भार और बायस से एक न्यूरॉन का आउटपुट निकालो।
    • भारित योग और बायस लिखो।
    • तीन इनपुट के लिए इसे हाथ से निकालो।
    • कोड में डॉट प्रोडक्ट से इसे निकालो।
  2. 2सक्रियणReLU, सिग्मॉइड और softmax सक्रियणों की तुलना करो।
    • हर सक्रियण का ग्राफ़ बनाओ।
    • बताओ कि नेटवर्क को अरैखिक सक्रियण क्यों चाहिए।
    • स्कोर को प्रायिकता बनाने के लिए softmax इस्तेमाल करो।
  3. 3परतें और नेटवर्कपरतों को जोड़कर एक नेटवर्क बनाओ।
    • एक परत को मैट्रिक्स गुणा की तरह लिखो।
    • हर परत में डेटा का आकार ट्रैक करो।
    • नेटवर्क के पैरामीटर गिनो।
  4. 4एक छोटा नेटवर्कNumPy से एक छोटे नेटवर्क का आगे का पास लिखो।
    • NumPy में दो परतों का नेटवर्क बनाओ।
    • इनपुट का एक बैच उसमें से गुज़ारो।
    • आउटपुट का आकार जाँचो।

न्यूरल नेटवर्क का प्रशिक्षण

  1. 5हानिकिसी काम के लिए हानि चुनो और उसे निकालो।
    • रिग्रेशन के लिए माध्य वर्ग त्रुटि इस्तेमाल करो।
    • वर्गीकरण के लिए क्रॉस-एंट्रॉपी इस्तेमाल करो।
    • बताओ कि गिरती हानि का क्या मतलब है।
  2. 6ग्रेडिएंट डिसेंटसमझाओ कि ग्रेडिएंट डिसेंट भार को नीचे की ओर कैसे ले जाता है।
    • हानि वक्र का ढाल निकालो।
    • अधिगम दर से कदम लो।
    • देखो दर बहुत बड़ी या बहुत छोटी हो तो क्या होता है।
  3. 7बैकप्रोपेगेशनबैकप्रोपेगेशन से देखो कि त्रुटि नेटवर्क में पीछे कैसे बहती है।
    • एक छोटे नेटवर्क पर शृंखला नियम इस्तेमाल करो।
    • एक ग्रेडिएंट हाथ से निकालो।
    • उसे स्वचालित अवकलन से मिलाओ।
  4. 8नेटवर्क प्रशिक्षित करोएक छोटा नेटवर्क प्रशिक्षित करो और हानि का ग्राफ़ बनाओ।
    • मिनी-बैच से प्रशिक्षित करो।
    • प्रशिक्षण और वैलिडेशन हानि का ग्राफ़ बनाओ।
    • जब वैलिडेशन हानि सुधरना बंद करे, तब रुक जाओ।

गहन अधिगम की लाइब्रेरी

  1. 9टेंसरPyTorch टेंसर बनाओ और उनका आकार बदलो।
    • टेंसर बनाओ और उनका आकार और प्रकार जाँचो।
    • आकार बदलो, उन्हें जोड़ो, और काटो।
    • टेंसर को GPU पर ले जाओ।
  2. 10मॉड्यूलtorch.nn के मॉड्यूल से एक मॉडल बनाओ।
    • nn.Module का उपवर्ग बनाओ।
    • Linear और सक्रियण परतें इस्तेमाल करो।
    • मॉडल और उसके पैरामीटर की संख्या छापो।
  3. 11ऑप्टिमाइज़रऑप्टिमाइज़र SGD और Adam से प्रशिक्षित करो।
    • zero_grad, backward और step इस्तेमाल करो।
    • एक काम पर SGD और Adam की तुलना करो।
    • अधिगम दर का शेड्यूल इस्तेमाल करो।
  4. 12प्रशिक्षण स्क्रिप्टप्रशिक्षण और जाँच का पूरा लूप वाली स्क्रिप्ट लिखो।
    • DataLoader से डेटा लाओ।
    • प्रशिक्षित करो, वैलिडेट करो, और जाँचो।
    • सबसे अच्छा मॉडल सहेजो।

कंप्यूटर दृष्टि

  1. 13तस्वीरें टेंसर के रूप मेंतस्वीरें टेंसर के रूप में लाओ और उन्हें सामान्य करो।
    • तस्वीर को चैनल, ऊँचाई और चौड़ाई के रूप में लाओ।
    • आकार बदलो और सामान्य करो।
    • एक बैच को ग्रिड की तरह दिखाओ।
  2. 14कन्वोल्यूशनसमझाओ कि कन्वोल्यूशन फ़िल्टर किनारे कैसे ढूँढता है।
    • तस्वीर पर 3×3 फ़िल्टर हाथ से सरकाओ।
    • कोड में किनारे वाले फ़िल्टर लगाओ।
    • stride, padding और pooling समझाओ।
  3. 15CNNएक कन्वोल्यूशनल न्यूरल नेटवर्क, CNN, बनाओ।
    • कन्वोल्यूशन, सक्रियण और pooling परतें जोड़ो।
    • चपटा करो और वर्गीकारक सिर जोड़ो।
    • नेटवर्क में आकार ट्रैक करो।
  4. 16तस्वीर वर्गीकारकCNN से तस्वीर वर्गीकारक प्रशिक्षित करो।
    • तस्वीरों के छोटे डेटा सेट पर प्रशिक्षित करो।
    • जाँच की सटीकता बताओ।
    • वे तस्वीरें दिखाओ जो गलत हुईं।

प्राकृतिक भाषा संसाधन

  1. 17टोकनाइज़ेशनटोकनाइज़ेशन करो: टेक्स्ट को टोकन और पहचान संख्या में बदलो।
    • शब्द टोकन और उपशब्द टोकन की तुलना करो।
    • शब्दावली बनाओ।
    • क्रमों को एक ही लंबाई तक पैड करो।
  2. 18एम्बेडिंगसमझाओ कि एम्बेडिंग मिलते-जुलते शब्दों को पास कैसे रखती है।
    • एम्बेडिंग परत इस्तेमाल करो।
    • एक शब्द के सबसे पास के शब्द ढूँढो।
    • एम्बेडिंग को दो आयामों में दिखाओ।
  3. 19टेक्स्ट मॉडलएक टेक्स्ट मॉडल बनाओ जो टोकन का क्रम पढ़े।
    • एम्बेडिंग का औसत लेकर एक सदिश बनाओ।
    • एक साधारण आवर्ती परत इस्तेमाल करो।
    • दोनों की तुलना करो।
  4. 20भाव वर्गीकारकभाव वर्गीकारक प्रशिक्षित करो जो सकारात्मक समीक्षाओं को नकारात्मक से अलग करे।
    • समीक्षाओं के डेटा सेट पर प्रशिक्षित करो।
    • सटीकता, परिशुद्धता और पुनःप्राप्ति बताओ।
    • ऐसी समीक्षाएँ ढूँढो जो इसे धोखा दें, जैसे व्यंग्य।

ट्रांसफ़ॉर्मर

  1. 21ध्यानसमझाओ कि ध्यान दूसरे टोकन को कैसे तौलता है।
    • क्वेरी, कुंजी और मान समझाओ।
    • एक छोटे वाक्य के ध्यान भार निकालो।
    • बताओ कि दूर के अर्थ में ध्यान क्यों मदद करता है।
  2. 22ट्रांसफ़ॉर्मर ब्लॉकट्रांसफ़ॉर्मर ब्लॉक के हिस्से बताओ।
    • मल्टी-हेड ध्यान, फ़ीड-फ़ॉरवर्ड परत और सामान्यीकरण परतें बताओ।
    • अवशिष्ट कनेक्शन समझाओ।
    • स्थिति एन्कोडिंग समझाओ।
  3. 23पहले से प्रशिक्षित मॉडलकिसी काम के लिए पहले से प्रशिक्षित ट्रांसफ़ॉर्मर मॉडल इस्तेमाल करो।
    • पहले से प्रशिक्षित मॉडल और टोकनाइज़र लाओ।
    • उससे टेक्स्ट वर्गीकृत करो।
    • अपने भाव मॉडल से उसकी तुलना करो।
  4. 24ध्यान मानचित्रध्यान मानचित्र पढ़ो।
    • ध्यान भार को ऊष्मा मानचित्र की तरह दिखाओ।
    • देखो एक टोकन किन शब्दों पर ध्यान देता है।
    • बताओ कि ध्यान पूरी व्याख्या क्यों नहीं है।

ऑडियो और बहुमोडल एआई

  1. 25डेटा के रूप में आवाज़आवाज़ को तरंग और स्पेक्ट्रोग्राम में बदलो।
    • ऑडियो लाओ और उसकी तरंग दिखाओ।
    • सैंपल दर समझाओ।
    • स्पेक्ट्रोग्राम बनाओ।
  2. 26ऑडियो वर्गीकारकऑडियो वर्गीकारक से छोटी आवाज़ क्लिप वर्गीकृत करो।
    • स्पेक्ट्रोग्राम को तस्वीरों की तरह लो।
    • उन पर CNN प्रशिक्षित करो।
    • पृष्ठभूमि शोर से जाँचो।
  3. 27बहुमोडल इनपुटसमझाओ कि मॉडल तस्वीर और टेक्स्ट के बहुमोडल इनपुट कैसे जोड़ता है।
    • हर इनपुट के अलग एनकोडर समझाओ।
    • साझा एम्बेडिंग स्थान समझाओ।
    • तीन बहुमोडल ऐप के नाम बताओ।
  4. 28तस्वीर और टेक्स्टतस्वीर और टेक्स्ट मिलाओ: पहले से प्रशिक्षित मॉडल से तस्वीरों को कैप्शन से जोड़ो।
    • तस्वीरों और कैप्शन की एम्बेडिंग निकालो।
    • हर तस्वीर के कैप्शन क्रम में लगाओ।
    • टेक्स्ट पूछकर तस्वीरें खोजो।

मॉडल सुधार

  1. 29नियमितीकरणनियमितीकरण से ओवरफिटिंग घटाओ: dropout और भार क्षय।
    • dropout जोड़ो।
    • भार क्षय जोड़ो।
    • वैलिडेशन वक्रों की तुलना करो।
  2. 30डेटा वृद्धिडेटा वृद्धि करो: प्रशिक्षण सेट में पलटी और कटी तस्वीरें जोड़ो।
    • पलटना, काटना और रंग बदलना लगाओ।
    • सिर्फ़ प्रशिक्षण सेट बढ़ाओ।
    • जाँच की सटीकता में बदलाव मापो।
  3. 31ट्रांसफ़र अधिगमट्रांसफ़र अधिगम से पहले से प्रशिक्षित मॉडल को नई श्रेणियों पर फाइन-ट्यून करो।
    • पहले से प्रशिक्षित परतें जमा दो।
    • सिर बदलो और उसे प्रशिक्षित करो।
    • जमा हटाने के बाद छोटी अधिगम दर से फाइन-ट्यून करो।
  4. 32त्रुटि विश्लेषणत्रुटि विश्लेषण करो: गलतियों को समूहित कर उनका कारण ढूँढो।
    • कई श्रेणियों की भ्रम मैट्रिक्स पढ़ो।
    • गलतियों को समूहों में बाँटो।
    • सबसे बड़े समूह के लिए सुधार चुनो।

गहन अधिगम परियोजना

  1. 33वन्यजीव डेटावन्यजीव तस्वीरों का खुला डेटा सेट चुनो और बाँटो।
    • कैमरा ट्रैप या वन्यजीव का खुला डेटा सेट चुनो।
    • पाँच से दस प्रजातियाँ चुनो।
    • जगह के हिसाब से बाँटो ताकि जाँच निष्पक्ष हो।
  2. 34मॉडल फाइन-ट्यून करोतस्वीर वर्गीकारक मॉडल को वन्यजीव श्रेणियों पर फाइन-ट्यून करो।
    • पहले से प्रशिक्षित मॉडल फाइन-ट्यून करो।
    • वैलिडेशन सटीकता ट्रैक करो।
    • सबसे अच्छा चेकपॉइंट सहेजो।
  3. 35डेमो इंटरफ़ेसडेमो इंटरफ़ेस बनाओ जो अपलोड की तस्वीरों पर अनुमान दिखाए।
    • अपलोड की तस्वीर लो।
    • ऊपर की तीन प्रजातियाँ और उनके अंक दिखाओ।
    • भरोसा कम हो तो «पक्का नहीं» दिखाओ।
  4. 36समझदार वन्यजीव मॉनिटरसमझदार वन्यजीव मॉनिटर प्रस्तुत करो: अनदेखी तस्वीरों पर सटीकता और मुख्य गलतियाँ।
    • अनदेखी तस्वीरों पर सटीकता बताओ।
    • मुख्य गलतियाँ और उनके कारण दिखाओ।
    • बताओ आगे क्या बदलोगे।