डेटा केंद्र एक ऐसे युग में प्रवेश कर रहे हैं जहां फाइबर ऑप्टिक्स अपरिहार्य हैं

चित्र 1: डेंस वेवलेंथ डिवीजन मल्टीप्लेक्सिंग कंपनी -पैकेज्ड ऑप्टिक्स (DWDMCPO) के मुख्य लाभ। (छवि क्रेडिट: सिंटिल फोटोनिक्स)

डेटा सेंटर डिज़ाइन क्षेत्र में एक कहावत है: "जहां भी संभव हो तांबे के केबल का उपयोग करें, और ऑप्टिकल तकनीक का सहारा तभी लें जब फाइबर बिल्कुल आवश्यक हो।" वर्षों से, उद्योग का व्यावहारिक दृष्टिकोण कम लागत वाले तांबे के केबलों को प्राथमिकता देना रहा है जब तक कि भौतिकी के नियम तकनीकी उन्नयन को मजबूर नहीं करते। लेकिन आज, जैसे-जैसे कृत्रिम बुद्धिमत्ता (एआई) कंप्यूटिंग क्लस्टर लाखों ग्राफिक्स प्रोसेसिंग इकाइयों (जीपीयू) को तैनात करते हुए "कंप्यूटिंग पावर फैक्ट्री" के पैमाने की ओर बढ़ रहे हैं, और डेटा सेंटर की लागत-प्रभावीता पर भारी दबाव पड़ रहा है, लोगों को पता चल रहा है कि यह "नो-ऑप्टिक्स-वैकल्पिक" तकनीकी विभक्ति बिंदु किसी के अनुमान से कहीं अधिक जल्दी आ गया है।

नेटवर्क आर्किटेक्ट लंबे समय से जानते हैं कि तांबे के केबलों में उच्च गति परिदृश्यों के तहत ट्रांसमिशन दूरी में महत्वपूर्ण सीमाएं होती हैं, लेकिन कुछ ने मौलिक भौतिक परिप्रेक्ष्य से अंतर्निहित कारणों का विश्लेषण किया है। हालाँकि नेटवर्क इंजीनियरों ने अपनी विशेषज्ञता से कॉपर केबल ट्रांसमिशन दूरी और बैंडविड्थ की सीमाओं को चरम सीमा तक पहुँचा दिया है, लेकिन भौतिकी के नियमों की बाधाओं को दूर नहीं किया जा सकता है; यहां तक ​​कि सबसे सरल इंजीनियरिंग डिज़ाइन भी तांबे के केबलों की अंतर्निहित सीमाओं को पार करने के लिए संघर्ष करते हैं। इसे समझने से पता चलता है कि क्यों उद्योग तत्काल सह-पैकेज्ड ऑप्टिक्स (सीपीओ) तकनीक की ओर बढ़ रहा है।

तांबे के केबलों के माध्यम से प्रसारित विद्युत संकेतों की आवृत्ति जितनी अधिक होगी, प्रतीक दर और बैंडविड्थ उतनी ही अधिक होगी, और वे उतनी ही अधिक जानकारी ले जा सकते हैं। समस्या यह है कि जैसे-जैसे सिग्नल की आवृत्ति बढ़ती है, ट्रांसमिशन दूरी काफी कम हो जाती है। सिग्नल हानि के दो प्राथमिक कारण हैं: त्वचा प्रभाव और ढांकता हुआ हानि।

त्वचा प्रभाव: धारा की "सतह सांद्रता"।

जब एक एसी सिग्नल तांबे के केबल से होकर गुजरता है, तो बदलता चुंबकीय क्षेत्र कंडक्टर के भीतर एड़ी धाराओं को प्रेरित करता है। इन एड़ी धाराओं द्वारा उत्पन्न चुंबकीय क्षेत्र केबल के केंद्र में सिग्नल चुंबकीय क्षेत्र को रद्द कर देता है। सिग्नल का चुंबकीय क्षेत्र जितनी तेजी से बदलता है {{2}अर्थात्, आवृत्ति जितनी अधिक होती है {{3}यह रद्दीकरण प्रभाव उतना ही मजबूत हो जाता है।

इसका सीधा परिणाम यह होता है कि धारा चालक की अत्यंत पतली सतह परत में "निचोड़" जाती है; इस परत की मोटाई को त्वचा की गहराई के रूप में जाना जाता है। एआई डेटा केंद्रों में वर्तमान सिग्नल ट्रांसमिशन आमतौर पर 53 गीगाहर्ट्ज के आसपास आवृत्तियों का उपयोग करता है। इस आवृत्ति पर, तांबे के केबलों की त्वचा की गहराई केवल 0.3 μm है। ऐसी पतली ट्रांसमिशन परत कंडक्टर के क्रॉस-अनुभागीय क्षेत्र के 1% से भी कम का उपयोग करती है, जिससे केबल का प्रतिरोध आसमान छू जाता है, यहां तक ​​कि डीसी प्रतिरोध से भी 100 गुना से अधिक बढ़ जाता है।

ढांकता हुआ हानि: इन्सुलेशन परत में "ऊर्जा अपव्यय"।

तांबे के केबलों में सिग्नल क्षीणन के पीछे एक अन्य प्रमुख कारण ढांकता हुआ नुकसान है। गीगाहर्ट्ज़ स्तर पर उच्च आवृत्ति परिदृश्यों में, केबल के इन्सुलेटिंग ढांकता हुआ के भीतर के अणु विद्युत क्षेत्र के तीव्र उतार-चढ़ाव के साथ तालमेल नहीं रख सकते हैं। विद्युत क्षेत्र के तीव्र उतार-चढ़ाव और अणुओं की विलंबित प्रतिक्रिया के बीच देरी सिग्नल की विद्युत चुम्बकीय ऊर्जा को तापीय ऊर्जा में परिवर्तित कर देती है, जिसके परिणामस्वरूप ऊर्जा हानि होती है।

दोहरे नुकसान: कॉपर केबल्स की घातक कमजोरी

जब त्वचा प्रभाव और ढांकता हुआ नुकसान एक साथ काम करते हैं, तो आवृत्ति बढ़ने के साथ तांबे के केबलों में सिग्नल हानि तेजी से बढ़ जाती है।

इसे स्पष्ट रूप से समझाने के लिए: 50 गीगाहर्ट्ज की आवृत्ति पर, यहां तक ​​​​कि उच्च गुणवत्ता वाले तांबे के केबलों के साथ, इन दोनों प्रभावों से संयुक्त नुकसान 2-मीटर ट्रांसमिशन दूरी के भीतर सिग्नल पावर बजट का 90% से अधिक का उपभोग करेगा। तांबे के केबलों के भौतिक गुण एक अपूरणीय मूल विरोधाभास को निर्देशित करते हैं: बैंडविड्थ और ट्रांसमिशन दूरी एक साथ प्राप्त नहीं की जा सकती है।

डेंस वेवलेंथ डिवीजन मल्टीप्लेक्सिंग सह-पैकेज्ड ऑप्टिक्स (DWDMCPO)

आज, एआई प्रशिक्षण समूहों के लिए प्रदर्शन बाधा फ़्लोटिंग{0}}पॉइंट ऑपरेशंस प्रति सेकंड (FLOPS) से बैंडविड्थ आवश्यकताओं में स्थानांतरित हो गई है।

सुसंगत मेमोरी वाले स्केलेबल नेटवर्क में, कई मांगों को पूरा करने के लिए नेटवर्किंग तकनीक की एक नई पीढ़ी की आवश्यकता होती है:

|चूंकि बिजली की खपत डेटा सेंटर परिनियोजन में एक सीमित कारक बन जाती है, इसलिए प्रति बिट कम बिजली की खपत की आवश्यकता होती है;

| चूंकि फ्लोटिंग-प्वाइंट ऑपरेशन अब कोई बाधा नहीं हैं, इसलिए प्रत्येक प्रोसेसर के लिए अधिक बैंडविड्थ प्रदान की जानी चाहिए;

| चूंकि फाइबर परिनियोजन के लिए भौतिक स्थान सीमित हो जाता है, इसलिए उच्च एकीकरण घनत्व प्राप्त किया जाना चाहिए;

| क्रॉस {{0}रैक क्षैतिज स्केलिंग को सक्षम करने के लिए, लंबी ट्रांसमिशन दूरी का समर्थन किया जाना चाहिए;

| मेमोरी डोमेन स्थिरता बनाए रखने और जीपीयू उपयोग में सुधार करने के लिए, अल्ट्रा{0}}लो टेल विलंबता की आवश्यकता होती है;

| उच्च विश्वसनीयता और रखरखाव में आसानी भी आवश्यक है।

जब टेल विलंबता एक मुख्य बाधा बन जाती है, तो उपरोक्त आवश्यकताओं को पूरा करने से GPU उपयोग में काफी वृद्धि होगी (कुछ मॉडल अनुमानों से संकेत मिलता है कि उपयोग दोगुना से अधिक हो सकता है), नेटवर्क बिजली की खपत में काफी कमी आएगी, और अंत से {{1} अंत तक मॉडल प्रदर्शन में सुधार होगा। वर्तमान में, DWDMCPO एकमात्र तकनीकी दृष्टिकोण है जो इन कठोर आवश्यकताओं को एक साथ पूरा करने में सक्षम है, और यह हाइपरस्केल डेटा सेंटर ऑपरेटरों के लिए दूरगामी लागत{{4}लाभ परिवर्तन लाएगा।

एक ही फाइबर पर प्रकाश की कई तरंग दैर्ध्य संचारित करके, DWDMCPO तकनीक प्रत्येक GPU को कई चौड़े, कम {{0}स्पीड चैनल प्रदान करती है। संचरित तरंग दैर्ध्य की संख्या को 1 से 8, 16 या इससे भी अधिक तक स्केल करके, यह ज्यामितीय स्केलिंग पैटर्न एआई नेटवर्क में क्रांति लाने के लिए तैयार है, जैसे डीडब्ल्यूडीएम तकनीक ने 25 साल पहले इंटरनेट रीढ़ में क्रांति ला दी थी।

DWDM की एकल {{0}चैनल ट्रांसमिशन दर लगभग 50-64 Gbit/s है, जो निम्न {{3}स्पीड ट्रांसमिशन श्रेणी में आती है। यह विशेषता इंजीनियरों को PAM4 से NRZ तक डेटा एन्कोडिंग योजना को सरल बनाने की अनुमति देती है। यह सरलीकरण कई महंगे और बिजली-गहन सिग्नल प्रोसेसिंग चरणों को समाप्त करता है, सिग्नल ट्रांसमिशन पथ को सुव्यवस्थित करके बिजली की खपत और विलंबता में दोहरी कमी प्राप्त करता है।

टेल लेटेंसी डेटा सेंटर आरओआई को नष्ट करने वाला "साइलेंट किलर" है। जब GPU क्लस्टर डेटा टोकन संसाधित करते हैं, तो उन्हें निरंतर, पूर्वानुमानित बिटस्ट्रीम इनपुट की आवश्यकता होती है। यदि एक बिट ट्रांसमिशन में देरी का अनुभव करता है, तो शेष क्लस्टर निष्क्रिय हो जाता है, जिससे प्रोसेसर का उपयोग काफी कम हो जाता है। जैसे-जैसे क्लस्टर में प्रोसेसर की संख्या बढ़ती है, p999-स्तरीय टेल बिट विलंबता की संभावना काफी बढ़ जाती है, और प्रोसेसर का उपयोग तदनुसार कम हो जाता है।

कम {{0}विलंबता, कम {{1}शक्ति, लंबी दूरी वाली DWDMCPO तकनीक के बिना, नेटवर्क की स्केलेबिलिटी सीमित होगी, और परिणामस्वरूप बड़े भाषा मॉडल (एलएलएम) का प्रदर्शन बाधित होगा। बड़े पैमाने पर, सपाट, कम विलंबता वाले स्केलेबल नेटवर्क बड़े कुंजी मूल्य कैश का समर्थन कर सकते हैं, सीधे मॉडल के संदर्भ विंडो आकार और सामग्री प्रासंगिकता को बढ़ा सकते हैं, जिससे एलएलएम की प्रभावी कार्यशील मेमोरी का प्रभावी ढंग से विस्तार हो सकता है। बढ़ी हुई निम्न विलंबता बैंडविड्थ में ट्रांसफार्मर परतों की संख्या में वृद्धि करने की क्षमता भी होती है, जो मॉडलों को गहरी सोच और तर्क क्षमता रखने में सक्षम बनाती है। संक्षेप में: चिप्स के बीच संचार बाधाओं को तोड़ने से एलएलएम को कार्यशील मेमोरी में अधिक जानकारी संग्रहीत करने और हकलाने के बिना अधिक तर्कसंगत चरणों को पूरा करने की अनुमति मिलती है।

कॉपर केबलिंग निस्संदेह अपने समय में एक महान तकनीक थी, लेकिन इसकी अंतर्निहित भौतिक सीमाओं ने हाइपरस्केल डेटा केंद्रों के लिए निवेश पर रिटर्न में उल्लेखनीय सुधार करने और एलएलएम की क्षमताओं का विस्तार करने के लिए अधिक उन्नत नेटवर्किंग प्रौद्योगिकियों की तत्काल आवश्यकता पैदा की है।

कुछ वर्षों में, पूरी तरह से तांबे के केबल पर बने एआई डेटा केंद्र तांबे पर निर्भर लंबी दूरी के इंटरनेट कनेक्शन जितने अकल्पनीय हो जाएंगे।

हाइपरस्केल डेटा केंद्रों के संचालकों, निवेशकों, एलएलएम डेवलपर्स और एआई बुनियादी ढांचे में अन्य हितधारकों को इस तकनीकी प्रवृत्ति को गंभीरता से लेना चाहिए: यह न केवल डेटा केंद्रों की लागत-प्रभावीता परिदृश्य को मौलिक रूप से नया आकार देगा, बल्कि एआई क्षमताओं की सीमाओं का भी लगातार विस्तार करेगा। जो उद्यम पहले DWDMCPO तकनीक को अपनाते हैं, वे लागत, बिजली की खपत और प्रदर्शन के मामले में वास्तुशिल्प लाभ स्थापित करेंगे; जैसे-जैसे एआई इंफ्रास्ट्रक्चर का विस्तार होगा, ये फायदे बढ़ते रहेंगे।