एआय किती पाणी वापरते?

"एआय काही प्रश्नांवरून एक बाटली पाणी पितो" पासून ते "हे मुळात काही थेंब आहे" पर्यंत तुम्ही सर्व काही ऐकले असेल असे मला खात्री आहे. सत्य अधिक सूक्ष्म आहे. एआयचा वॉटर फूटप्रिंट तो कुठे चालतो, तुमचा प्रॉम्प्ट किती काळ चालतो आणि डेटा सेंटर त्याचे सर्व्हर कसे थंड करते यावर अवलंबून मोठ्या प्रमाणात बदलतो. हो, हेडलाइन नंबर अस्तित्वात आहे, परंतु तो सावधानतेच्या झुडुपात राहतो.

खाली मी स्पष्ट, निर्णय घेण्यास तयार आकडे उघड करतो, अंदाज का जुळत नाहीत हे स्पष्ट करतो आणि बांधकाम व्यावसायिक आणि दैनंदिन वापरकर्ते शाश्वततेचे साधू न बनता पाण्याचा वापर कसा कमी करू शकतात हे दाखवतो.

या लेखानंतर तुम्हाला वाचायला आवडतील असे लेख:

🔗 एआय डेटासेट म्हणजे काय?
डेटासेट्स मशीन लर्निंग प्रशिक्षण आणि मॉडेल डेव्हलपमेंट कसे सक्षम करतात हे स्पष्ट करते.

🔗 एआय ट्रेंडचा अंदाज कसा लावते
बदल आणि भविष्यातील परिणामांचा अंदाज घेण्यासाठी एआय नमुन्यांचे विश्लेषण कसे करते ते दाखवते.

🔗 एआय कामगिरी कशी मोजायची
अचूकता, वेग आणि विश्वासार्हतेचे मूल्यांकन करण्यासाठी आवश्यक मेट्रिक्सचे विभाजन करते.

🔗 एआयशी कसे बोलावे
स्पष्टता, परिणाम आणि सातत्य सुधारण्यासाठी प्रभावी प्रेरित धोरणांचे मार्गदर्शन करते.

एआय किती पाणी वापरते? तुम्ही प्रत्यक्षात वापरू शकता असे जलद आकडे 📏

• आजकाल प्रति प्रॉम्प्ट, सामान्य श्रेणी: एका मुख्य प्रवाहातील प्रणालीवर मध्यवर्ती मजकूर प्रॉम्प्टसाठी सब-मिलीलिटरपासून , दहा मिलीलीटरपर्यंत . उदाहरणार्थ, Google चे उत्पादन लेखांकन मध्यवर्ती मजकूर प्रॉम्प्ट ~0.26 mL (पूर्ण सर्व्हिंग ओव्हरहेडसह) नोंदवते [1]. मिस्ट्रलच्या जीवनचक्र मूल्यांकनात ~45 mL (किमान अनुमान) वर 400-टोकन सहाय्यक उत्तर दिले जाते [2]. संदर्भ आणि मॉडेल खूप महत्त्वाचे आहेत.

• फ्रंटियर-स्केल मॉडेलचे प्रशिक्षण: लाखो लिटरमध्ये जाऊ शकते , बहुतेक थंड होण्यापासून आणि वीज निर्मितीमध्ये अंतर्भूत असलेल्या पाण्यापासून. एका व्यापकपणे उद्धृत केलेल्या शैक्षणिक विश्लेषणानुसार GPT-क्लास मॉडेलला प्रशिक्षण देण्यासाठी सुमारे 5.4 दशलक्ष लिटरचा ~700,000 लिटरचा आहे - आणि पाण्याची तीव्रता कमी करण्यासाठी स्मार्ट वेळापत्रकाचा युक्तिवाद केला [3].

• सर्वसाधारणपणे डेटा सेंटर्स: मोठ्या साइट्स दररोज सरासरी लाखो गॅलन , काही कॅम्पसमध्ये हवामान आणि डिझाइनवर अवलंबून उच्च शिखर असतात [5].

प्रामाणिकपणे सांगूया: सुरुवातीला ते आकडे विसंगत वाटतात. ते आहेत. आणि त्याची चांगली कारणे आहेत.

एआय पाणी वापर मेट्रिक्स ✅

"एआय किती पाणी वापरते?" या प्रश्नाचे चांगले उत्तर देण्यासाठी काही चौकटी तपासाव्यात:

1. सीमा स्पष्टता
   यामध्ये फक्त ऑन-साईट थंड पाण्याचा समावेश आहे का, की पॉवर प्लांट्सद्वारे वीज निर्मितीसाठी ऑफ-साईट पाण्याचा कार्बन अकाउंटिंग [3] प्रमाणेच पाणी काढण्याच्या विरुद्ध पाण्याचा वापर

2. स्थान संवेदनशीलता
   प्रति किलोवॅट प्रति तास पाणी प्रदेश आणि ग्रिड मिक्सनुसार बदलते, म्हणून एकाच प्रॉम्प्टवर ते कुठे दिले जाते यावर अवलंबून वेगवेगळे पाण्याचे परिणाम होऊ शकतात - साहित्य वेळ-आणि-स्थान-जागरूक वेळापत्रक [3].

3. कामाचा ताण वास्तववाद
   संख्या ही मध्य उत्पादन सूचना , की फक्त शिखरावर असलेल्या प्रवेगक प्रतिबिंबित करते? Google केवळ TPU गणितावर नव्हे तर अनुमानासाठी पूर्ण-सिस्टम अकाउंटिंग (निष्क्रिय, CPU/DRAM आणि डेटा-सेंटर ओव्हरहेड) वर भर देते [1].

4. कूलिंग तंत्रज्ञान
   बाष्पीभवन कूलिंग, क्लोज्ड-लूप लिक्विड कूलिंग, एअर कूलिंग आणि उदयोन्मुख डायरेक्ट-टू-चिप काही नवीन पिढीच्या साइट्ससाठी कूलिंग वॉटरचा वापर कमी करण्यासाठी डिझाइन्स आणत आहे

5. दिवसाचा वेळ आणि ऋतू
   उष्णता, आर्द्रता आणि ग्रिड परिस्थितीमुळे वास्तविक जीवनात पाण्याच्या वापराची प्रभावीता

पाणी उपसा विरुद्ध पाणी वापर, स्पष्ट केले 💡

• काढणे = नद्या, तलाव किंवा जलसाठ्यांमधून घेतलेले पाणी (काही परत आलेले).

• वापर = पाणी बाष्पीभवन झाल्यामुळे किंवा प्रक्रिया/उत्पादनांमध्ये समाविष्ट झाल्यामुळे परत न येणारे

कूलिंग टॉवर्स प्रामुख्याने बाष्पीभवनाद्वारे पाणी वापरतात प्लांट आणि कूलिंग पद्धतीनुसार वीज निर्मिती मोठ्या प्रमाणात (कधीकधी त्याचा काही भाग वापरते) काढू

एआय मध्ये पाणी कुठे जाते: तीन बादल्या 🪣

1. व्याप्ती १ - ऑन-साईट कूलिंग
   दृश्यमान भाग: डेटा सेंटरमध्येच बाष्पीभवन झालेले पाणी. बाष्पीभवन विरुद्ध हवा किंवा बंद-लूप द्रव आधाररेखा निश्चित करतात [5].

2. व्याप्ती २ - वीज निर्मिती
   प्रत्येक kWh मध्ये एक लपलेला पाण्याचा टॅग असू शकतो; मिश्रण आणि स्थान तुमच्या कामाचा वारसा किती लिटर-प्रति-kWh सिग्नल देतो हे ठरवते [3].

3. व्याप्ती ३ - पुरवठा साखळी
   चिप उत्पादन फॅब्रिकेशनमध्ये अल्ट्रा-प्युअर पाण्यावर अवलंबून असते. जोपर्यंत सीमेमध्ये स्पष्टपणे मूर्त प्रभाव (उदा., पूर्ण LCA) समाविष्ट केले जात नाही तोपर्यंत तुम्हाला ते "प्रति प्रॉम्प्ट" मेट्रिकमध्ये दिसणार नाही [2][3].

संख्येनुसार पुरवठादार, सूक्ष्मतेसह 🧮

• 
  फुल-स्टॅक सर्व्हिंग पद्धत (आयडल आणि फॅसिलिटी ओव्हरहेडसह) सुचवते मध्यक मजकूर प्रॉम्प्ट ~0.26 मिली पाणी आणि ~0.24 Wh ऊर्जा; आकडे उत्पादन रहदारी आणि व्यापक सीमा दर्शवतात [1].

• मिस्ट्रल लार्ज २ जीवनचक्र
  एक दुर्मिळ स्वतंत्र LCA (ADEME/कार्बोन ४ सह) प्रशिक्षणासाठी ~२८१,००० m³ ४००-टोकन रिप्लायसाठी अनुमान सीमांत ~४५ mL [२].

• मायक्रोसॉफ्टची झिरो-वॉटर कूलिंगची महत्त्वाकांक्षा
  नेक्स्ट-जनरेशन डेटा सेंटर्स कूलिंगसाठी शून्य पाणी वापरण्यासाठी , डायरेक्ट-टू-चिप पद्धतींवर अवलंबून आहेत; अॅडमिन वापरकर्त्यांना अजूनही काही पाणी लागते [4].

• सामान्य डेटा-सेंटर स्केल
  प्रमुख ऑपरेटर सार्वजनिकरित्या वैयक्तिक ठिकाणी सरासरी दररोज लाखो गॅलनचा

• पूर्वीची शैक्षणिक आधाररेखा
  "तहानलेली एआय" विश्लेषणाने लाखो लिटरचा आणि १०-५० मध्यम उत्तरे अंदाजे ५०० एमएल बाटलीइतकी असू शकतात - ती कधी/कुठे चालतात यावर बरेच अवलंबून असते [3].

अंदाज इतके वेगळे का आहेत 🤷

• वेगवेगळ्या सीमा
  फक्त ऑन-साईट कूलिंग मोजतात ; काहींमध्ये विजेचे पाणी ; एलसीएमध्ये चिप मॅन्युफॅक्चरिंग . सफरचंद, संत्री आणि फळांचे कोशिंबीर [2][3].

• वेगवेगळे वर्कलोड
  एक लहान मजकूर प्रॉम्प्ट हा एक लांब मल्टीमॉडल/कोड रन नसतो; बॅचिंग, कॉन्करन्सी आणि लेटन्सी लक्ष्ये वापर बदलतात [1][2].

• वेगवेगळे हवामान आणि ग्रिड्स
  उष्ण, शुष्क प्रदेशात बाष्पीभवनात्मक थंडपणा ≠ थंड, ओलसर प्रदेशात हवा/द्रव थंडपणा. ग्रिडच्या पाण्याची तीव्रता मोठ्या प्रमाणात बदलते [3].

• विक्रेता पद्धती
  गुगलने सिस्टम-वाइड सर्व्हिंग पद्धत प्रकाशित केली; मिस्ट्रलने औपचारिक LCA प्रकाशित केले. इतर स्पार्स पद्धतींसह पॉइंट अंदाज देतात. एका हाय-प्रोफाइल "चमच्याचा पंधरावा भाग" प्रति-तत्काळ दाव्याने मथळे बनवले - परंतु सीमा तपशीलाशिवाय, ते तुलनात्मक नाही [1][3].

• एक गतिमान लक्ष्य
  कूलिंग वेगाने विकसित होत आहे. मायक्रोसॉफ्ट वॉटर-फ्री कूलिंगचा ; हे अंमलात आणल्याने अपस्ट्रीम वीज अजूनही पाण्याचे सिग्नल वाहून नेत असली तरीही साइटवरील पाणी कमी होईल [4].

एआयचा वॉटर फूटप्रिंट कमी करण्यासाठी तुम्ही आज काय करू शकता 🌱

1. मॉडेलला उजवा आकार द्या
   लहान, टास्क-ट्यून केलेले मॉडेल कमी संगणकीय वापर करताना वारंवार अचूकतेशी जुळतात. मिस्ट्रलचे मूल्यांकन मजबूत आकार-ते-पायप्रिंट सहसंबंधांवर अधोरेखित करते - आणि सीमांत अनुमान संख्या प्रकाशित करते जेणेकरून तुम्ही ट्रेडऑफबद्दल तर्क करू शकता [2].

2. पाण्यानुसार प्रदेश निवडा
   थंड हवामान, कार्यक्षम शीतकरण आणि प्रति किलोवॅट ताशी कमी पाण्याची तीव्रता असलेले ग्रिड असलेले प्रदेश पसंत करा; "तहानलेला एआय" काम वेळ आणि स्थान-जागरूक वेळापत्रक मदत करते हे दर्शविते [3].

3. वेळेत कामाचे ओझे बदला,
   पाणी-कार्यक्षम तासांसाठी प्रशिक्षण/जड बॅच अनुमान वेळापत्रक (थंड रात्री, अनुकूल ग्रिड परिस्थिती) [3].

4. तुमच्या विक्रेत्याला पारदर्शक मेट्रिक्ससाठी विचारा.
   मागणी प्रति-प्रॉम्प्ट पाणी , सीमा व्याख्या आणि संख्यांमध्ये निष्क्रिय क्षमता आणि सुविधा ओव्हरहेड समाविष्ट आहे का. धोरण गट सफरचंद-ते-सफरचंद तुलना शक्य करण्यासाठी अनिवार्य प्रकटीकरणासाठी जोर देत आहेत [3].

5. कूलिंग टेक्नॉलॉजी महत्त्वाची आहे
   जर तुम्ही हार्डवेअर चालवत असाल तर क्लोज्ड-लूप/डायरेक्ट-टू-चिप कूलिंगचे ; जर तुम्ही क्लाउडवर असाल तर वॉटर-लाईट डिझाइनमध्ये [4][5].

6. राखाडी पाण्याचा वापर आणि पुनर्वापराचे पर्याय
   बरेच कॅम्पस पिण्यायोग्य नसलेले स्रोत बदलू शकतात किंवा लूपमध्ये पुनर्वापर करू शकतात; मोठे ऑपरेटर निव्वळ प्रभाव कमी करण्यासाठी पाण्याचे स्रोत संतुलित करणे आणि थंड करण्याचे पर्याय वर्णन करतात [5].

ते प्रत्यक्षात आणण्यासाठी एक छोटी उदाहरण (एक सार्वत्रिक नियम नाही): रात्रीचे प्रशिक्षण काम उन्हाळ्याच्या मध्यात उष्ण, कोरड्या प्रदेशातून वसंत ऋतूमध्ये थंड, अधिक दमट प्रदेशात हलवणे - आणि ते कमी-पीक, थंड वेळेत चालवणे - साइटवरील पाण्याचा वापर आणि साइटबाहेर (ग्रिड) पाण्याची तीव्रता दोन्ही बदलू शकते. अशा प्रकारचे व्यावहारिक, कमी-नाटकीय विजय वेळापत्रक अनलॉक करू शकते [3].

तुलना सारणी: एआयचा पाण्याचा खर्च कमी करण्यासाठी जलद पर्याय 🧰

("किंमत" डिझाइननुसार थोडीशी आहे - तैनाती वेगवेगळी असतात.)

खोलवर जाणे: पॉलिसी ड्रमचा आवाज अधिकच जोरात येत आहे 🥁

अनिवार्य प्रकटीकरण करण्याची मागणी करतात जेणेकरून खरेदीदार आणि समुदाय खर्च आणि फायदे ठरवू शकतील. शिफारसींमध्ये व्याप्ती व्याख्या, साइट-स्तरीय अहवाल आणि साइटिंग मार्गदर्शन समाविष्ट आहे - कारण तुलनात्मक, स्थान-जागरूक मेट्रिक्सशिवाय, आम्ही अंधारात वाद घालत आहोत [3].

खोलवर जाणे: सर्व डेटा सेंटर्स एकाच पद्धतीने पाणी पित नाहीत 🚰

"एअर कूलिंगमध्ये पाणी वापरले जात नाही" असा एक कायमचा गैरसमज आहे. ते पूर्णपणे खरे नाही. एअर-हेवी सिस्टीमना अनेकदा जास्त वीज , जी अनेक प्रदेशांमध्ये ग्रिडमधून लपलेले पाणी वॉटर कूलिंगमुळे साइटवरील पाण्याच्या किंमतीवर वीज आणि उत्सर्जन कमी होऊ शकते. मोठे ऑपरेटर साइट-दर-साइट या ट्रेड-ऑफमध्ये स्पष्टपणे संतुलन साधतात [1][5].

खोलवर जाणे: व्हायरल दाव्यांवर एक जलद वास्तव तपासणी 🧪

तुम्ही कदाचित अशी ठळक विधाने पाहिली असतील की एकच सूचना "पाण्याची बाटली" किंवा दुसरीकडे, "फक्त काही थेंब" बरोबर असते. उत्तम पवित्रा: गणितासह नम्रता . आजचे विश्वासार्ह बुकएंड पूर्ण सर्व्हिंग ओव्हरहेडसह मध्यम उत्पादन सूचनांसाठी ~0.26 मिली ~45 मिली [2]. बहुचर्चित "चमच्याचा पंधरावा भाग" दाव्यामध्ये सार्वजनिक सीमा/पद्धतीचा अभाव आहे; शहराशिवाय हवामान अंदाजाप्रमाणे वागवा [1][3].

लहान-वारंवार विचारले जाणारे प्रश्न: एआय किती पाणी वापरते? पुन्हा एकदा, साध्या इंग्रजीत 🗣️

• तर, मी मीटिंगमध्ये काय बोलावे?
  "प्रत्येक प्रॉम्प्टमध्ये, ते मॉडेल, लांबी आणि ते कुठे चालते यावर अवलंबून, थेंबांपासून ते काही घोटांपर्यंत प्रशिक्षणासाठी पूल लागतात , डबके नाहीत." नंतर वरील एक किंवा दोन उदाहरणे द्या.

• एआय अद्वितीयपणे वाईट आहे का?
  ते अद्वितीयपणे केंद्रित आहे : एकत्रितपणे पॅक केलेल्या उच्च-शक्तीच्या चिप्स मोठ्या प्रमाणात कूलिंग लोड तयार करतात. परंतु डेटा सेंटर्समध्ये देखील सर्वोत्तम कार्यक्षमता तंत्रज्ञान प्रथम येते [1][4].

• जर आपण सर्वकाही एअर कूलिंगमध्ये हलवले तर काय होईल?
  तुम्ही साइटवरील पाणी कमी करू शकता परंतु साइटबाहेर पाणी वाढवू शकता. अत्याधुनिक ऑपरेटर दोन्हीचे वजन करतात [1][5].

• भविष्यातील तंत्रज्ञानाबद्दल काय?
  अशा डिझाइन्स गेम-चेंजर असतील ज्या पाण्याचे प्रमाण जास्त असेल. काही ऑपरेटर अशा प्रकारे पुढे जात आहेत; ग्रिड बदलेपर्यंत अपस्ट्रीम वीज अजूनही पाण्याचे सिग्नल वाहून नेते [4].

शेवटचे टिप्पण्या - खूप लांब, मी ते वाचले नाही 🌊

• प्रति प्रॉम्प्ट: मॉडेल, प्रॉम्प्ट लांबी आणि ते कुठे चालते यावर अवलंबून, सब-मिलीलिटर ते दहा मिलीलीटर विचारात घ्या एका मोठ्या स्टॅकवर मेडियन प्रॉम्प्ट ~0.26 मिली दुसऱ्या [1][2] वर 400-टोकन उत्तरासाठी ~45 मिली

• प्रशिक्षण: फ्रंटियर मॉडेल्ससाठी लाखो लिटर

• काय करावे: योग्य आकाराचे मॉडेल, पाण्यानुसार प्रदेश निवडा, जड कामे थंड वेळेत हलवा, पाण्याच्या प्रकाशाच्या डिझाइनची सिद्धता करणाऱ्या विक्रेत्यांना प्राधान्य द्या आणि पारदर्शक सीमांची मागणी करा [1][3][4][5].

शेवटी थोडीशी चुकीची रूपक: एआय हा एक तहानलेला ऑर्केस्ट्रा आहे - संगीताची चाल संगणकीय आहे, पण ड्रम थंडगार आहेत आणि पाणी ग्रिड करत आहेत. बँड ट्यून करा आणि प्रेक्षकांना स्प्रिंकलर न वाजवताही संगीत ऐकायला मिळेल. 🎻💦

संदर्भ

1. गुगल क्लाउड ब्लॉग - गुगलचे एआय किती ऊर्जा वापरते? आम्ही गणित केले (पद्धत + ~०.२६ मिली मीडियन प्रॉम्प्ट, पूर्ण सर्व्हिंग ओव्हरहेड). लिंक
   (तांत्रिक पेपर पीडीएफ: गुगल स्केलवर एआय वितरित करण्याचा पर्यावरणीय परिणाम मोजणे .) लिंक

2. मिस्ट्रल एआय - एआयसाठी जागतिक पर्यावरणीय मानकात आमचे योगदान (एडीईएमई/कार्बोन ४ सह एलसीए; ~२८१,००० मीटर³ प्रशिक्षण + लवकर वापर; ४००-टोकन उत्तरासाठी ~४५ मिली , सीमांत अनुमान). लिंक

3. ली आणि इतर - एआयला "तहानलेले" कमी करणे: एआय मॉडेल्सच्या गुप्त पाण्याच्या ठशांचा उलगडा करणे आणि त्यांचे निराकरण करणे लाखो लिटरचे प्रशिक्षण , वेळ आणि स्थान-जागरूक वेळापत्रक, पैसे काढणे विरुद्ध वापर). लिंक

4. मायक्रोसॉफ्ट - पुढच्या पिढीतील डेटासेंटर थंड होण्यासाठी शून्य पाणी वापरतात (काही ठिकाणी पाणी-मुक्त थंड करण्यासाठी डायरेक्ट-टू-चिप डिझाइन). लिंक

5. गुगल डेटा सेंटर्स - शाश्वतपणे कार्यरत (साइट-दर-साइट कूलिंग ट्रेड-ऑफ; रिपोर्टिंग आणि पुनर्वापर, पुनर्प्राप्त/ग्रेवॉटरसह; प्रमाणाचे सामान्य दैनिक साइट-स्तरीय वापर ऑर्डर). लिंक

अधिकृत एआय असिस्टंट स्टोअरमध्ये नवीनतम एआय शोधा.

आमच्याबद्दल