एआय किती ऊर्जा वापरते?

उत्तर: एका साध्या मजकूर कार्यासाठी एआय (AI) खूप कमी वीज वापरू शकते, परंतु जेव्हा प्रॉम्प्ट्स लांब असतात, आउटपुट बहुविध स्वरूपाचे असतात किंवा प्रणाली प्रचंड मोठ्या प्रमाणावर कार्यरत असतात, तेव्हा ती खूप जास्त वीज वापरते. प्रशिक्षणासाठी सुरुवातीला लागणारी ऊर्जा सहसा सर्वात जास्त असते, तर विनंत्या वाढत गेल्यावर दैनंदिन अनुमान प्रक्रिया महत्त्वपूर्ण बनते.

महत्वाचे मुद्दे:

संदर्भ : ऊर्जेचा कोणताही अंदाज सांगण्यापूर्वी कार्य, मॉडेल, हार्डवेअर आणि व्याप्ती निश्चित करा.

प्रशिक्षण : अंदाजपत्रकाचे नियोजन करताना मॉडेल प्रशिक्षणालाच मुख्य प्रारंभिक ऊर्जा कार्यक्रम माना.

अनुमान : पुनरावृत्त अनुमानावर बारकाईने लक्ष ठेवा, कारण मोठ्या प्रमाणावर प्रत्येक विनंतीमागे येणारा छोटा खर्चही झपाट्याने वाढत जातो.

पायाभूत सुविधा : कोणत्याही वास्तववादी अंदाजामध्ये शीतकरण, साठवणूक, नेटवर्क आणि निष्क्रिय क्षमतेचा समावेश करा.

कार्यक्षमता : ऊर्जेचा वापर कमी करण्यासाठी लहान मॉडेल्स, कमी कालावधीचे प्रॉम्प्ट्स, कॅशिंग आणि बॅचिंगचा वापर करा.

या लेखानंतर तुम्हाला वाचायला आवडतील असे लेख:

🔗 एआय पर्यावरणावर कसा परिणाम करते
एआयचा कार्बन फूटप्रिंट, ऊर्जेचा वापर आणि शाश्वततेमधील तडजोडी स्पष्ट करते.

🔗 एआय पर्यावरणासाठी वाईट आहे का?
एआय मॉडेल्स आणि डेटा सेंटर्सच्या छुप्या पर्यावरणीय खर्चांचे विश्लेषण.

🔗 एआय चांगले आहे की वाईट? फायदे आणि तोटे
एआयचे फायदे, धोके, नैतिकता आणि वास्तविक परिणाम यांचा संतुलित आढावा.

🔗 एआय म्हणजे काय? एक सोपी मार्गदर्शिका
एआयची मूलतत्त्वे, महत्त्वाच्या संज्ञा आणि दैनंदिन उदाहरणे काही मिनिटांत शिका.

हा प्रश्न लोकांच्या विचारापेक्षा जास्त महत्त्वाचा का आहे 🔍

एआयचा ऊर्जा वापर हा केवळ पर्यावरणासंबंधी चर्चेचा मुद्दा नाही. तो काही अत्यंत वास्तविक गोष्टींना स्पर्श करतो:

• विजेचा खर्च - विशेषतः मोठ्या प्रमाणात एआय विनंत्या हाताळणाऱ्या व्यवसायांसाठी

• कार्बन परिणाम - सर्व्हरच्या मागील ऊर्जा स्रोतावर अवलंबून

• हार्डवेअरवर ताण - शक्तिशाली चिप्सना प्रचंड वीज लागते

• निर्णयांची व्याप्ती - एक स्वस्त सूचना लाखो महागड्या सूचनांमध्ये बदलू शकते.

• उत्पादन डिझाइन - कार्यक्षमता हे अनेकदा लोकांच्या लक्षात येते त्यापेक्षा एक उत्तम वैशिष्ट्य असते ( गुगल क्लाउड , ग्रीन एआय )

बरेच लोक विचारतात, “एआय किती ऊर्जा वापरते?” कारण त्यांना एक मोठा, लक्षवेधी आकडा हवा असतो. मथळ्याला साजेसा. पण खरा प्रश्न हा आहे: आपण एआयच्या कोणत्या प्रकारच्या वापराविषयी बोलत आहोत? कारण त्यामुळेच सर्व काही बदलते. ( आयईए )

एकच ऑटो-कंप्लीट सूचना? खूपच छोटी.
प्रचंड मोठ्या क्लस्टर्सवर एका अत्याधुनिक मॉडेलला प्रशिक्षित करणे? त्याहून कितीतरी मोठे.
लाखो वापरकर्त्यांपर्यंत पोहोचणारा, नेहमी कार्यरत असणारा एंटरप्राइझ एआय वर्कफ्लो? होय, याचा खर्च खूप वेगाने वाढतो... जसे चिल्लर पैशांचे घराच्या भाड्यात रूपांतर होते. ( डीओई , गूगल क्लाउड )

एआय किती ऊर्जा वापरते? थोडक्यात उत्तर ⚡

हे त्याचे व्यावहारिक स्वरूप आहे.

एआय एखाद्या हलक्या कामासाठी वॅट-तासाच्या अगदी थोड्या भागापासून ते मोठ्या प्रमाणावरील प्रशिक्षण आणि उपयोजनासाठी प्रचंड प्रमाणात विजेचा वापर करू शकते. ही श्रेणी हास्यास्पदपणे विस्तृत वाटते, कारण ती खरोखरच विस्तृत आहे. ( गूगल क्लाउड , स्ट्रुबेल इत्यादी. )

सोप्या भाषेत सांगायचे तर:

• साधी अनुमान कार्ये - प्रत्येक वापराच्या दृष्टीने बहुतेकदा तुलनेने सोपी असतात

• दीर्घ संभाषणे, मोठे उत्पादन, प्रतिमा निर्मिती, व्हिडिओ निर्मिती - लक्षणीयरीत्या अधिक ऊर्जा-खर्चिक.

• मोठ्या मॉडेल्सना प्रशिक्षण देणे - ऊर्जा वापराचा हेवीवेट चॅम्पियन

• दिवसभर मोठ्या प्रमाणावर एआय चालवणे - जिथे “प्रति विनंती लहान” चे “एकूण बिल मोठे” होते ( गुगल क्लाउड , डीओई )

एक साधारण नियम असा आहे:

• प्रशिक्षण ही एक प्रचंड, सुरुवातीची ऊर्जा घटना आहे 🏭

• अनुमान म्हणजे सतत येणारे युटिलिटी बिल 💡 ( स्ट्रुबेल आणि इतर , गूगल रिसर्च )

म्हणून जेव्हा कोणी विचारते, ' एआय किती ऊर्जा वापरते?' , तेव्हा त्याचे थेट उत्तर आहे, “एक ठराविक रक्कम नाही - पण इतकी की कार्यक्षमता महत्त्वाची ठरते, आणि इतकी की मोठ्या प्रमाणावर वापर केल्यास संपूर्ण चित्रच बदलते.” ( आयईए , ग्रीन एआय )

मला माहित आहे की लोकांना वाटतं तितकं ते आकर्षक नाही. पण ते खरं आहे.

एआय ऊर्जा अंदाजाची एक चांगली आवृत्ती कशामुळे बनते? 🧠

एक चांगला अंदाज म्हणजे केवळ आलेखावर टाकलेला एक आकर्षक आकडा नव्हे. एका व्यावहारिक अंदाजात संदर्भाचा समावेश असतो. अन्यथा ते बाथरूममधील वजनाच्या काट्याने धुक्याचे वजन करण्यासारखे आहे. प्रभावी वाटण्याइतके जवळचे, पण विश्वास ठेवण्याइतके नाही. ( आयईए , गूगल क्लाउड )

एका योग्य एआय ऊर्जा अंदाजामध्ये खालील बाबींचा समावेश असावा:

• कार्याचा प्रकार - मजकूर, प्रतिमा, ऑडिओ, व्हिडिओ, प्रशिक्षण, फाइन-ट्यूनिंग

• मॉडेलचा आकार - मोठ्या मॉडेल्सना सहसा जास्त संगणकीय क्षमतेची गरज असते.

• वापरलेले हार्डवेअर - सर्व चिप्स सारख्याच कार्यक्षम नसतात

• सत्राचा कालावधी - लहान सूचना आणि लांब बहु-टप्प्यांची कार्यप्रवाह खूप वेगळे असतात.

• वापर - निष्क्रिय प्रणाली देखील वीज वापरतात

• शीतकरण आणि पायाभूत सुविधा - केवळ सर्व्हरचाच खर्च नसतो.

• स्थान आणि ऊर्जा मिश्रण - वीज सर्वत्र सारखी स्वच्छ नसते ( गुगल क्लाउड , आयईए )

यामुळेच दोन व्यक्ती एआयच्या वीज वापरावरून वाद घालू शकतात आणि पूर्णपणे भिन्न गोष्टींबद्दल बोलत असतानाही दोघेही आत्मविश्वासाने बोलतात. एका व्यक्तीला चॅटबॉटचा एकच प्रतिसाद अपेक्षित असतो, तर दुसऱ्याला एक मोठी प्रशिक्षण फेरी अपेक्षित असते. दोघेही 'एआय' म्हणतात आणि अचानक संभाषण भरकटते 😅

तुलना तक्ता - एआयच्या ऊर्जा वापराचा अंदाज लावण्याचे सर्वोत्तम मार्ग 📊

ज्या कोणाला प्रश्नाचे उत्तर देताना त्याला सादरीकरणाचे स्वरूप द्यायचे नसेल, त्यांच्यासाठी हा एक उपयुक्त तक्ता आहे.

साधन किंवा पद्धत	सर्वोत्तम प्रेक्षक	किंमत	ते का काम करते
साधा अंदाजे नियम	जिज्ञासू वाचक, विद्यार्थी	मोफत	जलद, सोपे, थोडे अस्पष्ट - पण ढोबळमानाने तुलना करण्यासाठी पुरेसे चांगले
डिव्हाइस-साइड वॅट मीटर	एकट्याने बनवणारे, छंद जोपासणारे	कमी	मशीनचा प्रत्यक्ष वापर मोजतो, जो अत्यंत ठोस आहे
जीपीयू टेलीमेट्री डॅशबोर्ड	अभियंते, एमएल संघ	मध्यम	संगणकीयदृष्ट्या अधिक भार असलेल्या कार्यांबद्दल अधिक चांगला तपशील मिळतो, पण त्यामुळे वाढीव सुविधांचा अतिरिक्त भार लक्षात येऊ शकत नाही
क्लाउड बिलिंग + वापर लॉग	स्टार्टअप्स, ऑप्स टीम्स	मध्यम ते उच्च	एआयचा वापर प्रत्यक्ष खर्चाशी जोडतो - परिपूर्ण नाही, तरीही खूप मौल्यवान आहे
डेटा सेंटर ऊर्जा अहवाल	एंटरप्राइझ टीम्स	उच्च	यामुळे कार्यान्वयनाची अधिक व्यापक दृश्यमानता मिळते, शीतकरण आणि पायाभूत सुविधा येथे दिसू लागतात
संपूर्ण जीवनचक्र मूल्यांकन	शाश्वतता संघ, मोठ्या संस्था	बऱ्यापैकी उंच, कधीकधी वेदनादायी	गंभीर विश्लेषणासाठी सर्वोत्तम, कारण ते केवळ चिपपुरते मर्यादित राहत नाही... पण ते संथ आहे आणि एक प्रकारे अक्राळविक्राळ आहे

कोणतीही एक परिपूर्ण पद्धत नसते. हाच थोडा निराशाजनक भाग आहे. पण मूल्याचे विविध स्तर असतात. आणि सहसा, एखादी कामचलाऊ गोष्ट परिपूर्ण गोष्टीपेक्षा चांगली ठरते. ( गुगल क्लाउड )

सर्वात मोठा घटक जादू नाही - तो आहे संगणकीय शक्ती आणि हार्डवेअर 🖥️🔥

जेव्हा लोक एआयच्या ऊर्जा वापराची कल्पना करतात, तेव्हा ते अनेकदा मॉडेललाच वीज वापरणारी गोष्ट म्हणून पाहतात. पण मॉडेल हे हार्डवेअरवर चालणारे सॉफ्टवेअर लॉजिक आहे. विजेचे बिल हार्डवेअरवरच दिसते. ( स्ट्रुबेल इत्यादी , गूगल क्लाउड )

सर्वात मोठ्या बदलांमध्ये सहसा खालील गोष्टींचा समावेश असतो:

• GPU किंवा अ‍ॅक्सिलरेटर प्रकार

• किती चिप्स वापरल्या जातात

• ते किती काळ सक्रिय राहतात

• मेमरी लोड

• बॅचचा आकार आणि थ्रुपुट

• सिस्टम चांगल्या प्रकारे ऑप्टिमाइझ केली आहे की फक्त प्रत्येक गोष्ट जबरदस्तीने लागू करत आहे ( एलएलएम ऊर्जा वापरामध्ये गूगल क्लाउड , )

एक अत्यंत अनुकूलित प्रणाली कमी ऊर्जेत जास्त काम करू शकते. एक ढिसाळ प्रणाली अविश्वसनीय आत्मविश्वासाने विजेचा अपव्यय करू शकते. तुम्हाला माहीतच आहे - काही प्रणाली रेस कारसारख्या असतात, तर काही डक्ट टेपने रॉकेट चिकटवलेल्या शॉपिंग कार्टसारख्या असतात 🚀🛒

आणि हो, मॉडेलचा आकार महत्त्वाचा असतो. मोठ्या मॉडेल्सना अधिक मेमरी आणि अधिक गणनेची आवश्यकता असते, विशेषतः जेव्हा दीर्घ आउटपुट तयार करायचे असतात किंवा जटिल तर्क हाताळायचा असतो. परंतु कार्यक्षमतेच्या युक्त्या चित्र बदलू शकतात: ( ग्रीन एआय , क्वांटायझेशन, बॅचिंग आणि सर्व्हिंग स्ट्रॅटेजी )

• क्वांटायझेशन

• उत्तम मार्ग

• लहान विशेषज्ञ मॉडेल्स

• कॅशिंग

• बॅचिंग

• अधिक स्मार्ट हार्डवेअर शेड्युलिंग ( एलएलएम ऊर्जा वापरामध्ये क्वांटायझेशन, बॅचिंग आणि सर्व्हिंग स्ट्रॅटेजी )

तर प्रश्न केवळ “मॉडेल किती मोठे आहे?” हा नाही, तर “ते किती हुशारीने चालवले जात आहे?” हा सुद्धा आहे

प्रशिक्षण विरुद्ध अनुमान - या दोन पूर्णपणे भिन्न गोष्टी आहेत 🐘🐇

हाच तो मतभेद आहे जो जवळपास सर्वांना गोंधळात टाकतो.

प्रशिक्षण

प्रशिक्षण म्हणजे जेव्हा एखादे मॉडेल प्रचंड डेटासेटमधून नमुने शिकते. यामध्ये अनेक चिप्स दीर्घ काळासाठी चालू राहून मोठ्या प्रमाणातील डेटावर प्रक्रिया करत असतात. हा टप्पा खूप ऊर्जा वापरणारा असतो. कधीकधी तर प्रचंडच. ( स्ट्रुबेल इत्यादी. )

प्रशिक्षणासाठी लागणारी ऊर्जा यावर अवलंबून असते:

• मॉडेल आकार

• डेटासेट आकार

• प्रशिक्षण धावांची संख्या

• अयशस्वी प्रयोग

• फाइन-ट्यूनिंग पास

• हार्डवेअर कार्यक्षमता

• ओव्हरहेड कूलिंग ( स्ट्रुबेल आणि इतर , गूगल रिसर्च )

आणि इथेच एक गोष्ट लोकांच्या अनेकदा लक्षात येत नाही - सर्वसामान्य लोक अनेकदा अशी कल्पना करतात की, एकदा एक मोठी प्रशिक्षण फेरी झाली की विषय संपला. प्रत्यक्षात, विकास प्रक्रियेमध्ये वारंवार फेऱ्या, जुळवणी, पुनःप्रशिक्षण, मूल्यमापन आणि मुख्य प्रक्रियेभोवतीच्या सर्व सामान्य पण खर्चिक पुनरावृत्तींचा समावेश असू शकतो. ( स्ट्रुबेल इत्यादी , ग्रीन एआय )

अनुमान

अनुमान म्हणजे मॉडेलने वापरकर्त्याच्या प्रत्यक्ष विनंत्यांना दिलेली उत्तरे. एक विनंती कदाचित फार मोठी वाटणार नाही. पण अनुमानाची प्रक्रिया वारंवार घडते. लाखो वेळा. कधीकधी अब्जावधी वेळा. ( गुगल रिसर्च , डीओई )

अनुमान ऊर्जा यानुसार वाढते:

• त्वरित लांबी

• आउटपुट लांबी

• वापरकर्त्यांची संख्या

• विलंब आवश्यकता

• बहुविध वैशिष्ट्ये

• अपटाइम अपेक्षा

• सुरक्षितता आणि प्रक्रिया-पश्चात टप्पे ( एलएलएम ऊर्जा वापरामध्ये गूगल क्लाउड , )

तर प्रशिक्षण म्हणजे भूकंप. अनुमान म्हणजे भरती-ओहोटी. एक नाट्यमय आहे, एक सातत्यपूर्ण आहे, आणि दोन्ही किनाऱ्याचा आकार थोडाफार बदलू शकतात. कदाचित हे एक असामान्य रूपक असेल, पण ते कमी-अधिक प्रमाणात पटण्यासारखे आहे.

ऊर्जेचा छुपा खर्च ज्याबद्दल लोक विसरून जातात 😬

जेव्हा कोणी केवळ चिप पाहून एआयच्या ऊर्जा वापराचा अंदाज लावतो, तेव्हा तो सहसा कमी मोजणी करत असतो. हे नेहमीच विनाशकारी नसते, पण लक्षणीय ठरते इतके असते. ( गूगल क्लाउड , आयईए )

हे आहेत लपवलेले तुकडे:

थंडावा ❄️

सर्व्हर उष्णता निर्माण करतात. शक्तिशाली एआय हार्डवेअर तर प्रचंड उष्णता निर्माण करते. शीतकरण अनिवार्य आहे. संगणकीय प्रक्रियेसाठी वापरला जाणारा प्रत्येक वॅट, केवळ तापमान नियंत्रणात ठेवण्यासाठी अधिक ऊर्जेचा वापर करण्यास प्रवृत्त करतो. ( आयईए , गूगल क्लाउड )

डेटाची हालचाल 🌐

स्टोरेज, मेमरी आणि नेटवर्क्समधून डेटाची देवाणघेवाण करण्यासाठी देखील ऊर्जेची आवश्यकता असते. एआय केवळ 'विचार' करत नाही. ते सतत माहितीची अदलाबदल देखील करत असते. ( आयईए )

निष्क्रिय क्षमता 💤

सर्वाधिक मागणीसाठी तयार केलेल्या प्रणाली नेहमीच सर्वाधिक मागणीच्या वेळी कार्यरत नसतात. निष्क्रिय किंवा कमी वापरल्या जाणाऱ्या पायाभूत सुविधादेखील वीज वापरतात. ( गुगल क्लाउड )

अतिरिक्तता आणि विश्वसनीयता 🧱

बॅकअप, फेलओव्हर सिस्टीम, डुप्लिकेट रिजन, सुरक्षेचे स्तर - हे सर्व मौल्यवान असून, ऊर्जेच्या व्यापक चित्राचाच एक भाग आहेत. ( आयईए )

स्टोरेज 📦

ट्रेनिंग डेटा, एम्बेडिंग्ज, लॉग्ज, चेकपॉईंट्स, जनरेट केलेले आउटपुट्स - हे सर्व कुठेतरी साठवलेले असते. स्टोरेज हे कम्प्यूटपेक्षा स्वस्त आहे, हे नक्की, पण ऊर्जेच्या बाबतीत ते मोफत नाही. ( आयईए )

म्हणूनच, 'एआय किती ऊर्जा वापरते?' या प्रश्नाचे उत्तर केवळ एकाच बेंचमार्क चार्टकडे पाहून देता येत नाही. संपूर्ण स्टॅक महत्त्वाचा असतो. ( गुगल क्लाउड , आयईए )

एक एआय प्रॉम्प्ट अगदी छोटा का असू शकतो - आणि दुसरा प्रचंड मोठा का असू शकतो 📝➡️🎬

सर्वच प्रॉम्प्ट्स एकसारखे नसतात. वाक्य पुन्हा लिहिण्याच्या छोट्या विनंतीची तुलना दीर्घ विश्लेषण, अनेक टप्प्यांचे कोडिंग सत्र किंवा उच्च-रिझोल्यूशन प्रतिमा निर्मितीच्या मागणीशी करता येत नाही. ( गुगल क्लाउड )

प्रत्येक परस्परसंवादामागे ऊर्जेचा वापर वाढवणाऱ्या गोष्टी:

• लांब संदर्भ विंडो

• दीर्घ प्रतिसाद

• साधन वापर आणि पुनर्प्राप्तीच्या पायऱ्या

• तर्क किंवा प्रमाणीकरणासाठी अनेक फेऱ्या

• प्रतिमा, ऑडिओ किंवा व्हिडिओ निर्मिती

• उच्च समवर्तीता

• कमी विलंबाची उद्दिष्ट्ये ( एलएलएम ऊर्जा वापरामध्ये गूगल क्लाउड , )

एक हलकंफुलकं मजकूर-आधारित उत्तर तुलनेने स्वस्त असू शकतं. पण एक प्रचंड, बहु-माध्यमी कार्यप्रवाह मात्र, अर्थातच, स्वस्त नसतो. हे काहीसं कॉफी मागवणं आणि लग्नासाठी केटरिंग करणं यातला फरक आहे. तांत्रिकदृष्ट्या, दोन्ही 'खाद्यसेवा' म्हणून गणल्या जातात. एक दुसऱ्यासारखं नाही ☕🎉

हे विशेषतः प्रॉडक्ट टीम्ससाठी महत्त्वाचे आहे. कमी वापरात निरुपद्रवी वाटणारे एखादे फीचर, जर प्रत्येक युझर सेशन अधिक लांब, अधिक तपशीलवार आणि जास्त कम्प्युट-हेवी झाले, तर मोठ्या प्रमाणावर ते खर्चिक ठरू शकते. ( डीओई , गूगल क्लाउड )

ग्राहक एआय आणि एंटरप्राइझ एआय या दोन वेगवेगळ्या गोष्टी आहेत 🏢📱

एआयचा सहजपणे वापर करणारी सामान्य व्यक्ती असे मानू शकते की, त्याला अधूनमधून येणाऱ्या सूचना हीच मोठी समस्या आहे. पण सहसा, ऊर्जेची खरी समस्या त्यात नसते. ( गुगल क्लाउड )

एंटरप्राइझ वापरामुळे गणित बदलते:

• हजारो कर्मचारी

• नेहमी चालू असलेले सहवैमानिक

• स्वयंचलित दस्तऐवज प्रक्रिया

• कॉल सारांशीकरण

• प्रतिमा विश्लेषण

• कोड पुनरावलोकन साधने

• बॅकग्राउंड एजंट सतत चालू आहेत

इथेच एकूण ऊर्जा वापर खूप महत्त्वाचा ठरू लागतो. प्रत्येक कृती विनाशकारी असते म्हणून नव्हे, तर पुनरावृत्तीमुळे परिणाम अनेक पटींनी वाढतो म्हणून. ( डीओई , आयईए )

माझ्या स्वतःच्या चाचणी आणि कार्यप्रवाहाच्या पुनरावलोकनांमध्ये, इथेच लोकांना आश्चर्य वाटते. ते मॉडेलच्या नावावर किंवा आकर्षक डेमोवर लक्ष केंद्रित करतात आणि विक्रीच्या प्रमाणाकडे दुर्लक्ष करतात. विक्रीचे प्रमाण हेच अनेकदा खरे प्रेरक असते - किंवा तारक ठरते, हे तुम्ही ग्राहकांना बिल पाठवत आहात की युटिलिटी बिल भरत आहात यावर अवलंबून असते 😅

ग्राहकांसाठी, हा परिणाम अमूर्त वाटू शकतो. व्यवसायांसाठी मात्र, तो खूप लवकर मूर्त स्वरूप घेतो:

• मोठी पायाभूत सुविधा विधेयके

• अनुकूलन करण्यासाठी अधिक दबाव

• शक्य असेल तिथे लहान मॉडेल्सची अधिक गरज

• अंतर्गत शाश्वतता अहवाल

• कॅशिंग आणि राउटिंगकडे अधिक लक्ष ( गुगल क्लाउड , ग्रीन एआय )

एआयचा त्याग न करता एआयचा ऊर्जा वापर कसा कमी करावा 🌱

हा भाग महत्त्वाचा आहे, कारण “एआयचा वापर थांबवणे” हे ध्येय नाही. सहसा ते वास्तववादी नसते आणि आवश्यकही नसते. अधिक चांगला वापर करणे हाच अधिक हुशारीचा मार्ग आहे.

सर्वात मोठे घटक खालीलप्रमाणे आहेत:

१. काम पूर्ण करू शकेल असे सर्वात लहान मॉडेल वापरा

प्रत्येक कामासाठी अवजड पर्यायाची गरज नसते. वर्गीकरण किंवा सारांशीकरणासाठी एक हलके मॉडेल अनावश्यक खर्च वेगाने कमी करू शकते. ( ग्रीन एआय , गूगल क्लाउड )

२. प्रॉम्प्ट्स आणि आउटपुट्स संक्षिप्त करा

विस्तृत माहिती दिल्यास, विस्तृतच परिणाम मिळतो. अतिरिक्त टोकन्स म्हणजे अतिरिक्त गणना. कधीकधी प्रॉम्प्टला संक्षिप्त करणे हाच सर्वात सोपा विजय असतो. ( एलएलएम ऊर्जा वापरामध्ये क्वांटायझेशन, बॅचिंग आणि सर्व्हिंग स्ट्रॅटेजीज , गूगल क्लाउड )

३. पुनरावृत्त निकाल कॅश करा

जर तीच क्वेरी वारंवार दिसत असेल, तर प्रत्येक वेळी ती पुन्हा तयार करू नका. ही गोष्ट अगदी उघड आहे, तरीही त्याकडे दुर्लक्ष केले जाते. ( गूगल क्लाउड )

४. शक्य असल्यास बॅच जॉब्स करा

कामे तुकड्यांमध्ये केल्याने संसाधनांचा उपयोगिता सुधारते आणि अपव्यय कमी होतो. ( एलएलएम ऊर्जा वापरामध्ये परिमाणीकरण, तुकड्यांमध्ये विभागणी आणि सेवा धोरणे )

५. कामांचे मार्ग हुशारीने निश्चित करा

जेव्हा आत्मविश्वास कमी होतो किंवा कार्याची गुंतागुंत वाढते, तेव्हाच मोठ्या मॉडेल्सचा वापर करा. ( ग्रीन एआय , गूगल क्लाउड )

६. पायाभूत सुविधांचे अनुकूलन करा

उत्तम नियोजन, उत्तम हार्डवेअर, उत्तम कूलिंग स्ट्रॅटेजी - या साध्या गोष्टी आहेत, पण त्याचा फायदा प्रचंड आहे. ( गुगल क्लाउड , डीओई )

७. गृहीत धरण्यापूर्वी मोजमाप करा

बऱ्याच संघांना वाटते की वीज कुठे खर्च होत आहे हे त्यांना माहीत आहे. मग ते मोजमाप करतात, आणि त्यांच्या लक्षात येते की तो महागडा भाग दुसरीकडेच कुठेतरी आहे. ( गुगल क्लाउड )

कार्यक्षमतेचे काम आकर्षक नसते. त्याला क्वचितच टाळ्या मिळतात. पण मोठ्या प्रमाणावर AI ला अधिक परवडणारे आणि अधिक टिकाऊ बनवण्याचा हा एक सर्वोत्तम मार्ग आहे 👍

एआयच्या वीज वापराविषयीचे प्रचलित गैरसमज 🚫

चला, काही गैरसमज दूर करूया, कारण हा विषय पटकन गुंतागुंतीचा होतो.

गैरसमज १ - प्रत्येक एआय क्वेरी प्रचंड प्रमाणात संसाधनांचा अपव्यय करते

तसे आवश्यक नाही. काही माफक असतात. व्याप्ती आणि कामाचा प्रकार खूप महत्त्वाचे असतात. ( गुगल क्लाउड )

गैरसमज २ - फक्त प्रशिक्षणच महत्त्वाचे असते

नाही. जेव्हा वापर प्रचंड असतो, तेव्हा कालांतराने अनुमानाचे वर्चस्व निर्माण होऊ शकते. ( गुगल रिसर्च , डीओई )

गैरसमज ३ - मोठे मॉडेल म्हणजे नेहमीच चांगले परिणाम

कधीकधी हो, तर कधीकधी अजिबात नाही. बरीच कामे लहान प्रणालींवरही व्यवस्थित पार पडतात. ( ग्रीन एआय )

गैरसमज ४ - ऊर्जेचा वापर म्हणजे कार्बन परिणाम, हे आपोआपच ठरते

तंतोतंत नाही. कार्बन ऊर्जा स्रोतावरही अवलंबून असतो. ( आयईए , स्ट्रुबेल इत्यादी. )

गैरसमज ५ - एआयच्या ऊर्जा वापरासाठी तुम्हाला एक सार्वत्रिक संख्या मिळू शकते

तुम्ही तसे करू शकत नाही, किमान अशा स्वरूपात तरी नाही जे अर्थपूर्ण राहील. किंवा तुम्ही करू शकता, पण ते इतके सरासरी काढले जाईल की त्याचे मूल्य राहणार नाही. ( आयईए )

म्हणूनच 'एआय किती ऊर्जा वापरते?' हुशारीचे आहे - पण फक्त तेव्हाच, जेव्हा तुम्ही एखाद्या घोषणेऐवजी सखोल उत्तरासाठी तयार असाल.

तर... एआय खरंच किती ऊर्जा वापरते? 🤔

हा आहे वस्तुनिष्ठ निष्कर्ष.

एआयचे उपयोग:

• काही सोप्या कामांसाठी थोडेसे

• जड मल्टीमोडल निर्मितीसाठी बरेच काही

• मोठ्या प्रमाणावरील मॉडेल प्रशिक्षणासाठी खूप मोठी रक्कम

• एकूण प्रचंड रक्कम , जेव्हा कालांतराने लाखो विनंत्या जमा होतात ( गुगल क्लाउड , डीओई )

त्याचा आकार असाच आहे.

महत्त्वाची गोष्ट म्हणजे, या संपूर्ण विषयाला केवळ एका भीतीदायक आकड्यात किंवा एका दुर्लक्षपूर्ण वृत्तीत बसवू नये. एआयचा ऊर्जेचा वापर खरा आहे. तो महत्त्वाचा आहे. त्यात सुधारणा करता येते. आणि याबद्दल बोलण्याचा सर्वोत्तम मार्ग म्हणजे संदर्भासहित बोलणे, नाटकीपणाने नव्हे. ( आयईए , ग्रीन एआय )

सार्वजनिक चर्चेचा बराचसा भाग दोन टोकांच्या भूमिकांमध्ये हेलकावे खातो - एका बाजूला "एआय मुळात मोफत आहे", तर दुसऱ्या बाजूला "एआय म्हणजे विजेचा विनाश". वास्तव मात्र अधिक सामान्य आहे, ज्यामुळे ते अधिक माहितीपूर्ण ठरते. ही एक प्रणालीगत समस्या आहे. हार्डवेअर, सॉफ्टवेअर, वापर, व्याप्ती, शीतकरण, डिझाइनमधील निवडी. नीरस वाटतंय? थोडंफार. महत्त्वाचं आहे? खूपच. ( आयईए , गूगल क्लाउड )

मुख्य मुद्दे ⚡🧾

जर तुम्ही 'एआय किती ऊर्जा वापरते?' तर त्याचे उत्तर खालीलप्रमाणे आहे:

• सर्वांना लागू होईल असा कोणताही एकच आकडा नाही

• व्यायामामध्ये सहसा सुरुवातीलाच सर्वात जास्त ऊर्जा खर्च होते

• मोठ्या प्रमाणावर अनुमान हा एक प्रमुख घटक बनतो

• मॉडेलचा आकार, हार्डवेअर, वर्कलोड आणि कूलिंग या सर्व गोष्टी महत्त्वाच्या आहेत

• लहान सुधारणांमुळे आश्चर्यकारकपणे मोठा फरक पडू शकतो

• सर्वात महत्त्वाचा प्रश्न केवळ “किती” हा नसून, “कोणत्या कामासाठी, कोणत्या प्रणालीवर, कोणत्या स्तरावर?” हा देखील आहे. ( आयईए , गूगल क्लाउड )

तर हो, एआय खऱ्या ऊर्जेचा वापर करते. लक्ष देण्याइतपत पुरेसा. अधिक चांगल्या अभियांत्रिकीचे समर्थन करण्याइतपत पुरेसा. पण केवळ कार्टूनसारख्या, एका आकड्यापुरत्या मर्यादित पद्धतीने नाही.

वारंवार विचारले जाणारे प्रश्न

एकाच प्रॉम्प्टसाठी एआय किती ऊर्जा वापरते?

एकाच प्रॉम्प्टसाठी कोणताही सार्वत्रिक आकडा नसतो, कारण ऊर्जेचा वापर मॉडेल, हार्डवेअर, प्रॉम्प्टची लांबी, आउटपुटची लांबी आणि त्यात वापरल्या जाणाऱ्या कोणत्याही अतिरिक्त साधनांवर अवलंबून असतो. एक छोटा मजकूर प्रतिसाद तुलनेने कमी ऊर्जा वापरू शकतो, तर एखादे मोठे बहु-माध्यमी कार्य लक्षणीयरीत्या जास्त ऊर्जा वापरू शकते. सर्वात अर्थपूर्ण उत्तर म्हणजे केवळ एक ठळक आकडा नव्हे, तर त्या कार्याभोवतीचा संदर्भ होय.

एआयच्या ऊर्जा वापराच्या अंदाजांमध्ये इतकी तफावत का आढळते?

अंदाज वेगवेगळे असतात कारण लोक अनेकदा 'एआय' या एकाच नावाखाली खूप भिन्न गोष्टींची तुलना करतात. एक अंदाज हलक्याफुलक्या चॅटबॉटच्या उत्तराचे वर्णन करू शकतो, तर दुसरा अंदाज प्रतिमा निर्मिती, व्हिडिओ किंवा मोठ्या प्रमाणावरील मॉडेल प्रशिक्षणासारख्या बाबींचा समावेश करू शकतो. एखादा अंदाज अर्थपूर्ण होण्यासाठी, त्याला कार्याचा प्रकार, मॉडेलचा आकार, हार्डवेअर, उपयोगिता, शीतकरण आणि स्थान यांसारख्या संदर्भाची आवश्यकता असते.

एआयला प्रशिक्षण देणे की एआयला दररोज चालवणे, यापैकी कशामध्ये ऊर्जेचा खर्च जास्त येतो?

प्रशिक्षण (ट्रेनिंग) ही सहसा सुरुवातीला लागणारी मोठी ऊर्जा असते, कारण त्यात प्रचंड मोठ्या डेटासेटवर अनेक चिप्स दीर्घ काळासाठी चालवाव्या लागतात. अनुमान (इन्फरन्स) हा एक सततचा खर्च आहे जो प्रत्येक वेळी वापरकर्ते विनंत्या पाठवतात तेव्हा येतो, आणि मोठ्या प्रमाणावर तो देखील खूप मोठा होऊ शकतो. व्यवहारात, दोन्ही महत्त्वाचे आहेत, जरी त्यांचे महत्त्व वेगवेगळ्या प्रकारे असले तरी.

एका एआयची विनंती दुसऱ्यापेक्षा अधिक ऊर्जा-खर्चिक का असते?

दीर्घ संदर्भ विंडो, दीर्घ आउटपुट, तर्काच्या पुनरावृत्त फेऱ्या, टूल कॉल्स, पुनर्प्राप्तीचे टप्पे आणि बहुविध निर्मिती या सर्वांमुळे प्रत्येक इंटरॅक्शनमागील ऊर्जेचा वापर वाढतो. लेटन्सीची उद्दिष्ट्ये देखील महत्त्वाची असतात, कारण जलद प्रतिसादाच्या आवश्यकतांमुळे कार्यक्षमता कमी होऊ शकते. एक लहान पुनर्लेखन विनंती आणि एक दीर्घ कोडिंग किंवा इमेज वर्कफ्लो यांची तुलना होऊच शकत नाही.

'एआय किती ऊर्जा वापरते?' असा प्रश्न विचारताना लोक कोणत्या छुपे ऊर्जा खर्चाकडे दुर्लक्ष करतात?

बरेच लोक केवळ चिपवर लक्ष केंद्रित करतात, परंतु त्यामुळे कूलिंग, डेटा मूव्हमेंट, स्टोरेज, आयडल कपॅसिटी आणि बॅकअप किंवा फेलओव्हर रिजनसारख्या विश्वसनीयता प्रणालींकडे दुर्लक्ष होते. हे सहाय्यक स्तर एकूण वापरामध्ये लक्षणीय बदल घडवू शकतात. म्हणूनच केवळ एक बेंचमार्क क्वचितच ऊर्जेचे संपूर्ण चित्र दर्शवतो.

मोठे एआय मॉडेल नेहमीच जास्त ऊर्जा वापरते का?

मोठ्या मॉडेल्सना सहसा जास्त संगणकीय शक्ती आणि मेमरीची आवश्यकता असते, विशेषतः दीर्घ किंवा गुंतागुंतीच्या आउटपुटसाठी, त्यामुळे ते अनेकदा जास्त ऊर्जा वापरतात. परंतु प्रत्येक कामासाठी मोठे असणे म्हणजे आपोआपच चांगले असणे असे नाही, आणि ऑप्टिमायझेशनमुळे परिस्थितीत लक्षणीय बदल होऊ शकतो. लहान विशेष मॉडेल्स, क्वांटायझेशन, बॅचिंग, कॅशिंग आणि अधिक स्मार्ट रूटिंग या सर्वांमुळे कार्यक्षमता सुधारू शकते.

ग्राहकांकडून होणारा एआयचा वापर ही मुख्य ऊर्जा समस्या आहे, की एंटरप्राइझ एआय ही अधिक मोठी समस्या आहे?

सामान्य ग्राहक वापराचा परिणाम वाढत जाऊ शकतो, परंतु ऊर्जेची मोठी समस्या अनेकदा एंटरप्राइझ उपयोजनांमध्ये दिसून येते. नेहमी कार्यरत असणारे कोपायलट्स, डॉक्युमेंट प्रोसेसिंग, कॉल सारांशीकरण, कोड रिव्ह्यू आणि बॅकग्राउंड एजंट्स मोठ्या वापरकर्ता वर्गामध्ये वारंवार मागणी निर्माण करतात. समस्या सहसा एखाद्या मोठ्या कृतीपेक्षा, कालांतराने टिकून राहणाऱ्या वापराच्या प्रमाणाची अधिक असते.

डेटा सेंटर्स आणि कूलिंगचा समावेश केल्यास AI किती ऊर्जा वापरते?

एकदा व्यापक प्रणालीचा समावेश केला की, उत्तर अधिक वास्तववादी बनते आणि ते सहसा केवळ चिपवर आधारित अंदाजांपेक्षा मोठे असते. डेटा सेंटर्सना केवळ संगणकीय प्रक्रियेसाठीच नव्हे, तर शीतलीकरण, नेटवर्किंग, स्टोरेज आणि अतिरिक्त क्षमता टिकवून ठेवण्यासाठीही विजेची आवश्यकता असते. म्हणूनच पायाभूत सुविधांची रचना आणि सुविधेची कार्यक्षमता या गोष्टी मॉडेलच्या रचनेइतक्याच महत्त्वाच्या ठरतात.

प्रत्यक्ष कार्यप्रवाहात एआयच्या ऊर्जा वापराचे मोजमाप करण्याचा सर्वात व्यावहारिक मार्ग कोणता आहे?

सर्वोत्तम पद्धत ही मोजमाप कोण करत आहे आणि कोणत्या उद्देशाने करत आहे यावर अवलंबून असते. जलद तुलनेसाठी एक ढोबळ नियम उपयुक्त ठरू शकतो, तर वॅट मीटर्स, जीपीयू टेलिमेट्री, क्लाउड बिलिंग लॉग्स आणि डेटा सेंटर रिपोर्टिंग हे कार्यान्वयनाविषयी अधिकाधिक सखोल माहिती देतात. गंभीर टिकाऊपणाच्या कामासाठी, जीवनचक्राचा अधिक व्यापक दृष्टिकोन अधिक प्रभावी ठरतो, जरी ही प्रक्रिया अधिक संथ आणि अधिक आव्हानात्मक असली तरी.

उपयुक्त एआय वैशिष्ट्ये न सोडता, संघ एआयचा ऊर्जा वापर कसा कमी करू शकतात?

सर्वात मोठे फायदे सहसा काम करणाऱ्या सर्वात लहान मॉडेलचा वापर करणे, प्रॉम्प्ट्स आणि आउटपुट्स लहान करणे, वारंवार येणारे निकाल कॅश करणे, कामाचे बॅचिंग करणे आणि केवळ अधिक कठीण कामे मोठ्या मॉडेल्सकडे पाठवणे यांमुळे मिळतात. पायाभूत सुविधांचे ऑप्टिमायझेशन देखील महत्त्वाचे आहे, विशेषतः शेड्युलिंग आणि हार्डवेअरची कार्यक्षमता. अनेक पाइपलाइन्समध्ये, आधी मोजमाप केल्याने टीम्सना चुकीच्या गोष्टीचे ऑप्टिमायझेशन करण्यापासून रोखण्यास मदत होते.

संदर्भ

1. आंतरराष्ट्रीय ऊर्जा संस्था (IEA) - एआय कडून ऊर्जेची मागणी - iea.org

2. अमेरिकेचा ऊर्जा विभाग (DOE) - डेटा सेंटर्समधील विजेच्या वाढत्या मागणीचे मूल्यांकन करणारा नवीन अहवाल DOE ने प्रसिद्ध केला - energy.gov

3. गूगल क्लाउड - एआय इन्फरन्सच्या पर्यावरणीय परिणामाचे मापन - cloud.google.com

4. गुगल रिसर्च - मशीन लर्निंग ट्रेनिंगच्या कार्बन फूटप्रिंटबद्दल चांगली बातमी - रिसर्च.गूगल

5. गुगल रिसर्च - मशीन लर्निंग प्रशिक्षणाचा कार्बन फूटप्रिंट एका पातळीवर येईल आणि नंतर कमी होईल - research.google

6. arXiv - ग्रीन एआय - arxiv.org

7. arXiv - Strubell et al. - arxiv.org

8. arXiv - एलएलएम ऊर्जा वापरामध्ये क्वांटायझेशन, बॅचिंग आणि सर्व्हिंग धोरणे - arxiv.org

अधिकृत एआय असिस्टंट स्टोअरमध्ये नवीनतम एआय शोधा

आमच्याबद्दल