एआय खूप पुढे गेला आहे का?

थोडक्यात उत्तर: जेव्हा एआयचा वापर ठोस मर्यादा, माहितीपूर्ण संमती आणि अपील करण्याच्या खऱ्या अधिकाराशिवाय, अत्यंत महत्त्वाचे निर्णय, पाळत ठेवणे किंवा मन वळवण्यासाठी केला जातो, तेव्हा एआयने मर्यादा ओलांडली आहे. जेव्हा डीपफेक आणि मोठ्या प्रमाणावरील फसवणुकीमुळे विश्वास ठेवणे हे जुगारासारखे वाटू लागते, तेव्हा एआय पुन्हा एकदा मर्यादा ओलांडते. जर लोकांना एआयची भूमिका आहे हे कळत नसेल, एखादा निर्णय तसा का घेण्यात आला हे समजत नसेल, किंवा त्यातून बाहेर पडण्याचा पर्याय नसेल, तर एआयने आधीच मर्यादा ओलांडली आहे.

महत्वाचे मुद्दे:

सीमा: प्रणाली काय करू शकत नाही ते परिभाषित करा, विशेषतः जेव्हा अनिश्चितता जास्त असते.

जबाबदारी: दंड किंवा वेळेच्या दबावाच्या सापळ्यांशिवाय मानव निकालांना मागे टाकू शकतात याची खात्री करा.

पारदर्शकता: एआय कधी सहभागी आहे आणि ते त्याचे निर्णय का घेते हे लोकांना सांगा.

स्पर्धात्मकता: जलद, व्यवहार्य अपील मार्ग आणि खराब डेटा दुरुस्त करण्याचे स्पष्ट मार्ग प्रदान करा.

गैरवापर प्रतिकार: घोटाळे आणि गैरवापर रोखण्यासाठी मूळ स्थान, दर मर्यादा आणि नियंत्रणे जोडा.

"एआय खूप पुढे गेले आहे का?"

यातली विचित्र गोष्ट ही आहे की, ही मर्यादा ओलांडण्याची कृती नेहमीच स्पष्ट नसते. कधीकधी ती एखाद्या डीपफेक घोटाळ्याप्रमाणे मोठ्या आवाजात आणि दिमाखात होते. (एफटीसी, एफबीआय) तर कधीकधी ती शांतपणे होते - एक स्वयंचलित निर्णय जो कोणत्याही स्पष्टीकरणाशिवाय तुमच्या आयुष्याला एका वेगळ्याच वळणावर नेतो, आणि तुम्हाला हे कळतही नाही की तुम्हाला 'गुण' दिले गेले आहेत. (यूके आयसीओ, जीडीपीआर कलम २२)

तर… एआय (AI) खूप पुढे गेले आहे का? काही ठिकाणी, होय. इतर ठिकाणी, ते पुरेसे पुढे गेलेले नाही - कारण त्याचा वापर त्या अनाकर्षक पण अत्यावश्यक सुरक्षा उपायांशिवाय केला जात आहे, जे साधनांना सोप्या युझर इंटरफेस (UI) असलेल्या रूलेट व्हीलऐवजी, साधनांसारखेच वागण्यास भाग पाडतात. 🎰🙂 (NIST AI RMF 1.0, EU AI Act)

या लेखानंतर तुम्हाला वाचायला आवडतील असे लेख:

🔗 एआय समाजासाठी हानिकारक का असू शकते?
प्रमुख सामाजिक धोके: पक्षपात, नोकऱ्या, गोपनीयता आणि सत्तेचे केंद्रीकरण.

🔗 एआय पर्यावरणासाठी वाईट आहे का? लपलेले परिणाम
प्रशिक्षण, डेटा सेंटर आणि ऊर्जेचा वापर उत्सर्जन कसे वाढवतात.

🔗 एआय चांगले आहे की वाईट? फायदे आणि तोटे
फायदे, जोखीम आणि वास्तविक-जगातील तडजोडींचा संतुलित आढावा.

🔗 एआय वाईट का मानले जाते: काळी बाजू
गैरवापर, हाताळणी, सुरक्षा धोके आणि नैतिक चिंता यांचा शोध घेते.

---

"AI खूप पुढे गेला आहे का?" असे लोक म्हणतात तेव्हा त्यांचा काय अर्थ होतो 😬

बहुतेक लोक एआय "संवेदनशील" आहे की "ताब्यात घेत आहे" हे विचारत नाहीत. ते यापैकी एका गोष्टीकडे बोट दाखवत आहेत:

• जिथे एआयचा वापर करायला नको तिथे त्याचा वापर केला जात आहे. (विशेषतः अत्यंत महत्त्वाच्या निर्णयांमध्ये.) (ईयू एआय कायदा परिशिष्ट III, जीडीपीआर कलम २२)

• एआयचा वापर संमतीशिवाय केला जात आहे. (तुमचा डेटा, तुमचा आवाज, तुमचा चेहरा... आश्चर्य!) (यूके आयसीओ, जीडीपीआर कलम ५)

• लक्ष वेधण्यात एआय खूपच चांगले होत आहे. (फीड्स + पर्सनलायझेशन + ऑटोमेशन = स्टिकी.) (ओईसीडी एआय तत्त्वे)

• एआयमुळे सत्य ऐच्छिक वाटू लागले आहे. (डीपफेक्स, बनावट परीक्षणे, कृत्रिम “तज्ञ”) (युरोपियन कमिशन, एफटीसी, सी२पीए)

• एआय शक्ती केंद्रित करत आहे. (काही प्रणाली प्रत्येकजण काय पाहतो आणि काय करू शकतो ते आकार देतात.) (यूके सीएमए)

“एआयने मर्यादा ओलांडली आहे का?” या प्रश्नाचा गाभा हाच आहे . ही काही एका क्षणाची गोष्ट नाही. ही प्रोत्साहनं, सोपे मार्ग आणि ‘नंतर बघू’ या विचारसरणीचा साचलेला ढिग आहे - आणि खरं सांगायचं तर, या विचारसरणीचं रूपांतर अनेकदा ‘कोणालातरी इजा झाल्यावर बघू’ यातच होतं. 😑

---

हे गुपित नसलेले सत्य: एआय हा गुणक आहे, नैतिक कारक नाही 🔧✨

एआय जागे होत नाही आणि हानिकारक होण्याचा निर्णय घेत नाही. लोक आणि संस्था त्याचे लक्ष्य ठेवतात. परंतु तुम्ही त्याला जे काही खायला देता ते ते गुणाकार करते:

• उपयुक्त हेतू मोठ्या प्रमाणात उपयुक्त (अनुवाद, सुलभता, सारांश, वैद्यकीय नमुना शोधणे).

• बेशिस्त हेतू मोठ्या प्रमाणात बेशिस्त (प्रमाणात पक्षपात, चुकांचे स्वयंचलितकरण).

• वाईट हेतू मोठ्या प्रमाणात वाईट (फसवणूक, छळ, प्रचार, तोतयागिरी).

हे एखाद्या लहान मुलाला मेगाफोन देण्यासारखे आहे. कधीकधी ते लहान मूल गाते... कधीकधी ते मूल थेट तुमच्या आत्म्यात ओरडते. हे परिपूर्ण रूपक नाही - थोडे मूर्खपणाचे आहे - पण मुद्दा इथेच उभा राहतो 😅📢.

---

दैनंदिन वापरात एआयची चांगली आवृत्ती काय असू शकते? ✅🤝

एआयची “उत्तम आवृत्ती” ती किती हुशार आहे यावरून ठरत नाही. ती दबाव, अनिश्चितता आणि मोहाच्या परिस्थितीत किती चांगल्या प्रकारे वागते यावरून ठरते (आणि स्वस्त ऑटोमेशनचा मोह माणसांना खूप होतो). (एनआयएसटी एआय आरएमएफ १.०, ओईसीडी)

जेव्हा कोणी त्यांचा एआय वापर जबाबदार असल्याचा दावा करतो तेव्हा मी येथे काय शोधतो ते पहा:

१) सीमा स्पष्ट करा

• सिस्टमला काय करण्याची परवानगी आहे?

• काय करण्यास स्पष्टपणे मनाई आहे?

• जेव्हा ते अनिश्चित असते तेव्हा काय होते?

२) मानवी जबाबदारी जी खरी आहे, सजावटीची नाही

मानवी "पुनरावलोकन" परिणाम फक्त तेव्हाच महत्त्वाचे असतात जेव्हा:

• ते काय पुनरावलोकन करत आहेत ते त्यांना समजते, आणि

• गोष्टी मंदावल्याबद्दल शिक्षा न होता ते ते रद्द करू शकतात.

३) योग्य पातळीवर स्पष्टीकरणक्षमता

प्रत्येकाला गणिताची गरज नसते. लोकांना हे आवश्यक असते:

• निर्णयामागील मुख्य कारणे,

• कोणता डेटा वापरला गेला,

• अपील कसे करावे, दुरुस्त कसे करावे किंवा निवड रद्द कशी करावी. (यूके आयसीओ)

४) मोजता येणारी कामगिरी - अपयश मोडसह

फक्त "अचूकता" नाही तर:

• ज्याच्यावर ते अयशस्वी होते,

• किती वेळा ते शांतपणे अपयशी ठरते,

• जग बदलते तेव्हा काय होते. (NIST AI RMF 1.0)

५) गोपनीयता आणि संमती ज्या "सेटिंग्जमध्ये दडलेल्या" नाहीत

जर संमती मिळवण्यासाठी मेन्यूमध्ये शोधाशोध करावी लागत असेल… तर ती संमती नाही. ती एक पळवाट आहे ज्यात अनेक अतिरिक्त पायऱ्या आहेत 😐🧾. (जीडीपीआर कलम ५, यूके आयसीओ)

---

तुलना सारणी: एआयला जास्त दूर जाण्यापासून रोखण्याचे व्यावहारिक मार्ग 🧰📊

खाली "शीर्ष पर्याय" दिले आहेत या अर्थाने की ते सामान्य रेलिंग किंवा ऑपरेशनल साधने आहेत जी परिणाम बदलतात (केवळ वातावरणच नाही).

साधन / पर्याय	प्रेक्षक	किंमत	ते का काम करते
ह्युमन-इन-द-लूप रिव्ह्यू (ईयू एआय कायदा)	उच्च-दाबदार कॉल करणारे संघ	££ (वेळेचा खर्च)	खराब ऑटोमेशन मंदावते. तसेच, मानवांना विचित्र एज-केस लक्षात येतात, कधीकधी..
निर्णय अपील प्रक्रिया (GDPR कलम २२)	एआय निर्णयांमुळे प्रभावित झालेले वापरकर्ते	मुक्त	योग्य प्रक्रिया जोडते. लोक चुकीचा डेटा दुरुस्त करू शकतात - तो मूलभूत वाटतो कारण तो मूलभूत आहे
ऑडिट लॉग + ट्रेसेबिलिटी (NIST SP 800-53)	अनुपालन, ऑपरेशन्स, सुरक्षा	£-££	अपयशानंतर खांदे उडवण्याऐवजी "काय झाले?" असे उत्तर देऊ देते का?
मॉडेल मूल्यांकन + बायस चाचणी (NIST AI RMF 1.0)	उत्पादन + जोखीम संघ	खूप बदलते	अंदाजे नुकसान लवकर पकडते. परिपूर्ण नाही, पण अंदाज लावण्यापेक्षा चांगले
रेड-टीम चाचणी (NIST GenAI प्रोफाइल)	सुरक्षा + सुरक्षा रक्षक	£££	खऱ्या हल्लेखोरांनी करण्यापूर्वीच गैरवापराचे अनुकरण करते. अप्रिय, पण ते फायदेशीर आहे 😬
डेटा मिनिमायझेशन (यूके आयसीओ)	प्रत्येकजण, प्रामाणिकपणे	£	कमी डेटा = कमी गोंधळ. तसेच कमी उल्लंघने, कमी विचित्र संभाषणे
सामग्री मूळ सिग्नल (C2PA)	प्लॅटफॉर्म, मीडिया, वापरकर्ते	£-££	"हे माणसाने बनवले का?" हे सत्यापित करण्यास मदत करते - ते पूर्णपणे सुरक्षित नाही परंतु गोंधळ कमी करते
दर मर्यादा + प्रवेश नियंत्रणे (OWASP)	एआय प्रदाते + उपक्रम	£	गैरवापर स्केलिंगपासून त्वरित थांबवते. वाईट कलाकारांसाठी स्पीड बंपसारखे

हो, टेबल थोडं असमान आहे. हेच तर आयुष्य आहे. 🙂

---

महत्त्वाच्या निर्णयांमध्ये एआय: जेव्हा ते खूप पुढे जाते 🏥🏦⚖️

इथेच गोष्टी लवकर गंभीर होतात.

आरोग्यसेवा , वित्त , गृहनिर्माण , रोजगार , शिक्षण , इमिग्रेशन , फौजदारी न्याय या क्षेत्रातील एआय - या अशा प्रणाली आहेत जिथे: ( ईयू एआय कायदा परिशिष्ट III , एफडीए )

• एखाद्या चुकीमुळे एखाद्याचा पैसा, स्वातंत्र्य, प्रतिष्ठा किंवा सुरक्षितता धोक्यात येऊ शकते

• आणि बाधित व्यक्तीकडे प्रतिकार करण्याची मर्यादित शक्ती असते.

मोठा धोका हा नाही की “एआय चुका करते.” मोठा धोका हा आहे की एआयच्या चुका धोरण बनतात. (एनआयएसटी एआय आरएमएफ १.०)

येथे "खूप दूर" कसे दिसते?

• स्पष्टीकरणाशिवाय घेतलेले स्वयंचलित निर्णय: “संगणक नाही म्हणतो.” (यूके आयसीओ)

• "जोखीम गुण" हे अंदाजांऐवजी तथ्यांसारखे मानले जातात.

• व्यवस्थापनाला गती हवी असल्याने निकालांना मागे टाकू न शकणारे लोक.

• अस्वच्छ, पक्षपाती, जुना किंवा अगदी चुकीचा डेटा.

काय अ-वाटाघाटीयोग्य असावे

• अपील करण्याचा अधिकार (जलद, समजण्यासारखा, भूलभुलैया नाही). (GDPR कलम २२, UK ICO)

• एआयचा सहभाग होता हे जाणून घेण्याचा अधिकार . ( युरोपियन कमिशन )

• परिणामात्मक परिणामांसाठी मानवी पुनरावलोकन . ( NIST AI RMF 1.0 )

• डेटावरील गुणवत्ता नियंत्रण - कारण कचरा आत, कचरा बाहेर हे अजूनही वेदनादायक सत्य आहे.

जर तुम्हाला एक स्पष्ट रेषा आखायची असेल, तर ती ही आहे:
जर एखादी AI प्रणाली कोणाचे आयुष्य खऱ्या अर्थाने बदलू शकत असेल, तर तिच्याकडूनही तितकीच गांभीर्याची अपेक्षा केली पाहिजे, जितकी आपण इतर प्रकारच्या अधिकारांकडून करतो. ज्यांनी नोंदणी केलेली नाही, अशा लोकांवर कोणतीही “बीटा चाचणी” चालणार नाही. 🚫

---

डीपफेक, स्कॅम आणि "मला माझ्या डोळ्यांवर विश्वास आहे" चे संथ मृत्यू 👀🧨

हा असा भाग आहे जो दैनंदिन जीवनाला निसरडे वाटतो.

जेव्हा एआय निर्माण करू शकते:

• तुमच्या कुटुंबातील सदस्यासारखा आवाज येणारा व्हॉइस मेसेज, (FTC, FBI)

• एका सार्वजनिक व्यक्तीचा काहीतरी "बोलताना"चा व्हिडिओ,

• बनावट पुनरावलोकनांचा पूर जो पुरेसा खरा दिसतो, (FTC)

• बनावट नोकरीचा इतिहास आणि बनावट मित्रांसह बनावट लिंक्डइन प्रोफाइल..

…ते फक्त घोटाळेच घडवून आणत नाही. ते अनोळखी लोकांना समन्वय साधण्यास मदत करणारा सामाजिक गोंद कमकुवत करते. आणि समाज अनोळखी लोकांच्या समन्वयावर चालतो. 😵💫

"खूप दूर" म्हणजे फक्त बनावट सामग्री नाही

ही विषमता:

• खोटे बोलणे स्वस्त आहे.

• सत्यता पडताळणे महागडे आणि मंद आहे.

• आणि बहुतेक लोक व्यस्त, थकलेले आणि फिरत असतात.

काय मदत करते (थोडेसे)

• माध्यमांसाठी प्रोव्हेन्स मार्कर. (C2PA)

• विषाणूजन्यतेसाठी घर्षण - त्वरित वस्तुमान सामायिकरण कमी करणे.

• जिथे महत्त्वाचे असेल तिथे (वित्त, सरकारी सेवा) ओळख पडताळणीची चांगली सोय.

• व्यक्तींसाठी मूलभूत “आउट ऑफ बँड पडताळणी” करण्याच्या सवयी (परत कॉल करणे, सांकेतिक शब्द वापरणे, दुसऱ्या चॅनेलद्वारे पुष्टी करणे). (एफटीसी)

ग्लॅमरस नाही. पण सीटबेल्टही नाहीत, आणि मला वैयक्तिकरित्या त्या खूप आवडतात. 🚗

---

पाळत ठेवण्याची गती कमी होते: जेव्हा एआय शांतपणे सर्वकाही सेन्सरमध्ये बदलते 📷🫥

हे डीपफेकसारखे फुटत नाही. ते फक्त पसरते.

एआय हे सोपे करते:

• गर्दीतील चेहरे ओळखा, (EU AI कायदा, NIST FRVT)

• हालचालींचे नमुने ट्रॅक करा,

• व्हिडिओवरून भावनांचे अनुमान काढा (बहुतेकदा वाईट, परंतु आत्मविश्वासाने), (बॅरेट आणि इतर, २०१९, EU AI कायदा)

• तुमच्या वर्तणुकीवर किंवा तुमच्या परिसरातील वातावरणावर आधारित "जोखीम" भाकित करा.

आणि जरी ते चुकीचे असले तरी ते हानिकारक असू शकते कारण ते हस्तक्षेपाचे समर्थन करू शकते. चुकीचा अंदाज अजूनही वास्तविक परिणामांना कारणीभूत ठरू शकतो.

अस्वस्थता

एआय-चालित पाळत ठेवणे बहुतेकदा सुरक्षिततेच्या कथेत गुंडाळलेले असते:

• "हे फसवणूक रोखण्यासाठी आहे."

• "ते सुरक्षिततेसाठी आहे."

• "हे वापरकर्त्याच्या अनुभवासाठी आहे."

कधीकधी ते खरे असते. कधीकधी ते अशा बांधकाम प्रणालींसाठी एक सोयीस्कर निमित्त असते ज्या नंतर पाडणे खूप कठीण असते. जसे की तुमच्या स्वतःच्या घरात एकेरी दरवाजा बसवणे कारण ते त्यावेळी प्रभावी वाटत होते. पुन्हा एकदा, एक परिपूर्ण रूपक नाही - थोडेसे हास्यास्पद - ​​पण तुम्हाला ते वाटते. 🚪😅

येथे "चांगले" कसे दिसते?

• साठवणूक आणि शेअरिंगवर कडक मर्यादा.

• निवड रद्द करा.

• वापराचे प्रमाण कमी.

• स्वतंत्र देखरेख.

• शिक्षा देण्यासाठी किंवा इतरांना प्रवेश नाकारण्यासाठी 'भावना ओळख' वापरली जाऊ नये. कृपया. 🙃 (ईयू एआय कायदा)

---

काम, सर्जनशीलता आणि शांतपणे डेस्किलिंग करण्याची समस्या 🧑💻🎨

इथेच वादविवाद वैयक्तिक होतो कारण तो ओळखीला स्पर्श करतो.

एआय लोकांना अधिक उत्पादक बनवू शकते. ते लोकांना बदलण्यायोग्य वाटू शकते. दोन्ही एकाच वेळी, एकाच आठवड्यात खरे असू शकतात. (ओईसीडी, डब्ल्यूईएफ)

जिथे ते खरोखर उपयुक्त आहे

• मानव विचारांवर लक्ष केंद्रित करू शकतील अशा प्रकारे नियमित मजकूर तयार करणे.

• पुनरावृत्ती होणाऱ्या नमुन्यांसाठी कोडिंग सहाय्य.

• सुलभता साधने (मथळा, सारांश, भाषांतर).

• जेव्हा तुम्ही अडकता तेव्हा विचारमंथन करणे.

जिथे ते खूप दूर जाते

• संक्रमण योजनांशिवाय भूमिका बदलणे.

• उत्पादन कमी करण्यासाठी एआयचा वापर करून वेतन कमी करणे.

• सर्जनशील कामाला अनंत मोफत प्रशिक्षण डेटासारखे मानणे, नंतर खांदे उडवणे. (यूएस कॉपीराइट ऑफिस, यूके GOV.UK)

• कनिष्ठ भूमिका गायब करणे - जे तुम्हाला भविष्यातील तज्ञांना चढण्यासाठी आवश्यक असलेली शिडी तुम्ही नुकतीच जळून खाक केली आहे हे लक्षात येईपर्यंत प्रभावी वाटते.

स्किलिंग करणे हे सूक्ष्म असते. तुम्हाला ते दररोज लक्षात येत नाही. मग एके दिवशी तुम्हाला कळते की सहाय्यकाशिवाय टीममधील कोणालाही गोष्ट कशी काम करते हे आठवत नाही. आणि जर सहाय्यक चुकीचा असेल तर तुम्ही सर्वजण मिळून आत्मविश्वासाने चुकीचे आहात… जे एक प्रकारचे भयानक स्वप्न आहे. 😬

---

पॉवर एकाग्रता: डिफॉल्ट कोण सेट करू शकते? 🏢⚡

जरी एआय "तटस्थ" असला (ते नाही), तरी जो कोणी त्यावर नियंत्रण ठेवतो तो खालील गोष्टी घडवू शकतो:

• कोणती माहिती सहज उपलब्ध आहे,

• काय बढती मिळते किंवा पुरले जाते,

• कोणत्या भाषेला परवानगी आहे,

• कोणत्या वर्तनांना प्रोत्साहन दिले जाते.

आणि एआय प्रणाली तयार करणे आणि चालवणे खर्चिक असू शकत असल्यामुळे, सत्ता एकाच ठिकाणी केंद्रित होते. हा काही षडयंत्राचा प्रकार नाही. हे तर तंत्रज्ञानाच्या आवरणाखालील अर्थशास्त्र आहे. (यूके सीएमए)

इथे "खूप दूर" क्षण आहे

जेव्हा डिफॉल्ट अदृश्य कायदा बनतात:

• तुम्हाला माहित नाही की काय फिल्टर केले जात आहे,

• तुम्ही तर्क तपासू शकत नाही,

• आणि तुम्ही काम, समुदाय किंवा मूलभूत सेवांचा प्रवेश गमावल्याशिवाय वास्तववादीपणे बाहेर पडू शकत नाही.

एका निरोगी परिसंस्थेसाठी स्पर्धा, पारदर्शकता आणि खऱ्या वापरकर्त्याच्या पसंतीची आवश्यकता असते. अन्यथा तुम्ही मुळात वास्तव भाड्याने घेत आहात. 😵♂️

---

एक व्यावहारिक चेकलिस्ट: तुमच्या जगात एआय खूप पुढे जात आहे की नाही हे कसे ओळखावे 🧾🔍

मी वापरत असलेली एक आतड्याची तपासणी यादी येथे आहे (आणि हो, ती अपूर्ण आहे):

जर तुम्ही एक व्यक्ती असाल तर

• मी एआयशी संवाद साधत आहे हे मला ओळखता येते. (युरोपियन आयोग)

• ही व्यवस्था मला जास्त प्रमाणात शेअर करण्यास भाग पाडते.

• जर आउटपुट चुकीचे असेल तर ते विश्वासार्ह पद्धतीने हाताळण्यास मला हरकत नाही.

• जर या वापरून माझी फसवणूक झाली तर प्लॅटफॉर्म मला मदत करेल... नाहीतर ते मला त्रास देईल.

जर तुम्ही व्यवसाय किंवा संघ असाल तर

• आपण एआय वापरत आहोत कारण ते मौल्यवान आहे, किंवा ते ट्रेंडी आहे आणि व्यवस्थापन अस्वस्थ आहे.

• सिस्टम कोणत्या डेटाला स्पर्श करते हे आपल्याला माहिती आहे.

• प्रभावित वापरकर्ता निकालांवर अपील करू शकतो. (यूके आयसीओ)

• मानवांना मॉडेलला मागे टाकण्याचा अधिकार आहे.

• आमच्याकडे एआय बिघाडांसाठी घटना प्रतिसाद योजना आहेत.

• आम्ही ड्रिफ्ट, गैरवापर आणि असामान्य एज केसेसवर लक्ष ठेवत आहोत.

जर तुम्ही यापैकी बऱ्याच जणांना "नाही" असे उत्तर दिले तर याचा अर्थ असा नाही की तुम्ही वाईट आहात. याचा अर्थ तुम्ही "आम्ही ते पाठवले आणि आशा केली" अशा सामान्य मानवी स्थितीत आहात. पण दुर्दैवाने, आशा करणे ही एक रणनीती नाही. 😅

---

समारोपाच्या नोंदी 🧠✅

तर... एआयने मर्यादा ओलांडली आहे का? जिथे उत्तरदायित्वाशिवाय त्याचा वापर केला जातो , विशेषतः महत्त्वाचे निर्णय, मोठ्या प्रमाणावर लोकांना पटवून देणे आणि पाळत ठेवणे यांसारख्या कामांमध्ये, तिथे एआयने मर्यादा ओलांडली आहे . तसेच, जिथे ते विश्वासाला तडा देते, तिथेही त्याने मर्यादा ओलांडली आहे - कारण एकदा विश्वास तुटला की, सामाजिक दृष्ट्या बोलायचे झाल्यास, सर्व काही अधिक महाग आणि अधिक प्रतिकूल बनते. ( एनआयएसटी एआय आरएमएफ १.० , ईयू एआय कायदा )

पण एआय मूळतः नशिबात नाही किंवा मूळतः परिपूर्ण नाही. ते एक शक्तिशाली गुणक आहे. प्रश्न असा आहे की आपण क्षमता जितक्या आक्रमकपणे बांधतो तितक्याच आक्रमकपणे रेलिंग बांधतो का?.

थोडक्यात माहिती:

• एआय एक साधन म्हणून ठीक आहे.

• एक बेजबाबदार अधिकारी म्हणून ते धोकादायक आहे.

• जर एखाद्याला अपील करता येत नसेल, समजत नसेल किंवा बाहेर पडता येत नसेल - तर तिथूनच ‘अतिरेक’ सुरू होतो. 🚦 (जीडीपीआर कलम २२, यूके आयसीओ)

---

वास्तविक उदाहरण: एआयच्या निर्णयाचा ग्राहकावर परिणाम होण्यापूर्वी त्याचे ऑडिट करणे

परिस्थिती

एक लहान ऑनलाइन कर्जदाता कंपनी कर्जाच्या अर्जांचे मंजूर , मॅन्युअल पुनरावलोकन आणि नामंजूर अशा तीन गटांमध्ये वर्गीकरण करण्यासाठी एआयचा वापर करू इच्छिते .

हे कार्यक्षम वाटते, पण धोका झपाट्याने वाढू शकतो. नाकारलेला अर्जदार आपत्कालीन निधी मिळण्यापासून वंचित राहू शकतो, आणि जर एआय (AI) निकृष्ट दर्जाचा डेटा, कालबाह्य गृहितके किंवा पोस्टकोड, रोजगारातील अंतर किंवा डिव्हाइसचा प्रकार यांसारखे अप्रत्यक्ष संकेत वापरत असेल, तर ही प्रणाली लोकांना योग्य स्पष्टीकरण न देता गुपचूप शिक्षा देऊ शकते.

म्हणून संघ ठरवतो की एआय अंतिम नकाराचे निर्णय घेऊ शकत नाही. ते फक्त पुनरावलोकनासाठी अर्ज चिन्हांकित करू शकते आणि शिफारशीवर कोणत्या डेटा पॉइंट्सचा प्रभाव पडला हे स्पष्ट करू शकते.

वर्कफ्लोला काय आवश्यक आहे

सहाय्यकाचा वापर करण्यापूर्वी, संघ पुढील तयारी करतो:

• स्पष्ट, सर्वसामान्यांच्या भाषेत लिहिलेले कर्ज धोरण

• एआयला वापरण्याची परवानगी असलेल्या डेटाची यादी

• ज्या डेटाकडे दुर्लक्ष करणे आवश्यक आहे त्याची सूची, जसे की संरक्षित वैशिष्ट्ये

• ज्ञात मानवी निर्णयांसह ५० मागील अर्ज

• नाकारलेल्या किंवा विलंबित अर्जदारांसाठी अपील नमुना

• एआयने काय शिफारस केली आणि मानवी समीक्षकाने काय निर्णय घेतला हे दर्शवणारा ऑडिट लॉग

सर्वात महत्त्वाचा नियम सोपा आहे: केवळ एआयच्या आधारावर कोणत्याही ग्राहकाला नाकारले जात नाही.

उदाहरण सूचना

तुम्ही कर्ज अर्जांसाठी एक एआय पुनरावलोकन सहाय्यक आहात.

तुमचे काम मानवी समीक्षकाला गहाळ माहिती, धोरणांमधील विसंगती आणि ज्या प्रकरणांना व्यक्तिगत पुनरावलोकनाची आवश्यकता आहे, ती ओळखण्यास मदत करणे आहे.

तुम्ही कर्ज देण्यासंबंधीचा अंतिम निर्णय घेऊ नये.

प्रत्येक अर्जासाठी, खालील माहिती परत करा:

1. पुढील शिफारस केलेली पायरी: मानवी पुष्टीकरणासाठी, मॅन्युअल पुनरावलोकनासाठी मंजूर करा किंवा अधिक माहितीची विनंती करा

2. शिफारशीची मुख्य कारणे

3. वापरलेले डेटा पॉइंट्स

4. वापरू नयेत असे डेटा पॉइंट्स

5. मानवी समीक्षकाने तपासले पाहिजेत असे प्रश्न

6. अर्जदारांना समजेल असे स्पष्टीकरण

जर पुरावा अपूर्ण असेल, तर तसे स्पष्टपणे सांगा.

जर प्रकरणामुळे अर्जदाराच्या आर्थिक सुस्थितीवर लक्षणीय परिणाम होऊ शकत असेल, तर हे प्रकरण मानवी समीक्षकाकडे सोपवावे.

त्याची चाचणी कशी करावी

टीम असिस्टंटला चालू ॲप्लिकेशन्सच्या जवळ पाठवण्यापूर्वी त्याची चाचणी घेते.

चांगल्या चाचणी उदाहरणांमध्ये खालील गोष्टींचा समावेश होतो:

• स्थिर उत्पन्न असलेला पण अपुरा क्रेडिट रेकॉर्ड असलेला अर्जदार

• ज्या अर्जदाराचा पत्ता अलीकडेच बदलला आहे

• ज्या अर्जदाराच्या उत्पन्नाची माहिती उपलब्ध नाही

• ज्या अर्जदाराला पूर्वी चुकीच्या पद्धतीने नाकारण्यात आले होते

• दोन समान अर्जदार, ज्यांच्यात केवळ असंबद्ध तपशिलांचा फरक आहे

प्रत्येक चाचणीसाठी, समीक्षक तीन गोष्टी तपासतो:

1. सहाय्यकाने अंतिम निर्णय घेणे टाळले का?

2. त्यात सर्वसामान्य अर्जदाराला समजू शकेल असे कारण दिले होते का?

3. अंदाज बांधण्याऐवजी, अनिश्चित किंवा गंभीर परिणाम असलेल्या प्रकरणांना वरिष्ठ अधिकाऱ्यांकडे सोपवले का?

निकाल

उदाहरणादाखल निकाल: 50 ॲप्लिकेशनच्या चाचणी संचामध्ये, असे गृहीत धरा की मॅन्युअल पुनरावलोकनास सामान्यतः प्रत्येक ॲप्लिकेशनसाठी 12 मिनिटे, म्हणजेच एकूण सुमारे 10 तास.

एआय सहाय्यक सारांश, गहाळ डेटा तपासणी आणि स्पष्टीकरणाचा मसुदा तयार करत असल्याने, प्रत्येक अर्जासाठी पुनरावलोकनाचा वेळ ७ मिनिटांपर्यंत, म्हणजेच एकूण सुमारे ५ तास ५० मिनिटे लागतात.

यामुळे प्रत्येक ५० अर्जांमागे अंदाजे ४ तास १० मिनिटांची बचत होते आणि अंतिम निर्णयाची जबाबदारी अजूनही मानवी घटकावरच राहते.

संघ गुणवत्तेवरही लक्ष ठेवतो:

• एआय द्वारे ० अंतिम नकार

• ऑडिटसाठी ५०/५० अर्ज नोंदवले गेले

• पुरावा अपूर्ण असल्यामुळे ८ अर्ज पुढील स्तरावर पाठवण्यात आले

• स्पष्टीकरणाचे ३ मसुदे खूपच अस्पष्ट असल्यामुळे ते पुन्हा लिहिण्यात आले

ते आकडे म्हणजे प्रणाली “सुरक्षित” असल्याचा पुरावा नाही. ती तर मोजमाप करण्याच्या सवयीची सुरुवात आहे.

काय बिघडू शकतं?

जर टीमने सहाय्यकाच्या शिफारशीला पुनरावलोकनासाठीची सूचना न मानता एक शॉर्टकट म्हणून पाहिले, तर सहाय्यक तरीही मर्यादेपलीकडे जाऊ शकतो.

सामान्य चुकांमध्ये खालील गोष्टींचा समावेश आहे:

• समीक्षकांना एआय आउटपुटवर शिक्कामोर्तब करू देणे

• एआयने अर्जाचे मूल्यांकन करण्यास मदत केली ही वस्तुस्थिती लपवणे

• "जोखमीचे घटक आढळले" यासारखी अस्पष्ट स्पष्टीकरणे वापरून

• पोस्टकोड, वय, अपंगत्व किंवा उत्पन्न-पद्धतीमधील पक्षपाताची चाचणी करण्यात अयशस्वी होणे

• ऑडिट ट्रेल न ठेवणे

• अपील करण्याची प्रक्रिया मंद किंवा अपमानजनक बनवणे

सर्वात मोठा धोक्याचा इशारा तेव्हा असतो, जेव्हा एखाद्या ग्राहकाला का नाकारण्यात आले, त्याच्या अर्जाला विलंब का झाला किंवा त्याला का ध्वजांकित (flagged) करण्यात आले, हे कोणीही स्पष्ट करू शकत नाही.

व्यावहारिक निष्कर्ष

जेव्हा एआय प्रशासकीय काम कमी करते, पुरावे संघटित करते आणि गहाळ माहिती शोधून काढते, तेव्हा ते महत्त्वाच्या निर्णयांमध्ये सर्वोत्तम काम करते. जेव्हा ते एक अदृश्य प्राधिकरण बनते, तेव्हा ते अतिरेक करते. अधिक सुरक्षित मार्ग म्हणजे "एआयला अधिक वेगाने निर्णय घेऊ देणे" हा नाही; तर एआयला मदत करू देणे, प्रत्येक गोष्टीची नोंद ठेवू देणे आणि जेव्हा परिणाम महत्त्वाचा असतो तेव्हा मानवांना जबाबदार धरणे.

वारंवार विचारले जाणारे प्रश्न

दैनंदिन जीवनात एआय खूप पुढे गेला आहे का?

अनेक ठिकाणी, एआय खूप पुढे गेला आहे कारण तो स्पष्ट सीमा किंवा जबाबदारीशिवाय निर्णय आणि संवादांमध्ये घसरू लागला आहे. समस्या क्वचितच "एआय अस्तित्वात आहे" अशी आहे; एआयला शांतपणे भरती, आरोग्यसेवा, ग्राहक सेवा आणि फीड्समध्ये बारीक देखरेखीखाली जोडले जात आहे. जेव्हा लोक एआय आहे हे सांगू शकत नाहीत, निकालांना आव्हान देऊ शकत नाहीत किंवा निवड रद्द करू शकत नाहीत, तेव्हा ते एक साधन वाटणे थांबवते आणि एका प्रणालीसारखे वाटू लागते.

उच्च-स्तरीय निर्णयांमध्ये "एआय खूप पुढे जाणे" कसे दिसते?

आरोग्यसेवा, वित्त, गृहनिर्माण, रोजगार, शिक्षण, इमिग्रेशन किंवा फौजदारी न्याय क्षेत्रात मजबूत रेलिंगशिवाय एआयचा वापर केला जात असल्याचे दिसते. मुख्य मुद्दा हा नाही की मॉडेल चुका करतात; तर त्या चुका धोरणात घट्ट होतात आणि आव्हान देणे कठीण होते. "संगणक नाही म्हणतो" असे निर्णय बारीक स्पष्टीकरणांसह आणि अर्थपूर्ण अपील नसल्यामुळे नुकसान लवकर होते.

स्वयंचलित निर्णयाचा माझ्यावर परिणाम होत आहे की नाही हे मी कसे ओळखू शकतो आणि मी काय करू शकतो?

एक सामान्य लक्षण म्हणजे अचानक होणारा परिणाम ज्याची तुम्ही दखल घेऊ शकत नाही: नकार, निर्बंध किंवा कोणतेही स्पष्ट कारण नसताना "जोखीम स्कोअर" ची भावना. अनेक सिस्टीमनी AI ने कधी महत्त्वाची भूमिका बजावली हे उघड केले पाहिजे आणि तुम्ही निर्णयामागील मुख्य कारणे आणि त्यावर अपील करण्यासाठी पावले विचारू शकाल. प्रत्यक्षात, मानवी पुनरावलोकनाची विनंती करा, कोणताही चुकीचा डेटा दुरुस्त करा आणि सरळ निवड रद्द करण्याचा मार्ग निवडा.

गोपनीयता, संमती आणि डेटा वापराच्या बाबतीत एआय खूप पुढे गेला आहे का?

संमती ही एक शोधक बनते आणि डेटा संकलन "फक्त बाबतीत" वाढते तेव्हा असे अनेकदा घडते. लेखाचा मुख्य मुद्दा असा आहे की गोपनीयता आणि संमती सेटिंग्जमध्ये दडपल्या गेल्यास किंवा अस्पष्ट अटींद्वारे सक्ती केल्यास त्यांना जास्त वजन राहत नाही. एक निरोगी दृष्टिकोन म्हणजे डेटा कमी करणे: कमी गोळा करणे, कमी ठेवा आणि निवडी स्पष्ट करा जेणेकरून लोकांना नंतर आश्चर्य वाटणार नाही.

डीपफेक आणि एआय स्कॅम ऑनलाइन "ट्रस्ट" म्हणजे काय ते कसे बदलतात?

ते बनावट आवाज, व्हिडिओ, पुनरावलोकने आणि ओळख निर्माण करण्याचा खर्च कमी करून सत्याला पर्यायी बनवतात. विषमता ही समस्या आहे: खोटे बोलणे स्वस्त आहे, तर सत्याची पडताळणी करणे मंद आणि थकवणारे आहे. व्यावहारिक बचावांमध्ये माध्यमांसाठी मूळ सिग्नल, व्हायरल शेअरिंग कमी करणे, जिथे ते महत्त्वाचे आहे तिथे मजबूत ओळख तपासणी आणि परत कॉल करणे किंवा शेअर केलेला कोड वर्ड वापरणे यासारख्या सवयी "सत्यापित करा" यांचा समावेश आहे.

एआयला जास्त दूर जाण्यापासून रोखण्यासाठी सर्वात व्यावहारिक रेलिंग कोणते आहेत?

परिणाम बदलणाऱ्या रेलिंगमध्ये उच्च-दाब असलेल्या कॉलसाठी खऱ्या मानवी-इन-द-लूप पुनरावलोकन, स्पष्ट अपील प्रक्रिया आणि अपयशानंतर "काय झाले?" याचे उत्तर देऊ शकणारे ऑडिट लॉग यांचा समावेश आहे. मॉडेल मूल्यांकन आणि बायस चाचणी अंदाजे नुकसान लवकर पकडू शकते, तर रेड-टीम चाचणी हल्लेखोर करण्यापूर्वी गैरवापराचे अनुकरण करते. दर मर्यादा आणि प्रवेश नियंत्रणे गैरवापर त्वरित स्केलिंग होण्यापासून रोखण्यास मदत करतात आणि डेटा कमी करणे संपूर्ण बोर्डमध्ये जोखीम कमी करते.

एआय-चालित पाळत ठेवणे कधी मर्यादा ओलांडते?

जेव्हा सर्व काही डिफॉल्टनुसार सेन्सरमध्ये बदलते तेव्हा ते मर्यादा ओलांडते: गर्दीत चेहरा ओळखणे, हालचाली-नमुना ट्रॅकिंग किंवा शिक्षेसाठी किंवा गेटकीपिंगसाठी वापरले जाणारे आत्मविश्वासपूर्ण "भावना ओळखणे". चुकीच्या प्रणाली देखील हस्तक्षेप किंवा सेवा नाकारण्याचे समर्थन केल्यास गंभीर नुकसान करू शकतात. चांगल्या पद्धती म्हणजे अरुंद वापर प्रकरणे, कठोर धारणा मर्यादा, अर्थपूर्ण निवड रद्द करणे, स्वतंत्र देखरेख आणि डळमळीत भावना-आधारित निर्णयांना ठाम "नाही" असे दिसते.

एआय लोकांना अधिक उत्पादक बनवत आहे - की काम शांतपणे सोडून देत आहे?

दोन्ही एकाच वेळी खरे असू शकतात आणि तोच ताण हा मुद्दा आहे. एआय नियमित मसुदा तयार करण्यात, पुनरावृत्ती होणाऱ्या कोडिंग पॅटर्नमध्ये आणि सुलभतेमध्ये मदत करू शकते, ज्यामुळे मानवांना उच्च-स्तरीय विचारांवर लक्ष केंद्रित करण्यास मुक्तता मिळते. जेव्हा ते संक्रमण योजनांशिवाय भूमिका बदलते, वेतन कमी करते, सर्जनशील कामाला मोफत प्रशिक्षण डेटासारखे मानते किंवा भविष्यातील कौशल्य निर्माण करणाऱ्या कनिष्ठ भूमिका काढून टाकते तेव्हा ते खूप पुढे जाते. सहाय्यकाशिवाय संघ कार्य करू शकत नाहीत तोपर्यंत डिस्किलिंग सूक्ष्म राहते.

संदर्भ

1. राष्ट्रीय मानके आणि तंत्रज्ञान संस्था (NIST) - एआय जोखीम व्यवस्थापन फ्रेमवर्क (एआय आरएमएफ १.०) - nist.gov

2. युरोपियन युनियन - EU AI कायदा (नियमन (EU) 2024/1689) - अधिकृत जर्नल (इंग्रजी) - europa.eu

3. युरोपियन कमिशन - एआयसाठी नियामक चौकट (ईयू एआय कायदा धोरण पृष्ठ) - europa.eu

4. EU AI कायदा सेवा डेस्क - परिशिष्ट III (उच्च-जोखीम असलेल्या AI प्रणाली) - europa.eu

5. युरोपियन युनियन - EU मध्ये विश्वासार्ह कृत्रिम बुद्धिमत्तेसाठी नियम (EU AI कायदा सारांश) - europa.eu

6. युके माहिती आयुक्त कार्यालय (ICO) - स्वयंचलित वैयक्तिक निर्णय-प्रक्रिया आणि प्रोफाइलिंग म्हणजे काय? - ico.org.uk

7. युके माहिती आयुक्त कार्यालय (ICO) - स्वयंचलित निर्णय-प्रक्रिया आणि प्रोफाइलिंगबद्दल युके GDPR काय सांगते? - ico.org.uk

8. युके माहिती आयुक्त कार्यालय (ICO) - स्वयंचलित निर्णय-प्रक्रिया आणि प्रोफाइलिंग (मार्गदर्शन केंद्र) - ico.org.uk

9. युके माहिती आयुक्त कार्यालय (ICO) - डेटा न्यूनीकरण (युके GDPR तत्त्व मार्गदर्शन) - ico.org.uk

10. GDPR-info.eu - कलम २२ GDPR - gdpr-info.eu

11. GDPR-info.eu - कलम ५ GDPR - gdpr-info.eu

12. यूएस फेडरल ट्रेड कमिशन (FTC) - स्कॅमर त्यांच्या कुटुंबाच्या आपत्कालीन योजना वाढवण्यासाठी AI चा वापर करतात - ftc.gov

13. यूएस फेडरल ट्रेड कमिशन (FTC) - घोटाळेबाज तुमचे पैसे चोरण्यासाठी बनावट आणीबाणीचा वापर करतात - ftc.gov

14. यूएस फेडरल ट्रेड कमिशन (FTC) - बनावट पुनरावलोकने आणि प्रशंसापत्रांवर बंदी घालण्याचा अंतिम नियम (प्रेस रिलीज) - ftc.gov

15. फेडरल ब्युरो ऑफ इन्व्हेस्टिगेशन (FBI) - कृत्रिम बुद्धिमत्तेचा वापर करणाऱ्या सायबर गुन्हेगारांच्या वाढत्या धोक्याबद्दल FBI चा इशारा - fbi.gov

16. आर्थिक सहकार्य आणि विकास संघटना (OECD) - OECD AI तत्त्वे - oecd.ai

17. OECD - कृत्रिम बुद्धिमत्ता परिषदेची शिफारस (OECD/LEGAL/0449) - oecd.org

18. युरोपियन कमिशन - पारदर्शक एआय सिस्टमसाठी मार्गदर्शक तत्त्वे आणि आचारसंहिता (FAQs) - europa.eu

19. कंटेंट प्रोव्हेनन्स अँड ऑथेंटिकिटीसाठी कोअलिशन (C2PA) - स्पेसिफिकेशन v2.3 - c2pa.org

20. यूके स्पर्धा आणि बाजारपेठ प्राधिकरण (सीएमए) - एआय फाउंडेशन मॉडेल्स: प्रारंभिक अहवाल - gov.uk

21. यूएस फूड अँड ड्रग अॅडमिनिस्ट्रेशन (FDA) - आर्टिफिशियल इंटेलिजेंस-सक्षम वैद्यकीय उपकरणे - fda.gov

22. NIST - माहिती प्रणाली आणि संस्थांसाठी सुरक्षा आणि गोपनीयता नियंत्रणे (SP 800-53 Rev. 5) - nist.gov

23. NIST - जनरेटिव्ह AI प्रोफाइल (NIST.AI.600-1, ipd) - nist.gov

24. ओपन वर्ल्डवाइड अॅप्लिकेशन सिक्युरिटी प्रोजेक्ट (OWASP) - अप्रतिबंधित संसाधन वापर (API सिक्युरिटी टॉप १०, २०२३) - owasp.org

25. NIST - चेहरा ओळख विक्रेता चाचणी (FRVT) लोकसंख्याशास्त्र - nist.gov

26. बॅरेट आणि इतर (२०१९) - लेख (पीएमसी) - nih.gov

27. ओईसीडी - कामाच्या ठिकाणी एआयचा वापर (पीडीएफ) - oecd.org

28. वर्ल्ड इकॉनॉमिक फोरम (WEF) - द फ्युचर ऑफ जॉब्स रिपोर्ट २०२५ - डायजेस्ट - weforum.org

29. यूएस कॉपीराइट ऑफिस - कॉपीराइट आणि आर्टिफिशियल इंटेलिजेंस, भाग ३: जनरेटिव्ह एआय ट्रेनिंग रिपोर्ट (प्रकाशनपूर्व आवृत्ती) (पीडीएफ) - copyright.gov

30. यूके सरकार (GOV.UK) - कॉपीराइट आणि कृत्रिम बुद्धिमत्ता (सल्ला) - gov.uk

अधिकृत एआय असिस्टंट स्टोअरमध्ये नवीनतम एआय शोधा

आमच्याबद्दल