COVID-19 महामारी स्वास्थ्य सेवा में असमानताओं पर प्रकाश डाला पिछले कई वर्षों में पूरे अमेरिका में। अब, एआई के उदय के साथ, विशेषज्ञ डेवलपर्स को चेतावनी दे रहे हैं यह सुनिश्चित करने के लिए मॉडलों को लागू करते समय सतर्क रहना चाहिए कि असमानताएं और अधिक न बढ़ें।

डॉ. जय भट्ट, प्रैक्टिसिंग जराचिकित्सक और सेंटर फॉर हेल्थ सॉल्यूशंस एंड हेल्थ इक्विटी इंस्टीट्यूट के प्रबंध निदेशक डेलॉयटके साथ बैठ गया MobiHealthNews एआई के संभावित लाभों और स्वास्थ्य देखभाल के लिए हानिकारक प्रभावों के बारे में अपनी अंतर्दृष्टि प्रदान करने के लिए।

मोबीहेल्थन्यूज: स्वास्थ्य असमानता को दूर करने की कोशिश कर रही कंपनियों द्वारा एआई के उपयोग के बारे में आपके क्या विचार हैं?

जय भट्ट: मुझे लगता है कि हम जिन असमानताओं को दूर करने की कोशिश कर रहे हैं वे महत्वपूर्ण हैं, वे लगातार हैं। मैं अक्सर कहता हूं कि स्वास्थ्य संबंधी असमानताएं अमेरिका की चिरकालिक स्थिति हैं। हमने इस पर बैंड-एड्स लगाकर या अन्य तरीकों से इसे संबोधित करने की कोशिश की है, लेकिन वास्तव में यह पर्याप्त नहीं है। हमें उन संरचनात्मक प्रणालीगत मुद्दों के बारे में सोचना होगा जो स्वास्थ्य सेवा वितरण को प्रभावित कर रहे हैं जो स्वास्थ्य असमानताओं-जातिवाद और पूर्वाग्रह को जन्म देते हैं। और मशीन लर्निंग शोधकर्ता स्वास्थ्य प्रणाली में पहले से मौजूद कुछ पूर्वाग्रहों का पता लगाते हैं। उन्हें भी, जैसा कि आप संकेत कर रहे हैं, एल्गोरिदम में कमजोरियों को दूर करना होगा। और ऐसे प्रश्न हैं जो विचार से सभी चरणों में उठते हैं, तकनीक क्या हल करने की कोशिश कर रही है, वास्तविक दुनिया में तैनाती को देखने के लिए।

मैं कई बाल्टियों में इस मुद्दे के बारे में सोचता हूं। एक, सीमित नस्ल और जातीयता डेटा जिसका प्रभाव होता है ताकि हमें उससे चुनौती मिले। दूसरा असमान बुनियादी ढांचा है। इसलिए, आप जानते हैं, उपकरणों के प्रकार तक पहुंच की कमी, आप ब्रॉडबैंड और डिजिटल प्रकार के विभाजन के बारे में सोचते हैं, लेकिन डिजिटल साक्षरता और जुड़ाव में भी अंतर है। इसलिए, पहले से ही विशेष रूप से खराब स्वास्थ्य परिणामों का सामना कर रही आबादी के बीच डिजिटल साक्षरता अंतराल अधिक है, जैसे असमान जातीय समूह, कम आय वाले व्यक्ति और वृद्ध वयस्क। और फिर सांस्कृतिक भाषा और विश्वास बाधाओं से संबंधित रोगी जुड़ाव के साथ चुनौतियां। इसलिए प्रौद्योगिकी विश्लेषण में वास्तव में सहायक होने और स्वास्थ्य इक्विटी को संबोधित करने के लिए सक्षम होने की क्षमता है।

लेकिन प्रौद्योगिकी और विश्लेषिकी में भी असमानताओं और भेदभाव को बढ़ाने की क्षमता है यदि वे उस लेंस को ध्यान में रखकर नहीं बनाए गए हैं। इसलिए हम भाषण और चेहरे की पहचान, स्वास्थ्य देखभाल के लिए डेटा प्रॉक्सी की पसंद के लिए एआई के भीतर अंतर्निहित इस पूर्वाग्रह को देखते हैं। भविष्यवाणी एल्गोरिदम गलत भविष्यवाणियों का कारण बन सकते हैं जो परिणामों को प्रभावित करते हैं।

एमएचएन: आप कैसे सोचते हैं कि एआई स्वास्थ्य इक्विटी पर सकारात्मक और नकारात्मक प्रभाव डाल सकता है?

भट्ट: इसलिए, सकारात्मक तरीकों में से एक यह है कि एआई हमें यह पहचानने में मदद कर सकता है कि कार्रवाई को कहां प्राथमिकता दी जाए और कहां संसाधनों का निवेश किया जाए और फिर स्वास्थ्य असमानता को दूर करने के लिए कार्रवाई की जाए। यह ऐसे दृष्टिकोणों को सतह पर ला सकता है जिन्हें हम देखने में सक्षम नहीं हो सकते हैं।

मुझे लगता है कि दूसरा एल्गोरिदम का मुद्दा है, दोनों सकारात्मक प्रभाव डालते हैं कि कैसे अस्पताल रोगियों में संसाधन आवंटित करते हैं लेकिन इसका नकारात्मक प्रभाव भी हो सकता है। तुम्हें पता है, हम दौड़-आधारित क्लिनिकल एल्गोरिद्म देखते हैं, खासकर गुर्दे की बीमारी के आसपास, गुर्दा प्रत्यारोपण। यह कई उदाहरणों का एक उदाहरण है जो सामने आए हैं जहां क्लिनिकल एल्गोरिदम में पूर्वाग्रह है।

तो, हम एक डालते हैं टुकड़ा इस पर यह वास्तव में दिलचस्प रहा है जो कुछ जगहों को दिखाता है और इसे संबोधित करने के लिए संगठन क्या कर सकते हैं। तो, पहले सांख्यिकीय अर्थ में पूर्वाग्रह है। हो सकता है कि जिस मॉडल का परीक्षण किया जा रहा है वह उस शोध प्रश्न के लिए काम न करे जिसका आप उत्तर देने का प्रयास कर रहे हैं। दूसरा विचरण है। तो आपके पास वास्तव में अच्छा आउटपुट प्राप्त करने के लिए पर्याप्त नमूना आकार नहीं है। और फिर आखिरी चीज है शोर। डेटा संग्रह प्रक्रिया के दौरान कुछ हुआ है, मॉडल के विकसित होने और परीक्षण करने से पहले, जो उस पर और उसके परिणामों पर प्रभाव डालता है।

मुझे लगता है कि हमें विविध होने के लिए और अधिक डेटा बनाना होगा। जिन उच्च-गुणवत्ता वाले एल्गोरिदम को हम प्रशिक्षित करने का प्रयास कर रहे हैं, उन्हें सही डेटा की आवश्यकता होती है, और फिर कौन से डेटासेट और एल्गोरिदम का उपयोग करना है, यह चुनते समय व्यवस्थित और पूरी तरह से अग्रिम सोच और निर्णय लेने की आवश्यकता होती है। और फिर हमें उन प्रतिभाओं में निवेश करना होगा जो उनकी पृष्ठभूमि और अनुभव दोनों में विविध हों।

एमएचएन: जैसे-जैसे एआई आगे बढ़ता है, अगर कंपनियां अपने प्रसाद में ये आवश्यक बदलाव नहीं करती हैं तो आपको क्या डर है?

भट्ट: मुझे लगता है कि एक यह होगा कि संगठन और व्यक्ति डेटा के आधार पर निर्णय ले रहे हैं जो गलत हो सकते हैं, पर्याप्त पूछताछ नहीं की जा सकती है और संभावित पूर्वाग्रह से नहीं सोचा जा सकता है।

दूसरा डर है कि यह कैसे एक ऐसी दुनिया में अविश्वास और गलत सूचना को आगे बढ़ाता है जो वास्तव में इससे जूझ रही है। हम अक्सर कहते हैं कि आप विश्वास कैसे बनाते हैं इसकी गति से स्वास्थ्य इक्विटी प्रभावित हो सकती है, लेकिन इससे भी महत्वपूर्ण बात यह है कि आप विश्वास कैसे बनाए रखते हैं। जब हम पूरी तरह से नहीं सोचते हैं और आउटपुट का परीक्षण करते हैं और यह पता चलता है कि यह एक अनपेक्षित परिणाम का कारण बन सकता है, तब भी हमें उसके प्रति जवाबदेह होना होगा। और इसलिए हम उन मुद्दों को कम करना चाहते हैं।

दूसरी बात यह है कि हम अभी भी यह समझने की कोशिश के शुरुआती चरण में हैं कि जेनेरेटिव एआई कैसे काम करता है, है ना? तो जनरेटिव एआई वास्तव में अब सामने आ गया है, और सवाल यह होगा कि एआई के विभिन्न उपकरण एक दूसरे से कैसे बात करते हैं, और फिर एआई के साथ हमारा क्या संबंध है? और विभिन्न AI उपकरणों का एक दूसरे के साथ क्या संबंध है क्योंकि कुछ AI उपकरण कुछ परिस्थितियों में बेहतर हो सकते हैं – एक विज्ञान बनाम संसाधन आवंटन बनाम इंटरैक्टिव प्रतिक्रिया प्रदान करने के लिए।

लेकिन, आप जानते हैं, जनरेटिव एआई उपकरण मुश्किल मुद्दों को उठा सकते हैं, लेकिन सहायक भी हो सकते हैं। उदाहरण के लिए, यदि आप समर्थन मांग रहे हैं, जैसा कि हम मानसिक स्वास्थ्य के लिए टेलीहेल्थ पर करते हैं, और व्यक्तियों को ऐसे संदेश मिलते हैं जो शायद एआई द्वारा तैयार किए गए हों, तो वे संदेश किसी प्रकार की सहानुभूति और समझ को शामिल नहीं कर रहे हैं। यह एक अनपेक्षित परिणाम का कारण बन सकता है और स्थिति को और खराब कर सकता है कि किसी के पास देखभाल सेटिंग्स के साथ संलग्न होने की उनकी क्षमता हो सकती है या प्रभावित हो सकती है।

मुझे लगता है कि भरोसेमंद एआई और नैतिक तकनीक एक सर्वोपरि है- प्रमुख मुद्दों में से एक है कि स्वास्थ्य सेवा प्रणाली और जीवन विज्ञान कंपनियों को इससे जूझना होगा और एक रणनीति बनानी होगी। एआई में सिर्फ एक घातीय वृद्धि पैटर्न है, है ना? यह इतनी जल्दी बदल रहा है। इसलिए, मुझे लगता है कि संगठनों के लिए अपने दृष्टिकोण को समझना, जल्दी से सीखना और एआई के लिए अपने कुछ रणनीतिक और परिचालन दृष्टिकोणों को संबोधित करने और फिर साक्षरता प्रदान करने में मदद करना और चिकित्सकों और देखभाल टीमों को प्रभावी ढंग से इसका उपयोग करने में मदद करना वास्तव में महत्वपूर्ण होने जा रहा है।