आर्टिफिशियल इंटेलिजेंस डीप लर्निंग मॉडल को इमेजिंग परिणामों से स्व-रिपोर्ट की गई दौड़ की भविष्यवाणी करने के लिए प्रशिक्षित किया जा सकता है, एक के अनुसार बिगड़ती स्वास्थ्य असमानताओं के बारे में चिंताएं। में प्रकाशित अध्ययन लैंसेट डिजिटल हेल्थ.
शोधकर्ताओं ने पाया कि मॉडल एक्स-रे, सीटी स्कैन और मैमोग्राम सहित विभिन्न प्रकार के छाती इमेजिंग परिणामों से दौड़ का पता लगा सकते हैं। रोग वितरण में क्षमता का पता नहीं लगाया जा सकता है, जहां कुछ समूहों, या शारीरिक विशेषताओं के बीच एक स्थिति अधिक प्रचलित है।
अध्ययन में यह भी पाया गया कि डीप लर्निंग मॉडल अभी भी निम्न-गुणवत्ता वाली छवियों का उपयोग करते हुए भी दौड़ की भविष्यवाणी कर सकता है, उस बिंदु तक जहां उच्च-पास फ़िल्टर्ड छवियों पर प्रशिक्षित एक मॉडल प्रदर्शन कर सकता है जब मानव रेडियोलॉजिस्ट यह निर्धारित नहीं कर सकते कि छवि एक्स-रे थी या नहीं बिल्कुल भी।
“निष्कर्ष निकालने के लिए, हमारे अध्ययन से पता चला है कि चिकित्सा एआई सिस्टम आसानी से चिकित्सा छवियों से स्वयं-रिपोर्ट की गई नस्लीय पहचान को पहचानना सीख सकते हैं, और यह क्षमता अलग करना बेहद मुश्किल है। हमने पाया कि रोगी नस्लीय पहचान अकेले मेडिकल इमेजिंग डेटा से आसानी से सीखने योग्य थी, और बाहरी वातावरण और कई इमेजिंग तौर-तरीकों के लिए सामान्यीकृत किया जा सकता है,” अध्ययन के लेखकों ने लिखा।
“हम दृढ़ता से अनुशंसा करते हैं कि सभी डेवलपर्स, नियामक और उपयोगकर्ता जो चिकित्सा छवि विश्लेषण में शामिल हैं, गहन शिक्षण मॉडल के उपयोग पर अत्यधिक सावधानी के साथ विचार करें क्योंकि इस तरह की जानकारी का दुरुपयोग चिकित्सा पद्धति में मौजूद अच्छी तरह से प्रलेखित नस्लीय असमानताओं को बनाए रखने या यहां तक कि खराब करने के लिए किया जा सकता है। “
यह क्यों मायने रखता है
शोधकर्ताओं ने लिखा है कि मॉडल की क्षमताओं की दृढ़ता से पता चलता है कि आवश्यक होने पर व्यवहार को नियंत्रित करना मुश्किल हो सकता है, और इस मुद्दे का और अध्ययन करने की आवश्यकता है। चूंकि मानव रेडियोलॉजिस्ट आमतौर पर इमेजिंग परिणामों से दौड़ का निर्धारण नहीं कर सकते हैं, वे मॉडल के लिए निरीक्षण प्रदान करने और संभावित रूप से उत्पन्न होने वाली किसी भी समस्या को कम करने में सक्षम नहीं होंगे।
“हमारे अध्ययन के नतीजे इस बात पर जोर देते हैं कि आत्म-रिपोर्ट की गई दौड़ की भविष्यवाणी करने के लिए एआई गहन शिक्षण मॉडल की क्षमता स्वयं महत्व का मुद्दा नहीं है। हालांकि, हमारी खोज यह है कि एआई दूषित, फसल और शोर से भी स्वयं-रिपोर्ट की गई दौड़ की सटीक भविष्यवाणी कर सकता है। चिकित्सा छवियां, अक्सर जब नैदानिक विशेषज्ञ नहीं कर सकते हैं, तो चिकित्सा इमेजिंग में सभी मॉडल की तैनाती के लिए एक बड़ा जोखिम पैदा करता है,” शोधकर्ताओं ने लिखा।
बड़ी प्रवृत्ति
जैसा कि एआई स्वास्थ्य देखभाल और जीवन विज्ञान में अधिक क्षेत्रों में फैलता है, विशेषज्ञों के पास है बढ़ी हुई चिंताएं करने की क्षमता के बारे में बनाए रखना और बिगड़ना नस्लीय स्वास्थ्य असमानता।
एक के अनुसार पिछले सप्ताह प्रकाशित अध्ययन में जर्नल ऑफ़ द अमेरिकन मेडिकल इंफ़ॉर्मेटिक्स एसोसिएशनएआई और मशीन लर्निंग में पूर्वाग्रह खोजने के लिए एक समग्र दृष्टिकोण की आवश्यकता होती है जिसे संबोधित करने के लिए कई दृष्टिकोणों की आवश्यकता होती है, क्योंकि एक समूह के लोगों के लिए अच्छा प्रदर्शन करने वाले मॉडल अन्य समूहों के लिए विफल हो सकते हैं।