नयाअब आप फॉक्स न्यूज लेख सुन सकते हैं!
एक आदमी जो इस्तेमाल किया चैट आहार सलाह के लिए खुद को जहर देना समाप्त कर दिया – और अस्पताल में घाव।
60 वर्षीय व्यक्ति, जो अपने आहार से टेबल नमक को खत्म करने के लिए देख रहा था स्वास्थ्य के कारणइस सप्ताह के एनाल्स ऑफ इंटरनल मेडिसिन में इस सप्ताह प्रकाशित एक केस स्टडी के अनुसार, इसके साथ क्या प्रतिस्थापित करने के लिए सुझाव प्राप्त करने के लिए बड़े भाषा मॉडल (एलएलएम) का उपयोग किया।
जब चैट ने सोडियम ब्रोमाइड के लिए सोडियम क्लोराइड (टेबल नमक) को स्वैप करने का सुझाव दिया, तो आदमी ने तीन महीने की अवधि के लिए प्रतिस्थापन किया-हालांकि, जर्नल लेख में उल्लेख किया गया था, सिफारिश की संभावना अन्य उद्देश्यों के लिए इसका उल्लेख कर रही थी, जैसे कि सफाई।
सोडियम ब्रोमाइड एक रासायनिक यौगिक है जो नमक जैसा दिखता है, लेकिन मानव उपभोग के लिए विषाक्त है।
यह एक बार एक के रूप में इस्तेमाल किया गया था एंटीकॉनवल्सेंट और शामकलेकिन आज मुख्य रूप से राष्ट्रीय स्वास्थ्य संस्थानों के अनुसार, सफाई, विनिर्माण और कृषि उद्देश्यों के लिए उपयोग किया जाता है।
एक व्यक्ति जिसने आहार सलाह के लिए CHATGPT का इस्तेमाल किया, उसने खुद को जहर दिया – और अस्पताल में घाव कर दिया। (कर्ट “साइबरगुई” नॉट्सन)
जब आदमी अस्पताल पहुंचा, तो उसने बताया थकान का अनुभव करनाअनिद्रा, खराब समन्वय, चेहरे मुँहासे, चेरी एंजियोमा (त्वचा पर लाल धक्कों) और अत्यधिक प्यास-ब्रोमिज्म के सभी लक्षण, सोडियम ब्रोमाइड के लिए दीर्घकालिक जोखिम के कारण एक स्थिति।
उस व्यक्ति ने व्यामोह के लक्षण भी दिखाए, केस स्टडी ने नोट किया, क्योंकि उसने दावा किया कि उसका पड़ोसी उसे जहर देने की कोशिश कर रहा था।
उन्हें श्रवण और दृश्य मतिभ्रम भी पाया गया था, और अंततः भागने के प्रयास के बाद एक मनोरोग पर रखा गया था।
आदमी को अंतःशिरा तरल पदार्थ और इलेक्ट्रोलाइट्स के साथ इलाज किया गया था, और इसे एंटी-साइकोटिक दवा पर भी रखा गया था। उन्हें तीन सप्ताह की निगरानी के बाद अस्पताल से रिहा कर दिया गया था।
“यह मामला यह भी बताता है कि कैसे उपयोग किया जाता है कृत्रिम होशियारी (एआई) संभावित रूप से निवारक प्रतिकूल स्वास्थ्य परिणामों के विकास में योगदान कर सकते हैं, “शोधकर्ताओं ने केस स्टडी में लिखा है।
“ये भाषा भविष्यवाणी उपकरण हैं – उनके पास सामान्य ज्ञान की कमी है और यदि मानव उपयोगकर्ता अपने स्वयं के सामान्य ज्ञान को लागू नहीं करता है, तो भयानक परिणामों को जन्म देगा।”
“दुर्भाग्य से, हमारे पास उनकी CHATGPT वार्तालाप लॉग तक पहुंच नहीं है और हम कभी भी निश्चितता के साथ यह नहीं जान पाएंगे कि वास्तव में उसे प्राप्त आउटपुट क्या था, क्योंकि व्यक्तिगत प्रतिक्रियाएं अद्वितीय हैं और पिछले इनपुट से निर्मित हैं।”
यह “अत्यधिक संभावना नहीं” है कि एक मानव चिकित्सक सोडियम ब्रोमाइड का उल्लेख करते समय सोडियम क्लोराइड के विकल्प की तलाश में एक मरीज के साथ बात करते हुए, उन्होंने कहा।
नए एआई टूल का विश्लेषण स्वास्थ्य परिणामों की भविष्यवाणी करने के लिए फोटो का सामना करता है
“यह विचार करना महत्वपूर्ण है कि CHATGPT और अन्य AI सिस्टम उत्पन्न कर सकते हैं वैज्ञानिक अशुद्धिशोधकर्ताओं ने निष्कर्ष निकाला, “परिणामों पर गंभीर रूप से चर्चा करने और अंततः गलत सूचना के प्रसार को बढ़ावा देने की क्षमता का अभाव है।
सैन फ्रांसिस्को की जैव प्रौद्योगिकी कंपनी, सेंटिवैक्स के सीईओ डॉ। जैकब ग्लेनविले ने जोर देकर कहा कि लोगों को एक डॉक्टर के विकल्प के रूप में CHATGPT का उपयोग नहीं करना चाहिए।
जब चैट ने सोडियम ब्रोमाइड के लिए सोडियम क्लोराइड (टेबल नमक) को स्वैप करने का सुझाव दिया, तो आदमी ने चित्रित नहीं किया, तीन महीने की अवधि के लिए प्रतिस्थापन किया। (Istock)
ग्लेनविले, जो केस स्टडी में शामिल नहीं थे, ग्लेनविले ने कहा, “ये भाषा की भविष्यवाणी उपकरण हैं – उनके पास सामान्य ज्ञान की कमी है और वे भयानक परिणामों को जन्म देंगे यदि मानव उपयोगकर्ता अपने स्वयं के सामान्य ज्ञान को लागू नहीं करता है जब यह तय करना है कि इन प्रणालियों से क्या पूछना है और क्या उनकी सिफारिशें हैं,” ग्लेनविले, जो केस स्टडी में शामिल नहीं थे, ने फॉक्स न्यूज डिजिटल को बताया।
फॉक्स न्यूज ऐप पाने के लिए यहां क्लिक करें
“यह समस्या का एक क्लासिक उदाहरण है: सिस्टम अनिवार्य रूप से चला गया, ‘आप एक नमक विकल्प चाहते हैं? सोडियम ब्रोमाइड को अक्सर रसायन विज्ञान प्रतिक्रियाओं में सोडियम क्लोराइड के लिए एक प्रतिस्थापन के रूप में सूचीबद्ध किया जाता है, इसलिए यह यहां सबसे अधिक स्कोरिंग प्रतिस्थापन है।”
डॉ। हार्वे कास्त्रो, एक बोर्ड-प्रमाणित आपात चिकित्सा चिकित्सक और डलास में स्थित आर्टिफिशियल इंटेलिजेंस पर राष्ट्रीय वक्ता ने पुष्टि की कि एआई एक उपकरण है न कि डॉक्टर।
शोधकर्ताओं ने कहा कि यह “अत्यधिक संभावना नहीं” है कि एक मानव चिकित्सक ने सोडियम ब्रोमाइड का उल्लेख किया होगा जब एक मरीज के साथ सोडियम क्लोराइड के विकल्प की तलाश में बात करते हुए, शोधकर्ताओं ने कहा। (Istock)
“बड़े भाषा मॉडल शब्दों के सबसे सांख्यिकीय रूप से संभावित अनुक्रम की भविष्यवाणी करके पाठ उत्पन्न करते हैं, वास्तव में नहीं,” उन्होंने फॉक्स न्यूज डिजिटल को बताया।
“चैट के ब्रोमाइड ब्लंडर से पता चलता है कि संदर्भ राजा क्यों है स्वास्थ्य सलाह“कास्त्रो चला गया।” एआई पेशेवर चिकित्सा निर्णय के लिए एक प्रतिस्थापन नहीं है, ओपनईआई के अस्वीकरण के साथ संरेखित करता है। “
कास्त्रो ने यह भी चेतावनी दी कि जब एलएलएम का उपयोग करने की बात आती है, तो एक “विनियमन अंतर” है चिकित्सा सूचना।
“हमारी शर्तें कहती हैं कि CHATGPT किसी भी स्वास्थ्य स्थिति के उपचार में उपयोग के लिए नहीं है, और पेशेवर सलाह का विकल्प नहीं है।”
उन्होंने कहा, “ब्रोमाइड पर एफडीए प्रतिबंध एआई सलाह तक नहीं बढ़ता है – ग्लोबल हेल्थ एआई ओवरसाइट अपरिभाषित है,” उन्होंने कहा।
यह भी जोखिम है कि एलएलएम में डेटा पूर्वाग्रह और सत्यापन की कमी हो सकती है, जिससे मतिभ्रम जानकारी हो सकती है।
हमारे स्वास्थ्य समाचार पत्र के लिए साइन अप करने के लिए यहां क्लिक करें
“यदि प्रशिक्षण डेटा में पुराना, दुर्लभ या रासायनिक रूप से केंद्रित संदर्भ शामिल हैं, तो मॉडल उन्हें अनुचित संदर्भों में सतह पर कर सकता है, जैसे कि ब्रोमाइड एक नमक विकल्प के रूप में,” कास्त्रो ने कहा।
“इसके अलावा, वर्तमान एलएलएम के पास अप-टू-डेट के खिलाफ अंतर्निहित क्रॉस-चेकिंग नहीं है चिकित्सा डेटाबेस जब तक स्पष्ट रूप से एकीकृत नहीं किया जाता है। “
एक विशेषज्ञ ने चेतावनी दी कि चिकित्सा जानकारी प्राप्त करने के लिए बड़ी भाषा मॉडल का उपयोग करने की बात करने पर एक “विनियमन अंतर” है। (जकूब पोरज़की/नूरफोटो)
इस तरह के मामलों को रोकने के लिए, कास्त्रो ने एलएलएम के लिए अधिक सुरक्षा उपायों के लिए बुलाया, जैसे कि एकीकृत चिकित्सा ज्ञान के आधार, स्वचालित जोखिम झंडे, प्रासंगिक संकेत और मानव और एआई ओवरसाइट का संयोजन।
विशेषज्ञ ने कहा, “लक्षित सुरक्षा उपायों के साथ, LLMS जोखिम भरे सामानवादियों से सुरक्षित, विशेष उपकरणों में विकसित हो सकता है; हालांकि, बिना, बिना विनियमन और निगरानीइस तरह के दुर्लभ मामलों की संभावना है। ”
अधिक स्वास्थ्य लेखों के लिए, यात्रा करें www.foxnews.com/health
चैटगिप्ट के सैन फ्रांसिस्को स्थित निर्माता ओपनआईई ने फॉक्स न्यूज डिजिटल को निम्नलिखित बयान प्रदान किया।
“हमारी शर्तें कहती हैं कि CHATGPT किसी भी स्वास्थ्य स्थिति के उपचार में उपयोग के लिए नहीं है, और पेशेवर सलाह का विकल्प नहीं है। हमारे पास जोखिम कम करने पर काम करने वाली सुरक्षा टीम हैं और लोगों को पेशेवर मार्गदर्शन लेने के लिए लोगों को प्रोत्साहित करने के लिए हमारे AI सिस्टम को प्रशिक्षित किया है।”