60 साल के घंटे के आदमी के अपने आहार से नमक काटकर स्वस्थ खाने के प्रयास ने चैटगिप से सलाह का पालन करने के बाद एक खतरनाक मोड़ ले लिया। उनके फैसले ने अंततः एक अस्पताल में रहने और एक दुर्लभ और संभावित रूप से जीवन-धमकाने वाली स्थिति की स्थिति का निदान किया, जिसे ब्रोमिज्म कहा जाता है।
इस घटना ने चिकित्सा मार्गदर्शन के लिए CHATGPT जैसे उपकरणों पर रिले करने के बारे में ताजा चिंता जताई है, विशेष रूप से स्वास्थ्य पेशेवरों से परामर्श किए बिना। इस मामले को हाल ही में अमेरिकन कॉलेज ऑफ फिजिशियन जर्नी में प्रकाशित एक रिपोर्ट में विस्तृत किया गया था।
रिपोर्ट के अनुसार, आदमी ने चैट को अपने आहार से सोडियम क्लोराइड (आमतौर पर टेबल सैल के रूप में जाना जाता है) को कैसे खत्म किया जाए। जवाब में, उन्होंने इसे सोडियम ब्रोमाइड के साथ बदल दिया- एक पदार्थ जो एक बार एक बार आमतौर पर 1900 के दशक की शुरुआत में दवाओं में उपयोग किया जाता था, लेकिन अब बड़ी मात्रा में विषाक्त होने के लिए जाना जाता है। वह कथित तौर पर तीन महीने के लिए सोडियम ब्रोमाइड का उपयोग कर रहा था, जो कि एआई चैटबॉट से पढ़े जाने के आधार पर ऑनलाइन खट्टा हो गया था।
वह आदमी, जिसके पास मनोरोग या शारीरिक स्वास्थ्य के मुद्दों का कोई पूर्व इतिहास नहीं है, को अनुभव मतिभ्रम, व्यामोह और गंभीर तेरह के बाद अस्पताल में भर्ती कराया गया था। देखभाल में अपने शुरुआती 24 घंटों के दौरान, उन्होंने भ्रम के लक्षण दिखाए और पानी से इनकार कर दिया, संदेह करते हुए कि यह असुरक्षित था।
डॉक्टर ने जल्द ही उसे ब्रोमाइड विषाक्तता के साथ निदान किया, एक ऐसी स्थिति जो अब दुर्लभ रूप से दुर्लभ है, लेकिन अधिक आम थी जब अधिक सामान्य है जब ब्रोमाइड का उपयोग चिंता, अनिद्रा और अन्य स्थितियों के इलाज के लिए किया गया था। लक्षणों में न्यूरोलॉजिकल गड़बड़ी, मुँहासे जैसे त्वचा के मुद्दे और लाल त्वचा के स्पॉट शामिल हैं, जिन्हें चेरी एंजियोमा-सभी के रूप में जाना जाता है, जो कि आदमी को प्रदर्शित करता है।
रिपोर्ट में कहा गया है, “पोषण में अपने पिछले अध्ययनों से प्रेरित होकर, उन्होंने अपने आहार से क्लोराइड को हटाने के लिए एक व्यक्तिगत प्रयोग चलाने का फैसला किया।” उन्होंने डॉक्टरों को बताया कि उन्होंने चटप्ट पर देखा था कि ब्रोमाइड बी क्लोराइड के स्थान पर इस्तेमाल किया गया था, स्रोत ने सोचा कि स्रोत आहार उपयोग के बजाय औद्योगिक संदर्भ के संदर्भ में देखें।
तरल पदार्थ और इलेक्ट्रोलाइट संतुलन से जुड़े तीन सप्ताह के उपचार के बाद, आदमी को स्थिर किया गया और अस्पताल से छुट्टी दे दी गई।
केस स्टडी के लेखक ने एआई से गलत सूचना के बढ़ते जोखिम के बारे में चेतावनी दी: “यह विचार करना महत्वपूर्ण है कि CHATGPT और अन्य AI सिस्टम वैज्ञानिक अशुद्धि उत्पन्न कर सकते हैं, परिणामों पर महत्वपूर्ण चर्चा नहीं कर सकते हैं, और अंततः गलत सूचना के प्रसार को ईंधन देते हैं।”
CHATGPT के डेवलपर Openai ने अपने उपयोग की शर्तों में यह स्वीकार करते हुए कहा, “आपको हमारी सेवाओं से आउटपुट पर सत्य या ट्रंक जानकारी के एकमात्र स्रोत के रूप में आउटपुट नहीं करना चाहिए, या पेशेवर सलाह के लिए asusttute।”
शर्तों को आगे वर्ग: “हमारी सेवाएं किसी भी स्वास्थ्य स्थिति के निदान या उपचार में उपयोग के लिए नहीं हैं।”
खतरनाक मामला शारीरिक और मानसिक स्वास्थ्य से जुड़े मामलों में एआई-जनित सलाह के आसपास की सीमाओं और जिम्मेदारियों के बारे में चल रही वैश्विक बातचीत को जोड़ता है।