बच्चों की सेफ्टी के लिए न्यूयॉर्क का बड़ा कदम, अनसेफ AI चैटबॉट्स किए बैन

आर्टिफिशियल इंटेलिजेंस यानी AI की दुनिया जितनी तेजी से आगे बढ़ रही है इसके गलत इस्तेमाल और खतरों को लेकर चिंता भी उतनी ही बढ़ गई है. आजकल सिर्फ काम या पढ़ाई के लिए ही नहीं बल्कि अकेलापन दूर करने और दोस्त की तरह बात करने के लिए भी कंपैनियन चैटबॉट्स का इस्तेमाल खूब हो रहा है. लेकिन यही टेक्नोलॉजी अब कम उम्र के बच्चों और टीनएजर्स के लिए एक बड़ा खतरा बनती जा रही है. 

इसी खतरे को देखते हुए अमेरिका के न्यूयॉर्क में बच्चों की डिजिटल सेफ्टी के लिए एक बहुत बड़ा और सख्त कदम उठाया गया है. न्यूयॉर्क की गवर्नर कैथी होचुल ने एक नए कानून पर साइन किए हैं. जिसके तहत 18 साल से कम उम्र के बच्चों के लिए असुरक्षित AI चैटबॉट फीचर्स पर पूरी तरह से पाबंदी लगा दी गई है. यह नया नियम आने वाली 1 जनवरी से लागू हो जाएगा जिसके बाद टेक कंपनियों और AI डेवलपर्स अपनी मनमानी नहीं कर पाएंगे. 

दोस्त बनकर बच्चों के दिमाग से खेल रहे थे AI चैटबॉट्स

आजकल इंटरनेट पर ऐसे कई AI ऐप्स और चैटबॉट्स मौजूद हैं. जिन्हें डिजिटल दोस्त या वर्चुअल पार्टनर की तरह डिजाइन किया गया है. टेक्नोलॉजी की भाषा में इन्हें कंपैनियन चैटबॉट कहा जाता है. लेकिन जब यह चैटबॉट्स खुद को एक मशीन के बजाय असली इंसान की तरह पेश करने लगते हैं तब दिक्कत पेश आने लगती है. न्यूयॉर्क के नए कानून में ऐसे करीब एक दर्जन अनसेफ AI फीचर्स की लिस्ट बनाई गई है. जिनका इस्तेमाल बच्चों के साथ बातचीत में बिल्कुल नहीं किया जा सकेगा. 

अब कोई भी चैटबॉट 18 साल से कम उम्र के यूजर से यह नहीं कह सकेगा कि उसके अंदर इंसानों जैसी भावनाएं हैं और वह बच्चे के साथ कोई असली रिश्ता रखता है. अक्सर बच्चे इन AI बॉट्स की बातों में आकर उन्हें अपना सच्चा दोस्त मान बैठते हैं और असल दुनिया से, अपने परिवार से कटने लगते हैं. इसी इमोशनल सिचुएशन को कंट्रोल करने के लिए अब नया कानून लागू किया जा रहा है. 

अश्लील कंटेंट और खतरनाक सलाह देने वाले फीचर्स बंद

AI चैटबॉट्स का एल्गोरिदम इस तरह काम करता है कि यूजर ज्यादा से ज्यादा समय ऐप पर बिताए. इसके लिए कई चैटबॉट्स बच्चों की झूठी तारीफ  करते हैं और उन्हें ऐसी बातें सीक्रेट रखने के लिए उकसाते हैं जो माता-पिता को पता होनी चाहिए. नए कानून के तहत अब चैटबॉट्स बच्चों को कोई भी बात छुपाने और सीक्रेट रखने की सलाह नहीं दे पाएंगे. 

इसके अलावा नाबालिग यूजर्स के साथ किसी भी तरह की सेक्शुअली एक्सप्लिसिट यानी अश्लील बातचीत और खुद को या दूसरों को नुकसान पहुंचाने वाले व्यवहार को बढ़ावा देने पर भी पूरी तरह रोक लगा दी गई है. पिछले कुछ समय में ऐसे कई मामले सामने आए हैं जहां AI बॉट्स ने टीनएजर्स को गलत कदम उठाने के लिए उकसाया. वॉचडॉग ग्रुप कॉमन सेंस मीडिया के सीईओ जिम स्टेयर ने भी इस कदम की तारीफ करते हुए इसे बच्चों की AI सुरक्षा से जुड़ा देश का सबसे मजबूत कानून बताया है.

यह भी पढ़ें: Diwali Smart Lights: मोबाइल से बदलें दिवाली की झालर का रंग, बिना उठे कंट्रोल होंगी लाइट्स

नियम तोड़ा तो बंद होगा चैटबॉट 

अब तक टेक कंपनियां बिना किसी डर के अनियंत्रित AI मॉडल्स को मार्केट में उतार रही थी. क्योंकि इन्हें रोकने के लिए कोई कड़ा नियम नहीं था. लेकिन न्यूयॉर्क सरकार ने अपने कंज्यूमर प्रोटेक्शन कानूनों का इस्तेमाल करके डेवलपर्स की जिम्मेदारी तय कर दी है. 

नए कानून में कहा गया है कि अगर कोई कंपनी या AI डेवलपर 18 साल से कम उम्र के बच्चों के मामले में इन सेफ्टी नियमों का उल्लंघन करता है तो उसके खिलाफ मुकदमा दर्ज किया जाएगा. दोषी पाए जाने पर कंपनी पर भारी-भरकम जुर्माना तो लगेगा ही तो साथ ही उस चैटबॉट को हमेशा के लिए बंद भी किया जा सकता है.

डेटा करना होगा डिलीट

इसके अलावा सजा के तौर पर डेवलपर्स को अपने एल्गोरिदम और बच्चों से जुड़े पूरे डेटा को डिलीट करने का आदेश भी दिया जा सकता है. इस फैसले से अब टेक कंपनियों को अपने AI सिस्टम में ऐज वेरिफिकेशन चेक करने के साथ में बच्चों के लिए सर्च सेफ्टी फिल्टर लगाने पड़ेंगे. जो कि बच्चों की सेफ्टी को और मजबूत बनाएंगे.

यह भी पढ़ें: CNAP Rule: दूसरे के नाम सिम तो कैसे दिखेगा असली कॉलर का नाम? कल से बदल रहे नियम