
स्कूल के बच्चे ने AI से बनाया क्लास की लड़कियों के न्यूड फोटोज, Deepfake बन रहा लोगों के लिए मुसीबत
AajTak
Deepfake Image: AI यानी आर्टिफिशियल इंटेलिजेंस की तमाम बातें हम सुनते आए हैं. बड़ी संख्या में इसके गलत इस्तेमाल के मामले सामने आने लगे हैं. AI का इस्तेमाल Deepfake फोटोज और वीडियोज क्रिएट करने में किया जा रहा है. ऐसा ही एक मामला अमेरिका के न्यू जर्सी में देखने को मिला. जहां पर स्कूल के बच्चों के अपनी ही कुछ क्लासमेट की डीपफेक फोटोज बनाए थे.
AI का इस्तेमाल बड़ी संख्या में लोग कर रहे हैं, लेकिन कुछ लोग इसका गलत इस्तेमाल भी कर रहे हैं. ऐसा ही एक मामला अमेरिका के न्यू जर्सी में देखने को मिला था. वैसे तो ये मामला पुराना है, लेकिन इन दिनों वापस में चर्चा में है. चर्चा की वजह स्कूल में उन बच्चों का वापस आना है.
दरअसल, पीड़िता की मां का कहना है कि इस मामले में मुख्य आरोपियों को कड़ी सजा नहीं मिली. रिपोर्ट्स की मानें तो मामले में सभी आरोपी अभी भी स्कूल आ रहे हैं और उनकी बच्ची के साथ क्लास शेयर कर रहे हैं. इस मामले में फोर्ब्स को स्कूल ने बच्चों की पहचान का हवाला देते हुए जानकारी देने से मना कर दिया है.
मामला पिछले साल 20 अक्टूबर का है, जब 14 साल की पीड़िता को इस मामले की जानकारी हुई. पीड़िता को पता चला कि उसके किसी क्लासमेट ने ऑनलाइन सर्विस का इस्तेमाल करके उसकी आपत्तिजनक तस्वीरें बनाई हैं. बाद में जानकारी हुई कि इस मामले में क्लास की कई लड़कियों की डीपफेक फोटोज बनाई गई थी.
यह भी पढ़ें: WhatsApp पर मिलेगा नया फीचर, असली और नकली का करेगा खुलासा, Deepfakes की कर सकेंगे रिपोर्ट
इन फोटोज को Snapchat पर शेयर किया गया था, जहां मैसेज ऑटो-डिलीट हो जाता है. इसमें क्लास के ही कुछ लड़के शामिल थे. पीड़िता की मां का कहना है कि इस मामले को स्कूल ने सही से हैंडल नहीं किया है. बता दें कि ये कोई पहला मामला नहीं है, जिसमें AI का गलत इस्तेमाल किया गया है.
ऐसे कई मामले अब तक सामने आ चुके हैं, जिसमें AI का इस्तेमाल लोगों को ठगने और डीपफेक वीडियो बनाने में किया जा रहा है. भारत में एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो काफी ज्यादा वायरल हुआ था, जिस पर पुलिस ने कार्रवाई भी की थी. इसके अलावा कई दूसरे लोगों के Deepfake वीडियो और फोटोज भी सामने आए थे.

NCERT ने 3 से 8 साल तक के बच्चों के लिए ई-मैजिक बॉक्स ऐप लॉन्च किया है. इस प्लेटफॉर्म पर बच्चे मोबाइल या कंप्यूटर से पढ़ सकते हैं और नई-नई चीजें सीख सकते हैं. इसमें एक आर्टिफिशियल इंटेलिजेंस (AI) स्मार्ट बॉट है, जो बच्चों की पढ़ाई में मदद करता है और उनके सवालों का आसान जवाब देता है. इसके साथ ही इसमें खेल-खेल में सीखने वाली गतिविधियां भी शामिल हैं.












