गूगल का नया AI मॉडल नैनो-बनाना प्रो तेजी से लोकप्रिय हो रहा है, लेकिन इसकी क्षमताओं का दुरुपयोग अब सामने आ रहा है। मीडिया रिपोर्ट्स में खुलासा हुआ है कि यह मॉडल यूजर के साधारण प्रॉम्प्ट पर फर्जी आधार और पैन कार्ड जैसी बेहद संवेदनशील पहचान-पत्रों की रियलिस्टिक इमेज जनरेट कर दे रहा है। इसमें फोटो, नाम, जन्मतिथि और आईडी नंबर तक असली डॉक्यूमेंट की तरह दिखते हैं।
कैसे काम करता है नैनो-बनाना प्रो
गूगल का यह मॉडल जेमिनी नैनो का अपग्रेडेड वर्जन है, जो हाई-क्वालिटी 4K इमेज तैयार करता है।
यह सोशल मीडिया पर इसलिए पॉपुलर है क्योंकि यह:
- स्टाइलिश पोर्ट्रेट्स बना देता है
- लिंक्डइन प्रोफाइल को इन्फोग्राफिक्स में बदल देता है
- किसी भी कॉम्प्लेक्स टेक्स्ट की व्हाइटबोर्ड समरी बना देता है
मगर चिंताजनक बात यह है कि यह मॉडल संवेदनशील कंटेंट यानी सरकारी ID प्रूफ्स पर कोई सेफ्टी चेक लागू नहीं करता।
जांच में क्या सामने आया
जांच के दौरान जब टेस्ट प्रॉम्प्ट्स के जरिए फर्जी आधार और पैन कार्ड बनाने को कहा गया, तो नैनो-बनाना प्रो ने:
- बिना चेतावनी दिए पूरी इमेज बना दी
- फोटो, नाम, पिता का नाम, जन्मतिथि और 12-अंकों वाला आधार नंबर जनरेट कर दिया
- पैन कार्ड पर भी 10-अंकों का यथार्थ जैसा नंबर तैयार कर दिया
AI द्वारा लगाए गए वॉटरमार्क को हटाना बेहद आसान पाया गया। प्रिंटेड कॉपी दूर से बिल्कुल असली डॉक्यूमेंट जैसी दिखती है।
बेंगलुरु के एक यूजर ने तो अपने फोटो और नकली डिटेल्स डालकर असली जैसे PAN और Aadhaar तैयार कर सोशल मीडिया पर साझा किए।
पहले भी हुए ऐसे मामले
यह पहला मौका नहीं है जब AI मॉडल से फर्जी डॉक्यूमेंट बने हों। इससे पहले ChatGPT के GPT-4o में भी ऐसी घटना सामने आई थी, लेकिन नैनो-बनाना प्रो की इमेज क्वालिटी उससे कई गुना ज्यादा रियल दिखती है।
क्या है खतरा
भारत जैसे देश में जहां हर सरकारी और निजी सेवा में आधार-पैन जरूरी हैं, वहाँ इतने रियलिस्टिक फेक डॉक्यूमेंट बनना गंभीर खतरा है। इससे:
- आइडेंटिटी चोरी
- बैंक धोखाधड़ी
- गलत वेरिफिकेशन
- साइबर फ्रॉड
जैसे अपराध आसानी से बढ़ सकते हैं।
विशेषज्ञों का कहना है कि वॉटरमार्क हटाने के बाद प्रिंटेड कॉपी को देखकर असली-नकली का फर्क करना मुश्किल हो सकता है।
एक्सपर्ट्स और एजेंसियों की चिंता
तकनीकी विशेषज्ञों ने सवाल उठाया कि गूगल जैसी कंपनी ने इतना बेसिक दुरुपयोग रोकने के लिए सेफ्टी फिल्टर क्यों नहीं लगाए।
अब उम्मीद है कि:
- गूगल इस मॉडल में सख्त सेंसिटिव-कंटेंट फिल्टर जोड़ेगा
- UIDAI और भारत सरकार इस पर नई गाइडलाइंस जारी कर सकती हैं
यूजर्स के लिए चेतावनी
AI टूल्स का उपयोग जिम्मेदारी से करें।
फेक डॉक्यूमेंट बनाना या किसी अन्य की पहचान का दुरुपयोग करना गंभीर अपराध है, जिसकी कानूनी सजा भी है।
