Apple faces new AI problem: Apple को नई AI समस्या का सामना करना पड़ रहा है, Explicit Images बनाने वाले ऐप्स को हटाने के लिए होना पड़ा मजबूर

Apple faces new AI problem: Apple अपने AI टूल का निर्माण कर रहा है जिसका खुलासा जून में WWDC 2024 के मुख्य वक्ता के रूप में किया जाएगा, लेकिन कंपनी को ऐप स्टोर पर प्रमुख AI समस्याओं का भी सामना करना पड़ रहा है। कथित तौर पर ऐप्पल(Apple) ने कई ऐप्स को हटा दिया है जिनका उपयोग एआई-जनरेटेड स्पष्ट छवियां(AI-generated clear images) बनाने के लिए किया जा सकता है।

वास्तव में, रिपोर्टों का दावा है कि ये ऐप्स किसी व्यक्ति की सहमति के बिना उसकी स्पष्ट एआई छवियां(Clear AI Images) बनाने में सक्षम थे। Apple के पास आम तौर पर नापाक गतिविधियाँ करने वाले ऐप्स के खिलाफ एक सख्त नीति है, लेकिन कभी-कभी हम देखते हैं कि ऐप्स अन्य स्रोतों के माध्यम से इसकी जाँच को दरकिनार कर देते हैं।

ऐप स्टोर(App Store) के साथ ऐप्पल एआई-जनरेटेड इमेज(Apple AI-generated images) की समस्या: ये है कहानी

एआई तकनीक(AI technology) के आगमन के साथ, ऐप्स सभी बुनियादी नियमों का उल्लंघन कर रहे हैं और उपयोगकर्ताओं को एआई-आधारित संपादन(AI-based editing), फेस स्वैप(Face Swap) और बहुत कुछ के वादे के साथ लुभा रहे हैं। Apple ने ऐप स्टोर(App Store) पर इनमें से कुछ ऐप्स की खोज की जिनकी मार्केटिंग(Marketing) इंस्टाग्राम पर विज्ञापनों के माध्यम से की जा रही थी।

इन सुविधाओं के होने से Apps को अपने फ़ोन की गैलरी तक पहुंच प्राप्त करने की अनुमति(Permission) मिलती है, जिसका बाद में उनकी स्पष्ट छवियां(Clear Images) बनाने के लिए दुरुपयोग किया जाता था। Apple की इन जैसे ऐप्स के खिलाफ सख्त नीति है, खासकर यदि वे अपने उपयोगकर्ता की गोपनीयता(User Privacy) का दुरुपयोग करते हैं।

हालाँकि, कंपनी ने इस रिपोर्ट में विवरण साझा करने के बाद ही इन दोषी ऐप्स पर कार्रवाई की। ऐप स्टोर की सुरक्षा जांच ठोस होती है लेकिन इस तरह के मामले ऐप्पल के तंत्र को सवालों के घेरे में लाते हैं, खासकर जब जनता के बीच एआई का बड़ा खतरा हो।

अन्य प्लेटफार्मों के माध्यम से प्रचारित ऐप्स को क्रैक करना कठिन है, लेकिन यह भी उतना ही महत्वपूर्ण है कि इंस्टाग्राम और अन्य विज्ञापन-होस्टिंग ऐप्स भी उस प्रकार की सामग्री पर नज़र रखें, विशेष रूप से एआई-जनरेटेड(AI-Generated) या संबंधित सामग्री जो उसके उपयोगकर्ताओं को भेजी जाती है। इस तरह की घटनाएं सामग्री के साथ-साथ एआई पारिस्थितिकी तंत्र(AI ecosystem) के दायरे में काम करने वाले ऐप्स को लेबल करने की तत्काल आवश्यकता की ओर भी इशारा करती हैं।