सारांश

Google AI Edge Gallery, Google का प्रयोगात्मक ओपन-सोर्स ऐप है जो जनरेटिव AI मॉडल सीधे फ़ोन पर चलाता है। Hugging Face से Gemma 3n जैसा मॉडल डाउनलोड करने के बाद आप बिना कनेक्शन AI चैट, इमेज से जुड़े सवाल, ऑडियो ट्रांसक्रिप्शन और कोड जनरेशन कर सकते हैं, क्योंकि सारी प्रोसेसिंग डिवाइस पर ही रहती है।

Google AI Edge Gallery: फ़ोन में जनरेटिव AI, बिना इंटरनेट भी screenshot

Google AI Edge Gallery: फ़ोन में जनरेटिव AI, बिना इंटरनेट भी

उत्पाद परिचय

Google AI Edge Gallery, Google का एक प्रयोगात्मक ओपन-सोर्स ऐप है जो Android और iOS डिवाइस को जनरेटिव AI मॉडल सीधे अपने हार्डवेयर पर चलाने देता है, जिनमें Gemma 3n भी शामिल है। क्लाउड आधारित सहायकों के विपरीत यह इन्फ़रेंस फ़ोन पर ही रखता है: आप Hugging Face से डिवाइस मॉडल देखकर डाउनलोड करते हैं और उसके बाद बिना किसी कनेक्शन के चैट, इमेज से जुड़े सवाल, ऑडियो ट्रांसक्रिप्शन और कोड जनरेशन कर सकते हैं, क्योंकि डेटा डिवाइस से बाहर नहीं जाता।

प्राइवेसी को महत्व देने वाले उपयोगकर्ताओं और ऑन-डिवाइस AI परखने वाले डेवलपर्स के लिए यह ऐप तैयार प्रयोगशाला की तरह काम करता है। अंतर्निहित मेट्रिक्स पैनल पहले टोकन तक का समय (TTFT), डिकोडिंग गति और मेमोरी उपयोग दिखाता है, जबकि ऑन-डिवाइस फ़ंक्शन कॉलिंग से मॉडल फ़ोन के लोकल टूल और फ़ंक्शन बुला सकता है।

मुख्य विशेषताएँ

  • ऑन-डिवाइस ऑफ़लाइन इन्फ़रेंस: Gemma 3n जैसे जनरेटिव मॉडल फ़ोन पर पूरी तरह ऑफ़लाइन चलाएँ, ताकि बिना नेटवर्क चैट, सवाल-जवाब और कोड जनरेशन काम करें।

  • मल्टीमॉडल इंटरैक्शन: टेक्स्ट चैट, इमेज को समझना और उससे सवाल पूछना, ऑडियो फ़ाइल ट्रांसक्रिप्शन और कोड जनरेशन एक ही ऐप में।

  • मॉडल खोज और प्रबंधन: Hugging Face से जुड़कर मोबाइल डिवाइस के लिए उपयुक्त ओपन मॉडल देखें, फ़िल्टर करें और डाउनलोड करें।

  • प्राइवेसी-फ़र्स्ट डिज़ाइन: इन्फ़रेंस का हर चरण लोकल होता है, इसलिए संवेदनशील सामग्री को क्लाउड पर भेजने की ज़रूरत नहीं।

  • रीयल-टाइम परफ़ॉर्मेंस मेट्रिक्स: अंतर्निहित डैशबोर्ड पहले टोकन तक का समय, डिकोडिंग गति और मेमोरी उपयोग रीयल-टाइम में बताता है।

  • ऑन-डिवाइस फ़ंक्शन कॉलिंग: मॉडल लोकल टूल और फ़ंक्शन बुला सकते हैं, जिससे अधिक स्मार्ट ऑटोमेशन संभव होता है।

  • क्रॉस-प्लेटफ़ॉर्म सपोर्ट: Android और iOS दोनों के लिए उपलब्ध, नेटिव मोबाइल अनुभव के साथ।

  1. ऐप इंस्टॉल करें: Android या iOS डिवाइस पर Google AI Edge Gallery लें और पहली बार खोलते समय अनुमतियों की छोटी सेटिंग पूरी करें।
  2. मॉडल देखें: मॉडल सूची खोलकर Hugging Face के डिवाइस के लिए उपयुक्त ओपन मॉडल देखें और नाम, आकार या क्षमता से फ़िल्टर करें।
  3. मॉडल डाउनलोड करें: Gemma 3n जैसा मॉडल चुनकर डिवाइस पर डाउनलोड करें। इस चरण में कनेक्शन चाहिए; इसके बाद मॉडल फ़ोन पर रहता है।
  4. टास्क मोड चुनें: AI चैट, इमेज सवाल, ऑडियो ट्रांसक्रिप्शन और कोड जनरेशन के बीच बदलें।
  5. लोकल इन्फ़रेंस चलाएँ: प्रॉम्प्ट लिखें, इमेज जोड़ें या ऑडियो फ़ाइल चुनें। सब कुछ डिवाइस पर प्रोसेस होता है और एयरप्लेन मोड में भी चलता है।
  6. मेट्रिक्स देखें: परफ़ॉर्मेंस पैनल खोलकर पहले टोकन तक का समय, डिकोडिंग गति और मेमोरी उपयोग देखें।
  7. फ़ंक्शन कॉलिंग आज़माएँ (वैकल्पिक): इसे चालू करें ताकि मॉडल जटिल ऑटोमेशन में लोकल टूल बुला सके।

उपयोग के परिदृश्य

  • संवेदनशील काम: अनुबंध, मेडिकल नोट्स या आंतरिक दस्तावेज़ जिन्हें क्लाउड पर नहीं भेजना चाहिए, फ़ोन पर ही सारांशित और विश्लेषित किए जा सकते हैं।
  • ऑन-डिवाइस AI का परीक्षण: डेवलपर असली हार्डवेयर पर मॉडल का आकार, विलंब और मेमोरी मापकर ऐप के लिए चुनाव कर सकते हैं।
  • बिना नेटवर्क या कमज़ोर नेटवर्क: यात्रा, फ़ील्ड वर्क या फ़्लाइट में जहाँ कनेक्शन नहीं है, वहाँ भी AI चैट और दस्तावेज़ प्रोसेसिंग संभव है।
  • सीखना और शोध: एक ही फ़ोन पर अलग-अलग ओपन मॉडल की तुलना करके ऑन-डिवाइस इन्फ़रेंस की वास्तविक सीमाएँ समझें।

सीमाएँ

  • ऐप प्रयोगात्मक और ओपन-सोर्स है, इसलिए फ़ीचर और इंटरफ़ेस संस्करणों के साथ बदल सकते हैं।
  • असली प्रदर्शन फ़ोन के चिपसेट और मेमोरी पर निर्भर है; बड़े मॉडल के लिए ज़्यादा शक्तिशाली हार्डवेयर चाहिए।
  • ऑफ़लाइन उपयोग से पहले मॉडल कनेक्शन से डाउनलोड करना ज़रूरी है, इसलिए स्टोरेज स्थान पहले से रखें।
  • डिवाइस की कंप्यूट क्षमता के कारण ऑन-डिवाइस मॉडल जटिल तर्क और ज्ञान की व्यापकता में क्लाउड मॉडल से पीछे रहते हैं, इसलिए महत्वपूर्ण परिणाम जाँचें।

अक्सर पूछे जाने वाले प्रश्न

Google AI Edge Gallery क्या है?

यह Google का प्रयोगात्मक ओपन-सोर्स ऐप है जो Gemma 3n जैसे जनरेटिव AI मॉडल Android और iOS पर लोकल रूप से चलाता है, जिससे बिना कनेक्शन चैट, इमेज सवाल, ऑडियो ट्रांसक्रिप्शन और कोड जनरेशन संभव होता है।

क्या यह बिना इंटरनेट चलता है?

हाँ। Hugging Face से डाउनलोड होने के बाद मॉडल डिवाइस पर रहता है और इन्फ़रेंस ऑफ़लाइन चलता है; कनेक्शन केवल मॉडल देखने और डाउनलोड करने के लिए चाहिए।

कौन से डिवाइस समर्थित हैं?

Android और iOS। अनुभव डिवाइस के चिपसेट और मेमोरी पर निर्भर करता है, और बड़े मॉडल के लिए ज़्यादा शक्तिशाली हार्डवेयर चाहिए।

क्या मेरा डेटा अपलोड होता है?

नहीं। ऐप प्राइवेसी-फ़र्स्ट तरीके से बनाया गया है: इन्फ़रेंस और प्रोसेसिंग डिवाइस पर होती है, इसलिए संवेदनशील सामग्री बाहर भेजने की ज़रूरत नहीं।