Google AI Edge Gallery: ใช้ AI สร้างสรรค์บนมือถือได้แม้ไม่มีอินเทอร์เน็ต

ภาพรวมผลิตภัณฑ์

Google AI Edge Gallery เป็นแอปโอเพนซอร์สเชิงทดลองของ Google ที่ให้อุปกรณ์ Android และ iOS รันโมเดล AI สร้างสรรค์บนฮาร์ดแวร์ของตัวเองได้โดยตรง รวมถึง Gemma 3n ต่างจากผู้ช่วยที่ทำงานบนคลาวด์ แอปนี้เก็บการประมวลผลไว้บนมือถือ คุณเลือกดูและดาวน์โหลดโมเดลสำหรับอุปกรณ์จาก Hugging Face แล้วจึงแชต ถามเกี่ยวกับรูปภาพ ถอดเสียงเป็นข้อความ และสร้างโค้ดได้โดยไม่ต้องเชื่อมต่อใด ๆ เพราะข้อมูลไม่ออกจากอุปกรณ์

สำหรับผู้ที่ให้ความสำคัญกับความเป็นส่วนตัวและนักพัฒนาที่ต้องการทดสอบ AI บนอุปกรณ์ แอปนี้เป็นพื้นที่ทดลองที่พร้อมใช้ทันที แผงตัวชี้วัดในตัวแสดงเวลาถึงโทเคนแรก (TTFT) ความเร็วในการถอดรหัส และการใช้หน่วยความจำ ขณะที่การเรียกฟังก์ชันบนอุปกรณ์ช่วยให้โมเดลเรียกใช้เครื่องมือและฟังก์ชันในเครื่องได้

ฟีเจอร์หลัก

• ประมวลผลในเครื่องแบบออฟไลน์: รันโมเดลสร้างสรรค์อย่าง Gemma 3n บนมือถือได้เต็มรูปแบบโดยไม่ต้องออนไลน์ การแชต การตอบคำถาม และการสร้างโค้ดจึงทำงานได้โดยไม่ต้องมีเครือข่าย

• การโต้ตอบหลายรูปแบบ: แชตข้อความ เข้าใจรูปภาพและถามเกี่ยวกับภาพ ถอดไฟล์เสียงเป็นข้อความ และสร้างโค้ด ครบในแอปเดียว

• ค้นหาและจัดการโมเดล: เชื่อมต่อกับ Hugging Face เพื่อเรียกดู กรอง และดาวน์โหลดโมเดลโอเพนซอร์สที่เหมาะกับการรันบนมือถือ

• ออกแบบโดยเน้นความเป็นส่วนตัว: ทุกขั้นตอนของการประมวลผลเกิดขึ้นในเครื่อง เนื้อหาที่ละเอียดอ่อนจึงไม่ต้องอัปโหลดขึ้นคลาวด์

• วัดประสิทธิภาพแบบเรียลไทม์: แดชบอร์ดในตัวแสดงเวลาถึงโทเคนแรก ความเร็วในการถอดรหัส และการใช้หน่วยความจำแบบทันที

• การเรียกฟังก์ชันบนอุปกรณ์: โมเดลสามารถเรียกใช้เครื่องมือและฟังก์ชันในเครื่อง ช่วยให้ทำงานอัตโนมัติได้ฉลาดขึ้น

• รองรับหลายแพลตฟอร์ม: ใช้งานได้ทั้ง Android และ iOS พร้อมประสบการณ์บนมือถือแบบเนทีฟ

วิธีใช้ Google AI Edge Gallery

1. ติดตั้งแอป: ดาวน์โหลด Google AI Edge Gallery บนอุปกรณ์ Android หรือ iOS และตั้งค่าสิทธิ์เบื้องต้นเมื่อเปิดครั้งแรก
2. เลือกดูโมเดล: เปิดรายการโมเดลเพื่อดูโมเดลโอเพนซอร์สจาก Hugging Face ที่เหมาะกับอุปกรณ์ และกรองตามชื่อ ขนาด หรือความสามารถ
3. ดาวน์โหลดโมเดล: เลือกโมเดลอย่าง Gemma 3n แล้วดาวน์โหลดลงอุปกรณ์ ขั้นตอนนี้ต้องใช้อินเทอร์เน็ต หลังจากนั้นโมเดลจะอยู่ในเครื่อง
4. เลือกโหมดงาน: สลับระหว่างแชต AI การถามเกี่ยวกับรูปภาพ การถอดเสียง และการสร้างโค้ด
5. ประมวลผลในเครื่อง: พิมพ์คำสั่ง เพิ่มรูปภาพ หรือเลือกไฟล์เสียง ทั้งหมดประมวลผลบนอุปกรณ์และใช้ได้แม้อยู่ในโหมดเครื่องบิน
6. ตรวจสอบตัวชี้วัด: เปิดแผงประสิทธิภาพเพื่อดูเวลาถึงโทเคนแรก ความเร็วในการถอดรหัส และการใช้หน่วยความจำ
7. ลองเรียกฟังก์ชัน (ทางเลือก): เปิดใช้งานเพื่อให้โมเดลเรียกเครื่องมือในเครื่องสำหรับงานอัตโนมัติที่ซับซ้อนขึ้น

กรณีการใช้งาน

• งานที่ข้อมูลละเอียดอ่อน: สัญญา บันทึกทางการแพทย์ หรือเอกสารภายในที่ไม่ควรอัปโหลดขึ้นคลาวด์ สามารถสรุปและวิเคราะห์บนมือถือได้
• ทดสอบ AI บนอุปกรณ์: นักพัฒนาวัดขนาดโมเดล เวลาตอบสนอง และหน่วยความจำบนฮาร์ดแวร์จริงก่อนเลือกโมเดลไปใช้ในแอป
• สภาพแวดล้อมที่ไม่มีหรือสัญญาณอ่อน: ระหว่างเดินทาง ทำงานภาคสนาม หรืออยู่บนเที่ยวบิน ยังใช้แชต AI และจัดการเอกสารได้
• การเรียนรู้และวิจัย: เปรียบเทียบโมเดลโอเพนซอร์สหลายตัวบนมือถือเครื่องเดียวกัน เพื่อเข้าใจข้อจำกัดจริงของการประมวลผลในเครื่อง

ข้อจำกัด

• แอปนี้เป็นเชิงทดลองและโอเพนซอร์ส ฟีเจอร์และหน้าจออาจเปลี่ยนไประหว่างเวอร์ชัน
• ประสิทธิภาพจริงขึ้นอยู่กับชิปและหน่วยความจำของมือถือ โมเดลที่ใหญ่กว่าต้องการฮาร์ดแวร์ที่แรงขึ้น
• ต้องดาวน์โหลดโมเดลผ่านอินเทอร์เน็ตก่อนใช้งานออฟไลน์ จึงควรเตรียมพื้นที่จัดเก็บให้เพียงพอ
• ด้วยข้อจำกัดของพลังประมวลผลในอุปกรณ์ โมเดลในเครื่องมักด้อยกว่าโมเดลบนคลาวด์ในด้านการคิดเชิงซ้อนและความกว้างของความรู้ จึงควรตรวจสอบผลลัพธ์ที่สำคัญ