Moli Fangzhou (Gitee AI): เปลี่ยนโมเดลพื้นฐานให้เป็นแอปที่พร้อมใช้งานจริง

Moli Fangzhou หรือที่รู้จักในชื่อ Gitee AI คือแพลตฟอร์มสร้างแอป AI ร่วมกันของ Gitee รวมสามสิ่งไว้ที่เดียว ตลาดโมเดลที่มีโมเดลหลักกว่า 70 ตัวอยู่หลังอินเทอร์เฟซมาตรฐาน การสร้างแอปแบบไม่ใช้เซิร์ฟเวอร์ที่ไม่ต้องเขียนโค้ด และการติดตั้งแบบส่วนตัว คุณค่าสำหรับนักพัฒนาคือไม่ใช่รายการโมเดลที่เพิ่มขึ้น แต่คือการที่แรงเสียดทานระหว่างการเรียก API ที่ทำงานได้กับแอปที่เปิดให้บริการจริงหายไป

อุปสรรคจริงในการนำโมเดลพื้นฐานขึ้นโปรดักชันคือความกระจัดกระจาย โมเดลมาจากผู้ให้บริการต่างกันด้วยอินเทอร์เฟซต่างกัน การอนุมานต้องมีที่โฮสต์ และการเปิดบริการต้องจัดการเซิร์ฟเวอร์และการทำงานพร้อมกัน แพลตฟอร์มนี้รวมชั้นเหล่านี้เข้าด้วยกัน ฝั่งโมเดลมีอินเทอร์เฟซมาตรฐาน ฝั่งติดตั้งทำงานแบบไม่ใช้เซิร์ฟเวอร์ ฝั่งต้นทุนระบุว่าต้นทุนการอนุมานลดได้ถึง 90 เปอร์เซ็นต์ และฝั่งฮาร์ดแวร์ปรับให้เข้ากับชิป AI จีนอย่าง Ascend, Iluvatar และ MetaX พร้อมรองรับ Nvidia และสภาพแวดล้อมสากลอื่น ๆ

นอกจากบริการโมเดล แพลตฟอร์มยังรับบทสร้างร่วมกัน แอปที่สร้างเสร็จสามารถขึ้นทะเบียน จัดแสดง และสร้างรายได้ ปิดวงจรระหว่างนักพัฒนาและผู้ใช้ สำหรับองค์กรมีการปรับแต่งโมเดลด้วยการปรับละเอียด การเรียนรู้แบบเสริมแรง และการสลับพารามิเตอร์ พร้อมการติดตั้งแบบส่วนตัวที่ครอบคลุมบริการอนุมาน แพลตฟอร์มแบบไม่ใช้เซิร์ฟเวอร์ และชุดจัดการโมเดล MaaS ครบวงจร ซึ่งส่งมอบเป็นอุปกรณ์รวมฮาร์ดแวร์และซอฟต์แวร์ได้

สิ่งที่แพลตฟอร์มมีให้

ตลาดโมเดล

อินเทอร์เฟซมาตรฐานเหนือโมเดลหลักกว่า 70 ตัว ครอบคลุมการสร้างข้อความ การสร้างภาพ การเข้าใจความหมาย และงานหลายรูปแบบ ใช้ได้ทั้งการเรียกแบบไม่ใช้เซิร์ฟเวอร์และการติดตั้งแบบส่วนตัว อินเทอร์เฟซเดียวหมายความว่าเปลี่ยนโมเดลแล้วไม่ต้องเขียนชั้นเรียกใหม่

การสร้างแอปแบบวิชวล

หน้าจอกราฟิกสำหรับตั้งชื่อ คำอธิบาย อินพุตและเอาต์พุต เชื่อมโมเดลที่เลือก แล้วกดสร้างเพื่อติดตั้ง ไม่ต้องเขียนโค้ดในทุกขั้น

รองรับฮาร์ดแวร์กว้าง

ปรับให้เข้ากับชิป AI จีนอย่าง Ascend, Iluvatar และ MetaX พร้อมรองรับ Nvidia และฮาร์ดแวร์สากลอื่น การเลือกชิปจึงไม่ถูกล็อกกับห่วงโซ่อุปทานเดียว

ลดต้นทุนการอนุมาน

สถาปัตยกรรมแบบไม่ใช้เซิร์ฟเวอร์ลดภาระการพัฒนาและการติดตั้ง ผู้ให้บริการระบุว่าต้นทุนการอนุมานลดได้ถึง 90 เปอร์เซ็นต์ ซึ่งสำคัญที่สุดกับแอปที่มีทราฟฟิกน้อย เพราะกำลังที่ว่างอยู่ไม่กินเงิน

การสร้างแอปร่วมกัน

เส้นทางครบตั้งแต่พัฒนาถึงเผยแพร่ จัดแสดง และสร้างรายได้ สิ่งที่สร้างจึงมีที่ให้ถูกเห็นและมีทางสร้างรายได้

ปรับแต่งโมเดล

การปรับละเอียด การเรียนรู้แบบเสริมแรง และการสลับพารามิเตอร์ช่วยให้องค์กรปั้นโมเดลทั่วไปให้เข้ากับธุรกิจของตน

โหลด LoRA แบบไดนามิก

พารามิเตอร์ขนาดเบาสลับได้ระหว่างรัน ดังนั้นการปรับเฉพาะบุคคลไม่ต้องหยุดและติดตั้งโมเดลทั้งก้อนใหม่

ประกอบความสามารถ

การจัดหลาย API และการเรียกแบบเวิร์กโฟลว์เชื่อมการค้นคืน การสร้าง และการเข้าใจเป็นไปป์ไลน์เดียว แทนที่จะให้โมเดลเดียวรับทุกอย่าง

ช่องทางเสถียรพร้อมใช้งานสูง

โทเคน API ผูกแยกและรองรับการเรียกพร้อมกันสูง มีแคชหลายระดับและการใช้โมเดลซ้ำเพื่อย่นเวลาตอบสนอง

ติดตั้งแบบส่วนตัว

ครอบคลุมบริการอนุมาน แพลตฟอร์มแบบไม่ใช้เซิร์ฟเวอร์ และชุดจัดการ MaaS ครบวงจร ส่งมอบเป็นอุปกรณ์รวมฮาร์ดแวร์และซอฟต์แวร์สำหรับองค์กรได้

การอบรมนักพัฒนา

กิจกรรมเทคนิคและค่ายปฏิบัติตามสถานการณ์สร้างพื้นที่เรียนรู้และแลกเปลี่ยน และเป็นเวทีให้องค์กรแสดงเทคโนโลยีของตน

วิธีใช้งาน

1. เปิด ai.gitee.com แล้วสมัครด้วยอีเมลหรือเบอร์โทร หรือเข้าสู่ระบบด้วยบัญชี Gitee โดยตรง
2. กรอกข้อมูลส่วนตัวหรือองค์กรตามที่ระบบแนะนำ ซึ่งจะปลดล็อกบริการอื่น ๆ
3. สำรวจตลาดโมเดลและคัดตัวเลือกตามประเภทงาน ข้อความ ภาพ การเข้าใจความหมาย หรือหลายรูปแบบ
4. สร้างแอปและรับคีย์ API ซึ่งเป็นข้อมูลรับรองสำหรับเรียกอินเทอร์เฟซ
5. อ่านเอกสาร API ของโมเดลเรื่องพารามิเตอร์และโครงสร้างการตอบกลับ แล้วเรียก HTTP ครั้งแรกด้วยคีย์
6. ถ้าไม่อยากเขียนโค้ด ให้ไปที่การสร้างแบบวิชวล เปิดหน้าสร้างแอป ตั้งชื่อ คำอธิบาย อินพุตและเอาต์พุต เชื่อมโมเดลและกำหนดพารามิเตอร์การเรียก
7. กดสร้าง แพลตฟอร์มจะติดตั้งและเผยแพร่ให้เอง จากนั้นไปต่อสู่การจัดแสดงและสร้างรายได้

เหมาะกับงานแบบไหน

• บริการลูกค้าและผู้ช่วย: ฝึกโมเดลเฉพาะบนฐานความรู้ เอกสารผลิตภัณฑ์ และคู่มือการใช้งาน เชื่อมโมเดลเสียงเมื่อจำเป็น
• ภาครัฐ: การจัดการคำขออัจฉริยะ ศาลบนคลาวด์ และงานที่ต้องการการปฏิบัติตามกฎและการติดตั้งแบบส่วนตัวอย่างเข้มงวด
• ไลฟ์คอมเมิร์ซและอีคอมเมิร์ซ: สร้างเนื้อหาการตลาด อ่านความสนใจและอารมณ์ผู้ใช้ แล้วปรับข้อเสนอให้ตรง
• การผลิตคอนเทนต์: ผลิตข้อความ ภาพ และวิดีโอเป็นชุดสำหรับทีมโฆษณา สื่อ และครีเอทีฟ
• วิเคราะห์ข้อมูลและงานสำนักงาน: สอบถามและวิเคราะห์ด้วยภาษาธรรมชาติ หรือทำงานอัตโนมัติทั้งเอกสาร บันทึกประชุม และการจัดการงาน
• นักพัฒนาอิสระและทีมเล็ก: ทดสอบไอเดียผลิตภัณฑ์ AI โดยยังไม่ต้องจ่ายค่าเซิร์ฟเวอร์และปฏิบัติการ

ข้อจำกัดที่ควรรู้

• ข้อมูลสาธารณะไม่ระบุราคาต่อโมเดล งบประมาณจึงต้องสร้างจากปริมาณใช้จริงที่วัดในคอนโซล ไม่ใช่จากตัวเลข 90 เปอร์เซ็นต์
• แบบไม่ใช้เซิร์ฟเวอร์เหมาะกับทราฟฟิกที่ขึ้นลง แต่กับงานเรียลไทม์ที่ไวต่อความหน่วง ต้องวัดการเริ่มแบบเย็นและคิว
• การปรับแต่งด้วยการปรับละเอียดหรือการเรียนรู้แบบเสริมแรงมักต้องใช้บัญชีองค์กรและข้อมูลที่เตรียมไว้ นักพัฒนาบุคคลอาจเข้าไม่ถึงโดยตรง
• การติดตั้งแบบส่วนตัวและการส่งมอบเป็นอุปกรณ์เป็นการตกลงระดับองค์กรที่มีขั้นตอน commercial และการจัดซื้อฮาร์ดแวร์ อยู่นอกการสมัครด้วยตนเอง
• แพลตฟอร์มรวมโมเดลของบุคคลที่สามซึ่งมีขอบเขตความสามารถ เงื่อนไขสัญญาอนุญาต และนโยบายข้อมูลต่างกัน จึงต้องตรวจแต่ละตัวเลือกเอง
• การเผยแพร่และสร้างรายได้ขึ้นกับทราฟฟิกของแพลตฟอร์มและกติกาการแบ่งรายได้ รายได้จึงตามคุณภาพและการโปรโมต ไม่ใช่แค่การเผยแพร่

คำถามที่พบบ่อย

ต่างจากการเรียก API ของผู้ให้บริการรายเดียวโดยตรงอย่างไร

การเชื่อมกับผู้ให้บริการรายเดียวบังคับให้เขียนชั้นเรียกใหม่ทุกครั้งที่เปลี่ยนโมเดล Moli Fangzhou วางโมเดลกว่า 70 ตัวไว้หลังอินเทอร์เฟซมาตรฐาน การสลับจึงถูก และเพิ่มการติดตั้งแบบไม่ใช้เซิร์ฟเวอร์ การเผยแพร่แอป และการส่งมอบแบบส่วนตัว ครอบคลุมตั้งแต่โมเดลถึงแอป

ใช้ได้ไหมถ้าเขียนโปรแกรมไม่เป็น

ได้ การสร้างแบบวิชวลมีหน้าจอกราฟิกให้ตั้งชื่อ คำอธิบาย อินพุตและเอาต์พุต เชื่อมโมเดลแล้วกดสร้างเพื่อเผยแพร่ ไม่ต้องเขียนโค้ด ส่วนเส้นทาง API ยังเปิดไว้สำหรับการควบคุมละเอียดขึ้น

รองรับชิปจีนมากแค่ไหน

แพลตฟอร์มปรับให้เข้ากับชิป AI จีนอย่าง Ascend, Iluvatar และ MetaX และรองรับ Nvidia กับฮาร์ดแวร์สากลอื่น ประสิทธิภาพของโมเดลหนึ่งบนชิปหนึ่งยังต้องวัดในสถานการณ์ของคุณเอง

ติดตั้งแบบส่วนตัวได้ไหมเมื่อข้อมูลอ่อนไหว

ได้ การติดตั้งแบบส่วนตัวครอบคลุมบริการอนุมาน แพลตฟอร์มแบบไม่ใช้เซิร์ฟเวอร์ และชุด MaaS ครบวงจร และส่งมอบเป็นอุปกรณ์รวมฮาร์ดแวร์และซอฟต์แวร์สำหรับสภาพแวดล้อมที่ข้อมูลออกจากเครือข่ายภายในไม่ได้