MoMA: China Mobile'in LLM toplama platformu, tek kapının ardında 300'ten fazla model

Kısa cevap

MoMA, China Mobile'in ilk açık ve erişilebilir büyük model toplama platformudur ve 300'den fazla önemli modeli tek konsolda birleştirir: açık kaynak, kapalı kaynak ve kendi Jiutian serisi. Birleşik API ağ geçidi, hepsini çağırmak için yeterlidir; her sağlayıcıya kaydolmak ya da her protokolü ayrı ayrı uyarlamak gerekmez. Akıllı yönlendirme talepleri maliyet, kalite veya denge stratejisine göre dağıtır ve arıza durumunda saniyeler içinde devre geçer. Buna RAG bilgi tabanları, az kodlu ajan geliştirme ve görsel iş akışı düzenlemesi eklenir; yeni hesaplar 25 milyon ücretsiz token alır.

Hedeflenen sorun

Büyük modellerin benimsenmesindeki en yaygın engel neredeyse hiç «bir tanesini kullanabilir miyiz» değildir; asıl soru «hangisi, nasıl entegre edeceğiz ve ne kadara mal olacak» şeklindedir. Her sağlayıcı kendi hesap sistemini, kimlik doğrulama yöntemini ve arayüzünü getirir, dolayısıyla her yeni model bir uyarlama turu daha demektir. Ve üretime geçildiğinde aynı görevin fiyatı modele göre ciddi biçimde değişir; elle seçim yapmak maliyetle kaliteyi nadiren dengeler.

MoMA bu katmanı platform yeteneğine dönüştürür: onlarca sağlayıcı yerine tek bir ağ geçidiyle karşılaşırsınız, model seçimi her seferinde insan kararı olmaktan çıkıp bir politika motoruna geçer ve fatura gerçekten tüketilen token bazında kalem kalem görünür.

Temel yetenekler

Model meydanı. Metin, görü, ses, vektör ve çoklu kip kategorilerinde 300'ten fazla model. Her biri çevrimiçi deneme, API çağrısı, tek tıkla dağıtım ve ince ayar kabul eder; kategori, işlev veya aileye göre filtrelenebilir ya da doğrudan aranabilir.

Birleşik API ağ geçidi. Standartlaştırılmış tek arayüz platformdaki tüm modellere ulaşır. Sağlayıcı protokollerini tek tek uyarlamak ya da ayrı hesaplar tutmak gerekmez.

Akıllı yönlendirme (Jiutian inside). Talebin amacı otomatik analiz edilir ve maliyet, kalite veya denge stratejisi altında en uygun modele eşleştirilir. Tek bir düğüm arızalanırsa saniyeler içinde devre geçilir ve üretim trafiği kesintisiz kalır. Açıklanan rakamlar birim token maliyetinde yaklaşık %30, kaynak kullanımında %50'nin üzerinde azalmadır.

RAG, geri alma ile güçlendirilmiş üretim. Hibrit geri alma ve çok yollu çağırma ile çok kaynaklı bilgi tabanı kurulumu; dağınık iç ve dış bilgi üretim akışına katılır, böylece yanılsama azalır ve doğruluk artar.

Ajan geliştirme. İki düzenleme biçimi — LLM özerk planlaması ve açık iş akışı — derin programlama bilgisi olmadan, kodsuz veya az kodlu ajan oluşturmayı mümkün kılar.

Ajan mağazası. Çeşitli alanlardaki hazır ajanlar hemen denenebilir; geliştirdikleriniz iç yeniden kullanım veya dış dağıtım kanalı olarak yayımlanabilir.

Görsel iş akışı düzenlemesi. Eklentiler, modeller, kod ve bilgi tabanları sürükleyip bırakarak kararlı süreçlere dönüşür; çok adımlı iş otomasyonuna uygundur.

Token ölçümü ve şeffaf faturalandırma. İşlem başına tüketim dökümü, gecikme ve verim izleme; isteğe bağlı kullandıkça öde veya tek seferlik ödeme.

Nasıl başlanır

Birincisi, China Mobile Cloud portalı ecloud.10086.cn üzerindeki MoMA ürün sayfasını açın, hesap oluşturup konsola giriş yapın. İkincisi, model meydanını açıp 300'ten fazla modeli gezin; kategori, işlev veya aileye göre filtreleyin ya da doğrudan arayın. Üçüncüsü, bir model seçip «çevrimiçi deneme» ile anında test edin veya API çağrısını seçerek uç nokta ve anahtarı alın. Dördüncüsü, akıllı yönlendirme modülüne gidin, stratejiyi seçin, model kümesini işaretleyin ve otomatik dağıtım kuralları oluşturun. Beşincisi, kurumsal soru-cevap için RAG modülüne belge yükleyip bilgi tabanı kurun ve hibrit geri almayı yapılandırın. Altıncısı, ajan geliştirme modülünde kendi ajanınızı kurun ve ekibinizin veya dış kullanıcıların kullanması için ajan mağazasında yayımlayın.

Diğer platformlardan farkı

MoMA tek sağlayıcılı model hizmeti yerine «toplama» ekseninde konumlanır. Yaygın bulutlara kıyasla alışılmış yüz küsur yerine 300'ten fazla model bildirir; entegrasyon her şeyi kapsayan tek bir API'ye dayanırken çoğu platform standart API artı SDK ile devam eder; yönlendirmede SLA kademeli ikili mod ve saniyeler içinde devre geçme vurgulanır; altyapı China Mobile Cloud ağı ve 1.500'ün üzerinde uç bilişim merkezine yaslanır, buna operatör sınıfı ağ ve içerik güvenliği denetimleri eşlik eder — gecikme ve uyum konusunda kendine ait bir argüman. Birden çok model arasında maliyet ve kaliteyi dengelemek temel ihtiyacınızsa bir toplayıcı doğrudan değer üretir. Tek bir satıcının model ekosistemine sıkı sıkıya bağlıysanız o satıcının yerel platformu araçlar açısından daha rahat olmayı sürdürür.

Temsilî senaryolar

Kurumsal AI orta platformu. Modele tek giriş noktası birden çok iş hattına hizmet eder ve her ekibin sağlayıcıları ayrı ayrı entegre etmesini engeller.

Bilgi soru-cevabı ve müşteri hizmetleri. RAG kurumsal bilgiyi uydurma içerik yerine dayanaklı cevaplara dönüştürür.

Ajan uygulama geliştirme. Az kodlu düzenlemeyle onay asistanı, veri analizi ajanı gibi dikey uygulamalar hızla üretilir.

AIGC içerik üretimi. Metin, görsel ve video üretim modelleri iş akışlarıyla birleşerek toplu üretim ve yayımlama yapar.

Sektöre özel çözümler. Temel modeller sektör verisiyle ince ayarlanır, ardından RAG ve ajanlarla finans, sağlık veya kamu yönetimi çözümleri oluşturulur.

Karar vermeden önce

Platform, birden çok model çağıran ve faturalandırma ile entegrasyonu birleştirmek isteyen mühendislik veya BT ekiplerine uyar. Sürekli olarak yalnızca tek bir modele ihtiyacınız varsa toplama katmanı daha az kazandırır. Faturalandırma gerçek tokenları döküm halinde ölçse de maliyet hacimle doğrusal büyür: önce ücretsiz kota ile zinciri doğrulayın, yönlendirmenin gerçek sonuçlarına bakıp belirli modellere sabitleyip sabitlemeyeceğinize sonra karar verin. Ve saniyeler içinde devre geçme olsa bile, iş açısından kritik yollar için bir düşürme planı bulundurun.