MoMA: platforma agregacji LLM China Mobile, ponad 300 modeli za jednymi drzwiami

Krótka odpowiedź

MoMA to pierwsza otwarta i dostępna platforma agregacji wielkich modeli China Mobile, która w jednej konsoli gromadzi ponad 300 istotnych modeli: open source, zamknięte i własną serię Jiutian. Ujednolicony gateway API wystarcza, by wywołać je wszystkie, bez rejestracji u każdego dostawcy i bez dopasowywania każdego protokołu z osobna. Inteligentne trasowanie rozdziela żądania według strategii kosztu, jakości lub równowagi i przełącza się w ciągu sekund przy awarii. Do tego dochodzą bazy wiedzy RAG, tworzenie agentów przy niewielkiej ilości kodu i wizualna orkiestracja przepływów; nowe konta otrzymują 25 milionów darmowych tokenów.

Jaki problem rozwiązuje

Najczęstsza przeszkoda we wdrażaniu wielkich modeli prawie nigdy nie brzmi „czy możemy użyć jakiegoś", lecz „którego, jak go podłączyć i ile to będzie kosztować". Każdy dostawca ma własny system kont, własną metodę uwierzytelniania i własny interfejs, więc każdy nowy model to kolejna runda adaptacji. A po uruchomieniu okazuje się, że to samo zadanie kosztuje bardzo różnie w zależności od modelu, i ręczny wybór rzadko dobrze równoważy koszt z jakością.

MoMA zamienia tę warstwę w zdolność platformy: stajesz przed jednym gatewayem zamiast przed dziesiątkami dostawców, wybór modelu przechodzi do silnika polityk zamiast oceny przypadka po przypadku, a faktura jest rozbita na tokeny faktycznie zużyte.

Kluczowe możliwości

Plac modeli. Ponad 300 modeli w kategoriach tekstu, obrazu, mowy, wektorów i multimodalności. Każdy przyjmuje test online, wywołanie API, wdrożenie jednym kliknięciem i dostrajanie; można filtrować według kategorii, funkcji lub rodziny albo wyszukiwać bezpośrednio.

Ujednolicony gateway API. Jeden wystandaryzowany interfejs sięga wszystkich modeli na platformie. Nie trzeba dopasowywać protokołów dostawców pojedynczo ani utrzymywać osobnych kont.

Inteligentne trasowanie (Jiutian inside). Zamiar żądania jest analizowany automatycznie i dopasowywany do najwłaściwszego modelu w ramach strategii kosztu, jakości lub równowagi. Awaria pojedynczego węzła uruchamia przełączenie w ciągu sekund, utrzymując ciągłość ruchu produkcyjnego. Podawane liczby to około 30% niższy koszt jednostkowy tokenu i ponad 50% mniejsze zużycie zasobów.

RAG, generowanie wspomagane wyszukiwaniem. Budowa baz wiedzy z wielu źródeł z wyszukiwaniem hybrydowym i przypominaniem wieloma ścieżkami: rozproszona wiedza wewnętrzna i zewnętrzna trafia do generowania, co ogranicza halucynacje i podnosi trafność.

Tworzenie agentów. Dwa sposoby orkiestracji — autonomiczne planowanie LLM i jawny przepływ pracy — pozwalają budować agenty bez kodu lub przy niewielkiej ilości kodu, bez głębokich umiejętności programistycznych.

Sklep z agentami. Gotowe agenty z różnych dziedzin można wypróbować od razu, a stworzone przez siebie opublikować jako kanał wewnętrznego ponownego użycia lub zewnętrznej dystrybucji.

Wizualna orkiestracja przepływów. Wtyczki, modele, kod i bazy wiedzy łączy się metodą przeciągnij i upuść w stabilne procesy, odpowiednie dla wieloetapowej automatyzacji biznesowej.

Pomiar tokenów i przejrzyste rozliczenia. Szczegóły zużycia dla każdej transakcji oraz monitorowanie opóźnień i przepustowości, do wyboru rozliczenie za użycie albo jednorazowe.

Jak zacząć

Po pierwsze, otwórz stronę produktu MoMA na ecloud.10086.cn, portalu China Mobile Cloud, złóż konto i zaloguj się do konsoli. Po drugie, otwórz plac modeli i przejrzyj ponad 300 dostępnych, filtrując według kategorii, funkcji lub rodziny, albo wyszukaj bezpośrednio. Po trzecie, wybierz model i kliknij „test online", by sprawdzić go natychmiast, albo wybierz wywołanie API, by uzyskać endpoint i klucz. Po czwarte, wejdź do modułu inteligentnego trasowania, wybierz strategię, zaznacz zestaw modeli i utwórz reguły automatycznego podziału. Po piąte, w razie potrzeby pytań i odpowiedzi firmowych wgraj dokumenty w module RAG, zbuduj bazę wiedzy i skonfiguruj wyszukiwanie hybrydowe. Po szóste, złóż własnego agenta w module tworzenia i opublikuj go w sklepie, aby zespół lub użytkownicy zewnętrzni mogli z niego korzystać.

Czym różni się od innych platform

MoMA stawia na agregację, nie na serwis jednego dostawcy. W porównaniu z typowymi chmurami deklaruje ponad 300 modeli wobec zwyczajowej setki z okładem; integracja opiera się na jednym API obejmującym wszystko, podczas gdy większość zostaje przy standardowym API z SDK; trasowanie akcentuje tryb podwójny z poziomami SLA i przełączaniem w sekundy; infrastruktura wspiera się na sieci China Mobile Cloud i ponad 1.500 brzegowych centrów obliczeniowych, w parze z siecią klasy operatorskiej i kontrolą bezpieczeństwa treści — własny argument w kwestii opóźnień i zgodności. Jeśli główną potrzebą jest równoważenie kosztu i jakości między modelami, agregator daje bezpośrednią wartość. Jeśli jesteś silnie związany z ekosystemem jednego dostawcy, jego natywna platforma wciąż będzie wygodniejsza w narzędziach.

Scenariusze reprezentatywne

Korporacyjna platforma AI pośrednia. Jeden punkt wejścia do modeli obsługuje kilka linii biznesowych i oszczędza każdemu zespołowi osobnej integracji dostawców.

Pytania i odpowiedzi oraz obsługa klienta. RAG zamienia wiedzę firmy w odpowiedzi oparte na źródłach, zamiast wymyślać treść.

Tworzenie aplikacji agentowych. Orkiestracja przy niewielkiej ilości kodu szybko daje aplikacje pionowe, takie jak asystent akceptacji czy agent analizy danych.

Produkcja treści AIGC. Modele tekstu, obrazu i wideo łączone z przepływami tworzą i publikują partiami.

Rozwiązania branżowe. Modele bazowe są dostrajane na danych branżowych, a RAG i agenci dopełniają je do rozwiązań dla finansów, zdrowia lub administracji.

Przed decyzją

Platforma pasuje do zespołów inżynierskich lub IT, które wywołują kilka modeli i chcą ujednolicić rozliczenia oraz integrację. Jeśli stale potrzebujesz tylko jednego modelu, warstwa agregacji daje mniej. Choć rozliczenia mierzą rzeczywiste tokeny z wyszczególnieniem, koszt rośnie liniowo wraz z wolumenem: najpierw sprawdź łańcuch w ramach darmowego limitu, a potem na podstawie rzeczywistych wyników trasowania zdecyduj, czy przypiąć konkretne modele. I mimo przełączania w sekundy, zachowaj plan degradacji dla krytycznych ścieżek biznesowych.