MoMA: nền tảng gom LLM của China Mobile, hơn 300 mô hình sau một cửa

Câu trả lời ngắn gọn

MoMA là nền tảng gom mô hình lớn mở và dễ tiếp cận đầu tiên của China Mobile, đưa hơn 300 mô hình quan trọng vào một bảng điều khiển: mã nguồn mở, đóng và dòng Jiutian tự phát triển. Chỉ cần một cổng API thống nhất là có thể gọi tất cả, không cần đăng ký với từng nhà cung cấp hay chỉnh từng giao thức. Định tuyến thông minh phân bổ yêu cầu theo chiến lược chi phí, chất lượng hoặc cân bằng, và chuyển đổi trong vài giây khi có sự cố. Thêm vào đó là kho tri thức RAG, phát triển tác tử ít mã và sắp xếp quy trình trực quan; tài khoản mới nhận 25 triệu token miễn phí.

Vấn đề mà nó nhắm tới

Trở ngại phổ biến nhất khi đưa mô hình lớn vào dùng hầu như không bao giờ là «chúng ta có dùng được một mô hình không», mà là «dùng cái nào, kết nối ra sao và tốn bao nhiêu». Mỗi nhà cung cấp mang theo hệ thống tài khoản, cách xác thực và giao diện riêng, nên cứ thêm một mô hình là thêm một vòng chỉnh sửa. Và khi đã chạy thật, cùng một tác vụ lại có giá rất khác nhau tùy mô hình, nên chọn bằng tay khó lòng cân bằng được chi phí với chất lượng.

MoMA biến lớp đó thành năng lực nền tảng: bạn đối diện một cổng thay vì hàng chục nhà cung cấp, việc chọn mô hình chuyển sang một bộ máy chính sách thay vì phải cân nhắc từng trường hợp, và hóa đơn được liệt kê theo lượng token thực tế đã tiêu.

Năng lực chính

Quảng trường mô hình. Hơn 300 mô hình bao phủ các nhóm văn bản, thị giác, giọng nói, vector và đa phương thức. Mỗi mô hình cho phép thử trực tuyến, gọi API, triển khai một nhấp và tinh chỉnh, lọc theo nhóm, chức năng hoặc dòng, hoặc tìm trực tiếp.

Cổng API thống nhất. Một giao diện chuẩn duy nhất vươn tới mọi mô hình trên nền tảng. Không cần chỉnh từng giao thức của nhà cung cấp và cũng không cần duy trì nhiều tài khoản.

Định tuyến thông minh (Jiutian inside). Ý định của yêu cầu được phân tích tự động và ghép với mô hình phù hợp nhất theo chiến lược chi phí, chất lượng hoặc cân bằng. Sự cố ở một nút sẽ kích hoạt chuyển đổi trong vài giây, giữ cho lưu lượng sản xuất không bị ngắt. Con số được công bố là chi phí đơn vị token giảm khoảng 30% và mức chiếm dụng tài nguyên giảm hơn 50%.

RAG, sinh có tăng cường truy xuất. Xây dựng kho tri thức đa nguồn với truy xuất lai và gọi theo nhiều đường: tri thức rải rác bên trong và bên ngoài được đưa vào luồng sinh, giảm hiện tượng bịa đặt và nâng độ chính xác.

Phát triển tác tử. Hai cách sắp xếp — tự lập kế hoạch của LLM và quy trình tường minh — cho phép tạo tác tử không mã hoặc ít mã mà không đòi hỏi kỹ năng lập trình sâu.

Cửa hàng tác tử. Các tác tử có sẵn trong nhiều lĩnh vực có thể thử ngay, và tác tử bạn tạo ra có thể đăng lên như kênh tái sử dụng nội bộ hoặc phân phối bên ngoài.

Sắp xếp quy trình trực quan. Plugin, mô hình, mã và kho tri thức được kết hợp bằng thao tác kéo thả thành các quy trình ổn định, phù hợp tự động hóa nghiệp vụ nhiều bước.

Đo token và tính phí minh bạch. Chi tiết mức tiêu thụ cho từng giao dịch cùng giám sát độ trễ và thông lượng, với lựa chọn trả theo mức dùng hoặc trả một lần.

Cách bắt đầu

Thứ nhất, mở trang sản phẩm MoMA tại ecloud.10086.cn, cổng China Mobile Cloud, đăng ký và đăng nhập vào bảng điều khiển. Thứ hai, mở quảng trường mô hình để xem hơn 300 mô hình, lọc theo nhóm, chức năng hoặc dòng, hoặc tìm trực tiếp. Thứ ba, chọn một mô hình và nhấn «thử trực tuyến» để kiểm tra ngay, hoặc chọn gọi API để nhận endpoint và khóa. Thứ tư, vào module định tuyến thông minh, chọn chiến lược, đánh dấu tập mô hình và tạo quy tắc phân bổ tự động. Thứ năm, nếu cần hỏi đáp theo tri thức doanh nghiệp, hãy tải tài liệu lên module RAG để xây kho tri thức và cấu hình truy xuất lai. Thứ sáu, ráp tác tử của bạn trong module phát triển rồi đăng lên cửa hàng để nhóm hoặc người dùng bên ngoài dùng trực tiếp.

Khác gì so với nền tảng khác

MoMA định vị ở «gom» chứ không phải dịch vụ mô hình đơn lẻ. So với các đám mây thông thường, nó công bố hơn 300 mô hình thay vì khoảng trăm mô hình quen thuộc; tích hợp dựa trên một API duy nhất bao phủ tất cả, trong khi đa số vẫn dùng API chuẩn cộng SDK; định tuyến nhấn mạnh chế độ kép với SLA phân cấp và chuyển đổi trong vài giây; hạ tầng tựa vào mạng China Mobile Cloud và hơn 1.500 trung tâm tính toán thông minh biên, kết hợp mạng cấp nhà mạng và kiểm soát an toàn nội dung — một lập luận riêng về độ trễ và tuân thủ. Nếu nhu cầu cốt lõi của bạn là cân bằng chi phí và chất lượng giữa nhiều mô hình, một nền tảng gom mang lại giá trị trực tiếp. Nếu bạn gắn chặt với hệ sinh thái mô hình của một nhà cung cấp, nền tảng gốc của họ vẫn thuận tay hơn ở bộ công cụ đi kèm.

Kịch bản tiêu biểu

Nền tảng AI trung gian doanh nghiệp. Một đầu vào mô hình duy nhất phục vụ nhiều mạch kinh doanh và tránh để từng nhóm tự kết nối nhà cung cấp.

Hỏi đáp tri thức và chăm sóc khách hàng. RAG biến tri thức doanh nghiệp thành câu trả lời có căn cứ thay vì bịa nội dung.

Phát triển ứng dụng tác tử. Sắp xếp ít mã nhanh chóng tạo ra ứng dụng chuyên sâu như trợ lý phê duyệt hay tác tử phân tích dữ liệu.

Sản xuất nội dung AIGC. Mô hình sinh văn bản, hình ảnh và video kết hợp quy trình để tạo và xuất bản theo lô.

Giải pháp theo ngành. Mô hình nền được tinh chỉnh bằng dữ liệu ngành, rồi RAG và tác tử ghép thêm thành giải pháp tài chính, y tế hoặc hành chính công.

Trước khi quyết định

Nền tảng phù hợp với nhóm kỹ thuật hoặc CNTT gọi nhiều mô hình và muốn thống nhất hóa đơn lẫn tích hợp. Nếu bạn chỉ cần một mô hình ổn định lâu dài, lớp gom mang lại ít hơn. Dù việc tính phí đo token thực tế có chi tiết, chi phí vẫn tăng tuyến tính theo khối lượng: hãy kiểm tra đường dẫn bằng hạn mức miễn phí trước, rồi dựa vào kết quả định tuyến thực tế mới quyết định có khóa vào mô hình cụ thể hay không. Cuối cùng, dù có chuyển đổi trong vài giây, hãy giữ sẵn phương án giảm cấp cho những đường dẫn then chốt của doanh nghiệp.