Moli Fangzhou (Gitee AI): biến mô hình nền tảng thành ứng dụng sẵn sàng phát hành

Moli Fangzhou, được biết đến với tên Gitee AI, là nền tảng đồng sáng tạo ứng dụng AI của Gitee. Nó gom ba thứ vào một chỗ: chợ mô hình với hơn 70 mô hình chủ lực sau một giao diện chuẩn hóa, khả năng dựng ứng dụng không máy chủ không cần viết mã, và triển khai riêng tư. Với nhà phát triển, giá trị không nằm ở một danh sách mô hình nữa, mà ở chỗ ma sát giữa một lời gọi API đang chạy và một ứng dụng đang sống biến mất.

Rào cản thực tế khi đưa mô hình nền tảng vào vận hành là sự phân mảnh: mô hình đến từ nhiều nhà cung cấp với giao diện khác nhau, suy luận phải tự dựng nơi chạy, và để lên sóng còn phải quản máy chủ cùng khả năng xử lý đồng thời. Nền tảng gộp các tầng đó lại. Phía mô hình cung cấp giao diện chuẩn, phía triển khai chạy không máy chủ, phía chi phí tuyên bố chi phí suy luận có thể giảm tới 90 phần trăm, và phía phần cứng được điều chỉnh cho chip AI Trung Quốc như Ascend, Iluvatar và MetaX, đồng thời hỗ trợ Nvidia và các môi trường quốc tế khác.

Ngoài dịch vụ mô hình, nền tảng còn đóng vai trò đồng sáng tạo: ứng dụng sau khi dựng xong có thể được đưa lên danh mục, trưng bày và tạo doanh thu, khép kín vòng giữa nhà phát triển và người dùng. Với doanh nghiệp có tinh chỉnh, học tăng cường và hoán đổi tham số để tùy biến mô hình, cùng triển khai riêng tư bao trùm dịch vụ suy luận, nền tảng không máy chủ và toàn bộ ngăn xếp quản lý mô hình MaaS, có thể bàn giao dưới dạng thiết bị tích hợp phần cứng và phần mềm.

Nền tảng cung cấp gì

Chợ mô hình

Giao diện chuẩn hóa cho hơn 70 mô hình chủ lực, bao gồm tạo văn bản, tạo hình ảnh, hiểu ngữ nghĩa và tác vụ đa phương thức, dùng được cả dạng gọi không máy chủ lẫn triển khai riêng tư. Một giao diện duy nhất nghĩa là đổi mô hình không phải viết lại tầng gọi.

Dựng ứng dụng trực quan

Giao diện đồ họa để đặt tên, mô tả, đầu vào và đầu ra, nối mô hình đã chọn rồi bấm tạo là triển khai. Không cần mã ở bất kỳ bước nào.

Tương thích phần cứng rộng

Điều chỉnh cho chip AI Trung Quốc như Ascend, Iluvatar và MetaX, đồng thời hỗ trợ Nvidia và phần cứng quốc tế khác, nên việc chọn chip không bị khóa vào một chuỗi cung ứng.

Giảm chi phí suy luận

Kiến trúc không máy chủ giảm gánh nặng phát triển và triển khai, nhà cung cấp nêu mức giảm tới 90 phần trăm. Điều này quan trọng nhất với ứng dụng ít lưu lượng, vì công suất nhàn rỗi không tốn tiền.

Đồng sáng tạo ứng dụng

Trọn đường từ phát triển đến phát hành, trưng bày và tạo doanh thu, để thứ được dựng có nơi được nhìn thấy và có lối tạo thu nhập.

Tùy biến mô hình

Tinh chỉnh, học tăng cường và hoán đổi tham số giúp doanh nghiệp uốn mô hình phổ thông theo đúng nghiệp vụ của mình.

Nạp LoRA động

Tham số nhẹ có thể hoán đổi nóng khi đang chạy, nên cá nhân hóa không buộc phải dừng và triển khai lại toàn bộ mô hình.

Kết hợp năng lực

Điều phối nhiều API và gọi kiểu luồng công việc nối truy xuất, tạo sinh và hiểu thành một đường ống, thay vì đòi một mô hình làm hết.

Kênh ổn định độ khả dụng cao

Token API được gắn riêng và chịu được gọi đồng thời cao, có bộ nhớ đệm nhiều tầng và tái dùng mô hình để rút ngắn thời gian phản hồi.

Triển khai riêng tư

Bao trùm dịch vụ suy luận, nền tảng không máy chủ và toàn bộ ngăn xếp MaaS, có thể bàn giao dưới dạng thiết bị tích hợp phần cứng và phần mềm cho môi trường doanh nghiệp.

Đào tạo nhà phát triển

Các buổi kỹ thuật và trại thực hành theo tình huống tạo không gian học và trao đổi, đồng thời cho doanh nghiệp sân khấu giới thiệu công nghệ của mình.

Cách sử dụng

1. Mở ai.gitee.com và đăng ký bằng email hoặc số điện thoại, hoặc đăng nhập trực tiếp bằng tài khoản Gitee.
2. Hoàn thiện hồ sơ cá nhân hoặc doanh nghiệp theo hướng dẫn, việc này mở khóa các dịch vụ còn lại.
3. Xem chợ mô hình và lọc ứng viên theo loại tác vụ: văn bản, hình ảnh, hiểu ngữ nghĩa hoặc đa phương thức.
4. Tạo ứng dụng và lấy khóa API, đây là thông tin xác thực để gọi giao diện.
5. Đọc tài liệu API của mô hình để nắm tham số và cấu trúc phản hồi, rồi thực hiện lời gọi HTTP đầu tiên kèm khóa.
6. Nếu không muốn viết mã, chuyển sang dựng trực quan: mở trình dựng ứng dụng, đặt tên, mô tả, đầu vào và đầu ra, nối mô hình và đặt tham số gọi.
7. Bấm tạo, nền tảng tự triển khai và phát hành ứng dụng, sau đó có thể đi tiếp tới trưng bày và tạo doanh thu.

Phù hợp với việc gì

• Chăm sóc khách hàng và trợ lý: huấn luyện mô hình riêng trên kho tri thức, tài liệu sản phẩm và hướng dẫn sử dụng, gắn thêm mô hình giọng nói khi cần.
• Khu vực công: xử lý hồ sơ thông minh, tòa án trên đám mây và công việc có yêu cầu nghiêm ngặt về tuân thủ và triển khai riêng tư.
• Live commerce và thương mại điện tử: tạo nội dung tiếp thị, đọc mối quan tâm và cảm xúc người dùng rồi nhắm đề xuất.
• Sản xuất nội dung: tạo hàng loạt văn bản, hình ảnh và video cho đội quảng cáo, truyền thông và sáng tạo.
• Phân tích dữ liệu và văn phòng: truy vấn và phân tích bằng ngôn ngữ tự nhiên, hoặc tự động hóa tài liệu, biên bản họp và quản lý công việc.
• Nhà phát triển độc lập và nhóm nhỏ: kiểm chứng ý tưởng sản phẩm AI mà chưa phải trả tiền máy chủ và vận hành.

Giới hạn cần biết

• Tài liệu công khai không nêu giá từng mô hình, nên ngân sách phải dựng từ mức tiêu thụ thực đo trong bảng điều khiển, không dựa vào con số 90 phần trăm.
• Không máy chủ hợp với lưu lượng lên xuống thất thường, nhưng với tải thời gian thực nhạy cảm độ trễ, khởi động nguội và hàng đợi vẫn phải đo.
• Tùy biến bằng tinh chỉnh hoặc học tăng cường thường cần tài khoản doanh nghiệp và dữ liệu chuẩn bị sẵn, nên nhà phát triển cá nhân có thể chưa tiếp cận được.
• Triển khai riêng tư và bàn giao dạng thiết bị là thỏa thuận doanh nghiệp có quy trình thương mại và mua phần cứng, nằm ngoài phạm vi tự đăng ký.
• Nền tảng tập hợp mô hình bên thứ ba với ranh giới năng lực, điều khoản giấy phép và chính sách dữ liệu khác nhau, nên mỗi lựa chọn cần được xem xét riêng.
• Phát hành và tạo doanh thu phụ thuộc lưu lượng của nền tảng và quy tắc chia sẻ, nên thu nhập đi theo chất lượng và quảng bá chứ không chỉ việc đăng lên.

Câu hỏi thường gặp

Khác gì so với gọi thẳng API của một nhà cung cấp?

Tích hợp một nhà cung cấp buộc phải viết lại tầng gọi mỗi lần đổi mô hình. Moli Fangzhou đặt hơn 70 mô hình sau giao diện chuẩn nên chuyển đổi rẻ, và cộng thêm triển khai không máy chủ, phát hành ứng dụng và bàn giao riêng tư, bao trùm cả chặng từ mô hình đến ứng dụng.

Dùng được khi không biết lập trình?

Được. Dựng trực quan có giao diện đồ họa để đặt tên, mô tả, đầu vào và đầu ra, nối mô hình rồi bấm tạo để phát hành, không cần viết mã. Đường API vẫn mở cho nhu cầu kiểm soát chi tiết hơn.

Hỗ trợ chip Trung Quốc đến đâu?

Nền tảng điều chỉnh cho chip AI Trung Quốc như Ascend, Iluvatar và MetaX, đồng thời hỗ trợ Nvidia và phần cứng quốc tế khác. Hiệu năng của một mô hình cụ thể trên một chip cụ thể vẫn cần đo trong tình huống của bạn.

Có thể triển khai riêng tư với dữ liệu nhạy cảm?

Có. Triển khai riêng tư bao trùm dịch vụ suy luận, nền tảng không máy chủ và toàn bộ ngăn xếp MaaS, có thể bàn giao dạng thiết bị tích hợp phần cứng và phần mềm cho môi trường không cho dữ liệu ra khỏi mạng nội bộ.