Moli Fangzhou(Gitee AI): 대규모 모델을 배포 가능한 앱으로

Moli Fangzhou는 Gitee AI라는 이름으로 알려진 Gitee의 AI 앱 공동 창작 플랫폼입니다. 세 가지를 한곳에 모았습니다. 70여 개 주요 모델을 표준 인터페이스로 제공하는 모델 마켓, 코드 없이 배포하는 서버리스 구축, 그리고 프라이빗 배포입니다. 개발자에게 가치 있는 점은 모델 목록이 하나 더 늘어난 것이 아니라, API 호출이 되는 시점과 앱이 실제로 서비스되는 시점 사이의 마찰이 사라진다는 것입니다.

기반 모델을 실제 서비스로 옮길 때의 현실적인 장애물은 파편화입니다. 모델마다 제공사가 다르고 인터페이스도 다르며, 추론 환경은 직접 마련해야 하고, 배포하려면 서버와 동시성까지 관리해야 합니다. 이 플랫폼은 그 층을 하나로 묶습니다. 모델 쪽은 표준 인터페이스를 제공하고, 배포 쪽은 서버리스로 처리하며, 비용 쪽은 추론 비용을 최대 90퍼센트까지 낮출 수 있다고 밝히고, 하드웨어 쪽은 Ascend, Iluvatar, MetaX 같은 중국산 AI 칩에 맞추면서 Nvidia 등 국제 환경도 지원합니다.

모델 제공 외에 공동 창작 역할도 맡습니다. 만든 앱을 공개, 전시, 수익화까지 진행해 개발자와 사용자 사이의 순환을 닫습니다. 기업에는 파인튜닝, 강화학습, 파라미터 교체를 통한 모델 커스터마이즈와 함께 추론 서비스, 서버리스 플랫폼, MaaS 모델 관리 스택을 포함한 프라이빗 배포를 하드웨어와 소프트웨어 일체형 어플라이언스로도 제공합니다.

플랫폼의 주요 기능

모델 마켓

70여 개 주요 모델에 표준 인터페이스를 제공하며 텍스트 생성, 이미지 생성, 의미 이해, 멀티모달 작업을 아우릅니다. 서버리스 호출과 프라이빗 배포를 모두 지원하고, 인터페이스가 하나로 통일되어 모델을 바꿔도 호출 계층을 다시 쓰지 않아도 됩니다.

비주얼 구축

그래픽 화면에서 이름, 설명, 입출력을 설정하고 선택한 모델을 연결한 뒤 생성을 누르면 배포와 공개까지 진행됩니다. 경로 어디에도 코드가 필요하지 않습니다.

폭넓은 하드웨어 호환

Ascend, Iluvatar, MetaX 등 중국산 AI 칩에 맞추고 Nvidia 등 국제 하드웨어도 지원해, 반도체 선택이 하나의 공급망에 묶이지 않습니다.

추론 비용 절감

서버리스 구조가 개발과 배포 부담을 덜어 주며, 제공사는 추론 비용을 최대 90퍼센트까지 낮출 수 있다고 밝힙니다. 트래픽이 적은 앱에 특히 유효한데, 요청이 없을 때는 비용이 들지 않기 때문입니다.

앱 공동 창작

개발, 공개, 전시, 수익화까지 이어지는 흐름이 있어 만든 것이 보이는 자리와 수익의 경로를 갖습니다.

모델 커스터마이즈

파인튜닝, 강화학습, 파라미터 교체로 범용 모델을 자사 업무에 맞는 역량으로 조정합니다.

LoRA 동적 로딩

경량 파라미터를 실행 중에 교체할 수 있어 개별 조정을 위해 모델 전체를 멈추고 다시 배포할 필요가 없습니다.

역량 조합

다중 API 편성과 워크플로 방식 호출로 검색, 생성, 이해를 하나의 흐름으로 연결합니다. 단일 모델에 모든 것을 맡기지 않아도 됩니다.

안정적인 고가용 경로

API 토큰이 개별로 연결되고 높은 동시 호출을 지원합니다. 다단계 캐시와 모델 재사용을 갖춰 응답 시간을 줄입니다.

프라이빗 배포

추론 서비스, 서버리스 플랫폼, MaaS 모델 관리 스택을 포함하며 하드웨어와 소프트웨어 일체형 어플라이언스로 기업 환경에 도입할 수 있습니다.

개발자 교육

기술 강연과 시나리오형 실전 캠프가 배움과 교류의 장을 만들고, 기업이 자사 기술을 소개하는 창구도 됩니다.

사용 방법

1. ai.gitee.com을 열고 이메일이나 전화번호로 가입하거나 Gitee 계정으로 바로 로그인합니다.
2. 안내에 따라 개인 또는 기업 정보를 입력하면 나머지 서비스를 쓸 수 있습니다.
3. 모델 마켓을 살펴보고 작업 유형(텍스트, 이미지, 의미 이해, 멀티모달)으로 후보를 좁힙니다.
4. 앱을 만들고 API 키를 발급받습니다. 이것이 인터페이스 호출 자격 증명입니다.
5. 해당 모델의 API 문서에서 파라미터와 응답 구조를 확인하고, 키를 붙인 HTTP 요청으로 첫 호출을 합니다.
6. 코드를 쓰고 싶지 않다면 비주얼 구축으로 갑니다. 구축 화면에서 이름, 설명, 입출력을 설정하고 모델을 연결해 호출 파라미터를 정합니다.
7. 생성을 누르면 배포와 공개가 자동으로 이뤄지고, 이후 공동 창작 흐름에서 전시와 수익화로 이어갈 수 있습니다.

어울리는 분야

• 고객 응대와 어시스턴트: 사내 지식베이스, 제품 문서, 사용 설명서로 전용 모델을 학습시키고 필요하면 음성 모델도 연결합니다.
• 공공 부문: 스마트 민원 처리, 클라우드 법정 등 규정 준수와 프라이빗 배포 요건이 엄격한 업무.
• 라이브 커머스와 이커머스: 판매 콘텐츠를 생성하고 사용자 관심과 감정을 읽어 제안을 맞춥니다.
• 콘텐츠 제작: 텍스트, 이미지, 영상 소재를 대량으로 만들어 광고, 미디어, 크리에이티브 팀에 넘깁니다.
• 데이터 분석과 사무 자동화: 자연어로 조회와 분석을 하거나 문서 생성, 회의록 정리, 업무 관리를 자동화합니다.
• 개인 개발자와 소규모 팀: AI 제품 아이디어를 서버비와 운영비를 먼저 쓰지 않고 검증합니다.

알아 둘 제약

• 공개 자료에 모델별 요금이 없어, 예산은 90퍼센트라는 문구가 아니라 콘솔에서 측정한 실제 사용량으로 세워야 합니다.
• 서버리스는 변동이 큰 트래픽에 맞지만, 지연에 민감한 실시간 업무에서는 콜드 스타트와 대기열을 실측해야 합니다.
• 파인튜닝이나 강화학습 기반 커스터마이즈는 보통 기업 계정과 데이터 준비를 전제하므로 개인 개발자가 바로 쓰기 어려울 수 있습니다.
• 프라이빗 배포와 어플라이언스 제공은 상담과 하드웨어 조달이 따르는 기업용 형태로, 셀프서비스 가입 범위 밖입니다.
• 제3자 모델을 모은 플랫폼이라 역량 경계, 라이선스 조건, 데이터 정책이 모델마다 달라 선택 시 개별 확인이 필요합니다.
• 공개와 수익화는 플랫폼의 유입과 배분 규칙에 달려 있어, 공개만으로 수익이 생기지는 않으며 품질과 운영이 관건입니다.

자주 묻는 질문

특정 벤더의 API를 직접 호출하는 것과 무엇이 다른가요?

단일 벤더와 연동하면 모델을 바꿀 때마다 호출 계층을 다시 써야 합니다. Moli Fangzhou는 70여 개 모델을 표준 인터페이스 아래에 두어 전환이 저렴하고, 서버리스 배포, 앱 공개, 프라이빗 제공을 더해 모델에서 앱까지 한 구간으로 덮습니다.

코딩을 못 해도 쓸 수 있나요?

가능합니다. 비주얼 구축에서 이름, 설명, 입출력을 설정하고 모델을 연결해 생성을 누르면 공개까지 진행되며 코드는 필요 없습니다. 더 세밀한 제어가 필요하면 API 경로를 쓰면 됩니다.

중국산 칩 지원은 어느 정도인가요?

Ascend, Iluvatar, MetaX 등 주요 중국산 AI 칩에 맞추고 Nvidia 등 국제 하드웨어도 지원합니다. 특정 모델을 특정 칩에서 돌릴 때의 성능은 용도별로 실측이 필요합니다.

민감한 데이터가 있으면 프라이빗 배포가 가능한가요?

가능합니다. 프라이빗 배포는 추론 서비스, 서버리스 플랫폼, MaaS 모델 관리 스택을 포함하고 하드웨어와 소프트웨어 일체형 어플라이언스로도 제공되어, 데이터를 사내망 밖으로 내보낼 수 없는 환경에 적합합니다.