Together AI 4장 카드뉴스

AI 인프라 분야에서 미국 Together AI가 2022년에 창업해 운영하는 오픈모델 추론·학습 클라우드로, Llama·Mistral·Qwen 같은 오픈웨이트 모델을 API 한 줄로 호출해 쓸 수 있게 해줍니다.

Together AI는 Meta·Mistral·Qwen처럼 가중치가 공개된 AI 모델을 직접 GPU에 깔지 않고 인터넷 주소(API)로 곧장 호출해 쓰게 해 주는 클라우드예요. 3 70B로 돌릴 수 있습니다. 200개가 넘는 오픈 모델이 같은 규격으로 정리돼 있어 모델 비교, 단가 산출, 파인튜닝 PoC에 자주 쓰여요.

[6] 자체 GPU를 운영하지 않는 운영팀이 챗봇 백엔드를 오픈모델로 교체하는 영역의 표준 레퍼런스로 보고됩니다. [9] 자체 모델을 직접 사전학습하려는 연구실·스타트업이 첫 학습 코퍼스로 채택하는 영역입니다.