싱가포르--(뉴스와이어)--컨티뉴엄 AI(CONTINUUM AI)가 개발한 OpenAI 호환 LLM 게이트웨이 OrcaRouter가 자체 API 키 연결(BYOK)을 기본 기능으로 제공한다. 이제 워크스페이스 관리자가 콘솔에서 제공자 키를 직접 넣으면 그 제공자의 트래픽은 플랫폼 용량 대신 자신의 키로 나간다. 이는 영업 담당자와 이야기하거나 티켓을 열 필요 없이 셀프 서비스로 설정된다.

4개 군 25개의 지원 제공자

지원 제공자는 4개 군으로 나뉘며 정확히 25개다. 모델랩 12개(OpenAI, Anthropic, Google Gemini, xAI, Mistral, DeepSeek, Moonshot, MiniMax, Z.ai, Alibaba Qwen, StepFun, Xiaomi MiMo), 클라우드 3개(Google Vertex, AWS Bedrock, Azure OpenAI), 추론 7개(Groq, Cerebras, Fireworks AI, DeepInfra, Novita, NVIDIA NIM, SiliconFlow), 애그리게이터 3개(OpenRouter, Vercel AI Gateway, ZenMux)로 구성돼 있다.

목록의 기준은 콘솔이다. OrcaRouter의 BYOK 문서는 콘솔에 보이는 제공자 목록이 권위 있는 목록이며 문서의 목록이 그것을 대신하지 않는다고 명시한다. 제공자가 추가되면 콘솔이 먼저 바뀐다.

무엇이 달라지는가

이제 관리자는 키를 맡기지 않아도 되고, 요금도 게이트웨이를 거치지 않는다. 모델 접근은 그대로 OrcaRouter의 단일 엔드포인트로 들어오고, 그 아래에서 어느 자격증명으로 나갈지만 바뀐다. 제공자마다 이미 계약과 요금 등급이 있는 팀은 그 조건을 유지한 채 라우팅·가드레일·로깅을 그대로 쓴다.

문서는 다음 세 가지가 모두 해당할 때 BYOK를 쓰라고 적는다. 제공자와 직접 계약이 있고, 그 요금이 플랫폼 요금보다 낫고, 키를 자기 통제 아래 두어야 할 이유가 있을 때다. 문서는 셋 다 해당하지 않으면 BYOK를 쓸 이유가 없다고 명시한다.

자격증명은 어떻게 보관하나

저장된 자격증명은 AES-256-GCM으로 암호화되며, 암호화할 때마다 새 난수를 쓰고 키 유도에는 HKDF-SHA256을 이 목적에만 쓴다. 원문 비밀값은 다시 돌려주지 않는다. 콘솔에는 앞 3자와 뒤 4자만 남긴 마스킹 라벨이 보인다. Vertex AI는 라벨 형식이 다르다.

로그에 남는 것도 마스킹된 라벨이다. 원문은 어디에도 다시 나타나지 않는다.

테스트 버튼은 아무것도 남기지 않는다

키를 넣으면 테스트 프로브가 실제 요청과 같은 엔드포인트를 통해 지연이나 제공자 쪽 사유를 알려준다. 이 프로브는 부작용이 없다. 사용량 행도 비용 행도 쓰지 않는다. 다만 호출 횟수 제한이 걸려 있으므로 연타하면 안 된다.

연결 한도

워크스페이스는 제공자당 10개, 전체 50개까지 키를 보관한다. 키 하나는 최대 500개의 모델을 가져올 수 있다. 제공자가 모델 목록을 나눠서 내려주면 키를 여러 개 등록해 나눠 담는다.

수수료는 0%다

BYOK 요청에는 토큰 가격 대신 플랫폼 수수료가 붙는다. 수수료는 같은 요청이 OrcaRouter 일반 요금이었다면 들었을 금액에 대한 비율로 계산된다. 수수료는 내림 처리한다.

BYOK 문서는 ‘BYOK는 현재 무료다. 도입 기간 중 플랫폼 수수료는 0%다’라고 명시한다. 무료라는 말에는 기간이 붙어 있다. 도입 기간이 끝나면 0%가 아닐 수 있다.

되돌아가는 요청은 어떻게 표시되나

키를 쓸 수 없을 때 플랫폼 용량으로 넘어가는 것이 기본 동작이다. 이때 요청은 플랫폼 일반 요금으로 청구되며, 로그 행에 ‘byok_fallback’ 태그가 붙어 나중에 셀 수 있다. 폴백은 한 번만 일어난다.

폴백을 막을 수도 있다. 키 설정에서 Always use this key를 켜면 그 제공자에 대해서는 플랫폼 용량으로 내려가지 않고, 요청은 ‘byok:key_unavailable’ 오류와 함께 HTTP 503으로 실패한다. 이 오류는 체인 전체를 멈춘다. 조용히 다른 곳으로 흘러가는 경로가 없다는 뜻이다.

핀은 키 단위로 걸지만 실제로는 제공자 단위로 적용된다. 그 제공자의 키 하나에 이 설정이 켜져 있으면 그 제공자로 가는 요청은 어느 키를 쓰든 플랫폼 용량으로 내려가지 않는다.

키가 죽으면 청구서로 먼저 드러난다

문서가 짚는 함정이 하나 있다. 키가 죽거나 잘못됐을 때 요청이 오류로 실패하지 않고 플랫폼 용량으로 조용히 넘어가면 사용자는 오류 대신 더 높은 청구서를 본다. 폴백을 켜 둔 팀이 겪는 전형적인 착각이다. ‘byok_fallback’ 태그와 제공자별 라우팅 용량이 그 착각을 걷어내기 위해 있는 장치다.

키 자동 비활성화는 좁게 걸린다. 제공자가 401 또는 403을 돌려주거나 저장된 비밀값을 복호화할 수 없을 때만 키가 꺼진다. 429와 5xx는 절대 키를 끄지 않는다. 속도 제한이나 제공자 장애로 키를 꺼버리면 멀쩡한 키가 사라지기 때문이다. 꺼질 때는 그 사유가 키의 이벤트 피드에 남는다.

무엇이 지원되지 않나

BYOK는 채팅 형식 트래픽 전용이다. 이미지, 비디오, 음악, 기타 비동기 작업은 BYOK 경로를 타지 않는다. 문서는 이 밖의 예외도 명시한다.

게이트웨이는 사용 내역에서 수수료와 라우팅 용량을 날짜·제공자·모델·키 단위로 보여준다. 어느 키가 얼마를 태우고 있는지가 그 화면에서 갈린다.

주요 모델

OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.

· OpenAI GPT-6.1 Sol

· Anthropic Claude Sonnet 5.5

· Anthropic Claude Opus 5.5

· OpenAI GPT-6 Astra

· DeepSeek V4.1 Flash

· Z.ai GLM-5.3 Flash

· Qwen 3.8 Max

참고

· BYOK 문서

· 제공자 자격증명 격리

· 키 로테이션

· OrcaRouter 모델 목록

OrcaRouter 소개

OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.

CONTINUUM AI PTE. LTD. 소개

컨티뉴엄 AI(CONTINUUM AI)는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI 게이트웨이인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.