CELL AI DEVLOG

[4편 핵심 요약]→ Generations API: 모든 요청의 상세 로그 — 모델·프로바이더·비용·레이턴시→ 레이트 리밋: OpenRouter 자체 제한 없음 (유료 모델) — 프로바이더 한도가 실제 제한→ 429 처리: exponential backoff + jitter + 폴백 모델 자동 전환→ API 키 관리 API: 프로그래밍으로 키 생성·삭제·한도 설정→ OAuth PKCE: 사용자가 자기 OpenRouter 계정으로 직접 인증 → 내 크레딧 소모 없음→ 가드레일: 조직 멤버·키별 예산·모델 접근 제한 설정→ ZDR: 프롬프트·응답 저장 안 하는 프로바이더만 라우팅→ Broadcast: Langfuse·Datadog·Braintrust에 트레이스 동시 전송 실전 1 — Generations A..

2편에서 라우팅 고급 설정을 다뤘습니다. 3편은 실전 기능입니다. 스트리밍으로 실시간 타이핑 효과, 툴 콜링으로 에이전트, 이미지·PDF 멀티모달, JSON 구조화 출력, LangChain과 LangGraph 연동까지 다룹니다.[3편 핵심 요약]→ 스트리밍: stream=True + for chunk in stream — 모든 모델 동일한 인터페이스→ 스트리밍 에러: HTTP 200 반환 후 SSE 내부에 에러 포함 — 별도 처리 필요→ 툴 콜링: OpenAI 완전 동일 — tools + tool_choice 파라미터→ 툴 콜링 모델 필터: require_parameters: True 필수 (지원 안 하는 모델 제외)→ 멀티모달: image_url (URL or base64), PDF (base64 or..

1편에서 기본 호출까지 했습니다. 2편은 OpenRouter를 단순 프록시가 아닌 인텔리전트 라우터로 쓰는 방법입니다. 프로바이더가 죽어도 앱이 살아있고, 같은 모델을 가장 저렴한 프로바이더로 자동 라우팅합니다.[2편 핵심 요약]→ 기본 로드밸런싱: 가격 역제곱 가중치 + 30초 이내 장애 프로바이더 회피→ 폴백 라우팅: models 배열에 여러 모델 → 순서대로 시도 (실패 시 자동 전환)→ provider.order: 특정 프로바이더 우선순위 지정 (Anthropic → Bedrock → Vertex)→ provider.sort: price / throughput / latency 중 하나로 정렬→ provider.ignore: 특정 프로바이더 제외 (데이터 리전 제한 등)→ max_price: 최대..

Claude, GPT, Gemini, Llama, DeepSeek를 각각 쓰려면 API 키 5개, 청구서 5개, 레이트 리밋 각개격파입니다. OpenRouter는 이걸 하나로 통합합니다. 모델만 바꾸면 됩니다. 코드는 그대로입니다.[핵심 요약]→ OpenRouter: 300개+ AI 모델을 단일 API 엔드포인트로 제공하는 LLM 게이트웨이→ OpenAI 호환 API: base_url만 바꾸면 기존 코드 그대로 동작→ 가격: 프로바이더 직접 가격 그대로 (마크업 없음) + 5.5% 플랫폼 크레딧 수수료→ 무료 티어: 25개+ 무료 모델 (Gemma, Llama, Mistral 등) — 신용카드 불필요→ BYOK: 자체 API 키 연결 시 월 100만 요청까지 무료 (이후 5% 수수료)→ 폴백 라우팅: 프..

모델마다 API 키 따로 관리하는 거 지쳐있죠.Anthropic API 키 따로OpenAI API 키 따로Google API 키 따로각각 다른 SDK각각 다른 요금 청구서OpenRouter가 이걸 하나로 합쳐줘요.OpenRouter API 키 하나→ 200개+ 모델 전부→ OpenAI SDK 그대로 사용→ 모델명만 바꾸면 끝1단계 — 가입 및 API 키 발급1. openrouter.ai 접속2. 우상단 "Sign In" → Google 또는 GitHub 로그인3. 좌측 메뉴 "Keys" 클릭4. "Create Key" 버튼5. 이름 입력 (예: my-project) → Create6. API 키 복사 (sk-or-v1-xxxxx 형태) → 한 번만 보여줌. 반드시 저장크레딧 충전:좌측 메뉴 "Cred..