0개의 글
NestJS 프로젝트에서 @google-cloud/vertexai (Gemini 2.5 Flash)를 프로덕션 수준으로 래핑하는 방법을 심층 분석합니다. 4계층 서비스 수준 저하 시스템, 3중 할당량 제어, 서킷 브레이커 패턴 및 지수 백오프 재시도와 같은 핵심 구현을 다룹니다.
JoyMini API의 AI 서비스가 Gemini 단일 Provider에서 다중 Provider 추상화 아키텍처로 진화하여 Gemini, Groq, DeepSeek 세 가지 AI 제공업체의 통합 접속, 자동 장애 조치, Provider 수준 키 순환 및 Admin UI 시각적 구성을 지원합니다.
JoyMini API가 AI 서비스를 Vertex AI(종량제)에서 Google AI Studio(무료 티어)로 마이그레이션한 과정을 다룹니다. 다중 키 로테이션, 서킷 브레이커 다운그레이드, 속도 제한 및 비용 비교에 대한 완전한 마이그레이션 스토리를 포함합니다.
JoyMini API의 AI 번역 엔진은 Google AI Studio Gemini를 기반으로 구축되었으며, 속도 제한, 서비스 수준 저하, 차단기, 지수 백오프 재시도 및 429 특수 처리 등 다중 계층 탄력적 패턴을 포함하여 일괄 번역, 댓글 검토 및 자동 응답 시나리오를 지원합니다.
Tarsier Labs
