OpenAI, Batch API v2 정식 GA—처리량 10배·비용 60% 절감

Batch API v2 핵심 변경 사항

OpenAI Batch API v2는 기존 v1 대비 세 가지 핵심 개선을 제공한다.

• 처리량: 단일 배치 잡 기준 최대 100,000 요청 (기존 50,000 → 2배), 동시 병렬 잡 수 제한이 Tier 3 기준 20개 → 100개로 확대
• 완료 시간: 평균 완료 SLA 24시간 → 6시간으로 단축 (피크 타임 제외)
• 지원 모델: gpt-4.1, gpt-4.1-mini, gpt-4.1-nano, o3-mini 전 모델 지원

가격 구조 및 비용 계산 예시

Batch API v2는 기존 동기 API 대비 60% 할인된 단가를 적용한다.

| 모델 | 동기 API 입력 단가 | Batch v2 입력 단가 | |---|---|---| | gpt-4.1 | $2.00 / 1M tokens | $0.80 / 1M tokens | | gpt-4.1-mini | $0.40 / 1M tokens | $0.16 / 1M tokens | | gpt-4.1-nano | $0.10 / 1M tokens | $0.04 / 1M tokens |

예를 들어 매일 1억 토큰을 처리하는 콘텐츠 자동화 파이프라인을 gpt-4.1-mini로 운영할 경우, 월 동기 API 비용 약 $1,200 → Batch v2 적용 시 $480으로 절감된다.

출력 토큰 단가 및 정확한 최신 요금은 공식 페이지 참조: https://openai.com/pricing

한국 개발자 활용 시나리오

1. 대규모 문서 임베딩·요약 파이프라인 RAG 시스템 구축 시 수만 건의 문서를 야간 배치로 처리하면 비용과 API Rate Limit 부담을 동시에 해소할 수 있다.

2. 커머스·마케팅 콘텐츠 자동 생성 상품 설명, 광고 카피를 SKU 단위로 배치 처리해 동기 호출 병목 없이 안정적인 생성 워크플로를 구성할 수 있다.

3. 코드 리뷰 자동화 CI/CD 파이프라인에서 PR 병합 전 코드 스멜·보안 이슈를 배치로 스캔하는 구조에 적합하다.

마이그레이션 가이드 요약

v1 → v2 전환은 엔드포인트 경로만 변경하면 된다.

# v1
client.batches.create(endpoint="/v1/chat/completions", ...)

# v2 (변경점: api_version 파라미터 추가)
client.batches.create(
    endpoint="/v1/chat/completions",
    api_version="v2",  # 신규 파라미터
    completion_window="6h",  # 신규 옵션: "6h" | "24h"
    ...
)

기존 v1 잡은 2026년 9월 30일까지 병행 지원되며, 이후 자동으로 v2 엔드포인트로 라우팅된다.