Gemini 3.5 Flash 비전용: 평가 및 벤치마크

Gemini 3.5 Flash는 구글이 경량·고속 모델 라인업을 에이전트형(agentic) 장기 작업에 최적화한 새 세대 모델이다. 기존 Flash 시리즈가 단발성 질의응답과 저지연 추론에 초점을 맞췄다면, 이번 세대는 멀티턴 도구 호출, 긴 컨텍스트 추적, 비전 입력 처리를 단일 파이프라인에서 다루는 구조로 재설계됐다. 비전 측면에서는 이미지·문서·UI 스크린샷을 토큰화해 텍스트와 동일한 어텐션 공간에서 추론하는 방식을 채택하며, 평가 벤치마크는 단순 캡셔닝이 아닌 차트 해석, 문서 OCR+QA, GUI 그라운딩 같은 실무형 태스크 비중을 높였다. 즉 "보고 → 판단 → 도구 호출 → 결과 재해석"이 끊김 없이 이어지는 루프를 모델 레벨에서 지원하는 것이 핵심이다.

개발자 입장에서 가장 큰 변화는 비용/지연 대비 멀티모달 품질의 격차가 좁혀졌다는 점이다. 그동안 비전 + 에이전트 워크플로는 Pro/Opus급 모델이 사실상 강제됐는데, Flash 등급에서 안정적인 그라운딩과 도구 사용이 가능해지면 RAG 파이프라인의 문서 전처리, 스크린샷 기반 QA 봇, 운영 대시보드 모니터링 에이전트, 모바일/엣지 환경의 실시간 비전 보조 같은 영역에서 단가가 한 자릿수 배수 수준으로 떨어질 여지가 생긴다. 특히 한국 SI·핀테크·이커머스에서 자주 쓰는 영수증·계약서·민원 이미지 처리 워크플로는 OCR 엔진 + LLM 후처리 2단 구조 대신 Flash 단일 호출로 단순화할 수 있어 코드 복잡도와 장애 포인트를 동시에 줄일 수 있다.

다만 실무 적용 전에 점검해야 할 항목이 적지 않다. 첫째, 벤치마크 점수만 보고 도입하기보다 자사 도메인 이미지(저화질 스캔, 한글 손글씨, 다국어 혼용 등)로 자체 골든셋을 만들어 회귀 테스트해야 한다. Flash급 모델은 환각(hallucination)과 좌표 그라운딩 오차가 Pro급보다 크게 나타나는 경향이 있어, 결제·법무 같은 고위험 도메인에서는 사람 검수 게이트를 반드시 끼워야 한다. 둘째, 장기 컨텍스트와 도구 호출이 합쳐지면서 토큰 사용량이 비선형적으로 증가하므로, 프롬프트 캐싱, 이미지 리사이즈/타일링 정책, 도구 호출 한도(`max_tool_calls`)를 초기 설계에 포함시켜야 한다. 셋째, SDK 측에서 비전 입력 포맷(`inline_data` vs `file_uri`)과 안전 필터 동작이 이전 버전과 미묘하게 달라질 수 있으므로, 마이그레이션 시 회귀 테스트 스위트를 돌리고 응답 스키마(JSON mode/structured output) 호환성을 먼저 확인하는 것이 안전하다.