구글 Gemma 4 완전 분석 — 오픈소스 AI의 판을 바꾼 모델

4월 2일, 구글 딥마인드가 조용히 모델 하나를 공개했어요. 그런데 AI 커뮤니티가 발칵 뒤집혔습니다.

"자기 사이즈보다 20배 큰 모델을 이긴다."

이게 Gemma 4예요. 오픈소스 AI 역사상 가장 충격적인 성능 도약이 나왔어요. 이번 글에서는 Gemma 4가 뭔지, 어떻게 실행하는지, 실전에서 어떻게 쓰는지 완전 정리해 드릴게요.

Gemma 4가 왜 난리났나

오픈소스 AI는 항상 이런 딜레마가 있었어요.

"무료로 쓰려면 성능을 포기해야 한다."

GPT-4나 Claude 같은 유료 모델과 오픈소스 모델 사이에는 항상 눈에 띄는 품질 격차가 있었어요. 오픈소스를 쓰면 돈은 절약되지만 결과물이 아쉬웠죠.

Gemma 4는 이 공식을 깨버렸어요. 31B 모델이 오픈소스 모델 세계 3위에 랭크됐고, 26B MoE 모델은 실제로 활성화되는 파라미터가 3.8B밖에 안 되는데도 6위를 기록했어요. 파라미터 효율로는 역대급이에요.

코딩 실력은 더 충격적이에요. Codeforces ELO가 Gemma 3의 110에서 2,150으로 뛰었어요. 거의 20배 향상이에요. AI 역사상 한 세대 만에 이런 도약은 없었어요.

4가지 모델 라인업

Gemma 4는 단일 모델이 아니에요. 용도에 따라 4가지 버전이 있어요.

E2B — 스마트폰, IoT, 라즈베리파이용

실제 파라미터는 2.3B로, 스마트폰에서도 돌아가요. 인터넷 없이도 음성 인식이 가능하고, 스마트폰 AI 어시스턴트나 라즈베리파이 홈 자동화에서도 초당 133토큰 정도의 속도로 돌아가요. IoT 디바이스에서 실시간 처리가 필요한 경우에도 충분히 쓸 수 있는 크기예요. 가장 놀라운 점은 음성 입력을 네이티브로 지원한다는 거예요. 별도 모듈 없이 STT(음성→텍스트)와 번역이 됩니다.

E4B — 노트북, 엣지 디바이스용

실제 파라미터는 4.5B로, RAM 8GB 노트북에서 실행 가능해요. 로컬 코딩 어시스턴트처럼 오프라인 환경에서 쓰거나, 문서 분석과 요약, 이미지 OCR과 차트 이해 같은 중간 복잡도의 추론 작업에 적합해요.

26B MoE (A4B) — 게이밍 GPU, 워크스테이션용

총 파라미터는 26B지만 추론 시 3.8B만 활성화돼요. 128개 전문가 중 토큰당 8개만 켜지는 구조예요. 24GB VRAM GPU로 실행 가능하고, Q4 양자화 기준으로 24GB VRAM이면 충분히 돌아가요. 성능은 31B 모델의 97% 수준을 유지하면서도 속도는 4B 모델과 비슷할 정도로 빨라서, 비용 대비 성능이 가장 좋은 선택이에요.

31B Dense — H100, 최고 성능용

플래그십 모델이에요. 80GB H100 GPU 한 장으로 실행 가능하고, MMLU Pro 85.2%, AIME 2026 89.2%, Codeforces ELO 2,150을 기록하면서 Arena AI 순위에서 오픈소스 3위에 올랐어요.

핵심 기능 4가지

1. Thinking Mode (내장 추론)

enable_thinking=True 설정 하나로 Claude의 Extended Thinking처럼 단계별 추론을 해요. 코드로 보면 아래처럼 모델을 불러온 다음 generate 호출에 옵션 하나만 추가하면 끝이에요.

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("google/gemma-4-31b-it")
tokenizer = AutoTokenizer.from_pretrained("google/gemma-4-31b-it")

prompt = "다음 수학 문제를 단계별로 풀어줘: ..."

# Thinking Mode 활성화
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(
    **inputs,
    enable_thinking=True,   # 내부 추론 활성화
    max_new_tokens=4096     # 최대 4000토큰 추론 가능
)

응답 안에는 <|think|> 태그로 추론 과정이 먼저 나오고, 그 다음에 최종 답이 나와요. max_new_tokens를 너무 작게 잡으면 추론 중간에 답이 끊길 수 있으니 충분히 넉넉하게 잡는 게 좋아요.

2. 네이티브 Function Calling

별도 프롬프트 없이 도구 호출이 돼요. 에이전트 개발에 바로 쓸 수 있는 구조라서 따로 함수 호출용 프롬프트 엔지니어링을 할 필요가 없어요.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "현재 날씨 조회",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string"}
                }
            }
        }
    }
]

# Gemma 4가 알아서 언제 툴을 쓸지 판단하고 JSON으로 반환
response = model.generate_with_tools(prompt, tools=tools)
# 출력: {"tool": "get_weather", "args": {"city": "서울"}}

이렇게 tools 목록만 넘겨주면 모델이 스스로 언제 도구를 호출해야 하는지 판단해서 JSON으로 반환해줘요. 멀티 에이전트 시스템에서 함수 호출 결과를 그대로 파싱해서 다음 단계로 넘기기에도 편한 구조예요.

3. 멀티모달 — 텍스트 + 이미지 + 영상 + 음성

모든 모델이 이미지를 처리하고, 큰 모델들은 60초짜리 영상도 분석해요. 이미지를 분석할 때는 아래처럼 일반 텍스트 프롬프트와 이미지를 같이 넣어주면 돼요.

# 이미지 분석 예시
from PIL import Image

image = Image.open("chart.png")
prompt = "이 차트에서 가장 높은 수치와 트렌드를 분석해줘"

inputs = processor(text=prompt, images=image, return_tensors="pt")
output = model.generate(**inputs)

이 코드 하나로 차트 이미지에서 수치와 트렌드를 텍스트로 뽑아낼 수 있어요. 결과 품질은 차트가 얼마나 선명한지에 따라 달라지니 저해상도 스크린샷보다는 원본 이미지를 넣는 게 좋아요.

지원하는 시각 태스크 범위도 꽤 넓어요. 다국어 OCR과 PDF·문서 파싱은 기본이고, 차트 이해와 데이터 추출, UI 스크린샷 분석, JSON 바운딩 박스로 출력되는 객체 감지, 손글씨 인식까지 전부 지원해요.

4. 256K 컨텍스트 윈도우

Gemma 3는 128K가 있었는데 장문 처리 정확도가 13.5%에 불과했어요. Gemma 4는 같은 128K에서 66.4%로 올랐고, 큰 모델들은 256K까지 지원해요. 500페이지 문서나 전체 코드 리포지토리를 한 번에 넣을 수 있어요.

로컬 실행 방법

Ollama로 가장 쉽게 실행

가장 간단한 방법은 Ollama예요. 사양에 맞는 버전만 골라서 명령어 한 줄을 실행하면 바로 모델이 돌아가요.

# Ollama 설치 후 (버전 0.20 이상 필요)

# 노트북용 (8GB RAM)
ollama run gemma4:e4b

# 게이밍 GPU용 (24GB VRAM)
ollama run gemma4:26b-a4b

# 최고 성능 (80GB H100)
ollama run gemma4:31b

본인 하드웨어에 맞는 줄만 실행하면 되고, 처음 실행할 때는 모델 가중치를 다운로드하느라 시간이 좀 걸릴 수 있어요.

Python으로 직접 실행

세부적인 제어가 필요하다면 transformers 라이브러리로 직접 불러오는 방법도 있어요. 아래는 26B MoE 모델을 불러와서 코드 생성을 요청하는 예시예요.

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "google/gemma-4-27b-it"  # 26B MoE

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)

inputs = tokenizer("파이썬으로 퀵소트 구현해줘", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0]))

device_map="auto"로 두면 GPU 메모리 상황에 맞춰 자동으로 배치해주기 때문에 따로 디바이스를 신경 쓸 필요가 없어요.

OpenRouter API로 바로 사용

자체 GPU가 없어도 API로 쓸 수 있어요. 26B A4B 모델 기준으로 입력은 100만 토큰당 0.13달러, 출력은 100만 토큰당 0.40달러 수준이라 GPT-4o의 100만 토큰당 5달러와 비교하면 거의 40분의 1 가격이에요.

경쟁 모델과 비교

모델 라이선스 최대 파라미터 컨텍스트 멀티모달

Gemma 4	Apache 2.0	31B	256K	텍스트+이미지+영상+음성
Llama 4 Scout	Llama 4 라이선스	109B(17B 활성)	10M	텍스트+이미지
Qwen 3.5	Apache 2.0	397B	128K	텍스트+이미지
DeepSeek V4	MIT	1T	128K	텍스트+이미지

Llama 4는 컨텍스트가 압도적으로 길고, Qwen 3.5와 DeepSeek V4는 파라미터가 훨씬 커요. 근데 Gemma 4가 특별한 이유는 작은 크기로 큰 모델에 근접한 성능을 낸다는 거예요. 실제로 쓸 수 있는 하드웨어 범위가 압도적으로 넓어요.

라이선스도 중요해요. Llama 4는 월간 활성 사용자 7억 명을 초과하면 별도 계약이 필요해요. Gemma 4의 Apache 2.0은 그런 제한이 없어서 상업용 제품에 바로 쓸 수 있어요.

실전 활용 시나리오

로컬 코딩 어시스턴트 구축

인터넷 없이 돌아가는 코딩 AI를 만들 수 있어요. 회사 코드가 외부로 나가지 않는다는 게 가장 큰 장점이에요. VSCode에 Continue 플러그인을 깔고 Ollama를 연결하면 끝이에요.

# VSCode + Continue 플러그인 + Ollama 조합
ollama run gemma4:26b-a4b
# Continue 설정에서 localhost:11434 연결

이렇게 연결해두면 코드 자동완성부터 채팅까지 전부 로컬에서 처리돼서 사내 보안 정책이 엄격한 환경에서도 부담 없이 쓸 수 있어요.

RAG 파이프라인 로컬화

벡터 DB와 Gemma 4를 조합하면 완전히 오프라인으로 동작하는 RAG 시스템을 만들 수 있어요.

멀티모달 문서 처리

PDF를 업로드하면 차트를 분석하고 요약까지 추출하는 과정을 클라우드 없이 처리할 수 있어요.

마무리

Gemma 4는 오픈소스 AI 역사에서 중요한 전환점이에요. 1년 전만 해도 오픈소스 모델은 GPT-4급 모델보다 명확하게 뒤처졌는데, 지금은 Gemma 4와 Qwen 3.5, DeepSeek V4를 포함한 6개 오픈소스 모델이 상업용 최신 모델과 거의 동등하게 경쟁하고 있어요. Apache 2.0 라이선스로 자유로운 상업적 사용이 가능하면서 로컬 실행과 멀티모달, 에이전트 지원까지 이 네 가지를 동시에 갖춘 모델은 Gemma 4가 처음이에요. 결국 유료 API 없이도 프로덕션급 AI를 만들 수 있는 시대가 본격적으로 열린 셈이에요.

---