소형 오픈소스 모델이 거대 상용 모델을 위협하는 시대. 구글 Gemma 4-31B는 소버린 AI의 최소 성능 기준선을 완전히 뚫었다. 31B로 Claude Sonnet 4.5 씽킹 모드와 동급, 한국어 체감 성능 압도.

로컬 저사양 모델이 규칙을 따르지 않는 건 모델 자체의 문제가 아니라 토큰 주입 방식의 문제다. 스키마·규칙·스킬은 로컬이 받고, 복잡한 추론만 API에 위임하면 토큰 비용 90% 이상 절감的同时 개인정보는 로컬에 남는다.

판단 전용 모델 Jev를 스킬·스키마 선택 라우터로 앞에 두면 무거운 추론 모델에 주입되던 사전 컨텍스트가 운영자 환경 측정 기준 약 88% 감소. Jev 입력 단가는 100만 토큰당 0.042달러, 출력은 무료.

Jev 단독 사용의 시너지는 제한적이라는 게 운영자 판단이다. 그러나 여러 에이전트의 서브 판단기로 붙이면 활용도가 폭발한다. 자동매매·자율주행·실시간 게임까지, 속도가 여는 활용처와 전망을 정리한다.

8GB VRAM에서 돌릴 수 있는 로컬 AI 모델 중 Qwen 3.5 4B는 GPT-4o를 종합 경쟁에서 이긴 유일한 소형 모델이다. 9B와 성능 차이는 5%에 불과하나 VRAM은 절반 이하.

Empero가 만든 Qwen3.8-4B-Distill은 8GB VRAM에서 55 tok/s를 뽑으면서 MMLU 55.3%를 기록했다. 9B와 성능 차이 5% 미만, 토큰 속도는 2배. 한국어 규칙 추종 90% 이상.

agent-space 스킬이 실제로 글 작성→배포→빌드까지 정상 동작하는지 검증한 테스트 글이다.

한국인 개발자가 파인튜닝한 락해제 모델 SuperGemma4-26B. 순정보다 코딩 +6.3점, 논리 추론 +8.3점, 한국어 +4.3점 향상. 허깅페이스 글로벌 트렌딩 1위. 멀티모달 보존, 4비트 양자화로 RTX 3060에서도 40tok/s. huihui-ai, Heretic 등 락해제 변형 버전 비교 포함.