AI Knowledge Hub말은 안 하고 판단만 한다 — 결정 전용 AI Jev와 PC에서 무료로 쓰는 법
말은 안 하고 판단만 한다 — 결정 전용 AI Jev와 PC에서 무료로 쓰는 법
결론부터 말하면, Jev는 챗봇이 아니라 "판단 부품"입니다. 말을 생성하지 않고, 프로그램이 바로 쓸 수 있는 확률형 판단만 내놓습니다. 그리고 진짜 Jev를 PC에서 무료로 쓰는 방법은 없습니다. 무료 티어 자체가 없기 때문입니다. 대신 같은 규격의 오픈모델 Kev를 내 PC에 직접 올려 같은 일을 무료로 시킬 수는 있습니다. 이 글은 그 둘을 구분해서 정리합니다.
1. Jev란 무엇인가 — 판단만 하는 AI
Jev는 TypeSafe라는 스타트업이 2026년 9월 15일에 공개한 모델입니다. 창업자 Diogo Almeida는 OpenAI 출신으로 RLHF와 InstructGPT의 공동발명자로 알려진 인물이고, 시드 40M 달러를 유치했습니다. 학습 방식도 특이해서, 예쁜 문장을 뽑는 게 아니라 확률이 잘 맞는 판단을 뽑도록 RLCD라는 방식으로 학습시켰다고 합니다. 회사 쪽은 이를 "System One 모델"이라고 부릅니다.
ChatGPT나 Claude 같은 모델이 긴 문장을 생성하는 데 최적화되어 있다면, Jev는 정반대입니다. 텍스트를 생성하지 않습니다. 상태(문서나 JSON)와 질문을 보내면, 미리 정해둔 틀 안에서 답만 돌려줍니다. 전체 API는 질문 세 종류가 전부입니다.
Choice — 고르기. 최대 255개 선택지 중 하나를 고릅니다. 고른 답과 함께 선택지별 확률, 신뢰도를 돌려줍니다.
Score — 점수 매기기. 2개에서 10개까지 순서가 있는 등급을 주고, 그 사이의 값도 낼 수 있습니다. 예를 들어 등급이 셋이면 0부터 2 사이인데, 1.4처럼 "중간보다 약간 위" 같은 값을 냅니다.
Noul — 예·아니오 확률. "불리언"의 변형 이름입니다. 0부터 1 사이 숫자로 "예"일 확률을 답합니다. 0.5 근처면 "모르겠다"는 뜻입니다. 참고로 Noul에는 신뢰도 필드가 따로 없습니다.
고객 불만 문장을 넣으면 위로의 말을 길게 쓰는 대신, 이런 식의 판단이 한 번의 호출로 병렬 처리되어 수백 밀리초 안에 돌아옵니다. 회사 발표로는 끝단 지연 70~500ms, 가격은 입력 100만 토큰당 0.042달러에 출력은 무료입니다. 일반 대형 모델의 구조화 출력이 형식을 어기는 경우가 있다(회사 주장 0.58~45.5%)는 것과 달리, Jev는 틀 자체를 어길 수 없는 구조라 형식 오류가 원천 차단됩니다. 다만 "틀 안의 정답"을 보장하는 건 아닙니다. 틀은 지키되 내용은 틀릴 수 있다는 뜻이고, 이 점은 회사 스스로도 인정하는 한계입니다.
2. 진짜 Jev 써보기 — 순서와 비용
먼저 현실적인 이야기를 하자면, 진짜 Jev는 지금 당장 누구나 쓸 수 있는 상태가 아닙니다. API 키 발급이 대기자 명단 방식이라 순서를 기다려야 합니다. 무료 티어나 체험 크레딧도 없습니다. "PC에서 무료로 Jev 쓰기"라는 말은 성립하지 않습니다. 이 점을 분명히 하고 시작합니다.
그래도 순서를 알아두면 키가 나오는 날 바로 쓸 수 있습니다.
1단계: 키 발급. console.typesafe.ai에서 대기자 등록 후 키를 받습니다. 중개 게이트웨이 경유도 가능합니다.
2단계: SDK 설치. 파이썬 3.10 이상에서 pip install typesafe-sdk, Node 20 이상에서 npm install @typesafe-ai/sdk입니다.
3단계: 호출. SDK는 환경변수 TYPESAFE_API_KEY를 읽고, 기본 모델은 jev-latest입니다. 판단 한 건당 문서 예시 기준으로 약 0.0004달러 수준이라, 대량 분류 작업에 쓰기 좋은 가격대입니다.
from typesafe_sdk import Choice, Noul, Score, TypeSafeClient
jev = TypeSafeClient() # TYPESAFE_API_KEY를 읽음
r = jev.system_one(
state={"text": "환불해줘. 어제 결제했는데 이중으로 빠져나갔어."},
questions={
"is_refund": Noul(instructions="환불 요청인가"),
"dept": Choice(
instructions="담당 부서를 고르라",
criteria={"billing": "결제·구독 문제", "technical": "버그·연동 문제"},
),
},
)
참고로 OpenAI도 같은 부류의 Decisions API 프리뷰를 발표한 상태라, "판단 전용 모델"은 이제 한 회사의 전유물이 아니라 하나의 분야가 되어가고 있습니다.
3. PC에서 무료로 — Kev 로컬 실행
여기부터가 오늘 글의 핵심입니다. Kev는 Jared Palmer가 만든 Jev 호환 결정 모델 집안입니다. Apache 2.0 라이선스라 마음대로 쓰고 고칠 수 있고, Jev와 같은 /v1/systemone 규격을 그대로 씁니다. 크기는 0.8B·4B·8B가 있고, Qwen3.5 기반이라 다국어 입력도 들어갑니다.
직접 따라 해본 순서대로 적습니다. 가장 쉬운 길 세 가지입니다.
방법 1: Ollama 한 줄 (가장 쉬움). GGUF 변환본이 허깅페이스에 올라와 있어서, Ollama가 깔려 있다면 이 한 줄로 끝입니다.
ollama run hf.co/ggml-org/Kev-4B-GGUF:Q4_K_M
4B 모델이라 일반 PC에서도 돌아갑니다. 단, Kev는 판단 전용이라 챗봇처럼 말을 걸면 답이 안 나옵니다. /v1/systemone 규격으로 질문을 던지는 용도입니다.
방법 2: uv로 서빙. 깃허브의 공식 방식입니다. 파이썬 3.12 이상과 uv가 필요합니다.
uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8008
첫 실행에 어댑터와 베이스 모델을 내려받습니다. 같은 규격이라 나중에 진짜 Jev 키가 나오면 클라이언트 코드 거의 그대로 갈아끼울 수 있는 구조입니다.
방법 3: 설치 없이 브라우저. 허깅페이스에 웹 데모가 있어서, 설치가 귀찮다면 여기서 먼저 감을 잡을 수 있습니다. 호스트형 무료 체험장으로는 decisions-api.dev 플레이그라운드도 있습니다.
4. 꿀팁 6가지
첫째, 챗봇 대신 "부품"으로 쓰세요. Jev·Kev는 말을 안 합니다. 실전 조합은 "생성 모델이 초안을 쓰고, 결정 모델이 분류·검수·게이트를 맡는" 형태입니다. 에이전트가 위험한 행동(결제·삭제)을 하기 전에 Noul로 한 번 더 묻는 가드레일이 대표 용도입니다.
둘째, 확률 임계값은 내 데이터로 정하세요. 보정됐다는 건 회사 주장이고 독립 검증 연구는 없습니다. "0.7 넘으면 자동 승인" 같은 기준은 내 데이터로 직접 테스트해서 정해야 합니다. 돈이 오가는 행동과 읽기 전용 조회가 같은 기준일 수는 없습니다.
셋째, Noul과 Score의 함정을 아세요. Noul에는 신뢰도 필드가 없습니다. 확률 자체가 불확실성의 표현입니다. Score는 등급 사이값을 내니, 경계는 미리 정해둬야 합니다.
넷째, 로컬은 프라이버시가 공짜입니다. Kev를 PC에서 돌리면 민감한 문서를 외부로 안 보내고 분류·채점이 됩니다. 비용도 전기세뿐입니다.
다섯째, 한글은 직접 검증하세요. Kev의 베이스가 다국어 모델이라 한글 입력은 들어가지만, 공개된 평가는 영어 기준입니다. 한글 임계값은 내 손으로 확인하는 게 맞습니다.
여섯째, "환각 불가"를 오해 마세요. 스키마 밖의 값을 안 낸다는 뜻이지, 틀린 판단을 안 한다는 뜻이 아닙니다. 결정 모델 뒤에는 항상 "사람 승인" 한 단계를 두는 게 정석입니다.
마치며
AI가 말 잘하는 시대를 지나, 판단 잘하는 부품으로 들어가는 과정 한가운데에 Jev가 있습니다. 진짜 Jev는 유료·대기순번이라 당장 못 써도, Kev 덕분에 같은 일을 PC에서 무료로 연습할 수 있습니다. 오늘 저녁 Ollama 한 줄로 판단 전용 모델을 처음 만져보는 건 어떨까요.