zerovoids.dev
zerovoids.dev

Ø NEWS

결정 모델

Jev, 질문에 텍스트 대신 확신도 숫자로 답하는 모델

TypeSafe AI가 내놓은 Jev는 텍스트 대신 확신도 숫자만 돌려주는 대가로 속도는 매우 빠르고 비용은 GPT-5 Nano보다 낮으며, 분류·랭킹 같은 좁은 판단에서 느리고 비싼 LLM 호출을 대체할 자리를 만든다.

키워드ai-ml

TypeSafe AI가 만든 Jev에 질문을 던지면 답이 문장으로 돌아오지 않는다. 텍스트를 넣으면 0과 1 사이의 부동소수점 숫자, 혹은 여러 선택지에 대한 확률 분포가 나온다. 지난주 공개된 이 모델은 스스로를 "System One 모델"이라 부르는데, Simon Willison은 "결정 모델(decision model)"이라는 이름이 더 낫다고 적었다.

질문 세 가지

Jev에 보내는 입력은 "state"라 부르는 객체다. 문자열 하나, 문자열 배열, 혹은 이름-값 쌍의 집합으로 기사 한 편이나 고객 정보 같은 레코드를 표현한다. 여기에 질문을 하나 이상 붙여 보내면 된다. 질문은 세 종류로 나뉜다. 예/아니오를 묻는 "눌(Noul)" 질문은 베르누이 분포에서 따온 이름으로, TypeSafe CEO가 해커뉴스에서 그 유래를 확인했다. 답은 그 진술이 참일 확신도를 나타내는 0에서 1 사이 숫자다. 선택형 질문은 주어진 옵션 중 하나를 고르는 대신, 확신도 점수와 옵션 전체에 대한 확률 분포를 함께 내놓는다. 점수형 질문은 설명이 붙은 숫자 등급들을 나열해두면 그 범위 안 어딘가의 점수를 돌려준다. 문서 하나에 컨텍스트 창이 허용하는 만큼 질문을 얼마든지 붙일 수 있고, 질문들은 병렬로 평가되기 때문에 질문을 여러 개 보내도 하나 보낼 때와 비슷한 시간이 걸린다.

토큰당 가격

Jev는 입력 토큰에만 요금을 매기고 출력에는 요금이 없다. 첫 모델의 입력가는 100만 토큰당 0.042달러로, OpenAI GPT-5 Nano의 0.05달러보다 낮다.

스팸 탐지, 라벨 제안, 우선순위 매기기처럼 분류로 환원되는 작업이라면, 느리고 비싼 일반 LLM 호출 대신 이 값싸고 빠른 판단 모델을 끼워 넣을 자리가 생긴다.

Willison은 검색 재랭킹에도 Jev를 써봤다고 썼다. BM25 같은 저렴한 알고리즘으로 후보 100개를 먼저 추린 다음, 원래 질의와 얼마나 관련 있는지를 Jev로 점수 매기는 방식이다.

블랙박스, 그리고 편향

Jev는 이유를 설명하지 않는다. 스팸으로 분류했다면 어떤 신호가 그 판단을 이끌었는지 알 방법이 없다. Willison이 샌프란시스코 베이 지역 도시들을 "좋은 도시인가?"라는 예/아니오 질문으로 평가시켜 보니, 큐퍼티노가 1위, 이스트 팔로 알토가 최하위로 나왔다. 다만 비용이 워낙 낮아서 실험 프롬프트 수백, 수천 개를 돌려도 몇 센트면 끝난다는 점은 평가와 구조화된 실험을 더 부담 없이 만든다.

커뮤니티가 만든 변주

공개 일주일도 안 돼 여러 변주가 나왔다. Kyle Pena의 jevchat은 매 단계마다 "다음에 올 기호가 뭐냐"를 Jev에게 묻는 방식으로 채팅을 흉내낸다. Fatih Kadir Akın의 jev-leftpad는 "목표 길이에 도달하려면 몇 칸의 공백이 필요한가"를 선택형 질문으로 물어 left-pad를 구현했다. Andy Gayton의 jev-2048은 Jev로 2048 퍼즐을 플레이한다. Qwen 3.5를 기반으로 만든 오픈 웨이트 재현 모델 Kev는 0.8B, 4B, 9B 세 크기로 나왔고, 해커뉴스 스레드에서는 이런 "Jev급 결정 모델"들을 비교하는 JevBench 벤치마크도 등장했다.