본문으로 이동
기사 목록으로 돌아가기
models3 min

Liquid AI d1: 아무것도 쓰지 않고 8밀리초 만에 판단만 하는 오픈 모델

Liquid AI d1: open models that write nothing and just decide, in 8 milliseconds

KGA IT
2026-10-123 min
AILiquid AIOpen WeightsEdge AIClassification

출시

2026년 10월 7일, Liquid AI가 특이한 두 모델 d1-3B와 d1-omni-600M의 가중치를 Hugging Face에 공개했습니다. 이들은 **"의사결정 모델"**로, 텍스트를 생성하지 않습니다. 상태(지원 티켓, JSON, 사진 또는 모두)와 이름 붙은 질문을 주면, 모델은 자신의 확률 분포에서 바로 읽어낸 답을 돌려줍니다. 사용량 카운터에는 출력 토큰 0이 찍힙니다.

세 가지 질문 유형

  • 예/아니오: "예"의 확률을 0~1로 반환
  • 선택: 목록에서 라벨 하나를 고르고 라벨, 신뢰도, 각 선택지의 확률을 반환
  • 척도: 상태를 2~10단계의 순서 척도 위에 배치

같은 상태에 대한 여러 질문을 한 번에 처리합니다. Liquid에 따르면 질문 3개가 1개의 약 1.3배 시간입니다. 텍스트를 생성하지 않으니 깨진 JSON, 반복, 엉뚱한 형식이 없습니다.

두 모델

  • d1-3B(31.2억 파라미터): LFM2.5-VL-3B 기반, 텍스트와 이미지 처리, 32,768 토큰 컨텍스트, 16개 언어
  • d1-omni-600M(5.87억): 같은 가중치로 텍스트, 이미지, 최대 30초 오디오를 읽는 인코더. 초기 연구 버전으로 분류됨

수치(Liquid 자체 발표)

  • Decision Index 0.2.1: d1-3B는 48.57로, 회사 표에서 10B 미만 1위이며 12배 큰 의사결정 모델보다 앞섭니다. 점수는 공개 리더보드 제출이 아니라 Liquid가 직접 계산했습니다.
  • 지연: RTX 4090에서 질문당 약 8ms, 가장 작은 Jetson Orin Nano에서 50ms
  • 데모에서 회사는 별도 학습 없이 생산 라인의 양품과 불량품을 8597% 정확도로 분류했고, 6개 과제 중 4개에서 최첨단 모델과 대등하거나 앞서면서 비용은 19200배 낮다고 주장합니다. 모두 벤더가 고르고 실행한 테스트이며 독립 재현은 아직 없습니다.

실행 환경

llama.cpp, GGUF 및 양자화 버전, Jetson까지의 NVIDIA 스택을 지원합니다. Liquid는 입력 토큰만 과금하는 호스팅 API도 제공합니다. 라이선스는 Liquid 자체 라이선스(Apache나 MIT 아님)이므로 상업적 이용 전 조건을 확인하세요.

왜 중요한가

기업의 많은 AI 작업은 텍스트가 필요 없습니다: 티켓 분류, 승인 또는 거절, 불량 탐지, 경로 결정. 이를 생성형 LLM으로 하면 비싸고 불안정합니다(JSON 파싱, 형식 이탈). 밀리초 단위로 판단만 하는 모델은 비싼 LLM 호출 앞단의 저렴한 필터가 될 수 있습니다.

시험 방법

  1. 라벨이 분명한 실제 분류 작업을 고르세요.
  2. 지금 쓰는 LLM과 정확도, 지연, 비용을 비교하세요.
  3. 반환되는 신뢰도를 이용해 애매한 경우만 사람이나 큰 모델로 보내세요.

출처


AI로 판단과 분류를 저렴하고 안정적으로 자동화하고 싶으신가요? KGA IT가 무료 상담을 제공합니다: kga-it.com

기술적 과제를 함께 해결해 보시겠습니까?

KGA IT Solutions는 AI·클라우드·DevOps 전문 팀이 고객의 과제에 최적의 솔루션을 제공합니다.

문의하기