측정값이 진짜인지
코드로 확인하세요.
TechNode의 모든 핵심 수치는 실측·로그·코드로 뒷받침됩니다. 청구가 아니라 *증거*. 직접 검증할 수 있도록 코드와 ledger를 공개합니다.
실측 API /status 스냅샷 · 발표·실사용 데이터입니다.
아키텍처 한눈에
세 계층 · 모두 모듈화 · 모두 측정 가능.
제어플레인 (Brain)
provider 라우터 + session broker + HTTP API. 워커 등록·세션 할당·재할당 결정. 현재 베타 풀은 개인 PC 소수 대(RTX 4060 Ti / 4070 Super) 규모입니다.
Provider Agent
각 호스트 PC의 PowerShell 네이티브 에이전트. 입력 감지(Raw Input) → 워크로드 freeze(NtSuspend) → heartbeat 송신. 평균 1ms 응답.
Pre-Warmed Pool
워커가 미리 띄워져 freeze 상태로 대기. dispatch 시 thaw + payload 주입 → 콜드스타트 비용 0. n=300 측정.
압축해도 정확한 오픈 모델
소비자 GPU에 올리려면 모델을 압축해야 하는데, 압축하면 보통 정확도랑 함수 호출이 깨집니다. 그래서 압축한 모델을 저희가 직접 다 돌려보고, 통과한 것만 카탈로그에 올려요.
양자화 압축
오픈 모델을 Q4~Q6 / MXFP4로 압축해 16GB(보조 12GB) 소비자 GPU에 적재합니다. 예: gpt-oss-20B → MXFP4 11.3GB, Devstral-24B → Q4 14.3GB, Qwen2.5-7B → Q6 6.0GB.
정확도·함수호출 유지
압축본이 함수호출(필요할 때 도구를 부르고, 무관할 땐 안 부르는지)을 통과하는지 실측합니다. 통과한 것만 '정확도검증' 표시 — Qwen2.5-7B·Qwen3-14B·gpt-oss-20B 등.
실기 검증
각 후보를 노드에서 다운로드 → llama-server 로드 → 스모크(VRAM 적재·tok/s·도구 호출/거절)로 재고, 통과분만 카탈로그에 올립니다. 추정이 아니라 실측값이라, 고객이 고른 모델이 실제로 그 GPU에서 그 속도로 돕니다.
무엇이 다른가 — 그리고 무엇이 아직 부족한가
설계상 진짜 다른 점과, 아직 부족한 점 — 둘 다 그대로 적습니다.
워커를 미리 띄워두는 사전 예열(prewarm)과, 제공자가 키를 누르면 워크로드를 일시정지하는 즉시 양도. 그래서 dispatch·양도 지연이 µs~ms대입니다(프로세스 내부 측정).
규모는 개인 PC 소수 대(베타 런칭 기준). 노드가 빠지면 자동 재연결되지만 진행 상태는 보존 안 됨. 격리는 프로세스 단위(개인 PC 위라 호스트와 완전 분리는 아님 — 민감 데이터 X). 높은 가용성("99.99%"류 수치)은 측정한 적이 없어 주장하지 않습니다.
아래 측정 방법론에 실제 ledger 경로와 n수·분포를 그대로 적어두었습니다. 직접 검증해보세요.
격리는 어디까지인가
현재 격리는 프로세스 단위입니다. 워크로드는 별도 프로세스로 실행되지만, 개인 PC 위에서 돌기 때문에 호스트(PC 주인)와 완전히 분리되진 않습니다.
호스트 접근까지 차단하는 기밀 컴퓨팅(CVM + GPU Confidential Compute)은 H100급 데이터센터 하드웨어가 필요해 컨슈머 GPU에선 지원하지 않습니다. 그래서 민감 데이터·개인정보·독점 모델은 올리지 마세요. 공개·실험용 워크로드엔 적합합니다.
통신 구간은 TLS로 암호화됩니다. microVM·CVM 같은 강한 격리는 데이터센터급 노드가 들어오는 정식 단계의 로드맵입니다.
측정 방법론
"이거 어떻게 잰 거?" 라는 질문에 *코드*로 답합니다.
.technode_runtime/soak/failover_soak.jsonl에 한 줄씩 append. 19.62시간 / 1,258,509 cycles · 0 failure · 5 SLA breach.