| 모델 / 양자화 | 모델 크기 GB | 생성(Decode) tok/s | 입력 처리(Prefill) tok/s | TTFT s |
|---|---|---|---|---|
| Qwen3.6-35B-A3B ROCmFP4-STRIX · 채팅 | 19.86 | 79.20 | 1240.91 | 0.462 |
| Qwen3.6-35B-A3B UD-Q4_K_XL | 22.85 | 81.77 | 1063.82 | 0.935 |
| Qwen3.8-Flash-Next ROCmFP4-FAST | 93.48 | 45.08 | 391.81 | 2.980 |
| Qwen3.8-Flash-Next UD-Q4_K_XL | 111.33 | 23.49 | 283.56 | 2.033 |
| Qwen3.8-27B Q4_K_M | 17.10 | 21.01 | 252.39 | 4.457 |
| GLM-5.3-Flash UD-IQ4_XS | 146.05 | 17.79 | 70.18 | 14.71 |
| DeepSeek-V4-Flash-0731 UD-Q4_K_XL | 144.44 | 17.66 | 104.86 | 9.770 |
Decode: 토큰 생성 속도.
Prefill: 프롬프트 처리 속도.
TTFT: 첫 번째 토큰이 출력될 때까지 걸리는 시간.
출처: GMKtec 연구소. 실제 성능은
모델, 양자화 방식, 컨텍스트 길이 및 소프트웨어 구성에 따라 달라집니다.
로컬 AI로 정기적으로 발생하는 비용을 줄이는 방법을 살펴보세요. 아래 예시는 워크스테이션 대체와 클라우드 API 사용 대체라는 두 가지 별개의 시나리오를 보여줍니다.
시나리오 01 · 전기 요금
$42.03 / 월
180W와 600W를 비교한 예시에서 예상되는 전기 요금 절감액입니다. 이는 시스템 전체 소비 전력을 가정한 값이며, EVO-X5 Pro의 실제 측정 결과가 아닙니다.
| 시스템 예시 | 월간 전력 사용량 | 월간 비용 |
|---|---|---|
| 180W 시스템 | 129.6 kWh | $18.01 |
| 600W 워크스테이션 | 432.0 kWh | $60.05 |
| 예상 절감액* | 302.4 kWh | $42.03 |
*반올림 전 값을 기준으로 계산했습니다. 제품을 타당하게 비교하려면 동일한 수준의 작업을 완료하는 데 필요한 전력 사용량을 실제로 측정해야 합니다. 가동 시간이 같다고 해서 추론 출력량이 같은 것은 아닙니다.
시나리오 02 · 클라우드 API
$360 / 월
아래 사용량 예시를 적합한 로컬 추론으로 완전히 대체할 경우 발생하지 않을 수 있는 클라우드 API 요금입니다. 요금 단가는 예시입니다.
| 토큰 유형 | 월간 사용량 | 100만 토큰당 요금 | 비용 |
|---|---|---|---|
| 입력 | 100M | $2 | $200 |
| 출력 | 20M | $8 | $160 |
| 예상 API 요금 절감액 | $360 | ||
30일 동안 출력 토큰 2,000만 개를 생성하려면 한 달 내내 초당 평균 약 7.72개의 출력 토큰을 지속적으로 생성해야 합니다. 실제 처리 용량은 선택한 모델, 컨텍스트 길이 및 작업 부하에 따라 검증해야 합니다.
이는 예시 계산일 뿐이며, EVO-X5 Pro의 실측 절감액이나 성능을 주장하는 내용이 아닙니다. 두 시나리오는 비교 기준이 다르므로 합산해서는 안 됩니다. 실제 절감액은 콘센트에서 측정한 소비 전력, 작업 부하, 모델 품질, 처리량, 가동률, 전기 요금 및 API 요금에 따라 달라집니다. 어댑터 정격과 프로세서 전력 설정은 시스템 전체 소비 전력의 실측값이 아닙니다. 줄어든 API 요금이 곧 순절감액은 아닙니다. 하드웨어, 로컬 전기 요금, 소프트웨어 및 유지보수 비용도 고려해야 합니다.
