NPU 성능 계산기
이 무료 NPU 성능 계산기는 MAC 배열 크기와 클럭 주파수로 TOPS(초당 테라 연산)를 계산하고, YOLOv8, LLaMA 등 AI 모델의 실제 추론 지연시간을 추정하며, Qualcomm Hexagon, Apple Neural Engine, AMD XDNA, Intel NPU 등 8개 이상 NPU를 인터랙티브 SVG 바 차트로 비교합니다.
NPU의 곱셈-누적(MAC) 유닛 수
NPU 동작 주파수
낮은 정밀도 = 높은 TOPS, 낮은 정확도
실제 활용률은 보통 50-80%
피크 TOPS
4.10 TOPS
유효 TOPS
2.87 TOPS
동등 GFLOPS
4.1 TFLOPS
제안이 있으신가요?
새로운 도구를 요청하거나 개선 사항을 제안해 주세요 — Slack 커뮤니티에 참여하세요!
NPU 성능 계산기란?
NPU(Neural Processing Unit) 성능 계산기는 전용 AI 가속칩의 이론 및 실제 성능을 추정하는 도구입니다. 칩의 MAC(곱셈-누적) 배열 크기와 클럭 주파수로 TOPS(초당 테라 연산)를 계산하며, INT8, FP16, FP32 등 다양한 수치 정밀도를 고려합니다. AI PC와 엣지 AI 기기가 주류가 되면서(2026년까지 시장 점유율 59% 전망) NPU 성능을 이해하는 것은 개발자, 하드웨어 엔지니어, 시스템 아키텍트에게 필수적입니다. 특정 NPU가 AI 모델을 허용 가능한 지연시간과 전력 예산 내에서 실행할 수 있는지 평가해야 하기 때문입니다.
NPU 성능 계산기 사용 방법
- TOPS 계산기 탭에서 MAC 유닛, 클럭 주파수, 정밀도(INT8/FP16/FP32)를 입력하여 NPU 성능을 계산합니다
- 활용률 슬라이더(보통 50-80%)를 조정하여 실제 유효 TOPS를 추정합니다
- 추론 시간 추정 탭으로 전환하여 NPU 프리셋과 AI 모델 프리셋을 선택합니다
- 비전 모델의 추론 지연시간(ms)과 FPS, 또는 LLM의 토큰/초를 확인합니다
- NPU 비교 탭에서 여러 NPU를 선택하고 나란히 비교 차트를 생성합니다
- 다양한 NPU 아키텍처의 TOPS와 TOPS/W(전력 효율)를 비교합니다
- 프리셋 데이터베이스에 없는 NPU의 사양을 직접 입력합니다
자주 묻는 질문
TOPS는 무엇이며 어떻게 계산되나요?
TOPS는 Tera Operations Per Second(초당 테라 연산)의 약자로, AI 가속기가 초당 수행할 수 있는 연산 수를 나타냅니다. 계산 공식: TOPS = MAC 유닛 수 × 클럭 주파수(GHz) × 2. ×2는 각 MAC 유닛이 클럭 사이클당 곱셈 하나와 덧셈 하나를 수행하기 때문입니다. 예를 들어 2048개 MAC이 1 GHz로 동작하는 NPU는 INT8 정밀도에서 4.096 TOPS를 제공합니다.
정밀도(INT8 vs FP16 vs FP32)가 NPU 성능에 왜 영향을 주나요?
NPU는 INT8 정밀도에서 최대 TOPS를 달성합니다. 8비트 정수는 연산당 필요한 트랜지스터가 적어 더 많은 병렬 연산이 가능하기 때문입니다. FP16(반정밀도 부동소수점)은 보통 INT8의 절반, FP32는 1/4의 TOPS를 제공합니다. 대부분의 추론 워크로드는 정확도 손실이 미미한 INT8 또는 FP16 양자화 모델을 사용하므로 INT8 TOPS가 가장 일반적으로 인용되는 스펙입니다.
추론 시간 추정은 얼마나 정확한가요?
추정값은 피크 TOPS와 모델 FLOPS를 기반한 이론값입니다. 실제 성능은 메모리 대역폭, 데이터 전송 오버헤드, 모델 최적화(양자화, 프루닝), 소프트웨어 프레임워크 효율에 따라 달라집니다. 일반적인 실제 활용률은 피크 TOPS의 50-80%입니다. 활용률 슬라이더로 이러한 요소를 조정하여 더 현실적인 추정이 가능합니다.
로컬 LLM 실행에 가장 좋은 NPU는 어떤 것인가요?
로컬 LLM 추론에는 높은 TOPS와 넓은 메모리 대역폭이 필요합니다. 2024년 기준 AMD XDNA 2(50 TOPS), Intel NPU 4(48 TOPS), Qualcomm Hexagon(45 TOPS)이 PC NPU 시장을 선도합니다. 그러나 TOPS만으로 LLM 성능이 결정되지 않으며 메모리 대역폭과 소프트웨어 최적화가 동등하게 중요합니다. 추론 시간 추정 탭에서 특정 모델의 NPU별 비교가 가능합니다.