오늘 네이버 뉴스란을 가보니 아니나 다를까 이런 제목이 또 한번 올라오더라: "국산 NPU, '리벨리온•퓨리오사•사피온', 엔비디아 어떻게 잡을까"

이런 '국산' NPU, 아니 국내외를 막론한 반도체 설계 스타트업들은 주로 TOPS (Trillion operations per second)를 기준으로 자사 NPU (GPU, TPU, AI Accelerator 등 다양한 이름으로 불리지만 병렬 매트릭스 연산에 특화된 프로세서를 통칭하는말로 사용하겠다)의 성능을 강조하곤 하는데, 주로 비전을 학습하는 ResNet50 이라는 아키텍쳐를 기반으로 테스트를 진행한다.

여기서 TOPS가 크게 의미가 없는 지표인 이유를 이해하려면 CPU (Central Processing Unit)와 NPU (Neural Processing Unit)의 차이점을 알아야 한다.

CPU는 공장으로 치면 생산라인이 매우 길다. 데이터가 한번 들어오면 A 프로세스를 거치고 B 프로세스를 거치고 C 프로세스를 거쳐야