CPU GPU NPU TPU 뜻과 차이, 반도체 핵심 칩 쉽게 이해하기
새 스마트폰이나 노트북 광고를 보다 보면 CPU, GPU, NPU 같은 알파벳이 줄줄이 등장하고, 데이터센터 이야기가 나오면 TPU라는 말까지 붙습니다. 다 비슷한 칩 같은데 이름은 왜 이렇게 여러 개일까요. 답은 의외로 간단합니다. 이 칩들은 각자 잘하는 일이 다르기 때문에, 하나로 합치지 않고 용도에 맞춰 나눠 쓰는 것입니다.
이 글에서는 네 칩의 뜻과 성격을 일하는 사람에 빗대어 쉽게 풀어 보겠습니다. 어려운 수치나 제품명을 외우자는 것이 아니라, 어떤 일에 어떤 칩이 잘 맞는가라는 하나의 감각을 잡는 것이 목표입니다. 이 감각만 손에 쥐면 새 기기의 사양표에 적힌 칩 이름들이 한눈에 이해되고, 그 기기가 어떤 작업에 강한지도 스스로 가늠할 수 있게 됩니다.
왜 칩 하나로 다 못 할까
칩을 이해하는 가장 쉬운 방법은 일하는 사람에 빗대는 것입니다. 어떤 일은 아주 똑똑한 한 사람이 순서대로 차근차근 풀어야 하고, 어떤 일은 단순한 작업을 여러 사람이 한꺼번에 나눠 하면 훨씬 빠릅니다. 컴퓨터 속 칩도 마찬가지여서, 복잡한 판단을 순서대로 하는 데 강한 칩이 있고 단순한 계산을 동시에 잔뜩 처리하는 데 강한 칩이 있습니다.
여기서 핵심이 순차 처리와 병렬 처리입니다. 순차 처리는 한 가지씩 차례로, 병렬 처리는 여러 개를 동시에 하는 방식입니다. 두꺼운 책 한 권을 혼자 정독해 요약하는 일은 사람을 아무리 붙여도 크게 빨라지지 않습니다. 앞을 읽어야 뒤가 이해되어 순서를 건너뛸 수 없어서입니다. 반대로 만 장의 봉투에 주소를 적는 일은 백 명이 나눠 맡으면 백 배 가까이 빨라집니다. 각자의 작업이 서로 얽히지 않아 동시에 밀어붙일 수 있기 때문입니다. 컴퓨터가 다루는 일도 이렇게 성격이 갈립니다.
또 하나의 잣대는 범용과 특화입니다. 어떤 칩은 무슨 일이든 두루 잘하도록 만들어졌고, 어떤 칩은 특정한 계산만 아주 빠르게 하도록 특별히 설계되었습니다. 만능 칩은 편리하지만 특정 작업에서는 전용 칩보다 느리고, 전용 칩은 정해진 일에는 압도적이지만 다른 일은 못 합니다. 속도와 전력, 유연함과 비용은 서로 맞바꾸는 관계라 모두를 한 번에 만족시키는 완벽한 칩은 만들기 어렵습니다.
그렇다면 무슨 일이든 잘하는 완벽한 칩 하나를 만들면 되지 않을까 싶지만, 그것은 현실적으로 어렵습니다. 특정 작업에 맞춘 회로를 넣을수록 그 일은 빨라지는 대신 칩이 커지고 전력을 더 먹고, 반대로 아무 일이나 하도록 유연하게 만들면 어떤 일도 최고 속도로는 못 합니다. 빠르게, 적은 전력으로, 유연하게, 저렴하게를 한꺼번에 잡을 수 없으니 결국 역할을 나누는 편이 이득입니다.
그래서 기기를 설계하는 쪽은 일을 성격별로 쪼갭니다. 늘 켜져 있어야 하는 대기 상태는 전력을 아끼는 칩에, 그래픽 같은 무거운 계산은 병렬에 강한 칩에, 인공지능 계산은 그것만 전문으로 하는 칩에 나눠 맡기는 식입니다. 이렇게 성격이 다른 칩을 한 기기 안에 모아 각자 잘하는 일을 시키는 방식을 이종 칩 활용이라고 부릅니다. 이제 네 칩을 하나씩 살펴보겠습니다.
CPU와 GPU, 지휘자와 대군
가장 익숙한 두 칩부터 보겠습니다. CPU는 중앙처리장치, 영어로 Central Processing Unit의 앞 글자를 딴 이름입니다. 컴퓨터의 두뇌라 불리며 프로그램을 실행하고 여러 장치를 지휘하며 복잡한 논리와 제어를 맡습니다. 강력한 코어를 비교적 적은 수로 갖춰, 하나하나의 작업을 빠르고 똑똑하게 순서대로 처리하는 데 강합니다. 비유하면 경험 많은 소수의 전문가 팀과 같습니다.
우리가 컴퓨터를 켜서 창을 열고 인터넷을 하고 문서를 쓰는 대부분의 순간, 그 흐름을 지휘하는 것이 CPU입니다. 어느 프로그램에 얼마만큼의 힘을 실을지 배분하고, 다른 부품에 일을 시키고 결과를 받아 정리하는 관리자 역할도 CPU의 몫입니다. 그래서 CPU는 한 작업만 유난히 빠른 것보다, 예측하기 힘든 온갖 요청을 그때그때 무난히 소화하는 균형이 더 중요합니다. 이런 두루뭉술한 강점 덕에 CPU는 지금도 모든 컴퓨터의 한가운데를 지킵니다.
GPU는 그래픽처리장치, Graphics Processing Unit의 약자입니다. 이름이 말해 주듯 처음에는 화면에 그림을 그리는 일을 맡기려고 만들어졌습니다. 화면을 채운 수많은 점을 동시에 계산하는 그래픽 작업은 똑같은 셈을 아주 많이 되풀이하는 일이라, GPU는 CPU와 정반대로 단순한 코어를 잔뜩 갖추고 여러 계산을 한꺼번에 병렬로 밀어붙이도록 설계되었습니다. 비유하면 단순 작업을 나눠 맡는 수많은 일손입니다.
그런데 이 특성이 엉뚱한 데서 진가를 발휘했습니다. 바로 인공지능 학습입니다. AI를 학습시키는 과정은 방대한 숫자 계산을 끝없이 되풀이하는 일이라 병렬에 강한 GPU가 딱 맞아떨어졌고, 오늘날 GPU가 게임을 넘어 AI 분야의 핵심 부품이 된 배경이 여기에 있습니다. 대규모 AI 학습에 동원되는 AI 연산용 GPU가 데이터센터의 없어서는 안 될 장비로 자리 잡은 것도 같은 흐름입니다. 결국 CPU와 GPU는 우열이 아니라 성격의 차이여서, 복잡하고 순서가 중요한 일은 CPU가, 단순하지만 양이 많은 일은 GPU가 맡아 손발을 맞춥니다.
AI 시대의 새 얼굴, NPU와 TPU
인공지능이 널리 쓰이면서 AI 계산만 전문으로 하는 칩이 새로 등장했습니다. 대표가 NPU와 TPU입니다. GPU도 AI에 강하지만, AI 계산에는 일정한 반복 패턴이 있어서 그 대목만 더 알뜰하게 처리하려고 아예 전용 칩을 만든 것입니다. AI 계산은 같은 꼴의 곱셈과 덧셈을 어마어마하게 되풀이하는데, 이 정해진 패턴에 맞춰 회로를 통째로 짜 두면 훨씬 적은 전력으로 빠르게 처리할 수 있습니다.
NPU는 신경망처리장치, Neural Processing Unit을 뜻합니다. 사람의 뇌 신경망을 본떠 만든 AI 계산에 특화된 칩으로, 가장 큰 장점은 적은 전력으로 AI 계산을 효율적으로 처리한다는 점입니다. 그 덕분에 배터리로 돌아가는 스마트폰과 궁합이 특히 좋습니다. 찍은 사진을 알아서 보정하고, 말소리를 알아듣고, 얼굴을 알아봐 잠금을 푸는 것처럼 기기 안에서 곧바로 돌아가는 AI 기능은 대개 NPU가 도맡습니다. 배터리 하나로 하루를 버텨야 하는 기기에서 이 전력 효율은 곧 사용 시간과 발열로 직결됩니다.
여기서 온디바이스 AI라는 말을 알아 두면 좋습니다. 데이터를 멀리 있는 서버로 보내지 않고 기기 안에서 곧장 AI 계산을 끝내는 방식을 말합니다. 서버를 오가지 않으니 반응이 빠르고, 개인 정보가 기기를 벗어나지 않아 안심되며, 인터넷이 끊겨도 일부 기능은 그대로 돌아갑니다. 이 온디바이스 AI를 낮은 전력으로 돌리는 열쇠가 NPU라서, 요즘 스마트폰과 노트북에서 NPU의 존재감이 부쩍 커지고 있습니다.
TPU는 텐서처리장치, Tensor Processing Unit입니다. 텐서란 AI 계산에서 다루는 숫자 덩어리, 쉽게 말해 행렬 형태의 대량 숫자 계산을 가리킵니다. TPU는 이 대규모 행렬 계산을 아주 빠르게 처리하도록 설계된 칩으로, 주로 데이터센터에서 방대한 AI 모델을 학습하고 운영하는 데 쓰입니다. 필요 없는 기능은 과감히 덜어 내고 정해진 계산만 촘촘히 처리해 같은 전력으로 훨씬 많은 계산을 소화합니다. 개인이 직접 만질 일은 드물지만, 우리가 쓰는 여러 인터넷 서비스의 AI 기능 뒤에서 이런 칩이 대규모 계산을 담당합니다. 같은 AI 특화 칩이라도 NPU는 손안의 기기용, TPU는 대형 서버용으로 방향이 갈리는 셈입니다.
TPU가 유독 빠른 비결은 AI 계산의 핵심인 행렬 곱셈에 회로를 통째로 맞춰 두었다는 데 있습니다. 두루 쓰이려는 욕심을 버리고 정해진 셈만 촘촘히 처리하도록 설계한 덕분에 같은 전력으로 더 많은 계산을 감당하는 것입니다. 다만 그만큼 쓰임이 좁아 일반 사용자가 개인 기기에서 만질 일은 거의 없고, 대형 서비스 사업자가 자신의 데이터센터에 갖춰 두고 활용합니다. 우리는 그 결과물을 앱과 웹으로 편하게 받아 쓰는 셈입니다.
내 기기 속 칩들은 이렇게 협력한다
이 칩들이 실제로 어떻게 함께 쓰이는지 우리 주변의 예로 살펴보겠습니다. 아래 표는 대표적인 작업을 기준으로 어떤 칩이 주로 나서는지 정리한 것입니다. 코어 수 같은 구체적인 수치 대신, 각 작업에 어떤 칩이 어울리는지를 이해하는 데 초점을 두면 됩니다.
| 이런 작업을 할 때 | 주로 나서는 칩 | 그 이유 |
|---|---|---|
| 문서 작업·프로그램 실행 | CPU | 복잡한 논리를 순서대로 지휘 |
| 게임 그래픽·영상 처리 | GPU | 단순 계산을 대량 병렬로 |
| 폰의 사진 보정·음성 인식 | NPU | 저전력으로 기기 안 AI 처리 |
| 데이터센터 대형 AI 학습 | GPU·TPU | 거대한 행렬 계산을 빠르게 |
스마트폰은 작은 몸체 안에 여러 칩이 하나로 묶여 들어갑니다. 앱을 실행하고 전체를 지휘하는 CPU, 화면과 게임을 매끄럽게 그리는 GPU, 사진 보정이나 음성 인식을 저전력으로 처리하는 NPU가 함께 일합니다. 카메라로 인물 사진을 찍는 순간, 이 세 칩이 각자 역할을 나눠 순식간에 결과를 만들어 내는 것입니다. PC나 게임기에서는 주로 CPU와 GPU가 짝을 이뤄, CPU가 게임의 논리를 처리하고 GPU가 화려한 그래픽을 그려 냅니다.
이런 협력은 자동차와 가전으로도 넓어지고 있습니다. 자동차는 주변을 인식하고 판단하는 데 많은 계산이 필요해, 전체를 제어하는 칩과 AI 계산에 특화된 칩을 함께 씁니다. 텔레비전이나 냉장고 같은 가전에도 화면을 선명하게 다듬거나 사용 습관을 학습하는 AI 기능이 들어가면서 그에 맞는 칩이 조용히 일하고 있습니다. 눈에 잘 띄지 않을 뿐, 성격이 다른 칩을 함께 쓰는 방식은 이미 생활 곳곳으로 퍼져 있는 셈입니다.
반대로 우리 눈에 보이지 않는 데이터센터에서는 GPU와 TPU가 주역입니다. 거대한 AI 모델을 학습시키고 수많은 사용자에게 AI 서비스를 제공하려면 어마어마한 계산이 필요한데, 이 무거운 일을 병렬에 강한 GPU와 AI 전용 TPU가 나눠 감당합니다. 우리가 스마트폰으로 쓰는 AI 기능 중 상당수는 사실 멀리 있는 데이터센터의 이런 칩들이 대신 계산해 주는 것입니다. 가벼운 계산이나 개인 정보가 걸린 처리는 기기 안 NPU가, 아주 무거운 계산은 데이터센터의 GPU와 TPU가 맡는 식으로 일을 나눕니다.
한 가지 주의할 점은, 이 네 칩의 역할이 칼로 자르듯 완전히 분리되어 있지는 않다는 것입니다. GPU도 AI 학습에 쓰이고, 성능 좋은 CPU는 간단한 AI 계산을 처리하며, NPU가 하는 일을 GPU가 대신하기도 합니다. 서로 겹치는 구석이 있을 뿐, 그 작업에 가장 알맞은 칩이 저마다 다른 것입니다. 그래서 실제 기기는 한 칩에 몰아주기보다 여러 칩을 상황에 맞춰 나눠 씁니다.
요점만 한 줄로 추리면 이렇습니다. CPU는 무엇이든 두루 잘하는 지휘자, GPU는 단순 계산을 대량으로 밀어붙이는 병렬 일꾼, NPU는 작은 기기에서 AI를 저전력으로 돌리는 효율가, TPU는 데이터센터에서 거대한 AI 계산을 감당하는 전문 선수입니다. 앞으로도 온디바이스 AI가 스마트폰을 넘어 노트북과 가전, 자동차까지 퍼지며 NPU의 중요성은 계속 커지겠지만, 그렇다고 한 칩이 나머지를 완전히 대체하지는 않을 것입니다. 칩 이름이 아무리 늘어나도, 어떤 일에 어떤 칩이 잘 맞는가라는 잣대 하나만 손에 쥐고 있으면 새 이름의 칩이 나와도 그것이 어느 자리에 놓이는지 어렵지 않게 가늠할 수 있습니다.
함께 보면 좋은 글
작성: jn 블룸 편집부 · 일반 정보이며, 중요한 결정 전에는 해당 기관 공식 안내를 확인하세요.
본 글은 의료·법률·투자 자문이 아니며, 개인 상황에 맞는 판단은 전문가와 상담하세요.
댓글
댓글 쓰기