AI 연산을 가능하게 하는
반도체와 양자화

반도체 소자에서 저정밀 AI 연산까지

과목명

통합과학1

#반도체 소자#AI 연산#CPU/GPU/NPU#양자화
목차

탐구 동기

AI가 빠르게 답을 생성하는 과정 뒤에 어떤 과학 원리가 있는지 궁금해지면서 본 탐구를 시작하였다.

특히 인공지능이 단순한 소프트웨어가 아니라 반도체 기반의 물리적 연산 구조 위에서 동작한다는 점에 주목하였다.

AI의 빠른 연산은 어떤 물리적 구조 위에서 가능할까?

소프트웨어처럼 보이는 AI
실제로는 반도체 위의 연산

탐구 키워드와 기술 스택

#AI의 연산 원리

행렬 곱셈과 병렬 처리의 기본 개념

#반도체의 역할

물리적 트랜지스터가 0과 1을 처리하는 방식

#하드웨어의 차이

CPU, GPU, NPU의 구조적 목적 차이

#양자화 (Quantization)

정밀도를 낮춰 효율을 극대화하는 기술

웹 구현에 사용된 핵심 기술 스택

Next.js

웹페이지 전체 구조 및 라우팅을 담당하는 프레임워크

React

상태(State) 관리 및 모듈화된 UI 컴포넌트 설계

TypeScript

정적 타입 지원으로 코드의 안정성과 가독성 확보

Tailwind CSS

유틸리티 클래스를 활용한 빠르고 직관적인 반응형 스타일링

GSAP (ScrollTrigger)

사용자의 스크롤에 반응하는 고급 애니메이션 및 시퀀스 제어

반도체는 왜 중요한가?

물질은 전기가 통하는 도체와 통하지 않는 부도체로 나뉜다. 반도체는 조건에 따라 이 두 가지 성질을 모두 가질 수 있는 특별한 물질이다.

도체

항상 전기가 통함

자유전자가 활발히 이동

부도체

전기가 통하지 않음

전자가 이동하지 못함

반도체

조건부로 전기가 통함

조건에 따라 전자 이동 제어

반도체는 필요에 따라 전류를 흐르게 하거나 막을 수 있어 정보를 처리하는 스위치로 사용될 수 있다.

도핑을 통해 성질이 바뀌는 반도체

순수 반도체는 전기가 잘 통하지 않지만, 불순물을 첨가하는 도핑 과정을 거치면 전류를 제어할 수 있는 n형 또는 p형 반도체가 된다.

순수 반도체도핑n형 / p형

n형 반도체

자유전자가 많아 전류 흐름이 발생하는 구조

자유전자가 이동하는 모습

p형 반도체

양공이 많아 전류 흐름이 발생하는 구조

자유전자가 비어있는 자리(양공)가 생기는 모습

전류를 제어하는 반도체 소자

반도체 소자는 트랜지스터, 다이오드 등 다양한 형태로 구현되며, 컴퓨터 내부에서 전류를 제어하는 핵심 역할을 수행한다.

가장 대표적인 트랜지스터 구조

다이오드

전류를 한 방향으로만 흐르게 함

트랜지스터

전류의 흐름을 켜고 끄거나(스위칭) 신호를 증폭함

Gate (게이트)
Source
(소스)
Drain
(드레인)
게이트에 전압을 가하면 채널이 열려 전류가 흐름

전류는 0과 1이 된다

트랜지스터는 전류 흐름을 0과 1로 제어할 수 있는 스위치 역할을 한다. 이를 통해 논리 게이트가 구성되며, AND, OR, NOT과 같은 기본 연산이 전기 신호 수준에서 수행된다.

트랜지스터 스위치의 조합 = 논리 게이트 (마우스를 올려보세요!)

AND

직렬: 둘 다 켜져야 통과

A
B
출력: 0 (차단)

OR

병렬: 하나만 켜져도 통과

A
B
출력: 0 (차단)

NOT

반전: 켜면 꺼지고 끄면 켜짐

A
출력: 1 (통과)
수많은 트랜지스터의 조합이 컴퓨터 연산 회로를 형성한다.

물리 신호에서 디지털 정보로

컴퓨터는 정보를 0과 1로 표현하는 이진법을 기반으로 동작한다. 반도체는 전류 흐름을 통해 이러한 0과 1 상태를 구현하며, 이는 디지털 정보 처리의 기본 단위가 된다.

전류 있음1
전류 없음0
1
0
1
1
0
0
1
0
1
1
0
1
0
0
0
1
데이터 블록
입력
연산
출력
컴퓨터 연산

AI는 숫자를 계산한다

AI는 데이터를 숫자로 변환한 뒤 대량의 행렬 계산을 반복 수행하는 구조를 가진다. 따라서 단순한 순차 처리보다 병렬 처리가 중요하다.

이미지
텍스트
소리
데이터
[255, 128, 0][0.5, -1.2][44100, 16]
숫자 변환
0.1
0.5
-1.2
0.8
-0.3
0.4
-0.9
0.2
1.1
0.3
0.7
-0.5
행렬 계산
AI결과
결과 출력

AI 연산을 처리하는 하드웨어 구조

CPU, GPU, NPU는 모두 연산을 수행하지만, 데이터를 처리하는 방식(차선)이 다릅니다.

CPU

1차선: 순서대로
처리장치
  • 단일 차선처럼 한 번에 하나씩 처리
  • 복잡한 명령어를 정확하게 수행

GPU

다차선: 동시에
처리장치
  • 다차선처럼 여러 데이터를 동시 처리
  • 대규모 반복 계산에 최적화

NPU

전용망: 거대한 행렬
NPU
  • 행렬을 통째로 입력받아 한 번에 처리
  • 전력 소모 최소화 및 추론 최적화
AI 연산은 단순 반복이 매우 많기 때문에, NPU와 같은 행렬 전용 처리장치가 압도적으로 효율적이다.

숫자의 정밀도와 연산 비용

AI 연산에서 숫자는 비트 단위로 표현되며, 이에 따라 정밀도와 연산 비용이 달라진다.

FP (Floating Point)

  • - 부동소수점 방식으로 소수점 위치를 움직이며 매우 크거나 작은 실수를 표현한다.
  • - FP32와 FP16은 실수 값을 표현하며 비트 수가 클수록 더 정밀하다.
예: 0.847291

INT (Integer)

  • - 정수 표현 방식으로 실수가 아니라 제한된 범위의 정수로 값을 표현한다. (INT8, INT4)
  • - FP보다 표현은 단순하지만, 연산 속도와 메모리 효율 면에서 유리하다.
예: 127, 64, 0, -32
FP32
높은 정확도 높은 비용
FP16
메모리 적음 속도 빠름
INT8
빠른 연산 저전력
INT4
초저전력

양자화: 숫자를 가볍게 만드는 과정

양자화는 높은 정밀도의 실수를 낮은 비트 수의 정수로 변환하는 과정이다. 이는 데이터를 단순화하는 압축 방식으로 볼 수 있다.

FP32/16

많은 소수점 숫자

변환
(양자화)

INT8/4

단순한 정수값

양자화는 정확도를 일부 줄이는 대신 속도와 효율을 높인다.

왜 NPU는 양자화에 효율적인가?

AI는 수십억 개의 행렬 연산을 수행하므로, 모든 연산을 고정밀도로 처리하는 것은 비효율적이다. 따라서 일부 정확도를 희생하더라도 속도와 전력 효율을 높이는 것이 중요하다.

GPU

범용 고정밀 병렬 연산 (FP32, FP16)

NPU

AI 전용 저정밀 연산 (INT8, INT4)

NPU가 효율적인 이유 3가지

MAC

MAC 구조 기반

1사이클 연산:(a×b)+c 동시 처리

데이터 이동 최소화

근거리 메모리 배치로 전력 절감

INT8/4 하드웨어

저정밀 최적화로 칩 면적/발열 감소

결론: AI 반도체 발전의 핵심은 균형

무조건 높은 정밀도와 속도를 추구하는 것이 정답은 아니다. 실제 환경에서는 연산 속도, 전력 소모, 도입 비용 사이의 최적의 균형을 찾는 것이 필수적이다.

1

연산 속도

필요 요소

병렬 처리 & 하드웨어 특화

달성 방법

GPU와 NPU 도입으로 한 번에 수많은 데이터를 처리하여 속도 수십 배 향상

2

전력 소모

필요 요소

메모리 병목 해소 & 저전력 설계

달성 방법

불필요한 데이터 이동을 줄이고, 저정밀 연산을 통해 발열과 전력 통제

3

도입 비용

필요 요소

가성비 극대화 (양자화)

달성 방법

고가의 고정밀 연산기 대신 INT8, INT4 등 저비용 구조로 최적화

AI 하드웨어의 발전 방향

극한의 효율(양자화+NPU) 추구

필수적인 정밀도 유지 및 최적화