AI 반도체 개념과 관련 기업

사진 : 디일렉

사실 AI라는 단어가 익숙해진지는 꽤 오래되었다. 요즘에는 AI가 인터넷, 스마트기기, 자율주행, 의료기기, 클라우드 (가상 저장공간) 등 사용처가 다양해지며 생활 속 깊숙이 들어왔다.


AI 반도체는 비메모리 반도체로서 AI 연산에 최적화된 시스템 반도체이다. AI가 필요한 서비스의 대규모 연산을 빠르게 처리한다. 또한 낮은 전력소모로 AI연산을 해낼 수 있다. 즉, 대용량의 데이터를 초고속으로 처리할 수 있는 AI에 특화된 반도체라고 할 수 있다.


AI 반도체 시장은 시스템 반도체 시장 성장과 함께 커질 것으로 전망되고 있으며, 차지하는 비중 또한 점점 커질 것으로 보인다.

AI 반도체 시장 규모 (가트너, 한겨례)

AI 반도체 종류

AI 반도체 발전 (한국전자통신연구원, SK텔레콤)

대표적인 연산 처리 반도체로 CPU와 GPU가 있다. AI반도체가 개발되기 전에는 주로 CPU와 GPU가 컴퓨터의 두뇌를 담당해왔다. CPU, GPU도 물론 AI 연산을 처리할 수 있는 능력은 가졌다. 하지만 AI 연산을 처리하기 위해서는 더 빠른 속도와 높은 전력을 필요로 하게 되었고, AI 연산에 특화된 AI반도체가 필요하게 되었다.
연산 처리 반도체 중 가장 먼저 개발 되었던 CPU는 데이터 연산을 하나하나씩 직렬로 처리한다. 이 방식은 대규모의 데이터를 한 번에 병렬로 처리해야 하는 AI 연산 방식에 적합하지 않다. 즉, CPU로 AI 연산을 하면 처리 속도가 느린 것이 단점이다.


이와 달리 GPU는 AI반도체로 사용하기에 좀 더 적합하다. GPU는 CPU와 달리 데이터 연산을 동시에 병렬로 처리한다. 그래서 CPU의 대안으로 GPU가 AI반도체로 사용되기 시작했다. 현재 엔비디아의 GPU가 차지하는 AI 반도체 시장 점유율이 약 90%인걸 보면 CPU보다 AI 연산에 적합하다는 걸 알 수 있다. 그러나 GPU도 AI 연산에 특화된 것은 아니라서 AI 알고리즘 처리에 필요하지 않은 기능들이 포함되어 있다. 이 때문에 가격이 비싸고, 전력 면에서도 불필요한 소모가 있다.

*엔비디아에 대해 자세히 알고 싶다면 아래 링크 클릭!
https://simguani.tistory.com/8

엔비디아(NVIDIA) 기업 분석과 이들의 전략

그래서 대안으로 사용된 것이 FPGA와 ASIC이다. 범용 연산 처리 기반의 CPU나 GPU와는 달리 FPGA와 ASIC는 특정 목적에 맞춰진 연산 처리만 수행하는 프로세서이다.


FPGA(Field Programmable Gate Array)는 칩 내부 하드웨어를 원하는 목적에 따라 재프로그래밍이 가능한 것이 특징이다. 따라서 AI 기술 변화에 빠르게 대응할 수 있다. 또한 발열 측면에서 GPU에 비해 유리하다. 프로그래밍을 통해 AI 모델에 맞게 조절할 수 있기 때문이다. 그래서 전력 효율이 좋다. ASIC(Application Specific Integrated Circuit)은 특정 목적에 맞춰 만들어진 주문형 반도체로 고효율이 특징이다.


또한 최근 새롭게 개발하고 있는 AI 반도체로 NPU 가 부상하고 있다. NPU는 뉴로모픽(Neuromorphic) 반도체로서 사람 뇌의 신경세포와(뉴런)와 연결고리(시냅스) 구조와 유사하다. NPU은 AI 일고 리즘에 최적화가 가능하며, 성능과 효율성은 CPU, GPU, FPGA, ASIC보다 뛰어나지만 범용성이 낮고 아직 개발 중인 차세대 AI 반도체이다.

AI 반도체 플레이어

그렇다면 AI 반도체 시장에 뛰어들고 있는 기업은 어디일까? 글로벌 반도체 팹리스 기업인 인텔, 퀄컴, 엔비디아는 물론 빅테크 기업인 구글, 아마존, 애플 등도 자체 AI 반도체를 개발하고 있다. 빅 테크 기업들은 자신들의 제품에 최적화된 성능을 가진 반도체를 원한다. 기존에는 시장에 나와있는 반도체를 골라 쓰거나 특정 성능을 주문 제작해서 써왔다. 그러나 제품의 성능을 최고로 끌어올리는데 한계가 있어 자신들의 제품에 특화된 반도체를 직접 만들기 시작한 것이다. 그리고 기존 시장 제품들은 필요 없는 기능까지 포함되어 있는데, 필요한 기능만 넣어서 비용을 절감할 수 있는 장점이 있다.

회사	제품	Application
인텔	Gaudi	서버
엔비디아	A100, H100	서버
	Xavier	차량 (자율주행)
구글	TPU	서버
아마존	Graviton	서버
마이크로소프트	HPU	AR기기

테슬라가 엔비디아의 반도체를 사서 쓰다가 최근에는 직접 만들어 사용하는 것이 대표적인 사례이다. 구글 또한 데이터 센터용 AI반도체 TPU를 출시하고 있다.


미래 준비에 민감한 빅테크 기업들은 AI 반도체 시장에 진입하는 것에 만족하지 않고 선도하기 위해 치열하게 경쟁하고 있다. 이들이 만든 반도체의 사용처를 보면 주로 미래 먹거리로 자주 거론되고 있는 데이터센터, 자율주행 차량, AR기기 등이다. 미래 산업의 하드웨어뿐 아니라 사람의 뇌에 해당하는 핵심 소프트웨어인 AI 반도체를 개발하고, 선점하여 시장을 이끌려는 목적이다.


앞으로 AI 반도체를 만드는 회사나 사용처는 더 생길 수 있고, 한 회사가 점유율을 높여 독점할 수도 있다. 앞으로 이러한 치열한 경쟁을 지켜보면서 AI 반도체 시장이 전망대로 계속 성장해 나갈지 주목해보자.