인공지능(AI) 기술이 지금처럼 세상을 바꾸리라고 모두가 예상했던 것은 아닙니다. 몇 차례의 'AI 겨울'을 겪으며 AI 연구는 더디게만 흘러가던 시기가 있었습니다. 하지만 2012년, AI 역사에 길이 남을 거대한 변곡점이 찾아옵니다. 바로 '딥러닝(Deep Learning)' 알고리즘과 'GPU(Graphics Processing Unit)'라는 하드웨어의 운명적인 만남이었습니다. 이는 AI 발전의 '첫 번째 임계점'으로 기록됩니다.

ㄴ 한글은 어려운가?

계산량의 벽에 갇혔던 AI

사실 딥러닝의 핵심 아이디어인 인공 신경망(Artificial Neural Network)과 역전파(Backpropagation) 알고리즘은 수십 년 전부터 존재하던 개념이었습니다. 이론적으로는 신경망의 층을 깊게 쌓으면 더 복잡한 문제도 해결할 수 있다는 것을 알고 있었죠. 하지만 이론은 이론일 뿐이었습니다.

수백만, 수억 개가 넘는 연결(파라미터)을 가진 심층 신경망을 학습시키기 위해서는 상상 이상의 계산이 필요했습니다. 당시의 컴퓨팅 환경, 특히 CPU(중앙 처리 장치)는 이러한 대규모 병렬 연산을 감당하기에는 너무나도 느렸습니다. 마치 뛰어난 엔진 설계도를 가지고 있었지만, 그것을 제작할 공장과 부품이 없었던 것과 같습니다. AI는 '계산량'이라는 거대한 벽에 갇혀 잠재력을 발휘하지 못하고 있었습니다.

구원투수의 등장: GPU

이때, 전혀 다른 분야에서 구원투수가 등장합니다. 바로 게임과 그래픽 작업을 위해 탄생한 GPU(그래픽 처리 장치)입니다. GPU는 복잡한 연산 몇 개를 순서대로 처리하는 CPU와 달리, 단순한 연산 수천, 수만 개를 동시에 처리(병렬 처리)하는 데 특화된 구조를 가지고 있었습니다. 3D 그래픽을 화면에 뿌리기 위해 수많은 픽셀의 색상 값을 동시에 계산해야 했기 때문입니다.

연구자들은 깨달았습니다. 신경망 학습 과정에서 일어나는 수많은 행렬 곱셈과 덧셈 연산이 GPU의 대규모 병렬 처리 구조에 완벽하게 들어맞는다는 사실을 말입니다.

GPU를 그래픽 처리 외의 일반적인 계산에 활용하는 기술(GPGPU, General-Purpose computing on GPU)이 주목받기 시작했고, 이는 AI 연구에 새로운 길을 열어주었습니다.

2012년, 역사가 바뀐 순간: AlexNet

2012년, 세계 최대 이미지 인식 경진대회 'ILSVRC(ImageNet Large Scale Visual Recognition Challenge)'에서 역사적인 사건이 일어납니다. 토론토 대학의 제프리 힌튼 교수 연구팀이 개발한 'AlexNet'이라는 딥러닝 모델이 압도적인 성능으로 우승을 차지한 것입니다.

AlexNet의 성공 비결은 간단했습니다. 기존의 방법론을 과감히 버리고, 두 개의 NVIDIA GTX 580 GPU를 활용하여 이전보다 훨씬 깊은 합성곱 신경망(CNN)을 성공적으로 학습시킨 것입니다. AlexNet이 기록한 오류율은 15.3%로, 26.2%를 기록한 2위와는 비교가 불가능할 정도의 격차였습니다.

이 순간은 AI 커뮤니티에 던져진 충격파와도 같았습니다. '충분한 데이터'와 '엄청난 계산량'만 뒷받침된다면 딥러닝이 상상 이상의 성능을 낼 수 있다는 사실이 명백하게 증명된 것입니다.

첫 번째 임계점이 남긴 것

AlexNet의 성공은 단순히 이미지 인식 기술의 발전을 넘어, AI 연구의 패러다임 자체를 바꾸었습니다.

첫째, '계산량 확보'가 AI 발전의 핵심 동력임이 증명되었습니다. 이후 AI 연구는 더 좋은 알고리즘을 만드는 동시에, 더 많은 계산 자원을 확보하기 위한 경쟁으로 흘러갔습니다.

둘째, GPU 제조사들은 AI 시장의 엄청난 잠재력을 확인하고 AI 연산에 특화된 하드웨어 개발에 막대한 투자를 시작했습니다. 이는 다시 AI 기술 발전의 밑거름이 되었습니다.

결론적으로, 2012년의 첫 번째 임계점은 이론의 틀에 갇혀 있던 AI를 현실 세계로 끌어낸 결정적인 사건이었습니다. 그리고 이는 AI가 더 많은 계산량을 갈망하게 만들었고, 결국 우리가 지금 마주하고 있는 '두 번째 임계점'을 불러오는 서막이 되었습니다.