‘고양이 얼굴’ 알아본 인공지능, 움직임까지 예측

[미래] 인공지능, 어떻게 발전하고 있나

’인간 개입’ 없는 학습으로 물체 식별
머신러닝이 붐 일으키며 대세 됐지만
시간 인식하는 신경망 ‘HTM’ 잠재력 커

컴퓨터는 인공신경망(뉴럴 네트워크)을 바탕으로 유튜브 비디오에서 얻은 레이블 없는 사진을 보고 훈련해 고양이를 인식할 수 있게 됐다. 구글 공식 블로그

원의 둘레를 지름으로 나눈 값인 원주율(파이·π)을 컴퓨터에게 계산해보라고 하면 일을 아주 잘한다. 3.141592653589793… 순식간에 끝도 없는 숫자를 내뱉는 컴퓨터와 달리 인간은 머리를 쥐어짜고 숱한 시간을 쓰더라도 컴퓨터를 따라잡을 수 없다.

그렇지만 고양이를 두고 무엇이냐고 물으면, 컴퓨터는 무척이나 어려워한다. 개체마다 서로 다른 얼굴을 가지고 있을 뿐만 아니라 정면과 측면 등 보는 각도에 따라 조금씩 다르기 때문이다. 컴퓨터는 정답이 없는 일에 약하다. 그러나 컴퓨터의 능력은 점점 개선됐고, 2012년 6월 드디어 중요한 ‘사건’이 발생했다. 이때를 기점으로 컴퓨터 프로그래밍 기술은 혁신을 거듭하며 ‘인공지능의 시대’가 펼쳐지고 있다.

구글은 영국 스코틀랜드의 에든버러에서 열린 ‘머신러닝(기계학습) 국제학회’에서 고양이 얼굴 인식 실험 결과를 발표했다. 이 실험은, 입력값과 올바른 출력값(분류 결과) 세트가 없는 상태에서 이뤄지는 ‘비지도 학습’(unsupervised learning)을 이용했다는 점에서 의미가 컸다. 이전까지만 해도 꽃에는 ‘꽃’이라고, 사람엔 ‘사람’이라고 꼬리표를 붙여준 뒤 컴퓨터에게 학습하라고 하는, ‘지도 학습’이 대세였다. 비지도 학습의 등장은 입력용 데이터만을 가지고 ‘컴퓨터가 스스로 특징을 찾아낸 뒤 분류를 하는 것이 가능한가’에 대한 답이었다. 구글은 그 답을 내놓는 데 성공했다.

‘고양이 얼굴’ 사진 학습

구글은 10억개의 유튜브 창을 열어 무작위로 200×200픽셀의 갈무리(캡처) 화면 1000만개를 얻어 3일간 학습시켰다. 그 결과 인간의 얼굴은 81.7%, 인간의 몸 76.7%, 고양이는 74.8%의 정확도로 인식에 성공했다. 인간의 신경세포 개념을 도입한 인공지능인 ‘인공신경망’(뉴럴 네트워크) 기술은 이때를 기점으로 한 단계 진화했다.

인공신경망 기술은 결과값에 따라 피드백을 줘 논리구조를 재생산하는 ‘오차 역-전파’(back propagation) 개념이 도입된 것이 가장 큰 특징이다. 인공신경망의 구조에서 수많은 입력층은 은닉층을 거쳐 출력층(결과)으로 이어지는데, 출력값의 ‘정답’ 여부에 따라 이 은닉층들이 이어지는 연결망의 가중치가 바뀌게 된다. 인간의 경우, 자극을 많이 받는 신경세포(뉴런)의 연결 부위가 더 강해지는 것과 같은 원리다.

고양이 사진을 픽셀 단위로 쪼개 인공신경망 프로그램에 입력하면 은닉층을 거치는 동안 컴퓨터가 자동으로 특징을 찾게 된다. 그 특징은, 이 은닉층을 한 단계 거칠 때마다 추상화가 이뤄지면서 찾게 된다. 이 과정을 거쳐 컴퓨터가 고양이의 특징을 알게 되면, 이후에는 어떤 고양이 사진을 보여줘도 “이건 고양이다”라고 답할 수 있게 된다. 이 은닉층의 단계가 많으면 많을수록 ‘깊다’(딥·deep)고 표현하는데, ‘딥러닝’은 여기서 나온 표현이다. 딥러닝 도입 이전 인공신경망의 은닉층은 1~2개 정도였다.

* 클릭하면 확대됩니다.

딥러닝은 구글의 고양이 얼굴 인식 실험이 등장한 같은 해 가을 화려하게 그 존재감을 알렸다. 캐나다 토론토대학의 제프리 힌턴 교수가 이끈 ‘슈퍼비전’팀은 세계 최대 이미지 인식 경연대회 ‘이미지넷 대규모 시각인식 챌린지’(ILSVRC)에 처음 출전해 압도적인 우승을 한 것이다. 다른 팀들이 에러율 26%대에서 치열한 공방을 벌일 때 슈퍼비전은 에러율 15.3%를 기록했다. 비지도 학습에 딥러닝을 이용한 것이 슈퍼비전이 사용한 기술의 특징이었다. 힌턴은 2006년 딥러닝의 개념을 처음 창안한 인물이기도 하다. 딥러닝 연구자들이 없던 것은 아니었지만, 기존의 노하우와는 전혀 다른 방식으로 접근하며 갑작스레 정상에 올라 충격이 컸다. 당시의 충격 탓에 자괴감을 느낀 연구자들도 많을 정도였다.

하나의 획기적인 사건은 모든 연구자들을 딥러닝 쪽으로 끌어모았고, 기술은 꾸준히 발전했다. 하지만 금세 또 다른 벽에 부딪혔다. 바로 은닉층의 깊이에 대한 문제였다. 은닉층이 깊을수록 더 좋을까? 깊을수록 좋아질 수도 있지만, 그만큼 문제도 생겼다. 층수를 늘려가며 입력된 내용의 상위 개념에 해당되는 특징을 계속 만들어나가다 보면, 출력층에서 반대쪽으로 다시 되돌려 피드백하는 과정(오차 역-전파)에서 문제를 겪는다. 특징을 너무 많이 잡다 보니, 그 특징이 이전에 어디에서 비롯됐는지 놓쳐버리는 현상(vanishing gradient)에 직면해 피드백이 제대로 이뤄지지 않았다. 그래서 10~11층 정도 쌓는 것이 일반적이었다. 2014년, ILSVRC 대회에 참여한 옥스퍼드대학의 브이지지(VGG)팀이 19층까지 쌓으며 ‘매우 깊다’(very deep)고 표현했던 것이 일례다.

그러나 2015년 ILSVRC 대회에서는 이 문제를 극복한 또 다른 혁신이 등장했다. 중국인 과학자 카이밍 허가 이끄는 MSRA팀은 아래층까지 에러가 잘 전달이 될 수 있도록 고속도로를 뚫어주는 기술을 도입하며 1000층을 쌓는 데 성공했다. 각종 한계는 매년 빠르게 극복되고 있다.

* 클릭하면 확대됩니다.

스스로 학습하며 예측

제프 호킨스는 이런 노력들을 인공지능 2.0이라 규정하며, 여기에서 한발 더 나아갈 수 있다고 주장한다. 제프가 설립한 회사인 누멘타가 만든 알고리즘인 ‘계층형 시간 메모리’(HTM)가 인공지능 3.0이라는 것이다. 인간 뇌의 신피질과 뉴런의 작동방식을 가장 가깝게 모방했다는 이 인공지능은 시간차를 두고 흐름으로 들어오는 ‘스트리밍 데이터’의 처리에 큰 장점을 가졌다. 예컨대 개가 우리를 향해 달려올 때, 눈의 망막 위에 비치는 상은 점점 커지는 식으로 끊임없이 변화한다. 이 경우 ‘계층형 시간 메모리’는 하나의 패턴 뒤에 어떤 패턴이 나타날지 예측할 수 있다. 이를 응용해 에너지 사용 패턴을 분석해, 트래픽이 갑자기 증가하는 시점을 예측해 미리 대응할 수 있도록 해법을 제공한 사례도 있다.

많은 데이터가 없다면 무용지물인 기존의 머신러닝과 달리 이전의 학습내용(기억)을 활용해 작은 데이터만으로도 학습을 가능케 한다는 점도 장점이다. 이와 관련해 국내에서는 소량으로 다품종을 생산하는 소규모 공장에서 적은 비용으로 부품의 불량 여부를 판별하는 시스템 구축에 ‘계층형 시간 메모리’를 활용한 사례(‘중소 제조업을 위한 HTM 기반의 부품 이미지 인식 시스템의 개발’, 정보처리학회 논문지)도 있다.

물론 제프의 주장처럼 ‘계층형 시간 메모리’가 딥러닝을 능가할 수 있을지는 아직 미지수다. 하지만 가능성을 높게 볼 여지는 충분하다. 누멘타의 최고기술경영자(CTO) 출신인 딜립 조지가 공동 창업자로 설립한 회사 바이케리어스(Vicarious)의 투자자 명단에는 페이스북의 마크 저커버그 대표, 아마존의 제프 베조스 대표, 테슬라의 일론 머스크 등 거물들이 포함돼 있다. 그만큼 시장에서 크게 기대한다는 의미다. 시장에 진입하지 않은 채 개발자에게 기술을 제공하고 연구하는 데 집중하는 제프 호킨스 연구의 가능성을 가늠해볼 수 있는 한 사례다. 음성원 기자 [e-mail]