“금융회사 AI 확산이 획일성·군집행동 통해 금융시스템 위협 가능성”

한국금융연구원 ‘AI의 잠재적 위협’ 보고서

컴퓨터 키보드 앞에 오픈AI(OpenAI) 로고가 나타나 있다. 로이터/연합뉴스

금융부문에서 인공지능(AI) 알고리즘 확산이 획일성과 군집행동을 통해 금융시스템 안정성을 위협하는 잠재적 위험으로 등장할 수 있다는 분석이 제기됐다.

한국금융연구원은 24일 주간 금융브리프 논단에 발표한 ‘금융안정에 대한 AI의 잠재적 위협과 관리 방안 모색’ 보고서에서 “금융에서 AI 알고리즘 이용이 확산될수록 시장참여자의 획일성, 네트워크 상호연결성, 규제공백 같은 경로를 통해 금융시스템 위험을 유발할 수 있다”고 지적했다. AI 알고리즘의 도움을 받은 다수의 시장참여자들이 유사한 결정을 내리게 되고 이런 획일적인 행위가 시장을 지배하면 경기순응성 위험 또는 자기강화형 시장 급등락이 초래되고 결국 시스템 위험으로 이어질 수 있다는 얘기다.

연태훈 금융연구원 선임연구위원은 이 보고서에서 “기술의 오용이나 알고리즘 오작동, 혹은 누군가의 명백한 혹은 의도된 잘못이 없이도 AI 확산을 통해 금융시스템에 위기를 촉발할 수 있는 압력이 누적될 가능성이 있다”고 말했다. 시스템 위험은 어느 한 개인·기업, 나아가 특정 시장부문에서 발생한 사건이나 의도되지 않은 집단적 행위들의 여파가 빠르게 전파되면서 광범위한 금융시스템 혹은 경제 전반에 영향을 미치는 상황을 지칭한다.

금융시스템을 위협하는 경로는 주로 획일성 요인에서 비롯된다. AI는 엄청난 데이터 수요로 인해 데이터를 제공하는 기관에 대한 의존도가 높을 수밖에 없다. 데이터 취급에 규모·범위의 경제 및 네트워크 효과가 존재하는터라 데이터를 취합·관리·공급하는 소수의 기관이 시장지배적 데이터(원자료 및 가공·요약·분석·해석) 제공업체로 등장하게 되고, 이에 따라 다양한 AI들이 사용하는 데이터가 수렴하게 되면 여러 AI 모형들이 내놓는 예측 사이에 높은 상관관계가 나타나 ‘군집행동’으로 이어질 수 있다. 다수의 AI가 이익 극대화 목표를 위해 취하는 합리적이지만 획일적인 행동들이 시장 상황을 더욱 빠르게 침체 혹은 과열시키는 악순환이 발생하게 되는 셈이다.

금융회사들은 AI 모형을 직접 내부 개발하기도 하지만, 외부 제3자 업체가 제공하는 데이터를 AI 서비스 혹은 구독형 AI 형태로 조달받아 이용하기도 한다. 이처럼 AI 모형 서비스 시장이 지배력을 가진 소수의 과점적 AI 제품을 중심으로 재편돼, 시장참여자 사이에 유사한 업무·투자방식의 서비스 사용이 횡행하다보면 전체 금융시스템 환경에 군집현상이 발생하게 된다.

나아가 서로 다른 AI 모형들 사이에도 획일성이 나타날 수 있다. 보고서는 “초기에는 상이한 데이터를 사용하는 다양한 AI 모형이 존재하지만 시간이 경과하면서 모형 간에 수렴 현상이 발생하고, 특정 시장에서 동일한 목적을 위해 움직이는 AI 기반 매수·매도 투자전략들이 유사한 투자행태를 보일 가능성이 존재한다”며, “실제로 시뮬레이션을 통해 딥러닝 기반 AI 모형들이 상호 영향을 주고받는 과정에서 담합이나 불공정거래 행태를 자발적으로 수행할 수 있다는 사실이 확인되기도 했다”고 말했다.

시장지배력을 가진 데이터 제공업체나 AI 서비스 업체가 네트워크 상에서 전체 시스템 작동을 멈추게 만드는 ‘단일 장애점’ 지위를 차지하게 돼, 금융시스템 안정성을 위협하는 요인으로 대두할 수도 있다. 보고서는 “금융회사의 핵심적인 업무 프로세스에서 AI 활용이 증가할수록 감독당국으로서는 시스템 위험 요인들이 임계치까지 누적되는 상황을 간파하지 못할 가능성이 있고, 금융회사의 건전성이나 유동성 문제 혹은 위기의 전조를 파악하기가 어려워지게 될 것”이라고 내다봤다.

지난 5월 미국 상원 청문회에서 오픈 AI(OpenAI)의 최고경영자 샘 알트만은 AI의 잠재적 위험을 완화하기 위해 대규모 AI 모형의 인·허가, 테스트, 안전표준 등을 담당할 정부기구 설립과 국가간 AI 규제를 조율할 국제기구의 도입이 필요하다고 말했다. 금융연구원은 보고서에서 “AI 확산이 금융안정성을 위협할 것인지, 위협한다면 그 경로는 어떻게 될 것인지에 대한 문제는 도널드 럼스펠드의 구분을 따르자면 ‘알려지지 않은 불확실한 일’(unknown unknowns)에 해당한다”고 말했다.

조계완 선임기자 [e-mail]