뜬금 없는 뉴욕증시 폭락, 알고보니 증권사 AI가 동시 투매

인공지능 시대의 그림자
금융 분석 AI 도입한 골드만삭스
애널리스트 600명서 2명으로 줄어
아이돌 합성 음란 사진도 만들어
"AI로 보안시스템 무력화하고
얼굴 인식 드론 이용 테러 가능성"

지난달 11일 미국 다우지수가 4% 급락했다. 사흘 전에도 4.15% 하락했다. 딱히 특별한 악재도 없었다. 낙폭을 키운 주범은 인공지능(AI). 각종 주가 변수 빅데이터를 인공지능이 분석해 주식을 사고파는 ‘알고리즘(연산 절차) 매매’가 한꺼번에 매물을 쏟아낸 것이다.

투자은행인 B라일리FBR의 아트 호건 수석시장전략가는 “시장 변동성이 급격히 높아지면 알고리즘 매매의 비중이 90%까지 올라간다”며 “문제는 알고리즘의 구조가 비슷해 방아쇠가 한꺼번에 당겨진다는 데 있다”고 설명했다.

최근 인공지능으로 인한 폐해가 하나둘 드러나면서 제도적 보완책이 마련돼야 한다는 목소리도 커지고 있다. 당장 타격받는 부문은 일자리다. 인공지능 분석업체인 ‘켄쇼’를 사들여 금융시장 분석을 맡긴 골드만삭스는 2000년대 초반 600여 명에 달했던 관련 애널리스트를 2명으로 줄였다. 세계 최대 자산운용사인 블랙록은 지난해 초 펀드 운용을 인공지능에 맡기고 스타 펀드매니저를 무더기로 해고했다.

세계경제포럼(WEF)에 따르면 2020년까지 15개국에서 일자리 716만 개가 사라질 전망이다. 새로 생기는 일자리는 202만 개에 불과하다. 일자리 감소는 일자리 질의 악화로 이어진다.

박가열 한국고용정보원 연구위원은 “인공지능이 중산층의 일자리를 대신하게 되고, 이들이 저숙련 노동으로 몰리게 된다”며 “근로 환경이 더 나빠지면서 일자리 양극화가 일어날 수 있다”고 말했다.

[김주원 기자 zoom@joongang.co.kr]

인공지능이 노동을 대신하지만 소비를 대체할 수는 없다. 결국 재화·서비스의 생산량이 줄면서 대공황 수준의 경제 위기가 닥칠 수 있다고 우려하는 이유다.

사회적 규범과의 가치 충돌도 해결해야 할 과제다. 올해 초 열린 ‘소비자가전전시회(CES) 2018’에 등장한 ‘하모니’는 여성과 같은 외모에 인간과 비슷한 표정을 짓고 사용자와 야한 농담을 주고받는 섹스 로봇이다. ‘책임 있는 로봇을 위한 재단(FRR)’은 “사회 규범에 치명타를 입히고 약자들이 더 큰 위험에 노출된다”고 경고했다.

온라인상에는 인공지능을 통해 가짜 성인물을 만드는 기술인 ‘딥페이크(Deep fakes)’로 합성한 사진·동영상이 유포되고 있다. 국내는 물론 할리우드 유명 스타들의 얼굴을 합성한 음란물이 확산되고 있다.

최근에는 구글의 인공지능 기술이 미국 국방부의 ‘메이븐’ 프로젝트에 사용되고 있다는 사실이 드러나 파장이 일기도 했다. 무인항공기가 촬영한 영상을 분석해 무기시스템 등을 감지하는 프로젝트다. 구글 대변인이 “비(非)공격적 이용만을 위한 것이며, 사람이 검토할 수 있도록 도와줄 뿐”이라고 해명했지만 ‘인공지능이 인간을 살상하는 데 악용될 수 있다’는 비난 여론은 계속 이어지고 있다.

지난달에는 인공지능의 위협을 시나리오별로 검토한 전문가 보고서까지 나왔다. 미국 예일대와 영국 케임브리지대·옥스퍼드대의 전문가들은 ‘인공지능 악용 보고서’를 통해 5년 후면 인공지능의 인류 위협이 가시화할 수 있다고 전망했다.

보고서는 “인공지능이 기존 보안시스템을 무력화하고, 드론은 얼굴 인식 기능을 이용해 테러를 가할 수 있다”고 지적했다.

박유미 산업연구원 연구원은 “인공지능은 인간이 어떻게 설계하느냐에 따라 독이 되기도, 반대로 약이 되기도 한다”며 “앞으로 인공지능에 탑재되는 윤리적·사회적 가치 판단 여부를 어떻게 정할 것이냐에 대한 사회적 논의가 활발해져야 한다”고 조언했다.

최현주 기자 chj80@joongang.co.kr

Copyrightsⓒ중앙일보, JTBC Content Hub Co.,Ltd. All Rights Reserved.

http://v.media.daum.net/v/20180330005350360?rcmd=rn