생성형 인공지능(AI) 챗봇 ‘챗(Chat)GPT’로부터 시작된 AI 열풍이 글로벌 금융투자시장에선 고수익을 안겨주는 ‘블루칩’ 섹터로 여겨지며 막대한 투자금이 모여들고 있다. 하지만, AI 기술이 악용되면 증시를 비롯한 자본시장의 존립 기반을 뒤흔들고, 돈의 흐름까지도 좌지우지할 수 있다는 실제 사례가 나오며 금융투자시장에 충격을 안겼다.

특히 ‘호재’와 ‘악재’를 가리지 않고 소문에 실시간으로 반응하는 자산시장의 특성상 AI를 이용해 생성한 가짜뉴스를 유포하고, 진위 여부가 확인돼 시장이 안정을 되찾을 때까지 불가피하게 발생할 수밖에 없는 ‘빈틈’을 악용해 이익을 챙기려는 시도가 향후 급증할 수 있다는 우려의 목소리도 커진다.

제도를 정비하고 규제를 서둘러 도입해야 한다는 목소리가 자본시장은 물론 AI를 직접 연구하고 개발하는 당사자들의 입에서도 나오고 있지만, ‘빈대(가짜뉴스)를 잡으려다 초가삼간(AI 기술)을 태운다’는 반대 목소리가 팽팽하게 맞서면서 적절한 해법을 찾기까지는 상당한 시간이 소요될 것으로 보인다.

1일 금융투자업계에 따르면 지난달 22일(현지시간) 소셜미디어(SNS)를 통해 급속도로 퍼진 미국 국방부 건물 펜타곤 폭발 사진은 AI 기술이 증시에 단시간 내 어느 수준까지 피해를 입힐 수 있을 지 단적으로 보여줬다.

AI가 생성한 가짜였던 해당 사진은 미국 내 대표적 음모론 단체인 큐어넌에 대한 지지가 목격된 트위터 유료 인증 계정 ‘@CBKNews121’에서 처음 게시됐고, 러시아 해외 선전매체 RT와 블룸버그 통신과 전혀 관계가 없는 가짜 뉴스 제조단체 ‘블룸버그 피드’ 등에 의해 퍼졌다. 트위터 팔로워 65만명을 거느린 경제뉴스 인플루언서가 퍼날랐다 금방 삭제한 사이 리트윗 수백건이 이뤄지기도 했다.

실제 상황이라 믿은 투자자들의 불안 심리 탓에 당일 미국 주식시장이 출렁거리는 지경까지 번졌다. 월요일 아침 장 초반 상승세를 보였던 뉴욕 증시는 불과 10분새 스탠더드앤드푸어스(S&P)500 지수가 0.3% 하락했다. S&P500지수 종목 전체 시가총액이 약 35조달러(약 4경6326조원)라는 점을 고려하면 눈 깜짝할 사이에 약 1050억달러(약 139조원)가 잠깐이나마 증발한 셈이다.

비상사태가 발생했다는 공포가 자본시장을 감싸면서 안전자산으로 꼽히는 미국 국채와 금의 가격은 반대로 급등하기도 했다.

미국 국방부가 폭발 사고를 전면 부인하고 버지니아주(州) 알링턴 소방서가 가짜뉴스임을 공식 확인하고서야 사태가 진정됐다.

미 일간 월스트리트저널(WSJ)은 이번 일을 두고 “AI가 만든 가짜뉴스에 증시가 직접 타격을 받은 사실상 최초의 사건”이라고 평가했다. 이 같은 일은 미국과 함께 ‘주요 2개국(G2)’으로 꼽히는 중국에서도 벌어졌다.

지난달 24일 중국 증시에선 AI 음성인식 기업 커다쉰페이(科大訊飛·아이플라이텍) 주가가 장중 한 때 9.16% 폭락하는 현상이 벌어지기도 했다. 이후 차츰 낙폭을 회복했지만 결국 주가는 전거래일 대비 4.26% 하락했다. 커다쉰페이 측은 “생성형 AI가 만든 가짜 정보로 주가가 하락했다”고 해명했다.

실제로 중국 언론은 AI기업 바이두(百度)의 AI 챗봇 ‘원신이옌(文心一言)’의 한 이용자가 ‘커다쉰페이에 중대한 리스크가 있다는 경고문을 써주세요’란 질문을 했고, 원신이엔이 ‘커다쉰페이가 대량의 고객 개인정보 데이터를 수집한 혐의가 폭로됐다’란 내용으로 작성한 답변이 마치 뉴스인 것처럼 유포됐다고 보도했다.

AI가 자본시장에 끼친 악영향이 구체적으로 확인되고, 선거 등의 결과까지도 뒤바꿀 수 있다는 위기감이 고조되면서 규제에 대한 목소리도 커지는 상황이다.

우선 생성형 AI 챗봇 ‘챗(Chat)GPT’의 창시자인 샘 올트먼 오픈AI 최고경영자(CEO)는 미 의회 청문회에 출석해 “강력한 모델인 AI의 위험을 완화하려면 정부 규제와 개입이 중요하다”고 주장했다. 올트먼 CEO는 AI를 ‘원자폭탄’에 빗대며 궁극적으로 국제원자력기구(IAEA)와 같은 기구가 필요하다고도 언급했다.

이 밖에도 AI 챗봇 ‘바드(Bard)’를 개발한 구글, 챗GPT와 협업에 나선 마이크로소프트(MS) 등도 국가·기업 차원의 규제를 촉구했다.

국내에선 걸음마 단계인 AI 개발 활성화를 위해서는 규제를 언급하는 것이 섣부르다는 목소리도 있다. 특히, 네이버·KT·SK텔레콤 등 자체 AI 기술 개발에 나서고 있는 업체들을 중심으로 규제는 AI 시장을 선점한 글로벌 빅테크들의 지위만 강화할 것이란 이유에서다.

한 증권업계 관계자는 “코난테크놀로지, 솔트룩스, 셀바스AI 등 AI 관련주의 주가 상승세는 물론, 국내 증시 시총 1위 삼성전자 등 반도체 관련주의 최근 상승세의 원동력 중 하나는 AI 반도체에 대한 수요”라며 “관련 업종에 대한 규제는 투자자들의 투심을 꺾는 악재로 작용할 것”이라고 주장했다.

다만, AI가 생성한 가짜뉴스가 증시를 뒤흔드는 문제가 국내에서도 단기간 내 충분히 벌어질 수 있는 문제인 만큼 대책 마련이 시급하다는 목소리도 있다. 한 자산운용사 고위 관계자는 “AI 기술 자체에 대한 과도한 규제는 산업은 물론 관련 자본시장까지 위축시킬 수 있지만, AI발 가짜뉴스임을 빠르게 판별하고 최대한 유포가 되지 않도록 함으로써 자본시장을 교란시키지 못하도록 하는 조기 경보 시스템 구축 등은 최대한 빨리 진행돼야 하는 과제”라고 말했다. 신동윤 기자