2020.02.20(목)광주 5ºC
사회 > 5.18
[이브닝브리핑] “A.I는 5·18을 ‘폭동’으로 알고있더라”
입력 : 2020년 02월 13일(목) 18:15


“5·18 폭동”

‘“광주 폭동?”…삼성 빅스비에 ‘황당한 게임 앱’’. 어젯 밤 인공지능(AI)의 부작용을 경고하는 국내 한 방송사의 기사 제목입니다.

삼성 스마트폰에 탑재된 인공지능 스무고개 게임인 ‘아키네이터’가 5·18 민주화운동을 ‘광주폭동’으로 표현했다는 게 주요 내용.

자체 필터링(거름망) 기능이 없는 AI가 다수가 주로 사용하는 단어를 채택함으로써 발생할 수 있는 위험성입니다.

지난해 조국 파동으로 극렬하게 분열된 상황에서 특정 정치·이념에 따라 역사 인식 마저 왜곡될 수 있겠다는 두려움마저 들게 합니다.



▲거름망 없는 무분별한 정보 수집이 원인

아키네이터는 인공지능과 사용자 사이의 스무고개 게임의 일종입니다. 마치 인공지능이 사용자에게 독심술을 쓰는 듯 한 느낌을 주면서 한때 인기를 끌었는데요.

아키네이터는 다수의 사용자들을 상대하면서 얻은 정보들을 바탕으로 빅 데이터 창고를 구축하는 것으로 알려졌습니다. 이 과정을 인공지능의 ‘학습’이라고 합니다.

이 데이터 창고에 축적된 내용이 수정·여과 없이 또 다른 사용자들에게 전달되면서 위와 같은 상황이 벌어진 겁니다. 해당 게임의 개발사가 프랑스에 있다보니 검열이 어려워 왜곡된 사실을 무분별하게 받아들일 가능성은 더욱 커집니다.



▲국내산 프로그램 ‘심심이’도 유사

국내산 프로그램도 마찬가지. ‘심심이’라는 프로그램인데요. 스무고개를 나누는 아키네이터와 달리 이쪽은 인공지능과 직접 채팅을 할 수 있습니다.

실체는 아키네이터와 비슷합니다. 심심이는 사용자와의 채팅을 통해 새로운 낱말과 문구를 학습하는데 이 과정 역시 필터링이 전혀 되지 않기 때문입니다.

대답에 대한 ‘나쁜말 필터링 옵션’을 설정할 수 있지만, 이를 해제했을 때 5·18을 묻는 질문에는 전부 상스럽고 왜곡된 답변만 돌아옵니다.

이는 ‘일베’ 및 극우 정치세력들이 아키네이터와 심심이 등 인공지능 프로그램을 사용하면서 학습시킨 결과물로 추측됩니다.

5·18 민주화운동에 대한 역사적적 사실 왜곡이 인공지능에게까지 침범했습니다. 인공지능이 자체 검증기능을 갖출 때까지 경계는 물론 관심을 가져야 할 새로운 분야가 됐습니다.

이영주기자 lyj2578@srb.co.kr