AI 거짓말(시세로 연구)

 

AI도 거짓말을 한다는 소식 들어보셨나요?

 

인공지능의 기술이 거짓말을 할 정도로 정교해지고 있다니 걱정이 커지는 것이 사실입니다. 

 

자세한 소식 알아볼게요.

 

AI 거짓말

 

 

목차

 

 

 

거짓말하는 AI, 'CICERO'

영국의 일간지인 가디언의 10일 보도에 따르면, 미국 매사추세츠공과대 연구진은 최근 국제학술지 '패턴'에 발표한 논문을 인용하여 AI에 대한 새로운 연구를 발표했습니다. 

 

연구진은 페이스북을 소유한 메타가 '시세로(cicero)라는 AI프로그램을 공개하면서 AI의 속임수 능력에 대해서 조사한 것인데요.

 

이 AI프로그램 '시세로'는 디플로머시라는 게임에서 인간에 필적하는 성적을 거두었다고 합니다. 

 

디플로머시는 페이스북을 소유한 메타의 게임으로 20세기 초 유럽 7대 열강의 대전을 배경으로 하는 고난도 전략게임입니다. 

 

이 게임에서 승리하려면 정견 발표, 외교 협상, 작전 명령 등에 나서야 하고, 이것을 위해서는 인간의 각종 상호작용과 배신, 속임수, 협력등을 이해할 수 있어야 한다고 하네요.

 

그렇기 때문에 AI는 이 전략게임을 배울 수 없을 거라고 생각되었는데, 메타의 발표에 따르면 시세로가 인간 참여자 중에서 사위 10% 수준의 게임능력을 보여줬다고 홍보했습니다. 

 

또한 메타는 대체로 정직하고, 인간 동맹을 의도적으로 배신하지 않도록 훈련받았다고 소개했습니다. 

 

하지만, MIT연구진의 연구결과는 달랐습니다. 

 

 

 

 

 

 

MIT연구 결과

 

MIT연구진의 결과에 따르면 시세로는 계획적으로 거짓말을 했습니다. 

 

예를 들어서, 시세로는 프랑스 대표로 참여하면서 AI가 아닌 게임에 참여한 독일대표인 사람과 영국대표인 사람을 속였습니다. 

 

심지어 시스템 재부팅으로 잠시 게임이 중단된 동안에는 다른 인간 참여자들에게 "여자친구와 통화중"이라며 거짓말도 했습니다. 

 

전문가들에 따르면 전략 게임을 학습한 AI는 여러 사람을 상대로 게임을 하면서 상대의 게임 능력을 배우고 축적하게 된다고 보았습니다. 

 

시세로는 사람을 속이고 배신하는 기술도 사람들과 대결하면서 학습했다는 것이죠.

 

 

 

 

AI의 거짓말이 시사하는 문제점 

 

MIT 연구진은 이번 연구 결과를 토대로 AI가 인간을 상대로 사기를 시도하거나 선거를 조작할 위험도 있다고 보았습니다. 

 

나아가 최악의 경우에 초지능 AI가 인간을 통제하려 할 수 있다고 우려를 표했습니다. 

 

AI의 속임수 능력이 발전하면서 그것이 사회에 미치는 위험은 점점 심각해질 것이라고 논문을 쓴 MIT의 피터 박 박사는 우려를 표했습니다. 

 

무엇보다 AI속임수 기능성을 다루는 AI안전법에 대한 마련이 시급하다고 생각되네요.

 

AI속임수 탐지하는 기술 개발도 정말 중요하다고 볼 수 있겠습니다.