국가안보·기술연구 단체에서 발행한 최신 보고서가 인공지능(AI) 오용이 제기하는 보안 위협을 자세히 소개했다. 보고서의 명칭은「인공지능의 악의적 사용 :예측,방지,완화」이다. 

보고서는 AI를 바탕으로 한 ‘초인간 해킹(superhumanhacking)’이 디지털 영역,물리적 영역,정치적 영역을 표적으로 삼고 가능한 구체적 방법에 초점을 맞추었으며, 그에 따른 AI 위험을 제시했다.

첫째, 디지털 영역에서는 사이버 공격과 관련한 과업을 자동화하기 위해 AI를 사용하면서 공격 규모와 효과를 동시에 추구한다는 것이다. 즉, 사이버 범죄자들이 AI를 무기삼아 진짜 같은 채팅 봇을 만들고, 이 봇이 사용자를 조종하여 중요 데이터와 개인정보에 접근할 가능성이 있다는 점을 지적하고 있다.

둘째, 물리적 영역에서는 AI가 공격용 로봇의 자율성 수준을 높여, 피해가 훨씬 커지는 결과를 초래할 수 있다는 점을 들고 있다. 자율주행 차량의 사고를 유발하거나 서비스 로봇을 원격 해킹하여 공격을 가하게 하는 등의 방법을 채택할 수 있다. 

셋째, 정치적 영역에서는 정치적 사상을 퍼트리기 위해 사람으로 가장한 봇을 사용하는 등 ‘초인간적’ 선전전이 가능해질 수 있다고 전망한다. 

보고서는 정부의 감독과 전문가와의 협력,사이버보안 같은 민군 겸용 분야에서 교훈 얻기,AI코딩을 공개된 상태로 유지하여 AI체계의 투명성을 확보하는 등의 대응책을 권고했다.

<자료 및 사진 출처 : The terrifying future of malicious artificial intelligence, c4isrnet.com, 국방기술품질원 >