카네기멜론대학에서 활용 중인 자율작동 코봇(CoBot). AI기반 로봇인 코봇은 다양한 업무를 수행할 수 있으며,
해결할 수 없는 일이 발생하면 주변에 있는 사람에게 도움을 요청한다. (이미지 제공: Carnegie Mellon University)

인간은 슈퍼히어로가 아니라 동료가 되어줄 AI 시스템이 필요하다. 미래에 인간이 AI 시스템이 필요하듯, AI 시스템도 인간이 필요할 것이다. AI 시스템은 할리우드 영화들이 위협적으로 묘사했고, 이로 인해 디스토피아적 모습으로 인식되지만, 과학은 인간과 AI가 사실상 불가분의 관계로서 정보를 서로 끊임없이 교환하며 공생적 자율 관계를 형성하는 환경을 만들어가고 있다. 이러한 세상에서 AI 시스템은 무엇을 모르고 할 수 없는지, 또 무엇을 이해하지 못하는지 파악하고 인간에게 도움을 요청한다. 이는 인간과 AI 간의 상호작용에 대한 새로운 관점이며, 이미 일어나고 있는 일이기도 하다.

카네기멜론대학 연구진은 캠퍼스 방문객을 스스로 안내하며 필요 시 인간에게 도움을 요청하는 이동식 ‘코봇(CoBot, 링크)’을 개발했다. 예컨대 코봇은 팔이 없으므로 안내하는 방문객이 엘리베이터를 타야 하는 경우 인간에게 엘리베이터 버튼을 눌러 달라고 요청한다. 마찬가지로 인간이 코봇에게 도움을 요청하기도 한다. 배달 임무를 맡은 코봇도 필요하면 인간에게 보조를 요청한다.

이것이 바로 완벽한 ‘불완전’ AI 시스템이다. 항상 모든 것을 다 알고 무엇이든 다 해낼 수는 없기에 가끔 도움을 요청하기도 하는 인간과 닮은 존재인 것이다. 필자는 AI 알고리즘의 일부에서는 자신의 한계를 파악할 수 있어야 하며, 파악 후에는 ‘어떻게 해야 하는지 모른다’, ‘무슨 말인지 이해할 수 없다’, ‘요청한 사항을 찾을 수 없다’, ‘해당 물건이 보이지 않는다’ 등의 알림을 보내는 방식으로 AI가 공생적 자율성을 갖추어야 한다고 생각한다. ‘사무실에 열쇠가 있는지 확인을 요청했지만, 열쇠를 찾을 수 없다’, ‘사무실에 있을 수도 있지만, 본 시스템의 센서로는 열쇠 꾸러미일 가능성이 높은 물체가 감지되지 않는다’고 말하는 식이다.

백스터(Baxter) 로봇이 코봇(CoBot)에게 사탕을 주는 모습. 코봇은 이 사탕을 사람에게 전달한다 (이미지: Veloso CORAL Lab).

이러한 공생적 자율성은 인류를 위한 서비스를 제공할 AI 시스템과 인간이 공존할 미래를 위한 초석을 다지기 시작했다. AI 시스템에는 디지털 세계를 다루는 소프트웨어 시스템이 탑재되면서 동시에 로봇이나 자율주행 차량처럼 물리적 세계에서도 활동하며 인간의 의사결정을 도울 것이다. 시간이 지나면 AI 시스템이 수행하는 작업의 범위가 확대되어 도로의 교통량을 관리하고, 복잡한 기후 예측이나 위험 완화 전략 수립 등을 행하며 매일 중대한 결정을 내리며 인간을 위한 서비스를 제공할 수 있다.

포르쉐가 아니라 판다를 추천한 근거

사안의 경중을 떠나 인간의 결정권을 AI 시스템에 위임하기 위해서는 인간은 AI의 의견은 신뢰도가 높으며, 최대한 인간의 이익을 위해 내린 결정이고, 시스템에 부여된 명령에 부합한다는 사실을 인지해야 한다. 또한, 기계는 결정에 대한 근거를 제시하거나 어떠한 제안이나 결정에 이르기까지의 과정을 검토하고, 이에 대해 인간이 승인하거나 잘못된 사항을 바로잡을 수 있게 해야 한다.

예를 들어 AI 시스템에 구매하고 싶은 차량 종류 몇 가지를 검토하고 니즈에 최적화된 모델을 다음 날 아침까지 선택하라는 지시를 내린다고 가정해보자. 아침에 일어나 AI 시스템을 확인해보니 판다를 구입하라고 추천한다. 무엇이 잘못되었기에 AI는 1450kg의 자동차 대신 사랑스러운 애완동물을 구입하라고 추천한 것일까? 이 지점에서 인간은 왜 포르쉐(Porsche)가 아니라 판다를 추천했는지 AI 시스템에 물어보아야 한다.

AI가 질문을 받을 수 있는 능력은 기계의 신뢰성 확보에 매우 결정적인 요소다. AI 시스템은 만능일 수 없으므로 특정 작업을 수행할 수 없거나 이해할 수 없는 경우 인간에게 알려야 한다. 질문 옵션은 최선의 결정을 내리기 위해서도 필수적이다.

의학 연구원이 AI의 보조로 난해한 사례를 진단한다고 가정해보자. 연구원은 ‘정답’을 찾기 위해 AI 시스템에 전 세계의 관련 정보를 모두 살펴보도록 지시하고, AI 시스템이 작업을 해내지 못하면 대단히 실망한다. 이때 인간이 AI 시스템에 무엇을 잘못한 것인지 물으면, 시스템은 ‘치료에 적용된 화학물질과 치료 대상의 상호작용에 대한 추가 정보를 준다면 진단 및 치료 사례에 대해 더 자세히 검색할 수 있다’고 대답할 것이다. 이처럼 기계가 즉각적으로 정답을 제공할 수 없을 때 인간과 상호작용을 할 수 있다면 새로운 연구 분야에 대한 기회가 창출될 것이다.

AI는 마법의 콩이 아니다

이 모든 기술은 하루아침에 완성되지 않는다. AI는 그 동안 꾸준히 발전하며 진화해왔으며, 앞으로도 발전할 여지가 많이 남아있다. AI는 자고 일어나면 완성되어 있을 단순한 기술이 아니다. 다만 일상 속에서 다양한 방법으로 조금씩 존재를 넓혀가고 있다. 지능적 정보 처리가 가능한 알고리즘, 앱 그리고 프로그램의 수가 매일 늘고 있다.

현재 전이학습(Transfer Learning)의 개념을 이해하기 위해 많은 연구가 진행되고 있다. 기계가 특정 작업을 수행할 수 있는 경우 또 다른 작업까지 학습할 수 있게 만드는 알고리즘을 어떻게 개발할 수 있을까?

기계학습의 상용화를 위한 핵심 기술 (이미지: Andrew Ng)

우리는 아직 AI를 완벽하게 이해하지 못하고, 아직 파악하지 못한 분야가 많다. 알고리즘 및 기술, 일반화 방식, 근거 설명 방법 등의 측면에서 AI는 아직 초기 단계에 불과하므로, 아직 깊게 이해하지 못한 부분이 많이 남아 있다.

모든 것은 인간에게서 비롯된다

공생적 자율성은 낙관적 비전이다. 인간은 컴퓨터, 프로그래밍 언어, 그리고 AI 시스템 프로그래머라는 직업을 창조했다. 따라서 인간이 우수한 기계, 유익한 기계, 인간의 이익을 위해 활용할 지능적 툴을 개발할 수 있도록 교육에 투자하는 것이 매우 중요하다.

마누엘라 벨로소(Manuela M. Veloso)는 카네기멜론대학 컴퓨터공학부 ‘허버트 사이먼’ 대학 교수로, 기계학습학과를 총괄하고 있다. 이 글은 저자 개인의 견해로 GE리포트와 견해가 다를 수 있습니다.