KISTI와과학

인공지능이 가진 두 가지 얼굴 (KISTI)

조조다음 2021. 6. 2. 06:30

효율성 높이는 도우미일까, 감시도구일까… 인공지능이 가진 두 가지 얼굴

1993년 개봉한 SF 영화 데몰리션 맨은 과도하게 통제된 미래 사회를 묘사한 것으로 유명하다. 어디서나 컴퓨터에게 감시받는 시민들은 욕설만 해도 벌점을 부과 받는 등 욕망이 거세된 사회에 완벽히 순응하며 산다.

 

그런데 이런 디스토피아적 현상이 현실에서도 일어난다면? 급격히 발전한 AI 기술과 효율성을 중시하는 기업의 니즈가 만나면 충분히 가능한 일이다.

 

파이낸셜타임즈는 최근 코기토(Cogito)라는 IT기업의 사례를 소개했다. 고객을 응대하는 콜센터 직원을 보조하기 위해

AI를 활용하기 시작했다는 보도다. 

 

사람을 상대하는 콜센터 직원들은 수많은 불만에 시달리며 정신적 스트레스를 받는다. 지속적으로 육체노동을 하면 힘이 고갈되듯이, 상담원의 대화 능력 역시 시간이 지나면 떨어질 수밖에 없다.

 

문제는 이런 상담원의 고충이 상담 업무의 질 저하로 이어진다는 것이다. 코기토 사는 이에 대한 대책으로 AI를 활용한 관리 프로그램을 제시했다.

 

이 프로그램은 대화의 성량, 단어 등을 분석해 그 문제점을 파악하고 관련 메시지를 보낸다. 예를 들어, 격앙된 대화가 이어지거나 대화의 흐름이 바뀔 경우 이를 지적하며 매끄러운 상담을 유도하는 것이다.

 

코기토 측은 이러한 피드백이 고객만족도를 높이는 한편 상담원의 능력을 높이는 데도 큰 효과를 발휘하고 있다는 입장을 밝혔다.

 

그런데 막상 당사자들에게는 이런 도움이 불편한 모양이다. 한 상담사는 “인간은 로봇이나 기계가 아니다”라며 효율성만 추구하는 관리 시스템의 존재를 부정적으로 보았다.

 

이와 비슷한 사례로 지난 2019년 도미노피자가 호주, 뉴질랜드 매장 800여 곳에 설치한 AI 카메라가 있다. ‘돔 피자 체커’라는 이름의 장치를 도입한 이유는 피자의 품질을 높이기 위해서다

 

조리실 주방에 위치한 돔 피자 체커는 토핑의 위치, 도우 두께 등을 실시간으로 체크한다. 만약 부족한 부분이 생길 경우,

알람을 울려 문제점을 짚어줄 수 있다. 

 

폭스 뉴스 등 외신 보도에 따르면, AI 도입 이후 실제 고객들의 만족도가 상당히 올랐다고 한다. 균일한 맛 보장이 중요한 프랜차이즈에겐 무척 반가운 소식이 아닐 수 없다.

 

그러나 현장 직원들의 반응은 이와 대조적이다. AI에게 감시당하고 있는 느낌 때문에 기분 나쁘다는 주장이 속속 나오고 있다.

 

얼마 전에는 얼굴인식 AI를 바탕으로 한 건설 현장 감시기술이 중국에서 나와 많은 논란이 되기도 했다. 이를 활용하면 스마트폰을 하거나, 담배를 피우는 등 설렁설렁 작업하는 인부들의 모습을 24시간 내내 확인할 수 있다.

 

많은 논란에도 불구하고 이런 감시 AI의 도입은 지속적으로 이뤄질 것으로 보인다. 물론 넘어야 할 산이 많은 것은 당연지사.

 

사생활 침해 관련 윤리적, 법적 문제에서부터 직원 사기 저하로 인한 실효성 논란에 이르기까지…

 

어떤 식으로든 직업 현장에 도입될 AI의 활용에 대해 심도 있는 논의와 사회적 합의가 시급한 상황이다.