딥페이크, 안면 인식의 위험성

‘오징어 게임’이라는 인기 OTT 콘텐츠에 해리 케인과 손흥민이 출연하여 연기하는데, 축구 선수로서 본업이 아님에도 연기를 자연스럽게 한다. 이것이 무슨 말인지 의아하게 생각할 수 있는데, 이는 딥페이크 기술로 만들어 진 것이다. 딥페이크 기술과 밀접하게 연결된 것이 바로 안면 인식 기술이다. 딥페이크 기술로 만들어진 결과물이 더욱 실제와 구분하기 어려워지고 그만큼 악용 가능성과 피해의 강도가 커지는 상황에서, 안면 인식이 다른 대체 수단 없이 개인식별 수단으로 더욱 광범위하게 사용되고 있는 것이 현실이다.
이와 관련해서 지난 11월 16일 국가인권위원회가 국공립 어린이집 직원들의 출퇴근 인증을 안면 인식으로만 하게 한 지방자치단체(“지자체”)에 대체 수단을 마련하도록 권고한 것에 주목할 만하다. 해당 지자체는 수기 형태의 출퇴근 확인이 부정확하고, 지문 인식의 경우 한 사람이 복수의 지문을 등록할 수 있어 안면 인식 시스템을 도입하게 되었다고 설명하였다. 물론 개인들이 사진을 제출하였고 그 정보를 근태관리에 사용하는 것에 동의한 사실도 있다. 이에 대해 국가인권위원회는 개인정보 보호법 제15조에 따른 실질적인 동의가 되기 위해서는 정보 주체가 그에 대해 동의하지 않을 경우 대체 수단이 마련되어야 하는데 지자체가 대체 수단을 마련하지 않은 점에 주목하면서, 해당 지자체 시청에서는 안면 인식기를 출퇴근 관리 수단으로 사용하지 않는 점도 고려하여 ‘출퇴근 인증을 안면 인식으로만 하는 것’이 개인정보자기결정권을 침해한 것으로 보고 위와 같은 권고를 한 것이다. 현재 근태관리에 사원증 대신 안면 인식에 기반을 둔 인증 출입 시스템을 도입하는 경우 직원이 개인정보인 안면 인식 정보를 근태관리 목적으로 사용하는 것에 대해 동의하였다면 사용자 입장에서는 아무 문제가 없다고 생각할 수 있다.
하지만 안면 인식 정보는 민감정보로서 다른 생체정보와 달리 딥페이크에 바로 사용될 수 있고 그만큼 정보 주체에게 치명적인 영향을 줄 수 있다. 이에 EU의 AI 규칙안은 안면 인식 AI를 고위험으로 분류하여 엄격하게 통제하고, GDPR은 영향평가를 하도록 하며, 미국의 일부 지역도 안면 인식 기술 사용에 제동을 걸고 있다. 기술 발전에 따라 안면 인식 정보의 악용 가능성과 폐해가 커지는 만큼 그 사용과 보안에 더욱 신중을 기할 필요가 있다. 내 얼굴과 모습을 한 다른 사람의 영상이 돌아다닌다고 생각하면 흠칫할 수밖에 없다.