[일상] AI가 하지 말아야할 분야

올 초 페이스북이 당사자들의 허락 없이 자동으로 사진 속에 있는 친구들을 식별할 수 있도록 사진 서비스들에 안면 인식 소프트웨어를 도입하겠다고 하면서 난리가 났었죠.
그리고 미국내 코비드로 인한 시위에서 안면인식 기술이 사용되면서 또문제가 야기되었습니다.

이런 분위기에서 가장 먼저 안면인식 기술 포기를 선언한 기업은 IBM입니다.
IBM CEO는 서한을 통해 아래와 같이 일성하며, 미 의회에 "인종차별 막아달라" 촉구하기도 하였습니다.

"기술 개발해 파는게 전부 아냐…기업에도 책임 있다"

안면인식 기술은 기본적으로 개인 사생활 보호와 직결되어 있습니다. 따라서 아주 제한적인 범위에서 조심스럽게 사용되어야합니다.

안면인식 기술이 가장 앞서가는 나라는 중국인데요.
최근에 나온 기술입니다.

일하는 척하면서 딴짓하는 직원을 골라낸다는데요. 일터에서 일거수일투적이 모두 감시가 되고 있다고 생각하면 생각만해도 끔찍합니다. 상당히 중국다운 발상입니다.

물론 순기능도 있습니다. 위험한 곳에 출입하는 직원이라든가, 보호구를 착용하지 않은 직원을 찾아서 경고를 주는 기능도 있다고 합니다. 이 정도 기능은 이해할만하죠. 직원을 보호하는 기능이니까요.

AI가 직원을 감시하는 역할을 하는 것은 인간의 존엄성과 관련된 문제이므로, 아주 조심스럽게 접근하여야 합니다.

개인적인 생각으로는 안면 감시는 AI에서 하지 말아야 할 영역이라고 생각합니다. 건설환경에서 특정인을 지칭할 수 있는 방법은 안면인식 보다 더 쉬운 방법이 많습니다. 꼭 필요하다면 다른 기술을 이용하는 것이 맞을 것 같습니다.