항상 통찰이 담긴 글 써 주셔서 감사합니다. 딥마인도 좋아하고, 보수턴 다이나미믹스도 좋아하는데, DQN으로 학습된 아타리 플레이어가 꼼수를 배우는 점과, 이런 특성이 물리력을 가진 기계에 접합되어 학습될 때의 위험성에 대해서는 심각하게 생각해 본적이 없었던 것 같습니다. 설계 목적과는 다르게 위험한 형태로 학습이 될 수도 있을 것 같네요 ㅎㅎ
70년대에 침팬지를 갓난아기때부터 인간이 사람처럼 키우면 언어를 학습할 수 있는지를 알아보기위한 실험이 있었는데, 언어의 학습이 아니라, 본인이 보상을 받을 수 있는 패턴(떼쓰고 칭얼대기)의 학습이 결과로 나타났었다고 합니다. 인공지능, 로봇공학 발전하고, 접목되어 실생활에 쓰일 때 이런 부작용을 유의해야 할 것 같습니다.
다만 인공지능과 결합된 로봇이 인간을 지배하거나 인류의 존재 자체에 위험이 되는 일은 아주 먼 미래에라도, 현실화되지 않을 일이라고 생각합니다. 이런 예상치 못한 현상이 개인에게는 위험한 상황을 가져올 수도 있겠지만, 결국 사회에 의해서 충분히 통제 될 수 있는 일이니까요. 또 그 기계학습은 특정 개체가 특정 목적을 위해서 고도화 될 수 있는 것이지, 생물이 하듯 집단적으로, “스스로의 생존”을 위해 인간을 포함한 다른 종을 위협하는 방향으로 의도치않게 진화하진 않을테니까요. 말하자면 자동차 급발진 사고는 간혹 일어나지만, 이런 현상이 인류를 위협하진 않듯이요.
사실 위험이란 것은 항상 기술과 함께 따라왔던 것이고, 그 위험을 제어하는 방법도 기술 발전에 포함된 것이라고 생각합니다. 핵 폭탄 말고, 원자력 발전소에서 타고 나온 폐기물만 하더라도 지구 역사상 존재했던 모든 생물을 몇 번이고 거듭 죽이고 남을 양이지만, 비교적 안전히 처리하고 있죠. 당장 집안 곳곳에 있는 220V 전선들, 도시가스 배관, 도로의 자동차들, 하물며 주방에 꽂힌 식칼만 해도 순식간에 생명을 앗아갈 수 있는 위험요소이지만 잘 관리되고 있습니다.
저는 이런 관점에서, 로봇과 인공지능의 결합에 의해 의도치 않은 위험은 충분히 발생할 수 있지만, 그 위험을 사회/집단적으로는 적절히 제어할 수 있는 표준과 규제가 동반될 것이므로 전혀 걱정스러운 마음은 들지 않습니다
제가 보기에 아무렇게나 뿌려댄 디디티와 프레온, 원자력 폐기물과 핵폭탄, 쓰레기와 변종바이러스와 지엠오, 태양과 지구의 공전/자전 축/주기변화에 의한 기후변화에 비하여 인공지능과 로봇은,, 제어해야 할 요소의 스케일이 비교할 거리도 되지 않는 훨씬 제어하기 쉬운 위험인 것 같아요