최근 인공지능이 발전하면서 인간의 두뇌를 훨씬 뛰어넘는 AI가 개발된다면 인류를 위협할거라는 경고를 하는 전문가나 학자들이 많습니다. 이런 경고를 하는 이들이나, 여기에 불안을 느끼는 대중들은 초지능 AI의 능력에 대해 아래와 같은 식으로 이해하고는 합니다.

즉 초지능 AI라는 게 인간을 아득히 뛰어넘는 능력을 가지고 있어서 마음만 먹으면 인류를 위협하거나 절멸시킬수도 있는 시나리오, 마치 터미네이터에 나오는 스카이넷 같은 게 나타날 수 있다는 걸 경고하며 불안해하는겁니다.

위의 그림은 현재 개발된 인공지능기술이 어느 단계까지 다다랐는가를 보여주고 있습니다. 이렇게 작업을 말로 명시해서 지시하는 방식이라면, 전문가가 아닌 일반인들도 쉽게 접근해서 작업을 할 수 있을정도로 범용성이 개선되어서 대중에게 강한 인상을 남기게 되었죠. 그래서 대중에겐 그 전까지의 기나긴 발전과정을 인식하지 못한 채 어느날 갑자기 엄청난 변혁이 일어난 것처럼 받아들여지다 보니, 이 속도로 가다간 인간과 비슷한 지적능력을 가진 범용인공지능(AGI, artificial genral intelligence)이 개발된다면 이른바 특이점(AI singularity)에 도달하면서 그 다음부터는 훨씬 더 폭발적인 속도로 발전이 가속될거라는 생각을 할 수 있습니다.

하지만, 현실은 바닥에서 사다리 6칸을 올라간 지금까지 약 80년이라는 세월이 걸렸으며, 그 사이에 발전속도가 지체되거나 특정한 계기로 인해 발전이 가속되는 건 여러차례 있었지만, 사람들이 생각하는만큼 획기적인 발전으로 점프업 된 적이 없었습니다. 계속 꾸준히 노력하며 비교적 일정하게 발전해가고 있고, 지금도 달라지지 않았다는겁니다.

여기에 더해 AGI에 다다르기 위해 우리가 사다리 몇 칸을 더 넘어가야 하는지는 아무도 알 수 없으며, 실제로 도달하는 게 가능한지조차 알 수 없기도 하구요. 초지능 AI가 일이십년 안에 개발되어서 인류의 존속을 고민해야 한다는 식의 생각은 현실성이 무척 떨어지는 상상에 불과하다는겁니다.

사실, 우리가 정말로 걱정해야 하는 건 초지능 AI나 AGI 같은 게 아닙니다. 앞서 지적 능력으로 인류와 초지능 AI를 줄세워 보는 시도를 이번엔 각 존재가 지닐 수 있는 포괄적인 능력, 즉 “환경을 바꾸는 능력”으로 정의한다면 근본적으로 다른 그림이 나타날 수 있습니다.

산업혁명 이후 인류의 과학기술은 혁명이라는 말에 어울리게 엄청난 속도로 늘어났고, 컴퓨터 혁명을 겪으며 더더욱 강력해졌습니다. 여기에 AI의 능력이 개선된다면, 이러한 발전속도는 더더욱 급격하게 가속되겠지요. 결국, 인류를 끝장낼 초지능이라는 근심거리는 초지능 인공지능같은 단편적인 기술 따위가 아니라 우리 인간이라는 존재 자체인겁니다.

자신의 창조자를 무시한 채 행동하는 AI의 능력과 발전속도가 AI의 도움을 받는 사람보다 더 유능해지고 빠르게 발전할것이라 믿을 근거는 어디에도 없으며, 그로 인한 위험보다는 AI의 도움을 받고 있는 악의적인 인간의 위협이 훨씬 더 실질적이고 구체적인 위협이라 할 수 있을겁니다.