본문 바로가기

잡담

특이점에 관한 고민 II

전산학 세미나에서 이번 학기 권장 도서로 추천한 책이 바로 Ray Kerzweil의 '특이점이 온다'라는 책이다. 그 책에서 저자는 뇌의 역분석과 나노테크놀로지의 성숙, 그리고 강력한 컴퓨팅 파워의 발전으로 Strong AI의 등장을 예고하면서, 인간을 뛰어넘는 초지능이 향후 20~40년 내에 등장할 것이라고 예측하고 있다. 바로 그때 기술의 발전 속도는 (생물학적) 인간이 스스로 조절할 수 있는 속도를 뛰어넘을 것이고, 인류 역사의 중대한 전환점, 즉 특이점이 될 것이라는 얘기다.

특이점에 관한 고민.pdf

태터캠프 발표자료

나름대로 독실한 가톨릭 집안에서 자라왔고, 또 주변에 절친한 기독교 친구들도 있고 해서 신앙의 영향을 많이 받아왔던 나지만, 과학고와 KAIST를 거치며 과학과 공학에 대해 점점 심도있는 공부와 통찰을 하면서 생긴 종교와의 괴리는, 이 책을 통해서 그야말로 정점에 달했다.

  • 인간의 의식(consciousness)과 영혼의 정체는 과연 무엇인가? 동물에게, 혹은 식물에게도 영혼이 있는가? 충분한 복잡성을 가진 초지능도 영혼이 있을까? (여기서 영혼이라 함은 죽음 후에도 존재하다고 믿는 정신적 개체를 뜻한다.)
  • 초지능을 가진 기계 혹은 기계인간을 인간과 동등하게 대해야 하는가? 생물학적 로보트의 경우는?
  • 나의 정신을 가상 세계에 업로드하거나 다른 개체에 복사했을 때, 그것이 과연 나라고 볼 수 있을까?
  • 인간다움이란 무엇이고, 신의 영역이란 무엇인지 객관적(사회구성원 다수가 합의할 수 있는) 기준을 마련할 수 있을 것인가?
  • 인간 자체가 다양한 방식으로 기계와 결합하고, 또한 기계가 인간 이상의 지능, 감정, 사고를 보여주는 세상에서 과연 인간중심적인 사고가 계속 유지될 수 있을까?
  • 신이 있다면, 왜 우리가 과학기술을 발전시킴으로써—복잡계 네트워크와 뇌의 구조를 이해하고 정밀한 전자부품을 만들며 나노테크놀로지를 개발할 수 있게 함으로써—초지능을 만들 수 있는 가능성을 주셨는가? 그것이 신의 영역이라면 말이다.
  • 내가 이런 고민을 하고, (직접적이든 간접적이든) 이러한 과학기술 발전에 기여하는 것이 죄악인가?

지난 제2회 태터캠프에서 이 주제로 발표를 했었고, 그때 왔던 사람들에게 물었을 때 가장 흥미로웠던 반응은 "이러한 고민 자체가 바로 (현재 우리가 생각하는 형태의) 인간만을 위한 것 아닌가"였다. 나는 이 고민이 인간 및 새로운 종이라고 불릴 수 있을 기계인간이 지속적으로 번영해나가기 위해서 반드시 필요한 것이라고 본다. 비단 인간만을 위한 것이 아니라, 인간과 그 인간이 만들어낼 가히 새로운 종이라 할 수 있는 그 무엇에게 모두 필요한 것이다. 막상 저런 기술들을 맞닥뜨려야 하게 되었을 때, 사회구성원들의 충분한 합의와 의식의 전환이 있지 않다면 그 기술들은 우리에게 재앙이 될 것이 분명하기 때문이다.

지금 우리가 미래에 실제로 특이점과 같은 상황이 닥칠 지 장담할 수는 없다. 과학기술의 발전을 봤을 때는 분명 가능한 이야기지만, 정치적·문화적 요인 등 여러가지 변수가 많고, 혹자의 말처럼 신이 어떤 형태로든 재앙을 내릴지도 모르는 일이다. 하지만 분명한 건 특이점에 대한 가능성이 남아있는 한, 기술이 인간과 인류의 후손을 먹어버리는 현실을 방지하기 위해서는 광범위한 사회적 합의가 도출되어야 한다는 점이다. (현재의 생물학적 인간도 특이점이 닥쳐올 때쯤 되면 이미 순수 생물학적 인간으로 남는 경우는 많지 않을 것이다. 그 점에서 더더욱 기계와 인간의 구분이 모호해질 것이다.)

무엇보다도, 개인의 신념—나는 성경만이 진리라고 생각한다라거나 기계는 절대 인간과 동등하게 취급할 수 없다 등등—은 자유라고 할지라도, 인류 사회가 지속·진화하기 위해서는 분명히 특이점에 관한 고민이 필요하다. 결국 내가 현재 결론지을 수 있는 것은, 개인의 신념을 떠나, 과학자와 공학도들이 이러한 고민을 계속해야 한다는 것이다.

  • egoing 2007.08.19 20:04

    Chester님의 책상위에 목침으로 하기 좋은 사이즈의 책이 하나 있더군요. 특이점이 온다는 특이한 이름의 책을 혹, 데이브레이커님이 권해주셨을지도 모른다는 생각이 들었습니다. 매우 공감가는 글이고, 아름다운 사색이내요. 저 역시도 국가주의니 이런 배타적 정체성의 문제이전에 인류애와 같은 근본적인 고민이 휠씬 가치있는 일이라고 생각합니다. 특히나 과학과 종교, 그리고 지속가능성이라는 문제는 우리같이 '공장?'을 노는 물로 하는 사람에게는 책임보다 의무에 가까운 고민이라고 생각합니다. 이번 MT에서는 기회가 없었지만, 다음에 뵙게되면 좀 더 다양한 화제로 이야기할 수 있었으면 좋겠내요.

  • t-human 2007.09.10 13:44

    잘 읽었습니다 근데 .. 커즈와일의 철자가 Kurzweil 아니던가요?

  • ghd 2013.07.25 11:48

    다른 남자 부르면서 울거면 나한테 이쁘지나 말던지