AI 진리전쟁

전재영 한동대 교수·AI융합교육원

철의 재상 비스마르크는 역사에 대해 언젠가 이렇게 말했다. “역사란 인쇄된 종이 조각에 불과한 것. 중요한 것은 역사를 만드는 일이지, 역사를 쓰는 일이 아니다.”

그가 정확하게 어떤 의도를 가지고 그런 말을 했는지 알 수 없지만, 역사를 만드는 일 만큼, 역사를 쓰는 일은 예전에도 중요했고, 앞으로 어쩌면 더 중요해질지도 모른다. 우리가 지금껏 불러왔던 역사라는 것이, 이제는 그리고 누군가에게는 데이터라고 불리고 있기 때문이다. 그리고 무엇보다도 그 데이터는 인간의 단순한 질문에서부터 철학, 종교, 윤리 등 모든 분야의 심오한 질문들에 응답할 수 있는 AI 개발을 위해 사용되어지고 있기 때문이다.

지금 ChatGPT에게 낙태나 이민자 문제 등에 관한 질문을 하면, 매우 중립적인 자세를 취한다. 이런 답이 가능한 것은, 사회적 이슈가 될 법한 내용들은 ChatGPT를 만든 OpenAI가 검열 작업을 했기 때문이다. 작년 11월 ChatGPT가 처음 나왔을 때의 편향된 답과는 다르다. 어떤 사람들은 이것이 잘된 것이라 생각할 수 있겠지만, 사실 여기서 좀 더 깊게 생각해 볼 것은 옳고 그름을 떠나 검열 작업이 누구의 생각을 바탕으로 되었냐는 것이다. 위키피디아의 글들은 전 세계 흩어져 있는 많은 사람들이 협업을 통해 검열을 하지만, ChatGPT에 행해진 검열은 한 조직의 생각에만 기반을 둔 검열이기 때문이다.

우리는 구글 검색을 할 때, 일일이 링크를 눌러보며 내가 찾는 것과 가장 가까운 검색결과를 분별하는 과정을 거친다. 이 과정을 전부 건너뛰고, 바로 답을 줄 수 있는 ChatGPT가 구글을 대체할 것이라는 소리가 여기저기 나오고 있는 상황이다. 구글의 독점이 딱히 좋은 것은 아니지만, 그래도 구글 검색을 하는 동안은, 우리가 검색 결과를 추려내는 일종의 검열자 역할을 스스로 한 것이나 다름없기에, 최소한 진리를 강요받지는 않았다. 아니 최소한 무엇이 진리이고 무엇이 비진리인지를 스스로 판단해 볼 수 있는 선택의 여지는 우리에게 주어졌었다. 그런데 우리는 그 선택권을 잃어버리는 중이다.

OpenAI는 계속 중립을 유지할 것이라 반박할지도 모르겠다. 다만, 이 회사는 인공지능 기술이 어느 한 대기업이나 한 국가에 속하는 것을 원치 않는 몇몇에 의해 세워진 비영리회사로 시작했었는데, 이제는 몇 억 달러를 마이크로소프트로부터 공급받는 하청업체가 되어 버렸다.

조지 오웰의 소설 동물농장을 생각해보게 된다. 인간을 쫓아내고 공화국을 세운 동물들은 7계명을 작성했고, 그 중 하나는 “동물을 죽이면 안 된다”였다. 그러던 어느 날, 한 동물이 죽임을 당했는데, 원래 계명은 이미 소리 소문 없이 “이유 없이 동물을 죽이면 안 된다”로 수정되어 있었고, 어느 누구도 원래 계명을 정확히 기억하지 못 했기에, 그 죽임은 이유 있는 죽임으로 합리화 된 채 그냥 그렇게 마무리 된다.

위키피디아가 시작한지 20년이 지났다. 이제는 위키피디아에 있는 문서들에 대해 진리를 판가름하려 드는 일반인은 거의 없다. 동물농장이 되어버렸다. 우리는 이제 진리전쟁을 준비해야만 하는가?