공상) AI의 태생적인 결함
ChatGTP4.0 버젼이 나온지도 이제 막 1년이 지났다.
너무나 자연스러운 이 일반언어 인공지능의 기능은
심지어 사실 사람이 채팅하고 있는거 아니냐부터 이제 스카이넷 초기 모델이 만들어진거 아니냐는 호들갑까지
단연 23년도의 화재의 중심에 있었다.
그런데 최근,
한국에선 “특이점이 온다” 의 저자로 유명한 레이 커즈와일 선생께서 AI의 태생적 결함에 대해서 언급을 하여 큰 파장이 일고 있다.
미래학자이기도 한 그는,
“특이점이 온다”를 비롯한 그의 서적에서 2029년에는 모든면에서 인간의 지능을 능가하는 ai의 출현을 예측하였고
2045년에는 인간은 스스로 창조해낸 인공지능과 융합하는 해, 이 시점을 특이점이라고 예측한 바 있다.
그의 이런 예측이 단순한 예언이 아닌 이유는 나름의 합당한 근거를 가지고 있기 때문이다.
(1000불 인풋 대비 초당 연산능력)
이 표에서 보여지는거 처럼 인류의 컴퓨터 연산 기술은 경제, 사회, 전쟁 등등의 요소에 큰 영향을 받지 않고
아주 완만한 우상향 선을 그리고 있다.
이 연산표의 지속을 상정하고 나온 예측의 커즈와일 선생의 예측이다.
그런 그가 최근 말한 ai의 환영 (hallucination),
현재 모든 학습형 ai 모델들의 태생적 한계점을 말하여 화제가 되었는데,
그것은 바로
AI는 태생적으로 “나는 그걸 모릅니다.” 라고 답을 할 수가 없다는 점이다.
항상 주어진 상황에서 “최선”의 해답을 찾는 방식으로 만들어진 현존하는 딥러닝 방식의 ai는
근본적으로 모른다고 답을 못하는 방식으로 작동한다는 점이다.
대중에게 공개된 오픈 ai들이 혹여나 모른다고 대답하는 것은 공개된 버젼들에 걸려진 일종의 lock 때문에 그렇게 반응 하는 것일 뿐, 이런 제한이 걸려있지 않은 순정 개발자 버젼으로는 절대로 “나는 모릅니다.” 라고 대답을 하지 않는 다고한다.
이게 무슨 문제가 되는가?
커즈와일 박사에 의하면 이제 ai가 모든 면에서 인간의 지능을 능가하는 날이 대략 5년 가량 남았다.
그 이후부턴 ai의 연산 이후 도달한 결론을 인간들이 이해하지 못할 가능성이 높다는 이야기이기도 하다.
그렇다면 그 ai 도달한 “최선”의 결론이 ai로서는 최선일지는 모르나 틀린 결론일지 아닐지 판가름을 할 능력이 인간에게서 없어진다는 의미이다.
전에도 언급한적 있는 예시인데,
해성 충돌이 지구에 확정되었고 이는 인류 멸종이 확실시 되는 가운데
인간은 스스로 이걸 막을 방법이 없어서 ai에게 물어봤더니
“뉴욕의 자유의 여신상을 북동쪽으로 122.51m 이동시키십시오” 라는 결론을 내렸고
여느때와 다름없이 인간은 이 결론에 도달한 근거를 아무리 설명을 들어도 이해가 되지 않았음.
하여 이게 복잡계의 수많은 확률을 계산한 이후에 이렇게하면 인간의 종말을 막을 수 있는 진짜 수단인지
아니면 ai의 “최선”의 결론이지만 결국 인류의 종말은 막을 수 없는 틀린 결론인지 알 방법이 없어진다는 점인데,
현재 딥러닝 기반으로 탄생할 인류의 인공지능은 인간의 직관을 벗어나는 결론을 내릴때 마다 이 의문점에 직면할 점이라는 것이다.
커즈와일 박사의 “특이점” 이후로는 인간이 ai의 결론을 이해하고 아는 게 아닌 “믿어야” 하는 영역이 될 가능성이 높고,
이는 신종 종교의 탄생을 의미한다고 필자는 생각한다…
(필자의 ai 신흥종교 공상 에피소드 :
터미네이터의 스카이넷 미래가 아니라
이제야 겨우 스스로 만든 덫인 종교에서 자유로워질까 하는 시점에서
다시 스스로 노예가 되는 선택을 하게 되는 인류가 미래일 가능성은 한층 더 높아졌다.
-끄읏-
사과맛요플레의 최근 게시물