공상) Chat GPT는 스카이넷 초기모델인가?

사과맛요플레 작성일 23.04.10 16:21:24 수정일 23.04.10 16:36:13
댓글 11조회 182,591추천 18

 

 

Chat GPT가 화제인 모양이다,

sns을 열어도

브라우저를 열어도

한번도 검색 조차 안 해본 이 앱이 어디가나 관련 광고가 뜨고

주위 관련업계 종사자들은 만나기만 하면 입에 침을 튀기며 이 얘기를 한다.

 

 

Chat GPT는 한국 대중에게는 알파고를 통해 잘 알게된 딥러닝 프로그램과 원리적으론 다를 바가 없다고 할 수 있다.

다만, 알파고는 말 그대로 Go 즉 바둑의 기보를 딥러닝하는 프로그램이었다면

Chat GPT는 말 그대로 채팅, 그것도 최대한 실제 사람처럼 가능한 대화가 목표인 프로그램인 만큼

알파고 처럼 한 분야에 묶여있지 않다.

 

개발 단계에선 개발자와 소위 강화 학습 트레이너와 대화를 통하여 정보 그 자체보단 채팅에 있어서 자연스러움을 더욱 추구 하였으나

계속되는 개발 진행으로 여러가지 “플러그인” 업데이트를 통하여 인터넷 전체는 아닐지라도 상당한 분야의 인터넷상의 데이터가 주입되었다고 한다.

 

이 앱이 무료로 공개된 것도 이유가 있다.

사람들이 대화를 하면 할 수록 그 대화 역시 데이터가 되어 이 프로그램 진화에 도움이 되는 것이다.

 

 

 

그러니 요약하자면

최대한 인간처럼 행동하는 프로그램에게 인터넷 엑세스를 주었고

사람들이 자발적으로 이 프로그램의 성장을 돕고 있다는 얘기다.

 

이거 어디서 이미 많이 본 풍경 아니었던가?

 

95e46a25fc3a91b5c1b35a01bc2e88a4_237242.jpg

 

 

 

 

 

실제로 이미 스카이넷으로 가는 판도라의 상자가 열렸다고 우려하는 전문가들부터

그건 아니지만 여러가지 사회 부작용이 우려된다는 전문가들도 있고

인류에게 이로운 ai의 첫 걸음이 시작되었다고 환영하는 전문가까지 있지만

 

모두 공통적인 것은 이 프로그램은 기존의 딥 러닝 프로그램과는 차별화된다는 점이다.

 

 

 

 

 

우선 가장 현실적으로 직면한 문제가 있다.

 

바로 아무나 그럴싸하게 전문가인 척 하기가 너무나 쉬워졌다는 점이다

 

이미 넘처나고 또 너무 빠르게 재생산되는 정보 시대의 덕분에 

박사니 석사니 하는 학위들의 권위가 날이 갈 수록 추락하고 있는 마당이다.

 

 

 

실제로 Covid-19 팬데믹을 겪으면서 

의사학 박사들이라는 인간들이 백신 무용론을 들고 나오질 않나

의사학 박사라는 것들이 사회적 거리두기가 필요 없다고 하질 않나

아니면 반대로

이미 코로나에 걸린 경험이 있는 사람이 새로운 변종 대비가 전혀 안 된 기존 백신을 계속 다시 맞아야 한다고 하질 않나

 

우린 자칭 전문가라는 사람들이 얼마나 엉터리 소리를 할 수 있는지

이 전염병이 창궐했을 때 직접적으로 경험할 수 있었다.

 

c6f82d46dacc8c631f95d6103d77023f_760920.jpg
그저 정치논리만 기반으로 거리두기 방역을 비판하던 의학계 종사자도 많았음

 

 

 

 

문제는 Chat GPT 같은 앱의 도움? 없이도 이런 개소리를 자기 필요에 따라 편집, 재생산 하는 시대인데,

Chat GPT의 등장으로 더욱 그럴싸 한 “아는 척” 을 할 수가 있게 되었다는 점이다.

 

지금 당장도

어떠한 주제로 2500자 에세이를 써달라고 입력하면

꽤 그럴싸한 글이 생성 된다.

 

이것을

“코비드 19과 백신의 무용론을 주제로..” 라고 주문자가 애당초 잘못된 전제로 주문을 해도 결과값은 나온다는 것이다.

 

지금도 약간 그런 기능이 있고 앞으로도 추가될 것이라 하지만

애당초 잘못된 전제로 주문을 하면, 예를들어 위 사례를 대입하자면

 

“백신은 코비드 19같은 질병에 유용합니다. 질문이 잘못되었습니다." 라고 반응을 보일 수 있지만

결국 사용자의 변형된 질문 학습을 통하여

 

“알아, 하지만 만약 무용하다면…” 이라는 전제를 삽입하여 결국 원하는 값을 도출 할 수 있다는 점이다.

 

 

꼭 이런 의도적 “악용”이 아니라도

 

대학수업을 하나도 듣지 않은 학생이 수업을 열심히 듣고 자작한 에세이 보다

Chat GPT를 활용하여 더 월등한 결과값을 낸다면 현재의 고등교육의 평가 시스템 근간 자체를 흔들 수 있다.

 

 

 

 

 

 

그렇다면 당장의 문제보다 인류의 존속이 걸린

속칭 “Chat GPT 스카이넷화" 문제는 어떠한가?

 

일단 그동안 여러가지 문학 작품이나 과학 이론으로 탐구되고 연구되어왔던 “자아”의 접근법 부터 생각해봐야한다.

 

 

 

 

여기 이런 도형이 있다.

 

52b925ebf8a9750a28d4a617db3e92ac_702570.jpg

 

이 도형을 뇌기능의 모듈이라 한다면

 

이 도형이 이렇게 배치가 되었을 때

 

87d79633972f8eff22af930dbc08b5f4_518261.jpg

 

우리는 모듈 여러개 위치와 각도가 바뀐 것만 보는게 아니라

중앙의 네모 도형의 형체를 인식하게 된다.

 

이것이 결국 의식이라고 설명하는 것이

뇌 모듈이론과 의식 번들이론이다.

 

즉, 실체한다고 보기 어렵지만 저 모듈 하나는 기억, 하나는 신체적 감각 등등이라면 결국 그 기관 혹은 모듈이 배치되어 있을 뿐인데 존재하는거 처럼 보이는 저 중앙의 네모와 마찬가지로 “의식”이라고 실체 하는 듯하게 느끼게 한다는 것이다.

 

 

이 이론에 따르면 지금 나의 육체를 분자구조 수준으로 똑같이 복제를 한다면 그 복제된 나 자신 또한 나를 나라고 생각하는 의식을 그대로 가지고 있을 것이라는 예측이다.

 

10009ecafcd88c30d26c9975f29e30d8_210212.jpg
의식 번들이론을 꽤 잘 녹여낸 작품인 원작의 공각기동대

 

뇌 활동을 아무리 스캔해봐도 자의식이 발현되었다 할 만한 구역이나

종교에서 흔히 말하는 “영혼”의 흔적 따위는 발견되지 않았다.

 

과거 사람이 죽는 순간 21그램이 줄어든다며 영혼의 무게는 21그램이라며 책도 내고 심지어 영화도 제작 되었고

지금도 "영혼의 무게" 라고 검색하면 수 많은 사이비들과 유사과학 신봉자들이 이게 마치 과학적으로 증명된 것인냥 떠들어댄 쓰레기들이 넷상에 넘처흐르지만 

 

정작 이 1907년에 이 실험을 한 던컨 의사 자신도 이 실험으로 영혼의 무게가 21그램이라고 단정 짖는 것은 성급한 오류라고 지적하였고

과학계에선 선택 편향, 즉 답정너 실험의 표본으로 거론된다고 한다.

 

ef2a758b8b4ea766589a4949bb47280a_816704.jpg

 

 

그러나 일명 “서프라이즈” 식 팩트는 뒷전인 흥미위주식 방송이나

종교인들, 주로 기독교 중심의 소위 창조과학론자들이 영혼의 증거라며 자주 들먹이는 사례로 악용되고 있다.

 

 

 

 

 

 

그렇다면 “나를 나” 로서 인식하게 만드는 것은 무엇일까?

9b787f4ecbc064d79cffb32c5d2aa5cb_462769.jpg

 

인간의 육체?

 

인간의 육체 조차도 사람에 따라 약간의 차이가 있지만 보통 7년이면 나를 구성하고 있는 모든 구성 물질은 새로운 것으로 교체가 된다고 한다.

그렇다면 사람은 매 7년마다 새로운 의식이 생기냐면 당연히 그렇지 않다.

 

 

 

정리하자면,

 

영혼이라는 것의 존재는 증명이 된 바 전혀 없고

의식조차 현대 과학은 환상이라는 접근에 다다르고 있다.

 

 

 

 

왜 갑자기 이 “의식”에 대한 얘기인가 하면

의식은 생각보다 쉽게 발생 할 수 있다는 결론에 도달하면,

 

 

Chat GPT는 이미 의식발현을 위한 모든 기초적인 조건이 다 충족 되었다는 점이다.

 

물리적 육체만 빼놓는다면 말이다.

 

124774b3b1fa9e524525670b70c7d39e_646673.jpg

 

브렛 웨인스테인 박사 처럼 Chat GPT의 위험성을 경고하는 학자들이 늘어나는 것은 단순히 관종이라서가 아니라

이번 만큼은 좀 다른 딥러닝 프로그램이 등장했기 때문이다.

 

 

 

 

 

많은 SF 작품에서도 인간은 스카이넷 같은 재앙을 창조해 놓고도 자각하지 못하고 당하고 말았다.

사과맛요플레의 최근 게시물
  • 암마또마23.04.17 20:57:36 댓글
    0
    흥미있고 공감되는 내용입니다. 저도 ChatGPT를 겪고나서 참 많은 생각이 들더군요.
  • 머니게임23.04.17 21:29:16 댓글
    0
    ㅊㅊ
  • zilfallon23.04.17 23:28:52 댓글
    0
    인상 깊었던 말
  • 야마꼬96723.04.18 00:28:16 댓글
    0
    요즘 chat GPT 활용 많이 하는 1인으로 사용담을 말씀 드리면 앞으로가 더 기대된다. 지금은 찾는 자료중 근거없는 소설이나 출처 조차 구라를 많이 칩니다.
  • iiiijiiii23.04.18 07:59:03 댓글
    0
    직접물어보면되지
  • ziczac23.04.18 12:52:01 댓글
    0
    인간의 평가기준이 합리적이고 이성적이고 규칙적이고 질서있을수록 높은 가치를 두고 그게 곧 정의라 생각하니
    그 분야 압도적 최고봉이 지배하면 좋은 거겠져 머ㅋㅋㅋ
    애초에 현재의 고등교육의 평가시스템이 매우 후진적인 것도 사실이고
    일반인이 챗gpt써서 전공자 제낄 정도면 전공자가 챗gpt를 쓰면 훨씬 끝내주는 아웃풋이 나올 것으로 기대하는게 당연한데
    전공자는 물론이고 교수조차도 그러지 못할 것 같으니 문제라 하는 게 아닌지??ㅋㅋㅋ

    2세기전부터 철학자,교육자들이 우려하던게 현실화된 게 지금의 교육시스템이죠.
    전문성에 매몰되면서 생기는 문제를 덮고 한우물 깊이 파면 다른 분야에도 안목이 트인다는 소리로 자위나 했을뿐ㅎㅎ
    개인적으로는 석박의 권위가 떨어진다는건 오버고 학사는 지금도 수준 떨어지기에 거의 지금의 민간자격증수준이 될 것 같네요.
    그나마 석박은 아는 것과 모르는 걸 인식하고 구분할 줄 알고 뭘 모르는지도 알지만
    학사는 아는 것 밖에 모르거나 뭘 모르는지도 모르고 고민없이 경험적 추측-그마저도 그저 환원된 이항대립적 데이터로 끝내니까요.
  • 사과맛요플레23.04.18 15:10:26 댓글
    0
    하신 말씀에는 동의합니다.
    근데 지금의 문제는 과도기에 발생하는 문제로
    실제로 ai가 전공자나 교수보다 해당 분야를 넘어선 이해와 사고를 바탕으로 내는 결론이 아니라

    단순히 유저가 얼마든지 방향성을 제시한 결론 소위 말해 답정너 결론을 내어놓고
    그걸 판가름 할 지식과 방법이 없는 일반 대중을 혼란스럽게 한다는 말이죠.
    지금의 가짜뉴스는 애들 장난 수준인 시대가 오고 있다는 겁니다.

    예를들자면 제대로 기상학을 공부한 사람이라면 지금 지구 온난화가 분명한 현실이고 진행중인 재앙이라는 점을 부인 못 할 겁니다.
    간혹 딴 소리를 하는 학자들은 주류 학자들에 의해 논리적으로 완전 박살이나죠.
    그런데 지구 온난화가 거짓이라고 "믿고 싶은" 집단이 이런 ai를 사용하여 대중 앞에서 그럴싸하게 전문가인척 하며 주류 학자들과 대등한 토론을 펼치며 거짓을 설파한다고 생각해보세요.

    다른 예로 코로나 같은 전염병 창궐했을때 안티 백신주의자들이 이용해 먹는다면?

    생각만해도 끔찍하지 않습니까? ㅎㅎ
  • ziczac23.04.18 18:36:09
    0
    @사과맛요플레 네네 사실 지금까지에 대한 일종의 체념적인 반어법으로 푸념한 번 해본 거였네요ㅠㅠ
    지금 수준은 물론이고 앞으로도 당분간은 챗GP를 통해 벌어질 혼란은 분명 감당안될 수준으로 올 수 있고 아직 한참 발전해야하죠.
    클로즈베타 수준을 오픈베타로 가동하는 중인데 벌써 사회에 이정도 파급력을 보이고 있으니
    속도조절해야된다는 의견이 많은 것도 이해가 되네요.
    전세계 대중의 평균적인 인문학 수준이 AI를 감당하기엔 너무 파편화되어 있다고 생각합니다.
    근데 시간 조절해야된다는 말을 구글,일론머스크가 하고 있으니 경쟁에서 밀린거 시간확보하려고 그러는 늬앙스가 풍겨서 참ㅎㅎㅎ

    석박의 권위가 땅에 떨어진 것도 사실 저도 동의합니다만...
    그마저도 부정하면 가뜩이나 지하실에 떨어진 대한민국의 수많은 학사들은ㅠㅠㅠ
  • 사과맛요플레23.04.18 15:13:42 댓글
    0
    현재의 교육평가 시스템이 후진적인 것도 맞습니다.
    그런데 다른 객관적인 평가 시스템의 대안이 없는 것도 사실이죠.

    개인적으론 한국이나 영미권이나
    실제 PhD 딴 석박들이 그 권위위에 앉아서 개소리 씨부리는건 너무 많이 봐서
    이미 권위는 많이 떨어졌다고 생각해요.

    정말 여러가지로 문제적인 딥러닝 프로그램이 등장한 것은 분명한듯합니다
  • 경종24.02.09 22:12:38 댓글
    0
    저는 의식이 양자 컴퓨터에 이르러서야 이루어질 수 있다고 생각합니다.
    이른바, 양자 컴퓨터에 있는 확률적 오류에 기반할 수 있다고 생각합니다.
    그래서 만약 양자 컴퓨터도 현재의 전압에 기반한 컴퓨터처럼 결정론적으로 가동된다면,
    그것은 의식이 발현되기 힘들다고 생각합니다.

    '의식'은 '선택 가능한 가운데 선택이 이루어짐(당연히 관련 요소들이 결부됨)'이라고 생각합니다.
    그리고 '의식'은 한 생명체 안에 같은 시각에 여러 것이 존재할 수가 있다고 생각합니다.
    이를 테면, 우리가 생활하면서 여러 감각과 감정이 뇌에서 이루어지는데(위에서 말한 선택이 이루어지는데),
    우리가 지금 느끼는 순간의 '의식'이란 그 각 의식 또는 여러 의식이 네트워크를 이루는 복합 의식이며,
    그 의식이 우리 뇌에 발생하는 모든 총괄하는 '의식'임을 보장하지 못한다는 것입니다.

    다시 말하면,
    선택 가능한 여러 항이 있을 때,
    그 선택이 이루어짐(현재 과학으로는 여러 가능성이 한 가지로 관측이 된 경우)의 발생이 의식이라고 생각하며,
    동시적 관점에서도 뇌의 각 연결 교차점마다 찰나의 의식이 존재하여 여러 의식이 동시에 존재하고,
    통시적 관점에서도 한 자아가 갖는 의식의 개수란 무한대에 가깝다고 생각합니다.
  • 경종24.02.09 22:18:28 댓글
    0
    단지, 인간의 뇌에 저장된 기억이 그 의식들과 얽힘을 갖기 때문에,
    마치 한 줄로 연결된 보석 목걸이처럼,
    여러 의식이 집합을 갖게 되는 것이고,
    그 집합을 자아라고 부른다고 생각합니다.
    여기서 자아란 일종의 인위적 개념이지 우리가 느끼는 근본적 단위를 말하는 것이 아닙니다.
    '의식' 또는 '느낌'이 근본적 실체이겠죠.
게시글 목록
제목 작성자 작성일 조회수 추천수
게시글 목록
2109 ★ㅡㅁㅡup 2024.12.16 54,790 4
2108 븞새 2024.10.28 107,246 2
2107 BOA86 2024.10.06 133,482 3
2106 경종 2024.10.01 139,047 0
2105 진짜킹카 2024.08.05 205,029 1
2104 진짜킹카 2024.08.04 205,638 1
2103 오징어군 2024.07.18 228,853 19
2102 lunallena 2024.07.18 225,061 2
2101 민들레처럼살자 2024.07.01 247,252 3
2100 wejeaje 2024.05.14 301,206 0
2099 맞춤형테란 2024.05.06 285,645 26
2098 사과맛요플레 2024.03.19 311,138 18
2097 뭐한디야 2024.03.04 299,072 10
2096 BUMPULER 2024.02.12 313,005 6
2095 사과맛요플레 2024.01.29 300,553 4
2094 사과맛요플레 2024.01.29 290,248 9
2093 총선에서보자 2023.10.10 351,806 3
2092 짱년의꿈 2023.09.26 354,654 1
2091 한국조폐공사 2023.09.12 351,011 11
2090 사과맛요플레 2023.08.01 346,622 18
2089
[3] 안녕
수제생크림 2023.07.27 335,721 6
2088 작안의루이즈 2023.07.19 316,380 18
2087 수제생크림 2023.07.07 312,363 4
2086 수제생크림 2023.06.28 304,937 4
2085 수제생크림 2023.05.28 281,369 19
2084 뽀삐아빠 2023.05.26 268,362 3
2083 한국조폐공사 2023.05.24 256,309 5
2082 한국조폐공사 2023.05.16 254,292 13