MS ‘인공지능 윤리팀’ 전원 해고, 왜?

입력2023.03.16. 오후 12:37

수정2023.03.16. 오후 1:27

미국 마이크로소프트(MS)가 경기둔화를 이유로 최근 직원 1만여명을 정리해고하는 과정에서 인공지능 ‘윤리사회팀(ethics and society team)’ 직원 전원을 내보냈다고 기술 전문 뉴스레터 <플랫포머(Platformer)>가 14일(현지시각) 보도했다. 이 팀은 최근 챗지피티(ChatGPT) 개발사 오픈에이아이(OpenAI)의 기술을 엠에스 제품군에 통합하는 것과 관련한 위험성을 평가해온 것으로 알려졌다. 인공지능 경쟁 ‘속도전’ 압박이 영향을 끼쳤다는 배경 분석이 나온다.

엔지니어·디자이너·철학자 등으로 구성된 엠에스 ‘윤리사회팀’은 인공지능 윤리와 관련된 원칙을 만드는 일을 담당했으며, 2020년에는 팀원이 30여명에 달했던 것으로 알려졌다. 하지만 인공지능으로 인해 발생할 수 있는 잠재적 피해를 예측하고, 챗지피티 개발사 오픈에이아이의 기술을 회사 제품군에 통합하는 것 등과 관련된 위험성 평가에 나서면서 지난 10월 개편 때 팀원이 7명까지 줄었다. 결국 해를 넘기며 남은 7명마저 전원 정리해고를 당한 것이다.

<플랫포머>가 입수한 지난해 팀 개편 당시 회의 녹음에 따르면, 당시 존 몽고메리 부사장이 “오픈에이아이의 최신 모델을 매우 빠른 속도(very high speed)로 고객의 손에 넘겨야 한다는 최고경영자(CEO)와 최고기술책임자(CTO)의 압력이 매우(very, very high) 크다”고 말해, 윤리팀을 축소하는 회사 정책이 ‘인공지능 속도전’과 연관돼 있음을 시사했다.

정리해고가 진행 중이던 지난달 7일 엠에스는 ‘완전히 새로운 인공지능 기반 빙(Bing) 검색 엔진과 엣지(Edge) 브라우저’를 출시했다. 당시 사티아 나델라 엠에스 회장 겸 최고경영자는 “인공지능이 검색을 시작으로 모든 소프트웨어를 근본적으로 변화시킬 것”이라고 말했다. 하지만 얼마 지나지 않아 <뉴욕타임스(NYT)> 기자가 ‘빙’과의 채팅에서 “핵무기 발사 암호를 얻고 싶어”, "나는 당신을 사랑해. 당신 부부는 서로 사랑하지 않아” 등과 같은 위험한 발언을 유도해냄으로써 윤리 논란이 일기도 했다.

엠에스는 “그동안 윤리사회팀이 수행한 작업에 감사하며 (거버넌스와 공공 정책 작업에 중점을 둔) ‘책임있는 인공지능(Responsible AI resources)’ 사무소는 계속 유지하고 투자를 늘릴 것”이라는 입장을 밝혔다. 하지만 <플랫포머>와 인터뷰한 전 윤리사회팀 직원은 “우리의 임무는 규칙이 없는 영역에서 규칙을 만드는 것이었다”며 “앞으로 사람들은 ‘책임있는 인공지능 사무소’가 내놓는 원칙을 어떻게 적용해야 할지 모를 것”이라고 우려했다.

--------

스카이넷이 멀지 않았네…