인류를 위한 인공지능을 우리는 고민한 적이 있었는가

서론

엔씨소프트 부사장이자 인공지능 전문가인 윤송이님의 책 '가장 인간적인 미래'를 읽고 느낀 점을 정리한다. 나는 컴퓨터공학 전공자이자 경북대학교라는 작은 울타리 속에서 여러 가지 리더 경험을 했다. 이러한 내가 바라보고 느낀 미래의 인공지능의 모습에 대해 고민해 보았다. 책을 읽고 난 후 떠오른 생각을 나의 방식대로 정리한 것이기에, 책과 입장이 다르거나 디테일한 부분에서 차이가 있을 수 있다는 점을 밝힌다.

이 책은 현재까지 있어온 AI 관련 이슈를 짚어보고, 앞으로 인류를 위해 AI가 가져야 할 모습과 그 과정에 대해 고민하고 있다. 인공지능, 철학, 윤리학, 정치학, 정보보안 등 각계각층의 전문가와 인터뷰한 내용을 글로 퍼낸 것이며, 전문가들이 인공지능에 대해 치열하게 고민한 과정과 그 속에서 나타난 각자의 미묘한 입장차이도 흥미로웠다.

 

인공지능의 현재

2023년 현재, 인공지능 기술은 급격하게 성장하고 있다. 인공지능이 그려낸 미술 작품이 대회에서 우승을 했고^[각주:1], Copilot과 ChatGPT 인공지능 모델이 코딩을 대신해주는 것이 인공지능의 현 위치이다. 인공지능이 얼굴인식과 텍스트 추출, 사용자 맞춤 상품 추천을 한다는 사실은 당연하게 생각되기도 하다.

그러나 빠른 성장 속도에 휩쓸려 우리 인류는 중요한 것을 간과하기도 한다. 대표적인 테크 기업 메타 플랫폼즈(구 페이스북)는 페이스북의 추천 알고리즘이 청소년의 정신 건강에 유해하다는 내부의 연구보고서를 무시한 채 기업의 이윤만을 추구했으며^[각주:2], 중국에서는 안면 인식 기술을 소수민족인 위구르인 감시에 활용하고 있다는 것이 드러난 바 있다.^[각주:3]

이러한 현재의 상황에서 정부와 기업, 인공지능 전문가 등 각자의 책임과 역할은 무엇일까?

 

정부의 책임: 부모의 마음처럼

인공지능 발전에 있어 정부는 부모의 마음으로 당근과 채찍을 이용해야 한다.

30년 전 인터넷 발전을 위해 그랬던 것처럼, 각 정부는 인공지능 기술 발전을 위해 투자와 기반환경 구축을 통해 혁신을 촉진해야 한다. 이 과정에서 이 기술이 인류를 위한 발전인지를 끊임없이 고민하여야 하며, 인류에게 해가 되는 기술은 규제를 통해 올바른 길로 나아가도록 하여야 한다.

기업은 필연적으로 이윤의 추구를 최우선 가치로 여긴다. 따라서 정부는 기업의 발전을 지속적으로 감시하여야 한다. 특히 기업 간의 공정한 경쟁이 이뤄지도록 조정할 책임도 갖는다.

 

기업의 책임: 자율규제(self-regulation)

인공지능 발전 트렌드가 점차 엄청난 양의 데이터와 인공지능 모델 크기를 갖는 '초거대 AI'로 넘어감에 따라, 인공지능 개발의 주도권이 빅테크 기업 위주로 넘어가고 있다. 따라서 인공지능 개발을 주도하고, 인공지능을 이용한 서비스를 만드는 기업은 윤리적인 책임감을 가질 필요가 있다.

이 책의 대담자 중 한 명인 롭 라이히 스탠퍼드 정치학 교수는 기업의 자율규제(self-regulation)를 제안한다. 정부의 법률이 닿지 않는 부분에서 기업 스스로 인공지능이 미칠 영향을 평가하고, 소비자에게 정보를 공개하며, 윤리적 쟁점을 드러내어 토론의 장을 마련해야 한다고 말했다. 또한 그 예시로 페이스북 감독위원회(facebook oversight board)를 들었는데, 이들은 페이스북의 결정에 대해 불복할 때 이의를 제기할 수 있다. 대표적으로 트럼프 미국 전 대통령의 페이스북 계정을 정지했을 때, 감독위원회에서 이 결정을 검토한 후 (계정 정지를) 지지한 바 있다.^[각주:4] 이 사례를 보고, 삼성전자의 준법감시위원회의 사례가 떠올랐다. 위원회는 최고경영진에 대한 준법 감시를 주 목적으로 하나, 자율규제 관련 국내의 첫 사례이며 향후 인공지능 윤리 관련 쟁점에 대해서도 판단할 수 있을 것으로 생각한다.^[각주:5]

자율규제라는 키워드를 듣고 국내 게임 업계의 사례가 가장 먼저 떠올랐다. 그간 확률형 아이템 등으로 대두된 한국 게임 업계의 고질적인 문제를 해결하기 위해 자율규제를 도입하였다고는 하나, 이를 주도한 한국게임산업협회의 지속적인 소비자 기만과, 메이플스토리 사건 등으로 대표되는 자율규제의 실패 사례를 보고 게임 업계의 자율규제는 실패한 자율규제라고 생각한다. 규제의 대상인 기업이 진정으로 규제의 목적을 이해하지 않고, 그저 법률 제재를 피하기 위한 방도로만 여긴 것이 실패의 원인이라 본다. 이러한 앞선 실패를 인공지능 자율 규제가 겪지 않기 위해서는, 경영진이 인공지능에 대한 사회적 파급력을 끊임없이 고민하고, 이러한 윤리적 고민을 당연한 것으로 여길 줄 아는 마인드가 필요하다. 또한 정부의 규제 샌드박스 제도를 활용해, 규제를 선제안하여 윤리적 영향을 미리 테스트하고 검증하는 자세가 필요하다.

 

대학의 책임: 한 그루의 사과나무를 심자

내일 지구의 종말이 온다고 할지라도,
나는 오늘 한그루의 사과나무를 심겠다.

유명한 위 구절처럼, 대학은 4년간의 교육을 통해 향후 30년간 세상을 긍정적으로 변화시킬 '사과나무'를 양성할 책임이 있다. 특히 앞으로 인공지능 발전을 주도할 미래 세대에게 윤리적 소양을 가르치고 스스로에게 질문을 던질 줄 아는 사람으로 교육할 필요가 있다. 그 방법 중 하나로 하버드 컴퓨터과학 교수 제임스 미킨스는 컴퓨터과학과 철학 학부의 협력 프로그램인 '임베디드 에틱스'를 말하고 있다. 기존 공학 전공자들은 윤리적 문제에 직면할 기회가 많지 않았다. 하지만 엔지니어는 본인이 만든 결과물에 대해 책임을 질 필요가 있다. '국내 확진자들의 동선을 나타내는 코로나맵이 불필요한 갈등을 불러일으키지는 않을까?'와 같이 말이다. 이러한 고민을 대학생들에게 발생시키기 위해서는, 그저 '공학 윤리학' 과목을 이수하는 것이 아닌, 컴퓨터공학의 각 과목에서 윤리적 능력을 탑재(embed)하는 것이 필요하다고 말한다. 즉, 알고리즘을 배울 때 시간복잡도뿐만 아니라 알고리즘의 편향성도 공부한다거나, 정보보안 분야에서 '해커의 시스템을 역으로 공격하는 것이 올바른가'와 같은 질문을 던지는 것처럼 말이다.

미래의 AI 문제를 해결하는 열쇠는 결국 사람이다. 그중에서도 AI 시대를 살아갈 새로운 세대가 그 주축이 될 것이다. 대학은 미래 세대의 인공지능 윤리를 위해 힘써야할 중요한 책무가 있다.

 

공학자의 책임: 공학은 만능이 아니다

많은 의사들은 의과대학 졸업식에서 외친 히포크라테스 선서를 마음에 새기며 산다. 이러한 직업윤리는 인공지능을 비롯한 기술 공학자들에게도 예외가 되지 않을 것이다. 페이스북의 사례처럼, 추천 알고리즘을 조작하는 것만으로도 사용자의 감정을 조절할 수 있었고, 스캐터랩의 AI 챗봇 이루다의 사례와 같이 혐오발언을 필터링하지 못해 사회적 논란을 낳기도 한다.^[각주:6] 즉, 공학자도 윤리적인 책임에서 자유롭지 못하며, 본인이 만든 결과물에 대해 책임감을 가져야 할 것이다.

공학자의 대우는 나날이 상승하고 있으며 공학의 필요성은 앞으로 꾸준히 증가할 것이다. 하지만 자칫 '모든 것은 기술로 해결할 수 있다'는 잘못된 생각을 가질 수도 있겠다. 기술의 발전 속도만큼 중요한 것이 발전 방향이다. 인류를 위한 기술이 될 수 있도록 공학자들은 지속적으로 고민하고 토론하여야 한다.

이와 관련하여 최근 대통령의 발언이 떠오른다. "모든 부처가 산업부라는 생각으로 뛰어 달라"^[각주:7]는 윤석열 대통령의 발언이 있었다. 국가의 경제 위기 상황을 타파하기 위한 의도였겠지만, 자칫 경제 발전만을 추구하여 국가의 적절한 규제 책임을 망각할까 우려된다.

 

그래서 결론이 뭐죠?

사실 이 책은 바람직한 미래 사회상을 제시하고 있지는 않다. 하지만 더 나은 미래를 만들기 위한 사회 각계각층의 노력과, 서로 간의 지속적인 토론을 모든 대담자들이 공통적으로 강조하고 있다. 미래에 있을법한 인공지능의 부작용을 해결하기 위해서는 지금, 2023년이 적기라고 생각한다.

컴퓨터공학을 전공한 사람으로서 미래 기술이 우리 사회에 끼칠 영향과 내가 가져야 할 자세는 무엇인지 고민하게 되었다. 내가 만들 기술이 사회에, 미래에 어떤 영향을 줄지 고민하게 되었으며, 인류를 위한 기술을 만들겠다는 나의 목표를 보다 확고히 해주었다. 이 책은 인공지능뿐만 아닌, 미래 기술과 연관된 모든 사람이 읽었을 때 교훈을 줄 수 있다고 생각한다. 이렇게 좋은 책을 읽게 되어 매우 행운이라고 생각한다!

1. https://m.khan.co.kr/economy/economy-general/article/202209100800001 [본문으로]
2. https://www.hani.co.kr/arti/economy/it/1013823.html [본문으로]
3. https://mirakle.mk.co.kr/view.php?year=2020&no=1265419 [본문으로]
4. https://otterletter.com/is-facebook-oversight-board-working/ [본문으로]
5. https://samsungcompliance.com/common/committee/role.do [본문으로]
6. https://www.hani.co.kr/arti/opinion/editorial/978267.html [본문으로]
7. https://www.joongang.co.kr/article/25112832 [본문으로]