['18 경희인의 서재②] 선택의 순간, AI는 어떤 결정을 내릴까

인공지능으로 작동하는 자율주행 차량의 운전석에 앉은 당신,

아무도 없는 텅 빈 거리에서 예기치 못하게 아이가 달려나오고.

이제 선택의 시간이 왔다. 

AI는 당신을 살렸을까? 아이를 살렸을까? 아니면 당신과 아이 모두 살았을까?

누구나 선택의 기로에 놓이게 됩니다. 그럴 때 우리는 개인의 경험, 가치관, 신념 등을 버무려 결정을 내립니다. 

우리처럼 AI(인공지능, Artificial Intelligence)도 언젠가는 선택의 기로에 놓이게 될 것입니다. 이세돌과의 바둑에서 알파고가 한 수 한 수를 어디에 놓을지 결정했던 것 처럼요. 그럼 AI는 무엇을 기준으로 결정을 내릴까요? 그건 AI가 그동안 열심히 배우고 분류하고 심화시킨 스스로의 데이터를 통해서 일 것입니다. 그럼 그 데이터는 어떻게 쌓였을까요? 아마도 인간이 내렸던 결정들이 데이터로 쌓여 AI에게 간 것 아닐까요.

어떤 사람의, 어떤 결정에 대한, 어떤 데이터를 쌓았느냐에 따라 같은 상황에서 다른 선택을 내리는 AI가 존재할 수 도 있을 것 같습니다. AI가 내리는 결정은 결국 AI를 둘러싼 사람들의 경험, 가치관, 신념이 쌓여서 내려진 결정일테니까요.

2018년 6월 7일 구글에서는 그들의 AI에게 어떤 경험을 누리게 하고, 어떤 가치관을 심어줄 것인지 기준을 세웠습니다. 

 

AI at Google: our principles

1. Be socially beneficial. 사회적으로 유익해야 한다.

2. Avoid creating or reinforcing unfair bias. 불공정한 편견을 만들거나 심화시키지 않아야 한다.

3. Be built and tested for safety. 안전이 우선 되어야 한다.

4. Be accountable to people. 인간의 지시와 통제를 받아야 한다.

5. Incorporate privacy design principles. 강력한 개인정보 보호 기준이 세워져야 한다.

6. Uphold high standards of scientific excellence. 높은 수준의 과학적 우수성과 기술이 공유 되어야 한다.

7. Be made available for uses that accord with these principles. 잠재적 위험을 막기 위해 이 기준에 부합하는 용도로 사용되어야 한다.

구글의 이번 발표는 미국방부에 인공지능 기술을 지원하는 계약을 체결한 것에 대해 지난 4월 4,000명 이상의 직원이 반대 탄원서에 서명한 것으로 시작됐습니다. 지난해 5월 미 국방부는 기계 학습 인공지능 기술을 이용해 방대한 영상 자료를 분석하고 무인 항공기의 타깃 식별력을 향상시키기 위한 ‘프로젝트 메이븐(Project Maven)’을 발표했습니다. 여기에 구글이 오픈 소스 기계학습 인공지능 알고리즘 텐서플로우(TensorFlow)를 지원하는 계약을 체결하면서 직원들의 반발이 생겼습니다. 당시 구글은 ‘비 공격적(non-offensive)’ 부문에만 관여하고 있다고 해명했지만 내외부의 비난은 거세졌고 결국 5월 말 국방부와 계약을 파기했습니다. 그리고 어제 이런 기준을 발표한 것입니다. 이는 다시 말하자면 구글은 이런 가치관과 신념을 가진 사람들의 모임이라는 뜻입니다. 

- 출처 1 https://www.blog.google/topics/ai/ai-principles/

- 출처 2 http://thegear.co.kr/16135 (한글 해석)

그럼 다시 우리로 돌아와 인공지능, 4차 산업혁명 시대를 살고 있는 우리는 어떤 기준을 가진 사람일까요. 제일 앞에서 말한 상황에서 당신의 AI는 어떤 결정을 하게 될까요? 그건 당신만이 알 수 있는 답 입니다. 

그래서 어떤 사람들은 인공지능 시대에 오히려 인간에 대해서 이야기 합니다. 관심이 있다면 한 번씩 읽어보시기 바랍니다. 당신과 당신의 AI가 어떤 미래를 살게 될지 지금 이순간 조금씩 정해지고 있을 테니까요.

                      

(책 이미지 클릭시 도서관 소장자료로 이동합니다.)

스스로가 어떤 가치관과 신념을 가진 사람인지 알계되셨나요? 

그럼 이제 진짜 당신의 AI의 만들어 보면 어떨까요? 수학적 지식이 없어도 가능한 머신러닝/딥러닝 강의를 공유합니다.

모두를 위한 머신러닝/딥러닝 강의     (https://hunkim.github.io/ml/)

여러분의 마음에 인문학적 깊이가 더해지고, 여러분의 머리에 머신러닝 지식이 채워진다면, 4차 산업혁명의 주인공은 바로 여러분 입니다. 꿈을 마음껏 펼치는 여름방학을 보내길 바랍니다. 

작성 : 경희대 중앙도서관 주제정보팀 오나선