사이트 내 전체검색

본문

인공지능이 인간을 죽이는 날

지은이고바야시 마사카즈 저/한진아 역

쪽수215쪽

발행일2018년 9월 27일

ISBN9788955335552

판형152*225*14mm

기타

정가14,000원

구매하기

  • 책소개
  • 목차
  • 저자 소개
  • 상세이미지
“인공지능(Artificial Intelligence: AI), 어디까지 알고 있니?”
청소 로봇, 대화형 스피커를 넘어 자동차, 의료, 무기까지 진출한 인공지능!

최근 세계적으로 IT 기업 간 인공지능 개발 경쟁이 매우 뜨겁다. ‘음성 조작 기능이 있는 스마트폰’ ‘청소 로봇’ ‘대화형 스피커’ 등 인공지능을 탑재한 가전제품이 하루가 다르게 진화하고 있다. 이 책은 그중 인간의 생사에 관련된 자동차, 의료, 무기의 세 가지 분야에 탑재되는 인공지능을 다루었다.

인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼을 소개하는 데 초점을 맞추고 있다. 인공지능의 핵심 원리에 관해 과학에 문외한인 일반 독자들도 알기 쉽게 설명하고 있다. 궁극적으로는 인공지능을 둘러싼 위협론 또는 장밋빛 전망 등 피상적 이야기들에서 벗어나 우리가 진짜 경계해야 할 현실에 직면함으로써 실질적인 해결 방법을 모색하게 한다.


테슬라의 자율주행차 사망사고와 세계 금융위기의 원인이 같다고?
- AI의 팻테일 리스크 문제 -

제2장은 2016년 5월에 발생한 테슬라의 반자율주행차 ‘모델 S’의 사망사고 현장검증을 중심으로 자율주행차의 사각지대에 대해 알아본다. 자율주행을 가능하게 하는 대표적인 센서는 라이더, 비디오카메라, 밀리파 레이더로, 역할과 장단점이 각기 다른 이 센서들이 자율주행차의 안전성을 좌우한다. 문제는 이 센서들이 너무 고가라는 것. 사망사고를 일으킨 테슬라의 모델 S만 해도 가장 핵심이면서 가장 고가인 라이더를 장착하지 않았다. 그러나 구글이 2022년 출시를 목표로 개발 중인 완전자율주행차처럼 아무리 모든 센서를 장착하고 안전한 대비책을 마련한다 해도 자율주행차가 안고 있는 근본적인 한계가 있는데 그것은 바로 팻테일 리스크다. 이론적으로는 일어날 확률이 제로(0)인 사고가 현실에서는 제로보다 훨씬 빈번하게 일어난다는 이야기다. 테슬라의 자율주행차 사망사고도 그런 경우였다. 같은 이유로 이론적으로는 100만 년에 한 번 일어날까 말까 한 세계적인 금융위기(리먼 사태, 서브프라임 모기지론, 러시아의 디폴트, 블랙먼데이 사건 등)가 실제로는 10년에 한 번씩 발생해 세계 금융시장을 초토화하고 있다.
이해를 돕기 위해 본문은 자율주행 기술의 4가지 프로세스와 각각에 사용되는 규칙 기반 AI, 통계확률형 AI에 대한 기술적 설명을 덧붙인다. 팻테일 리스크는 통계확률형 AI가 필연적으로 안고 있는 문제다. 은닉 마르코프 모델, 베이즈 정리, 칼만 필터, 정규분포곡선 등 자율주행차를 이해하는 데 필수적인 공학 이론들의 핵심을 이해하기 쉽게 정리했다.

왕년의 퀴즈왕 ‘왓슨’과 바둑왕 ‘알파고’가 명의로 환골탈태하다?
- 의료 인공지능과 블랙박스화 문제 -

의료 분야의 대표적인 두 가지 AI는 IBM의 ‘왓슨’과 구글의 ‘딥러닝’이다. 의료 AI는 인간의 정보처리 능력으로는 소화하기 불가능한 수많은 의학 자료를 기계학습해 각종 질병을 진단하고 치료법을 제시함으로써 의사를 보조하는 역할을 한다. 왓슨은 원래 미국의 유명 퀴즈쇼에 나가 역대 챔피언들을 꺾은 퀴즈왕이었다. 사람처럼 말을 하고 다양한 질문에 답을 주기도 하는데, 이를 ‘자연언어처리’라고 한다. 본문은 이에 대해 자세히 설명한다. 문제는 닥터 왓슨이 제시하는 진단과 치료법은 절대적인 정답이 아닌 확률이라는 점. 왓슨과 의사의 의견이 엇갈릴 때, 확률이 높은 답안을 받은 의사는 어떤 선택을 하게 될까? ‘마이너리티 리포터’와 관련된 그 문제들을 비롯해 현재 의료 AI가 사용되고 있는 현장에서 발생하는 문제들, 향후 우리가 겪게 될 문제들에 관해 본문은 논리적으로 접근하고 있다.
구글도 의료 AI를 주력 사업으로 하고 있다. 구글의 의료 AI는 ‘딥러닝’이라 하며 왓슨과는 성격이 전혀 다르다. 왓슨보다 잠재력은 크지만 문제는 더 심각할 수 있다. 본문은 딥러닝에 사용되는 뉴럴 네트워크 기술과 기계학습, 그리고 패턴인식의 원리에 대해 자세히 설명하고 있다. 흥미로운 점은 ‘딥러닝’의 정체가 2016년 3월 이세돌 9단을 꺾은 ‘알파고’라는 것이다. 본문은 딥러닝의 위험성을 단적으로 보여주는 당시 대국 현장으로 우리를 데려간다. 이미 3패를 당한 이세돌 9단이 제4국 78수째에 중앙에 모험적인 수를 두자 알파고는 엉뚱한 수를 두면서 결국 패했다. 대체 왜 그랬을까? 하지만 알파고 개발자조차 그 이유를 설명할 수 없었는데, 바로 그것이 딥러닝의 진짜 문제다. 그 이유는 알파고와 딥러닝의 기반이 되는 뉴럴 네트워크의 블랙박스화 현상에 있는데 본문은 그 원리에 대해 자세히 설명하고, 그런 현상이 일으킬 우리 미래의 일상에 대해 생각해보게 한다. 또한 구글이 딥러닝을 위해 대량의 의료 데이터를 입수하고 있는데, 여기서 발생하는 프라이버시 문제도 생각해볼 문제다.

미군이 주도하고 있는 세계적인 휴머노이드 기술
- 미국의 스마트 핵무기와 터미네이터 문제 -

무기 분야에서는 미국에서 개발 중인 자율적 무기 개발에 초점이 맞추어져 있다. 저자는 먼저 미국이 연간 5,000억 달러를 쏟아부으며 개발하고 있는 ‘살인 로봇’에 대해 이야기한다. 구체적으로는 ‘스스로 목표를 정해 돌진하는 미사일’ ‘상공에서 자율적으로 지상의 테러리스트를 감시하는 드론’ ‘적의 잠수함을 끝까지 추적하는 무인 군용함’ 등이 있다. 이런 자율적 무기 개발은 미 국방성이 2016년부터 단행하고 있는 제3의 군사쇄신의 일환으로, 본문은 군사적 우위를 확보하기 위한 미국의 의도를 역사적으로 설명한다. 여기서 발생하는 가장 큰 문제는 무기 제어권이 AI로 넘어가면서 무기의 자율성이 점점 커진다는 것. 이는 실제 ‘터미네이터 문제’라는 이름으로 펜타곤 관계자들 사이에서 논의 중인 문제이기도 하다. 미국 외에 영국, 프랑스, 이스라엘, 노르웨이, 한국, 북한, 중국 등에서 개발 중인 AI 무기 또한 소개되고 있다.
미 국방성 산하의 다르파(DARPA)가 주최하는 ‘다르파 그랜드 챌린지’ ‘다르파 로보틱스 챌린지’ 등 민간의 자율주행 기술과 휴머노이드(인간형 로봇) 개발에 미군의 예산이 사용되고 있다는 점도 생각해볼 문제다. 또한 일본의 주요 대학에 미군의 예산이 흘러들면서, 일본 학계에 ‘군사연구 금지’가 해금되고 있는 현실에도 눈을 돌리고 있다. 미군에서 시작된 스마트 핵무기 개발이 세계적인 군비 확장 경쟁에 불을 지피고 있다는 것도 큰 문제다. 끝으로 본문은 ‘인간의 생사’와 ‘국가의 안전보장’을 좌우하는 분야에 AI에 의한 자동화가 실현될 때 어떤 함정이 도사리고 있는지, 우리가 진짜 경계해야 할 문제들은 무엇인지 소신을 밝힌다. 어려운 물리학 및 수학 이론을 쉽게 이해할 수 있는 것과 감동적인 엔딩은 이 책의 덤이다.
추천의 글: 인공지능이 결코 해결해주지 않아(구본권_《로봇시대, 인간의 일》 저자)
들어가는 말: 인간의 생명까지 성큼 다가온 인공지능

제1장 인공지능 위협론의 허와 실
패턴인식 직종이 위험하다
2045년 문제와 화성의 인구 폭발
인간을 배제한 제어시스템
핸들도 브레이크도 없는 자동차의 폭주
자율주행의 산업적 임팩트
기계는 인간보다 믿을 만한가?
3가지 종류의 인공지능
실용화를 가로막는 문제들
인간을 포함한 제어시스템
의료에 진출한 인공지능
인공지능이 일으키는 새로운 의료과실
의료에 응용되는 딥러닝
블랙박스화되는 의료
자율적 무기의 등장
기존 무기와의 결정적 차이

제2장 자율주행 자동차의 사각지대
사망사고의 현장 검증
도로에서의 테스트 주행이 부족했다
소비자 보호보다 산업 육성이 먼저
어중간한 자율주행
자율주행차에 탑재되는 각종 센서
자율주행의 기본원리
행동 계획에는 규칙 기반 AI
센서 정보를 처리할 때는 통계확률형 AI
베이즈 정리란 무엇인가?
주변의 이동 물체를 파악할 때
확률형 AI의 함정 - 팻테일
테슬라 자동차 사고도 팻테일?
제어시스템에 인간을 포함시켜야 할까?
인간과 자동차의 관계는 어떻게 될까?

제3장 로봇 닥터의 오진
왓슨의 정체는 무엇인가?
닥터 왓슨의 기막힌 솜씨
로봇과 의사의 의견이 다르다면?
의료에 도입되는 딥러닝
기계학습이란 무엇인가?
의사와 답 맞추기를 하면서 배우다
많은 수고가 아깝지 않다
CT 스캔이나 MRI에도 사용된다
질병의 발병 예측도 가능
프라이버시 침해 위험
딥러닝의 폭주
뉴럴 네트워크란 무엇인가?
의사와 인공지능의 관계는 어떻게 될까?
현대 인공지능의 발달을 촉진하는 것
뇌과학자가 본 인공지능의 잠재력
패턴인식에 따른 차세대 의료

제4장 자율적 무기의 조준
반테러용 자율적 드론
제3의 군사쇄신
켄타우로스 전쟁
공격 대상의 결정권자는 인간? 기계?
터미네이터 문제
세계 각국에 도입되는 자율적 무기
테러리스트의 손에 들어갈 위험
추궁당하는 과학자와 기술자
자율주행의 유행은 군사 예산에서
빈틈없는 구글의 방식
미국의 스마트 핵무기
군비 확장의 제동은 경제적 한계
최후 판단을 컴퓨터에 맡기다

제5장 초자동화의 함정
원자력 발전 사고에 대비하는 로봇
고생 끝에 인간의 공감을 얻다
로봇은 인간과 얼마나 가까워졌을까?
재판이나 인사고과에서 인공지능의 활용
인공지능의 진짜 위험은 무엇인가?

글을 마치며: ‘마음’을 지닌 로봇이 인간에게 버림받을 때 

고바야시 마사카즈(小林雅一) 지음


1963년 일본 군마현 출생. 작가, 저널리스트, 정보시큐리티 대학원대학 객원교수. 도쿄 대학교 이학부 물리학과를 졸업하고 동대학원 이학계 연구과 수료 후 도시바, 닛케이BP를 거쳐 보스턴 대학교에서 언론학을 전공했다. 귀국 후 게이오기주쿠 대학교 미디어커뮤니케이션 연구소 등에서 근무했다. 저서로는 《인공지능의 충격, 인공지능은 인류의 적인가(AIの衝? 人工知能は人類の敵か)》 등 다수가 있다. 



한진아 번역 


일본어 전문 번역가 모임 ‘쉼표온점’의 멤버. 인하대 정보통신공학과 졸업 후, 직장생활을 하다가 일본어와 일본 문화에 관심이 생겨 번역가의 길을 걷게 됐다. 바른번역 글밥아카데미 일본어 출판 과정 수료 후, 현재는 전문 번역가로 활동 중이다. 옮긴 책으로는 『이 지옥을 살아가는 거야』, 『인공지능이 인간을 죽이는 날』, 『사는 방에서 운명이 결정된다』, 『아들러가 전하는 행복을 위한 77가지 교훈』, 『원하는 대로 산다』, 『벚꽃나무 아래』(공역) 등이 있다.