✔️
#넥서스 #유발하라리 #김영사
🤖
이 책은 그냥 넘어갈까 했다. #사피엔스 와 #호모데우스 에 이어졌던 감탄은 #21세기를위한21가지제언 에선 실망했다, ‘넥서스’의 소개글을 읽었을 땐, 지금까지 이야기와 뭐 별다를 것이 있을까 싶었다. 다만 흘러간 세월이 그의 통찰에 업그레이드 이루어지지 않았을까 추측하여 읽기 시작했다. 덕분에 ‘유발 하라리’식 책 읽기의 즐거움은 되살아났다. 명료한 주제의식에 더 풍부해진 다양한 예시와 깊어진 역사적 사실들 덕분에 즐거운 독서가 되었다. ☺️
🤖
책은 3개의 파트로 나뉜다.
책의 1부 ‘인간 네트워크들’는 인간의 정보 네트워크의 발전단계를 정리하고 있다. ‘신화’와 ‘관료제’라는 두가지 키워드로 이야기에 친숙한 인간이 ‘목록’을 처리하기 위해 도입한 ‘관료제’가 서로 상호작용을 일으키는 모습을 스케치한다.
2부 ‘비유기적인 네트워크’는 인간이 아닌 ‘ 네트워크’ 즉, 컴퓨터로 통칭할 수 있는 AI의 정치적 함의를 살핀다. 기존 IT와는 어떻게 다른지, 페이스북의 추천 알고리즘이 어떻게 미얀마의 소수민족 학살에 기여했는지, 어쩌면 무한한 생명의 ‘결정권자’의 탄생 가능성을 경고한다.
3부 ‘컴퓨터 정치’는 현재 사회상황에서 AI의 활용이 어떻게 위협으로 변할 수 있을지를 추론한다. 분리된 네트워크(중국권,미국,러시아 등) 상에서 AI는 특정 사회에 속한 개별 인간들의 정치, 사회적, 심지어 문화적 특성에도 관여된다. 새로운 형태의 전체주의 도래의 가능성도 있다.
🤖
이야기가 아닌 ‘목록’, 그것을 처리했던 ‘관료제’의 이야기가 무척 흥미로웠다. 이것은 검색의 문제이기도 하고 ‘분리 통치’의 문제이기도 하다. 카프카가 저항했고 독재자들이 악질적으로 이용했지만, 그 효용성은 인정받아 현대 사회 시스템의 주요 기둥이 되어 있다. 하라리는 그 ‘목록’들의 처리 결정권을 비 인간들이 행사할 때 발생할 수 있는 문제들을 걱정한다.
그동안 인간이 만들어 왔던 ‘자정장치’들에 대한 이야기도 곱씹을 만 했다. ‘민주주의에서 무든 것이 다수결로 결정된다는 생각은 흔한 오해 p190’라는 문장, ‘국민의 삶에 어떤 식으로든 개입하려면 반드시 설명이 필요하다 p191’는 문장에서 2025년 늦겨울 우리나라를 떠올릴 수밖에 없었다. 민주주의는 과반의 선택으로 정권을 잡더라도 ‘ 빼앗을 수 없는 특정한 자유들을 모두에게 보장하는 제도’라는 것, 인류의 가장 강력한 자정장치, 민주주의의 본질이 아닐까 싶다.
🤖
우리는 이미 사피엔스끼리 만들낸 ‘허구’로 네트워크를 발전시키고 그 ‘연결’로 번성을 누린 인류의 역사를 알고 있다. 하지만 세상은 변한다. 이미 전 세계 외환시장 거래의 90%는 알고리즘에 의해 자동으로 이루어지고 있다. 물리적인 국경을 넘어, AI는 전 세계 개인들이 자발적으로 올리는 데이터를 통해 21세기 새로운 자원이라는 ‘데이터’의 엄청난 축적을 이루었다. 전제주의 국가에선 정부가, 민주주의 국가에선 기업들이 대규모 데이터를 바탕으로 ‘러닝머신(자동학습)’을 통한 새로운 ‘의사결정권자’을 탄생시키고 있는 중인 것이다.
이 책은 AI에 의한 인간지배라는 부정적인 결정론을 만을 담고 있지 않다. 미래에 다가오는 위협을 구체화 하고 우리가 선택할 것에 대한 기준을 상기시키는 책이다. 민주주의는 정보 네트워크에 강력한 영향을 받는다. 시스템은 개인을 지원하기 위해 존재해야 한다는 ‘선의’와 감시 없는 시스템은 존재해선 안된다는 ‘분권화’ 외 민주주의의 기본원리인 ‘상호주의’가 지켜지는 상황 안에 AI는 견제되며 발전해야 할 것이다. 전체주의에선 국민감시를 위해서, 자본주의사회에선 기업의 이익을 위해 ‘견제’가 사라지거나 약해진다면 정말로 사피엔스들에겐 무시무시한 미래가 펼쳐질 지 모른다는 하라리의 결론에 동의할 수밖에 없었다.
✍ 한줄감상 : 인간이 만들었지만, 스스로 의사결정을 할 수 있는 AI 혁명에 대한 ‘유발 하라리’의 역사적 관점을 제시하는 책이자, ‘정보는 진실이 아니다’라는 사실을 설명해 주는 책.
덧,
과학기술의 발전 중 하나인 인쇄술의 발명은 인류에 기여하기도 했지만, ‘마녀사냥’ 확산의 주요 툴이기도 했다. 당시 싼 가격에 인쇄되어 유럽 각지로 퍼져나갔던 ‘마녀의 망치’라는 책을 통해 유럽인들은 자신의 마녀사냥을 정당화했다. 사실 이 책은 정말 황당하고 말초적인 이야기까지 담고 있었다고 한다. 마녀들이 남성의 음경을 훔쳐내 수십 개를 숨겨두는 이야기가 나오며 음경을 잃고 마녀를 찾아가 자신의 음경을 돌려달라고 사정하는 이야기 등이 실려 있었다고 한다. 😂
p11 “ 나치즘과 스탈린주의는 인간이 만들어낸 가장 강력한 네트워크 중 하나였다. “
p20 “ 만일 21세기의 전체주의 네트워크가 세계 정복에 성공한다면, 그때 전체주의를 운영하는 주체는 인간 독재가 아니라 비인간 지능일 것이다….AI는 스스로 결정을 내리고 스스로 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술….. AI는 도구가 아니라 행위자다. “
p47 “ 현실을 최대한 사실 그대로 기술해도 현실을 온전히 담아낼 수 없다는 것이다. 모든 재현에는 무시되거나 왜곡되는 측면이 있기 마련이다. “.
p55 “ ‘성경’은 수십억 명의 인간을 종교 네트워크로 묶는 사회적 과정을 개시했다. “
p67 “ 법이나 신, 화폐는 많은 수의 사람들이 그것에 대해 이야기를 나누면 생기고, 이야기하지 않으면 사라진다. 즉 상호주관적 현실은 정보를 교환할 때 생긴다. “
p147 “ ‘신약’을 만든 사람들은 ‘신약’에 포함된 27개 텍스트의 저자가 아니었다는 사실에 주목할 필요가 있다. 그들은 큐페이터였다. “
p243 “ 볼셰비키 전체주의는 스탈린의 성격이 아닌 당의 무오류성 교의에서 비롯되었다. “
p293 “ 알고리즘은 시행착오를 통해 분노가 참여도를 높인다는 사실을 학습핶고, 명시적인 명령이 없었는데도 불구하고 분노 콘텐츠를 추천하기로 했다. “
p295 “ 지능과 의식은 매우 다르다. 지능은 목표를 달성하는 능력이다. 의식은 고통, 쾌락, 사랑, 증오 같은 주관적인 감정을 경험할 수 있는 능력이다. “
p307 “ 2010년대에는 소셜 미디어가 사람들의 관심을 장악하기 위한 전투장이었다. 하지만 2020년대에는 전투의 목표가 관심에서 친밀감으로 이동할 가능성이 높다. “
p342 “ 2014, 2015년경 미국 국가안보국은 스카이넷이라는 AI시스템을 도입했다. 스카이넷은 개인별 통신 내역, 글, 여행기록, 소셜 미디어 게시물 등 다양한 전자 데이터를 수집하고 분석하여 사람들을 ‘테러 용의자’ 목록에 올렸다. “
p432 “ 문명은 관료제와 신화의 결합으로 탄생한다. 컴퓨터 기반 네트워크는 새로운 유형의 관료제로, 이전에 보았던 어떤 인간 기반 관료제보다 훨씬 더 강력하고 빈틈없다. “
p449 “ 창의성은 종종 패턴을 인식한 다음 그 패턴을 깨는 능력으로 정의된다. 그렇다면, 컴퓨터는 패턴 인식에 뛰어나기 때문에 많은 분야에서 우리보다 창의적일 가능성이 높다. “
p489 “ 2024년 현재 ‘우리’의 절반 이상이 이미 권위주의 정권 또는 전체주의 정권에서 살고 있으며, 그런 정권의 상당수는 컴퓨터 네트워크가 등장하기 오래전에 확립되었다. “
p519 “ 데이터 식민지가 되면 정치적, 사회적 결과만이 아니라 경제적 결과도 뒤따를 것이다. “
p542 “ 전쟁의 강도를 결정하는 것은 불변하는 인간 본성이 아니라, 변화하는 기술적, 경제적, 문화적 요인이다. “
p550 “ 정치는 주로 우선순위를 정하는 문제다. “
p555 “ 정보는 진실이 아니다. 정보의 주된 임무는 ㅎ현실을 재현하는 것이 아니라 구성원을 연결하는 것이고, 그동안의 역사에서 정보 네트워크는 대체로 진실보다 질서를 우선시했다. “
p560 “ 우리가 지혜로운 네트워크를 구축하기 위해서는 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제돌르 구축하는 힘들고 다소 재미없는 일에 전념해야 한다. “
#독후감 #책스타그램 #북스타그램 #bookstagram #독서 #추천도서 #book #책추천 #책소개 #서평 #AI #넥서스_기시리뷰 #빅히스토리
