-
-
-
창의성의 기원 : 인간을 인간이게 하는 것
윌슨, 에드워드
"창의성의 기원"은 우리가 인류의 창의성을 이해하고 그것이 우리 종의 진화에 어떤 역할을 했는지에 대해 깊이 생각해보게 하는 책입니다. 에드워드 O. 윌슨은 과거와 현재의 창의성을 연구하면서 우리가 어떻게 이러한 창의성을 통해 더 나은 세상을 구축할 수 있는지에 대한 통찰력을 제공합니다. 먼저, 책에서는 창의성의 기원이 구석기 시대에 있었음을 강조합니다. 우리 조상들은 언어, 이야기, 예술을 통해 창의성을 발휘했고, 이는 우리 종의 발전과 진화에 중요한 역할을 했습니다. 창의성은 우리 종의 본성에 깊이 내재되어 있으며, 우리가 지금까지 도달한 곳으로 이끌어왔습니다. 제3의 계몽에 대한 윌슨의 제안은 매우 흥미로운데, 그는 과학과 인문학을 통합하여 새로운 계몽을 이룰 수 있다고 주장합니다. 이것은 과학적 발견과 예술적 표현이 함께 작용하여 우리가 인류의 상황과 자연 환경에 대해 더 잘 이해하고 대응할 수 있도록 하는 것을 의미합니다. 이는 창의성과 이성, 감성이 조화롭게 어우러진 새로운 시대를 제안하는 것입니다. 인류는 이미 과학과 기술의 발전으로 많은 것을 이루어 왔지만, 이러한 발전은 종종 환경 파괴와 불평등을 일으키기도 합니다. 이러한 문제를 직면하고 있는 현 시대에 사회생물학의 깊은 이해를 바탕으로 한 윌슨의 제안은 매우 심플하지만 강력합니다. 특히, 부가가치가 낮다고 하여 대학 내 인문사회 학부가 줄어들고 있는 한국의 상황에서 그의 메시지는 매우 귀담아 들어야할 메시지입니다.
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
인공지능은 하드웨어 기술 및 알고리즘의 발전과 더불어 모바일 시대의 거대한 데이터와 어우러져 최근 완성 되고 있다. 그러나 인공지능은 우리가 생각하는 것보다 에너지를 많이 소모하고 아직은 그다지 효율적이지 않다. 알파고를 시작으로 최근 chatGPT까지 인류를 계속 놀라게 하고 있지만, 인공지능이 같은 일을 하는 인간보다 비교할 수 없을 정도로 많은 에너지를 소비한다. 그리고 그 에너지 생산을 위해 아직 많은 탄소배출물이 배출되어 인공지능은 환경오염을 악화하는데 기여하게 될 수 있다. 또한 인간의 편견이 반영된 데이터로 학습한 인공지능은 인간과 마찬가지로 편견을 갖는 행위를 하게 될 수 있으며, 개인 정보의 과도한 수집과 활용으로 인한 인권의 침해, 모든 것이 온라인으로 연결되어 하나의 작은 결함이나 해킹이 전체 시스템의 붕괴를 야기할 수 있음까지 크고 작은 풀어야할 문제들이 기술의 발전과 함께 커지고 있다. <AI지도책>은 인공지능의 기본 개념과 원리, 인공지능의 다양한 응용 분야, 인공지능의 윤리적인 고려 사항, 인공지능과 사회의 상호작용 등을 다룬다. 또한 인공지능의 영향력이 미치는 사회, 경제, 일자리는 무엇이며, 인공지능의 발전으로 인한 미래에 대한 전망과 도전 과제를 제시한다. 인공지능을 포함한 인류의 기술은 항상 인류를 위해 사용 되어야 하며 인간의 존엄성을 유지하는 방향과 방법으로만 사용되어야한다. 인류가 의도하지 않은 방향으로 인공지능이 판단하고 행동 할 수 있음을 항상 유의하여야 한다. 이 책을 읽음으로 이러한 문제들을 고찰하게 된다.
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
인공지능(AI)은 WWW, 모바일 시대에 이은 새로운 '빅 웨이브'가 될 수 있을까. 적어도 지금은 블록체인, 메타버스, 빅데이터 같은 유행어를 훌쩍 따돌린 것처럼 보인다. 특히 미디어 종사자로서 공부하지 않을 수 없는 분야라는 생각이 들었다. 그렇게 몇권의 책을 접하다 한 교수의 추천으로 'AI 지도책(케이트 크로퍼드)'을 알게 됐다. 전에 읽었던 책들은 주로 챗GPT 같은 대규모 언어모델(LLM)의 원리나 역사, AI 기술이 사회나 산업에 어떤 영향을 미칠지에 대한 내용이 주였다. 이번에도 비슷한 내용을 기대했다. 하지만 이 책은 전혀 예상치 못한 방향으로 전개됐다. AI의 부작용과 위험성을 지적하는 내용이 끊임없이 이어졌던 것이다. 저자는 AI 산업이 희토류 광물이나 다양한 자원을 추출하면서 지구 생태계를 파괴한다고 한다. 노동력을 착취하고 데이터를 무분별하게 수집한다고 한다. 결국 국가권력 문제로 수렴해 다양한 사회 문제를 가중시킨다고 지적한다. AI가 아무리 고도화되더라도 결국 '어림짐작의 게임'이라는 한계를 벗어날 수 없다고, 그는 말한다. 어설픈 지적이었다면 울림이 없었을 것이다. 저자의 주장 기저에는 AI에 대한 심도 깊은 이해와 촘촘하고 체계적인 논리가 돋보인다. 저자는 집요하게 기술은 중립이라는 주장, 기술이 모든 문제를 해결할 거라는 믿음에 "과연 그런가"라는 물음을 던진다. AI의 발전이 인류를 유토피아로 이끌지, 디스토피아로 이끌지 논의 가운데, 사실 핵심은 그게 아니라며 새로운 관점을 던진다. 책을 다 읽고나서도 당분간 AI가 산업 전반에 지대한 영향을 끼칠 것이고, 이에 대해 공부해야겠다는 생각 자체는 크게 달라지지 않았다. 다만 책의 제목처럼 AI에 대한 다양한 지도를 훑으면서, 이 주제에 대한 시각이 크게 넓어진 것은 분명하다.
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
본 저서는 AI가 미래 인간 삶의 편의를 무한대로 증진시킬수 있는 ‘마법의 알약’ 정도로 생각하고 있는 다수의 독자들에게 AI 탄생 이면에 숨겨져 있는 불편한 진실들을 드러내며, 많은 이들이 간과하거나 모르고 있는 AI와 연관된 세계의 부와 권력의 불평등 구조와 심화과정을 설명하고 있다. AI하면 알고리즘, 데이터, 아키텍쳐 같은 추상적인 개념이 떠오를지도 모르지만, 19세기 샌프란시스코를 떠받힌 광산과 마찬가지로 AI는 연산의 핵심부품을 제작할 광물(리튬, 희토류, 에너지)과 같이 지극히 물질적이면서도 보이지 않는(그러나 유해한) 비용들을 발생시키는 기술적 접근법의 집합으로 이루어졌다. 필자는 AI는 산업인프라, 공급사슬, 인간 노동에 의존한 또 다른 종류의 거대기계로, 제조, 운송, 물리적 작업, 해저 케이블, 원료, 전송신호, 데이터 집합, 연산주기에 의존하고 있으며 이 모든 것에는 비용이 따른다고 지적한다. 그리고 이 비용은 불평등한 권력구조를 심화시키고 있다. 이러한 관점에서 AI는 국가와 제도, 기업에 혜택을 주기 위해 제작되지만 더 폭넓은 경제적, 정치적 힘으로부터 생겨나는 권력의 표현이며, 권력을 휘두르는 자들을 위해 이익을 증가시키고 통제권을 중앙 집중화하기 위해 창조된다. 물론, 우리가 AI를 이런 관점에서 바라보는 일은 드물고, 필자의 집필의도가 여기에 있는 것이다.추상적 AI에 대한 유토피아적 환상에 대해, 필자는 AI뒤에 숨겨진 실질적 제작 원리를 바탕으로 디스토피아적 관점을 제시하고 있다. 하지만 그럼에도 본 저서의 제목이 Atlas of AI인 것처럼, 필자는 우리는 왜 AI를 이용해야 하는가? 라는 물음에 대해 지도에서 길을 그리는 것처럼 정의를 향해 나아가야 한다고 외치며 우리 인간의 의지의 중요성을 역설하고 있다. 곧 개봉을 앞두고 있는 오펜하이머 라는 영화에서 언급되고 있는 것처럼 핵폭탄은 기존의 전쟁을 종식시키고 평화를 가져오기 위해 개발되었지만, 어느새 특정국가의 전유물이 되어 국가간 권력의 불평등을 심화시키고 언제든지 인류를 공멸로 이끌수 있는 도구가 되어 버렸다. AI도 그런 도구가 될 것인가? 필자는 인류의 연대가 나아가는 방향에 달려있다고 말하고 있다. AI는 인류의 무한한 번영을 위한 ‘마법의 알약’이 될수도 공멸로 이끌수 있는 ‘핵폭탄’이 될 수 도 있는 것이다.
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
Atlas of AI. 무엇에 대한 지도인가? AI로 인해 바뀌고 있는 부와 권력의 지도이다. 지도는 모두가 공유하는 객관성(e.g. 지형도, 노선도)과 힘 있는 자들의 주관성(e.g. 국경선, 지도 중심축)을 함께 담고 있다. 저자는 특히, 힘 있는 자들의 주관성을 힘주어 강조하며 AI 지도책을 썼다. 힘 있는 자들이란 세계의 가장 잘 나가는 몇몇 도시에서 가장 부유한 산업에서 자신들만의 네트워크를 구축한 소수의 정치인, 기업인, 기술 혁신가들이라고 볼 수 있다. 이들이 인공지능 제국을 만들 때 의도하든 의도하지 않든 부와 권력이 재편된다. 저자는 6개의 관점으로 부와 권력의 지각변동을 제시하는데 첫째, 고성능 컴퓨팅을 지탱하기 위해 추출된 지구 자원과 그 비용을 고스란히 치르는 지역, 둘째, 인공지능이 스스로 굴러가는 것처럼 보이게 만들기 위해 착취된 노동력, 셋째, 데이터 인프라에 감춰진 프라이버시 침해와 감시 자본주의, 넷째, 편향과 불평등을 증폭시키는 분류 시스템, 다섯째, 채용, 교육, 치안 시스템에 도입되고 있는 불완전하고 왜곡된 감정 탐지, 마지막으로 국가 시스템에 내재된 권력 불균형을 더 확대시키는 AI의 포괄적 접목으로 매우 다양한 증거로 입증해 보인다. 따라서 저자는 인공지능이 새롭게 만들고, 변화 시키고, 심화시키는 부와 권력의 불균형에 함께 대응하자고 주장한다. 사실 저자는 인공지능 자체가 주도적으로 이러한 변화를 만든다는 것이 아니라 인공지능을 통제할 수 있는 사람들이 만들어갈 암울한 이슈들을 제기한 것이다. 나는 일견 저자의 말에 공감하면서도 또 다른 한편으로는 우리 사회의 논의의 상대가 AI를 통제하고 활용할 수 있는 힘 있는 사람들이 아닌 형체가 없는 AI가 되어버린 것은 아닌가라는 생각이 들었다. 그래서 논의의 초점을 AI라는 존재가 있는 것처럼, 또 인공지능이 ‘지능’으로서의 가능성과 위험성을 높게 가지고 있는 것처럼, 그래서 상당한 수준의 사회적 재난까지 만들어낼 수 있는 것처럼, 무의식적인 힌트에 대한 단순한 반응을 한 한스를 꽤나 높은 지능을 가진 걸로 환호했던 것처럼, 그래서 AI를 책임질 수 있는 인격체로 대하고 있는 것은 아닌지, 우리 사회가 스스로 풀어야 할 문제와 책임을 쉽게 외면하는 것은 아닌지 의문스러웠다. 단순한 호기심으로 Chat GPT에게 인공지능이 스스로를 어떻게 인식하고 있는지, 인공지능으로 인해 파급 될 문제를 어떻게 해결하면 좋을지 물었다. 인공지능은 매우 명쾌하게 대답했다. “AI는 특정 영역에서 지능적인 행동을 보여주지만, 진정한 의식, 자기 인식, 이해를 갖지는 않습니다. 인공지능으로 인해 파급될 문제는 인공지능이 아닌 사람들이 숙고 과정을 통해 풀어야 할, 사람들의 책임입니다.” 너무 명료한 대답이었다. 저자가 제기한 문제는 AI가 아닌 사람들의 책임이다. AI라는 기술의 화려함 뒤에 숨지 말고 오랜 시간 인류의 분쟁거리가 되어왔던 부와 권력의 분배는 우리 사회가 직접 제기하고 머리를 맞대어야 함을 다시 상기시켜 본다.
-
AI 지도책 : 세계의 부와 권력을 재편하는 인공지능의 실체
크로퍼드, 케이트
또 AI 책이라니 AI 알고리즘과 어떤 응용을 위해서 어떤 방식, 원리가 필요한지에 대해서 설명한 책일까? 라던 나의 예측은 완전히 빗나갔다. 이 책을 한마디로 요약하면 우리가 그간 재미있게 보았던 “SF 영화의 활자판” 이라고 볼 수 있다. 시간이 돈이자 수명인 영화, 인타임. 매트릭트, 아이 로봇 등 이런 SF영화들에서 보여주는 미래모습이 이 책의 예측하는 AI가 권력과 자본을 위해 쓰이는 세상의 모습이다. 저자는 AI가 자본가들과 권력가들이 어떻게 더 큰 부와 권력을 가지는데 활용되는지를, 그리고 그 과정에서 어떤 책임과 비용이 묵과 되었는지를 소개하고 있다. 또 AI가 그냥 기술의 발전에 따라 생긴 과학자들, 공학자들이 만들어낸 혁신의 결과물의 하나로 짐작하는 나같은 평범한 사람들에게 인공지능은 '추출'의 산업으로 정의하고, 인공지능이 어떻게 생기게 되었는지 토대를 역사적 관점에서 소개해준다. 왜 '추출'이라고 정의하게 되었는가? 저자는 샌프란시스코 근교에 위치한 거대한 호수를 탐방하는 것을 시작으로 샌프란시스코가 어떻게 부를 축적하고 도시화가 되었는지 보여준다. 전 지구 부의 중심이자 연산, 컴퓨팅 산업의 중심인 이 곳은 실은 우연하게도? 채굴 산업으로 성장한 곳이다. 샌프란시스코는 1800년대 캘리포니아와 네바다의 땅에서 금과 은을 캐서 얻은 수익으로 건설되었다. 광물학의 아버지인 게오르기우스 아리콜라는 '광업으로 인한 손실이 광업에서 생산되는 금속의 가치보다 크다는 것은 누구나 아는 사실이다'라고 말했다고 한다. (P36-37) 즉, 광산이 큰 수익이 되었던 것은 그 비용이 얼마나 되는지 묻기도 전에 채굴이 끝나버렸기 때문이라고 한다. 그리고 샌프란시스코의 2번째 부흥기로 리튬 채굴이 있었다. 왜 이런 역사적 연관성을 언급했을까. AI, 즉 엄청난 데이터 수집과 저장, 연산이 이뤄지기 위해서는 데이터센터, 메모리, 반도체를 이루는 수많은 광물이 필요한데, 때문에 AI는 사실 추상적이고 관념적인 기술이나 개념이 아니라 리튬, 희토류 등 채굴 산업이 바탕이 되어야한다는 점을 언급하고자 함이었다. 또한 데이터를 먼저 확보하는 사람이 임자이며, 이 과정에서 어떤 비윤리적이거나 편향적인 오류가 발생하여도 책임지지 않는다는, 데이터 확보를 통해 억만장자가 되고자하는 이들의 모습을 다루면서,데이터 마이닝이라는 용어로부터 광물 채굴과 데이터 채굴을 동일시하는 자본가, 권력자들의 마인드를 드러냈다.이 용어를 만들어낸 자본가, 권력자는 대중에게 '데이터는 새로운 석유다'라는 이미지와 개념을 정립하고 데이터를 소비하고자 관리하고, 활용해야하는 투자 대상으로 보이게 만드는 것이다. 이러한 노력은 대중에게 '데이터가 그저 발견되길 기다리는 '천연자원'으로 인식되게하고, 원식적이고 '정제되지않은'출처이므로, 이것을 추출하는 것은 정당한 일이라고 인식되게 한다. 작가가 언급한데로 이러한 은유는 식민주의 열강들이 수백년간 써먹은 수사적 수법이다. (P135) 개인적으로 AI는그저 일상의 혁명, 기술의 진보, 그리고 어떻게 배우고, 활용될지 만을 생각했었으나이 책을 통해 그 뿌리와 해석의 관점을 새롭게 얻을 수 있었다.물론 AI가 거대한 자본가와 권력기관을 통해 빠르게 성장하면서, 초다수의 권리와 감정, 미래 자원들은 무시되고 있는 현실에서 나같은 개인이 할 수 있는 부분이 지극히 적다. 그 차이에서 책을 읽는 내내 공허함이 들었다. 특히 또 하나의 거대한 회사 안에 속해있는 개인이 과연 무엇을 할 수 있지? 하는 자괴감 말이다. 그러나 아래 문장에서 조금의 해답을 얻었다.'누군가가 'AI윤리'를 입에 올리면 광부, 도급업자, 클라우드 노동자의 노동여건을 떠올려야 한다. '최적화'라는 말을 들으면, 이것이 이민자를 비인도적으로 처우하는 수단이 아닌지 물어야한다. '대규모 자동화'가 칭송받으면 지구가 이미 극심한 스트레스를 받고 있는 시대에 자동화로 인해 생겨나는 탄소발자국을 명심해야한다. 이 모든 시스템을 아울러 정의를 추구한다는 것은 어떤 의미일까? (P266) AI의 급속한 팽창을 멈출수 없어 보일 때에는 데이터 집합을 가다듬고 개인정보보호법을 강화하고 윤리위원회를 신설하는 등 사후에 시스템에 대한 법적/기술적 제한을 땜질식으로 짜맞추는 것이 고작이다. 하지만 우리가 방향을 뒤집어 더 공정하고 지속가능한 세상이라는 목표에서 출발한다면 어떨까? 단순히 가능하다는 이유로 AI가 어디에 적용될 것인지 묻는 게 아니라 '왜' 적용되어야 하는지에 방점을 찍어야한다. 우리는 '왜 인공지능을 이용하는가?'라고 물음으로써 ~' (P267)AI가 교육에 적용되고 뇌가 완전히 자라지도 않은 청소년들에게 개인화, 니즈 기반의 맞춤형 교육이 진행되고, 모든 것이 데이터화 되는 과정에서 청소년들은 자신이 어떤 방향으로 성장하게 될 권리를 박탈 당하고 있지는 않은지? 고민해보고자 한다. 또한 나의 하루, 일주일 간의 일상에서 AI없이 살 수 있는 부분이 없을지 곱씹어보고, 꼭 AI가 적용되어야할 부분인지 '왜'를 집어볼 수 있겠다.'왜'와 '연대' 그리고 '관심'을 갖는 것 말이다.
