-
-
-
창의성의 기원 : 인간을 인간이게 하는 것
윌슨, 에드워드
"창의성의 기원"은 우리가 인류의 창의성을 이해하고 그것이 우리 종의 진화에 어떤 역할을 했는지에 대해 깊이 생각해보게 하는 책입니다. 에드워드 O. 윌슨은 과거와 현재의 창의성을 연구하면서 우리가 어떻게 이러한 창의성을 통해 더 나은 세상을 구축할 수 있는지에 대한 통찰력을 제공합니다. 먼저, 책에서는 창의성의 기원이 구석기 시대에 있었음을 강조합니다. 우리 조상들은 언어, 이야기, 예술을 통해 창의성을 발휘했고, 이는 우리 종의 발전과 진화에 중요한 역할을 했습니다. 창의성은 우리 종의 본성에 깊이 내재되어 있으며, 우리가 지금까지 도달한 곳으로 이끌어왔습니다. 제3의 계몽에 대한 윌슨의 제안은 매우 흥미로운데, 그는 과학과 인문학을 통합하여 새로운 계몽을 이룰 수 있다고 주장합니다. 이것은 과학적 발견과 예술적 표현이 함께 작용하여 우리가 인류의 상황과 자연 환경에 대해 더 잘 이해하고 대응할 수 있도록 하는 것을 의미합니다. 이는 창의성과 이성, 감성이 조화롭게 어우러진 새로운 시대를 제안하는 것입니다. 인류는 이미 과학과 기술의 발전으로 많은 것을 이루어 왔지만, 이러한 발전은 종종 환경 파괴와 불평등을 일으키기도 합니다. 이러한 문제를 직면하고 있는 현 시대에 사회생물학의 깊은 이해를 바탕으로 한 윌슨의 제안은 매우 심플하지만 강력합니다. 특히, 부가가치가 낮다고 하여 대학 내 인문사회 학부가 줄어들고 있는 한국의 상황에서 그의 메시지는 매우 귀담아 들어야할 메시지입니다.
-
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
인공지능은 하드웨어 기술 및 알고리즘의 발전과 더불어 모바일 시대의 거대한 데이터와 어우러져 최근 완성 되고 있다. 그러나 인공지능은 우리가 생각하는 것보다 에너지를 많이 소모하고 아직은 그다지 효율적이지 않다. 알파고를 시작으로 최근 chatGPT까지 인류를 계속 놀라게 하고 있지만, 인공지능이 같은 일을 하는 인간보다 비교할 수 없을 정도로 많은 에너지를 소비한다. 그리고 그 에너지 생산을 위해 아직 많은 탄소배출물이 배출되어 인공지능은 환경오염을 악화하는데 기여하게 될 수 있다. 또한 인간의 편견이 반영된 데이터로 학습한 인공지능은 인간과 마찬가지로 편견을 갖는 행위를 하게 될 수 있으며, 개인 정보의 과도한 수집과 활용으로 인한 인권의 침해, 모든 것이 온라인으로 연결되어 하나의 작은 결함이나 해킹이 전체 시스템의 붕괴를 야기할 수 있음까지 크고 작은 풀어야할 문제들이 기술의 발전과 함께 커지고 있다. <AI지도책>은 인공지능의 기본 개념과 원리, 인공지능의 다양한 응용 분야, 인공지능의 윤리적인 고려 사항, 인공지능과 사회의 상호작용 등을 다룬다. 또한 인공지능의 영향력이 미치는 사회, 경제, 일자리는 무엇이며, 인공지능의 발전으로 인한 미래에 대한 전망과 도전 과제를 제시한다. 인공지능을 포함한 인류의 기술은 항상 인류를 위해 사용 되어야 하며 인간의 존엄성을 유지하는 방향과 방법으로만 사용되어야한다. 인류가 의도하지 않은 방향으로 인공지능이 판단하고 행동 할 수 있음을 항상 유의하여야 한다. 이 책을 읽음으로 이러한 문제들을 고찰하게 된다.
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
인공지능(AI)은 WWW, 모바일 시대에 이은 새로운 '빅 웨이브'가 될 수 있을까. 적어도 지금은 블록체인, 메타버스, 빅데이터 같은 유행어를 훌쩍 따돌린 것처럼 보인다. 특히 미디어 종사자로서 공부하지 않을 수 없는 분야라는 생각이 들었다. 그렇게 몇권의 책을 접하다 한 교수의 추천으로 'AI 지도책(케이트 크로퍼드)'을 알게 됐다. 전에 읽었던 책들은 주로 챗GPT 같은 대규모 언어모델(LLM)의 원리나 역사, AI 기술이 사회나 산업에 어떤 영향을 미칠지에 대한 내용이 주였다. 이번에도 비슷한 내용을 기대했다. 하지만 이 책은 전혀 예상치 못한 방향으로 전개됐다. AI의 부작용과 위험성을 지적하는 내용이 끊임없이 이어졌던 것이다. 저자는 AI 산업이 희토류 광물이나 다양한 자원을 추출하면서 지구 생태계를 파괴한다고 한다. 노동력을 착취하고 데이터를 무분별하게 수집한다고 한다. 결국 국가권력 문제로 수렴해 다양한 사회 문제를 가중시킨다고 지적한다. AI가 아무리 고도화되더라도 결국 '어림짐작의 게임'이라는 한계를 벗어날 수 없다고, 그는 말한다. 어설픈 지적이었다면 울림이 없었을 것이다. 저자의 주장 기저에는 AI에 대한 심도 깊은 이해와 촘촘하고 체계적인 논리가 돋보인다. 저자는 집요하게 기술은 중립이라는 주장, 기술이 모든 문제를 해결할 거라는 믿음에 "과연 그런가"라는 물음을 던진다. AI의 발전이 인류를 유토피아로 이끌지, 디스토피아로 이끌지 논의 가운데, 사실 핵심은 그게 아니라며 새로운 관점을 던진다. 책을 다 읽고나서도 당분간 AI가 산업 전반에 지대한 영향을 끼칠 것이고, 이에 대해 공부해야겠다는 생각 자체는 크게 달라지지 않았다. 다만 책의 제목처럼 AI에 대한 다양한 지도를 훑으면서, 이 주제에 대한 시각이 크게 넓어진 것은 분명하다.
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
본 저서는 AI가 미래 인간 삶의 편의를 무한대로 증진시킬수 있는 ‘마법의 알약’ 정도로 생각하고 있는 다수의 독자들에게 AI 탄생 이면에 숨겨져 있는 불편한 진실들을 드러내며, 많은 이들이 간과하거나 모르고 있는 AI와 연관된 세계의 부와 권력의 불평등 구조와 심화과정을 설명하고 있다. AI하면 알고리즘, 데이터, 아키텍쳐 같은 추상적인 개념이 떠오를지도 모르지만, 19세기 샌프란시스코를 떠받힌 광산과 마찬가지로 AI는 연산의 핵심부품을 제작할 광물(리튬, 희토류, 에너지)과 같이 지극히 물질적이면서도 보이지 않는(그러나 유해한) 비용들을 발생시키는 기술적 접근법의 집합으로 이루어졌다. 필자는 AI는 산업인프라, 공급사슬, 인간 노동에 의존한 또 다른 종류의 거대기계로, 제조, 운송, 물리적 작업, 해저 케이블, 원료, 전송신호, 데이터 집합, 연산주기에 의존하고 있으며 이 모든 것에는 비용이 따른다고 지적한다. 그리고 이 비용은 불평등한 권력구조를 심화시키고 있다. 이러한 관점에서 AI는 국가와 제도, 기업에 혜택을 주기 위해 제작되지만 더 폭넓은 경제적, 정치적 힘으로부터 생겨나는 권력의 표현이며, 권력을 휘두르는 자들을 위해 이익을 증가시키고 통제권을 중앙 집중화하기 위해 창조된다. 물론, 우리가 AI를 이런 관점에서 바라보는 일은 드물고, 필자의 집필의도가 여기에 있는 것이다.추상적 AI에 대한 유토피아적 환상에 대해, 필자는 AI뒤에 숨겨진 실질적 제작 원리를 바탕으로 디스토피아적 관점을 제시하고 있다. 하지만 그럼에도 본 저서의 제목이 Atlas of AI인 것처럼, 필자는 우리는 왜 AI를 이용해야 하는가? 라는 물음에 대해 지도에서 길을 그리는 것처럼 정의를 향해 나아가야 한다고 외치며 우리 인간의 의지의 중요성을 역설하고 있다. 곧 개봉을 앞두고 있는 오펜하이머 라는 영화에서 언급되고 있는 것처럼 핵폭탄은 기존의 전쟁을 종식시키고 평화를 가져오기 위해 개발되었지만, 어느새 특정국가의 전유물이 되어 국가간 권력의 불평등을 심화시키고 언제든지 인류를 공멸로 이끌수 있는 도구가 되어 버렸다. AI도 그런 도구가 될 것인가? 필자는 인류의 연대가 나아가는 방향에 달려있다고 말하고 있다. AI는 인류의 무한한 번영을 위한 ‘마법의 알약’이 될수도 공멸로 이끌수 있는 ‘핵폭탄’이 될 수 도 있는 것이다.
-
AI 지도책 : 세계의 부와 권력을 재편하는 인공지능의 실체
크로퍼드, 케이트
생성형 인공지능(Generative AI) ‘Chat GPT’의 등장과 함께 AI에 대한 대중의 관심도가 급격하게 높아졌다. 최근 활발하게 진행되고 있는 AI에 대한 대중의 인식은 두 가지로 나뉘는 것으로 보인다. AI에 대한 기대 또는 두려움이다. 인공지능(AI) 개발을 이끄는 구루(Guru)들 사이에서도 인공지능에 대한 태도가 극명하게 나뉘는 것을 보면, 인공지능(AI)의 발전은 이제 막 그 신호탄을 쏘아 올렸을 뿐이고인간이 만들어낸 이 창조물(?)이 만들어낼 미래는 1400만 605가지 경우의 수가 있는 것이 아닐까 생각해보게 된다. 인공지능(AI)으로 인한 미래 모습이 불확실함에 따라 이에 대한 인간의 태도 또한 꽤나 혼란스러운 이 시점에 케이트 크로포트는 상대적으로 ‘냉철한’ 시선으로 인공지능(AI)을 바라보고 있다. 그녀는 현재의 인공지능(AI)에는 분명 한계점이 존재하고, 인공지능의 개발, 또는 발전이 여러가지 부작용들을 낳을 수 있다고 분명하게 경고한다. 이에 대해 ‘과연 그런지' 나름의 사고실험을 하다보면 인공지능에 대한 막연한 기대나 두려움은 어느 새 걷히고 그렇다면 과연 인공지능(AI)을 올바르게 발전시키고, 사용하기 위해 지금의 나(우리)는 어떤 행동을 해야 하는 지 생각하게 된다. 아래는 저자인 케이트 크로포트가 제시한 인공지능이 야기할(또는 일으키고 있는) 문제점과 이에 대한 제언들이다. (1) 인공지능(AI)은 방대한 데이터 수집을 통해 인간의 주도하에 광범위하고 지속적인 훈련을 통해 만들어지지만 그저 일개 시스템에 불과하다. 이렇게 만들어진 인공지능(AI)은 어떤 인간보다 똑똑하지 않다. (2) 인공지능(AI)이 학습과정에서 정확한 필터링이 결여된 채 훈련된다면, 엉뚱한 자료가 탄생할 수 있는 위험성이 상존한다. 데이터세트에 어떤 종류의 데이터가 저장되어 있는지, 데이터가 어떻게 획득되었는지 잠재적 윤리문제를 파악할 수 있는 업계 표준이 시급하다. 따라서 인공지능(AI) 전문가들 사이에서도 인공지능(AI) 연구와 상용화에 제한을 두어야하며 인공지능(AI)이 쓰이는 다양한 분야에서 부작용에 대응하는 규제 마련이 필요하다. (3) 인공지능(AI) 시스템이 발전할수록 불평등이 심화되고 이를 중심으로 얼마나 비민주적 전환이 일어나는지 알아야한다. 따라서 결과물만이 아닌, 생산과정을 살펴볼 필요가 있다. 인공지능(AI)이 만들어지는 과정과 데이터 분류에 대한 객관적이고 확실한 논리가 기반이 되는 통계가 항상 공개되어야 한다. (4) 인공지능(AI) 시스템 개발 중 발생하는 실질적인 노동 착취 문제를 민주적으로 해결해야 한다. 언제나처럼, 피해는 고스란히 이미 소외되고 시스템 혜택을 누리지 못하는 계층(규제 감독과 민주주의 보호권 밖에 있는 수십억 명의 사람들)의 몫이 되어버렸기 때문이다. 이제는 인공지능(AI)의 공학적·기술적 문제를 중심에서 밀어내고 우리는 과연 ‘어떤 세상에서 살고 싶은지’에 대한 대답이 선행되어야 한다. 인공지능이 무엇을 할 수 있느냐에 지나치게 매몰되다 보면 이것이 야기할 부작용들을 간과할 가능성이 높아진다. 환경파괴(인공지능은 엄청난 전력을 소모하고, 성능 향상을 위해서 엄청난 자원이 소모된다), 정보의 권력화로 인한 불평등 심화, 거짓 데이터의 양산, 노동 착취 문제 등 말이다. 따라서, 우리는 인공지능을 어떻게 활용할 것인지에 대해서도 관심을 가지고 활발하게 논의해야 하며,이에 대한 전 인류적 합의를 이끌어내기 위한 노력을 아끼지 말아야 할 것이다. 케이트 크로포트의 'AI 지도책'은 바로 우리에게 이 점을 일깨워준다는 점에서 매우 시의적절하고 유용하다고 할 수 있겠다. -끝-
-
-
AI 지도책 - 세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김
Atlas of AI. 무엇에 대한 지도인가? AI로 인해 바뀌고 있는 부와 권력의 지도이다. 지도는 모두가 공유하는 객관성(e.g. 지형도, 노선도)과 힘 있는 자들의 주관성(e.g. 국경선, 지도 중심축)을 함께 담고 있다. 저자는 특히, 힘 있는 자들의 주관성을 힘주어 강조하며 AI 지도책을 썼다. 힘 있는 자들이란 세계의 가장 잘 나가는 몇몇 도시에서 가장 부유한 산업에서 자신들만의 네트워크를 구축한 소수의 정치인, 기업인, 기술 혁신가들이라고 볼 수 있다. 이들이 인공지능 제국을 만들 때 의도하든 의도하지 않든 부와 권력이 재편된다. 저자는 6개의 관점으로 부와 권력의 지각변동을 제시하는데 첫째, 고성능 컴퓨팅을 지탱하기 위해 추출된 지구 자원과 그 비용을 고스란히 치르는 지역, 둘째, 인공지능이 스스로 굴러가는 것처럼 보이게 만들기 위해 착취된 노동력, 셋째, 데이터 인프라에 감춰진 프라이버시 침해와 감시 자본주의, 넷째, 편향과 불평등을 증폭시키는 분류 시스템, 다섯째, 채용, 교육, 치안 시스템에 도입되고 있는 불완전하고 왜곡된 감정 탐지, 마지막으로 국가 시스템에 내재된 권력 불균형을 더 확대시키는 AI의 포괄적 접목으로 매우 다양한 증거로 입증해 보인다. 따라서 저자는 인공지능이 새롭게 만들고, 변화 시키고, 심화시키는 부와 권력의 불균형에 함께 대응하자고 주장한다. 사실 저자는 인공지능 자체가 주도적으로 이러한 변화를 만든다는 것이 아니라 인공지능을 통제할 수 있는 사람들이 만들어갈 암울한 이슈들을 제기한 것이다. 나는 일견 저자의 말에 공감하면서도 또 다른 한편으로는 우리 사회의 논의의 상대가 AI를 통제하고 활용할 수 있는 힘 있는 사람들이 아닌 형체가 없는 AI가 되어버린 것은 아닌가라는 생각이 들었다. 그래서 논의의 초점을 AI라는 존재가 있는 것처럼, 또 인공지능이 ‘지능’으로서의 가능성과 위험성을 높게 가지고 있는 것처럼, 그래서 상당한 수준의 사회적 재난까지 만들어낼 수 있는 것처럼, 무의식적인 힌트에 대한 단순한 반응을 한 한스를 꽤나 높은 지능을 가진 걸로 환호했던 것처럼, 그래서 AI를 책임질 수 있는 인격체로 대하고 있는 것은 아닌지, 우리 사회가 스스로 풀어야 할 문제와 책임을 쉽게 외면하는 것은 아닌지 의문스러웠다. 단순한 호기심으로 Chat GPT에게 인공지능이 스스로를 어떻게 인식하고 있는지, 인공지능으로 인해 파급 될 문제를 어떻게 해결하면 좋을지 물었다. 인공지능은 매우 명쾌하게 대답했다. “AI는 특정 영역에서 지능적인 행동을 보여주지만, 진정한 의식, 자기 인식, 이해를 갖지는 않습니다. 인공지능으로 인해 파급될 문제는 인공지능이 아닌 사람들이 숙고 과정을 통해 풀어야 할, 사람들의 책임입니다.” 너무 명료한 대답이었다. 저자가 제기한 문제는 AI가 아닌 사람들의 책임이다. AI라는 기술의 화려함 뒤에 숨지 말고 오랜 시간 인류의 분쟁거리가 되어왔던 부와 권력의 분배는 우리 사회가 직접 제기하고 머리를 맞대어야 함을 다시 상기시켜 본다.