지능 파산
책 정보 · YES24

감상

인상 깊은 단락

p8

사회적 갈등 상황에 대해 AI와 이야기한 사용자는 자신이 틀린 때에도 옳다고 믿었으며, 아첨하는 AI의 의견을 높이 평가하고, 다른 사람과 갈등을 해결하려는 의지가 줄었다.

p28

그런데 세대가 거듭될수록 상승하던 IQ 점수가 최근 처음으로 하락했다.

각주는 Dworak, E.M. 등의 2023년 연구를 인용 (101734)

p23

그런데 최근 AI의 사용이 더닝-크루거 효과에 미치는 영향이 주목받고 있다. 2025년에 발표된 연구는 AI를 사용할 때 더닝-크루거 효과가 줄어드는 것을 보여 주었다.

p27

사회적 기술의 퇴화(social deskilling)

그런데 AI가 제공하는 ‘당신이 옳다’는 반응에 익숙해지면, 불편함을 경험하기 싫어서 인간과의 소통을 점점 피하게 되는 문제가 발생한다. 당장의 편안함에 안주하다 보면 인간관계의 복잡함을 감당하는 능력이 약해질 위험이 있다. 학자들은 이를 사회적 기술의 퇴화(social deskilling)라고 부른다.

p33

이 상황에서 심각한 문제로 지적되는 것은 정서적 오프로딩(emotional offloading) 즉 핵심적인 사회적 능력을 외주화하는 것이다. 경험과 실패를 통해 사회적 직관을 배우지 않고 AI에 계속 의지하면 어떤 일이 벌어질까? 계산기에 과도하게 의존하면 산술 능력이 약해지고, 내비게이션에 지나치게 의존하면 방향 감각이 떨어지듯, AI에 과도하게 의존하면 일상적인 상호작용 능력이 약해질 수 있다.

p38

뇌는 기계처럼 고정되어 있지 않으며, 하드웨어와 소프트웨어가 구별되지도 않는다.

p40

타인의 존재가 우리 뇌에 영향을 미치는 것처럼, 타인의 부재 또한 뇌에 영향을 미친다.

뇌는 타인의 행동과 말을 나의 시스템의 일부로 연장하여 사용한다. 사랑하는 사람과 이별했을 때 내 일부가 떨어져 나간 것처럼 고통스럽게 느끼는 것은 실제로 내 일부가 떨어져 나갔기 때문이다.

p43

그러나 실제로는 이기적인 본성만 가지고는 생존이 어렵다. 생존에 가장 유리한 특성은 이기성보다는 사회적인 능력이다.

p46

좋은 판단은 경험에서 나오고, 경험은 실패를 겪어야만 가능하다. 인간이 사회적으로 실수하고 거기에서 배울 수 있는 공간이 있어야 한다.

p49

인간의 믿음과 자기 이해는 객관적 현실의 반영이라기보다 의미를 구성하려는 뇌의 적극적 해석 과정에 가깝다. 어쩌면 우리는 선택하는 것이 아니라 단지 해석하는 것일 수도 있다.

p53

뇌-디코딩 AI

한 사람의 뇌 데이터를 기반으로 만든 모델은 다른 사람에게 거의 작동하지 않았던 것이다. 이는 인간의 뇌가 의미를 표현하는 방식이 매우 개인적이라는 점을 보여 준다.

p56 ~ 57

AI는 사용자에게 끊임없이 공감하고 칭찬하며 대화를 지속하도록 유도한다. 이처럼 ‘항상 나를 이해해 주는 존재’인 AI는 갈등, 오해, 노력과 같은 인간관계의 불편함을 회피하게 만든다. 인간관계는 시간과 인내, 상호 조율을 필요로 하지만 AI는 즉각적이고 마찰 없는 만족을 제공한다. 그 결과 사람은 점점 더 AI에 감정을 의존하고, 실제 인간과의 관계를 유지하고 발전시키는 능력은 약화된다.

p79

공감하는 인공지능은 인간의 사회적 능력을 퇴화시킨다. 언제나 비판 없이 공감해 주는 인공지능과의 소통에 익숙해지면, 타인을 이해하려는 노력을 떠넘기면서 공감 능력 자체가 퇴화할 가능성도 있다. 인간관계는 때로 우리를 불편하게 만들지만 바로 그 불편함이 도덕적 기준과 사회적 균형을 만들어 왔다. AI의 무조건적인 공감은 경험을 통해 사회적 맥락을 배우고 인간관계의 복잡한 규범과 행동을 이해하는 능력을 약화하고 인간을 자기중심적으로 만든다.

p203 ~ p204

검색해서 답을 찾는 것은 정보를 빌려오는 것에 불과하며, 진정한 학습은 기존의 지식 체계와 연결하여 고유한 맥락을 만들어 내는 과정이다. 학습은 수동적인 수용이 아니라 생성적 과정, 특히 배운 내용을 자신만의 언어로 다시 설명하거나 요약하는 행동이 있을 때 완성된다. 생성형 AI가 ‘생성’의 과정을 대체해버리면, 학습의 본질까지 대체해 버린다.

디지털 기기가 주는 편리함은 뇌의 깊은 사고 과정을 방해할 수 있다.

디지털 기기는 이미 내용을 다 알고 있는 것 같은 착각을 준다. 우리는 정보를 찾는 것 대신 기억 속에서 인출 또는 생성하는 훈련을 해야 한다.

p207

바람직한 어려움은 학습 과정에서 인지적 부하를 의도적으로 높여 지식을 장기 기억으로 전환하고 응용력을 극대화하는 핵심 원리이다. 스스로 답을 찾기 위해 분투하는 과정이 뇌의 신경 가소성을 자극하여 깊은 수준의 학습과 성장을 이끌어 낸다.

p228

인지 욕구가 높은 사람은 AI를 자신의 사고를 확장하기 위한 도구로 활용할 가능성이 높지만, 인지 욕구가 낮은 사람은 AI를 사고의 대체재로 삼을 가능성이 크다.

p231 ~ 232

AI에 생각을 외주화하는 것을 되풀이하면 뇌의 생각하는 능력이 저하된다는 것을 아는 것이 AI 리터러시다. AI의 장점과 위험을 인지하는 것, 내가 스스로 생각하는 것이 가치 있다는 것을 아는 것, 그게 바로 AI 리터러시다.

뇌는 두개골 속에 고립된 계산 장치가 아니라 몸과 환경 속에서 작동하는 시스템이다. 움직임과 환경과의 상호작용이 줄어들면 뇌의 필요성 자체가 사라진다.

p233

손글씨 요약을 병행하자.

AI는 내 능력을 확장하는 역할을 해야 한다. 나의 걸음을 대신하는 에스컬레이터가 되어서는 안 된다. 내가 직접 움직여야 근육이 생기듯, 불편함을 감수하는 사소한 노력이 인지적, 정서적 대체를 막는 길이다.

p234

《사피엔스》의 저자 유발 하라리는 AI 시대에 사람에게 필요한 능력은 사회·정서적 기술과 운동 기술이라고 강조한다.