미래 창조에 필요한 도덕적 상상력은 인간만이 가지고 있다

수학 모형은 여러 가지 면에서 신을 닮았다. 신처럼 불투명해서 이해하기 힘들다.  - 16쪽

 

WMD(Weapons of Math Destruction) 중 상당수가 적절한 피드백을 받지 못하고 있다. 오히려 이들 모형은 스스로 현실을 정의하고 그 결과를 정당화하기 위해 왜곡된 현실(대리 데이터)을 이용한다.  - 22쪽

 

모형이란 본래 복잡한 현실을 단순화한 개념이다. 실제로 세상의 모든 복잡성이나 인간 커뮤니케이션의 미묘한 차이를 완벽히 반영한 모형은 존재하지 않는다.  - 43쪽

 

재범위험성 모형은 그 자체가 악순환 발생의 원인이며 악순환이 지속되는 데 일조한다.  - 54쪽

 

수학 모형은 본질적으로 과거와 기존 패턴들이 반복될 것이라는 가정에 기반을 두는데 미래가 과거의 모든 것과 완전히 다른 새로운 세상이라면 어떻게 해야 할까.  - 73쪽

 

금융WMD의 잘못된 가정 ① 금융기관 종사 수학자들 모두가 위험을 신중하게 고려하며 균형을 잡아줄 것이다 ② 많은 사람이 동시에 채무불이행 하지 않을 것이다  - 78쪽~79쪽

 

수학은 쓰레기 같은 대출채권의 가치를 몇 배로 부풀릴 수는 있으나 그것을 해석할 능력은 없었다. 해석은 순전히 인간의 몫이었다.  - 81쪽

 

사람들이 시스템을 악용하는 경우 대리 데이터는 고유한 효과성을 잃고 속임수를 쓰는 사람들은 긍정오류의 이득을 얻게 된다.  - 102쪽

 

순수한 평판 순위만 기준으로 삼았다면 순위 뒤집기는 수십년이 걸렸을 테지만 데이터의 세상에서 아주 짧은 시간에 놀라운 일들이 일어나기도 한다.  - 114쪽

 

공정성은 무정형인데다 정량화하기 어렵다. 언어와 논리 면에서 크게 발전했지만 공공성 같은 추상적 개념을 이해하는 데 있어 컴퓨터는 아직도 별다른 진척을 이루지 못했다.  - 166쪽

 

정의는 사회의 한 부분이 다른 부분에 가하는 것이 되어서는 절대 안 된다.  - 168쪽

 

인성적성검사의 주요 목표는 최고의 인재를 찾는 것이 아니라 오히려 가능한 한 저렴한 비용으로 가능한 한 많은 사람을 걸러내는 것으로 이용되고 있다.  - 187쪽

 

이력서의 72%는 기계가 걸러져서 (그 95%는) 인간의 눈으로 심사받을 기회조차 주어지지 않는다.  - 195쪽

 

소프트웨어 프로그램들은 단순한 단어의 조합과 아이디어를 구분하지 못한다. 그러나 인간은 그들의 차이를 때로는 정황상 문제임을 안다. 어제의 아이디어를 오늘의 팩트로 인정하기도 한다.  - 220쪽

 

대다수 WMD는 모형에 현실을 반영해 수정하기보다는 원하는 현실을 창조한다.  - 225쪽

 

하나의 추세를 나타내는 전체 데이터를 하위그룹으로 나누면 각각의 하위그룹에서는 전체와 정반대되는 추세가 나타나기도 한다(심슨의 역설)  - 230쪽

 

통계 세상에는 엄연히 대리 데이터가 존재하고 가끔은 그런 데이터가 효과적이기도 하다. 대리 데이터로 발생한 시스템의 실수를 정정할 수 있는 피드백이 전혀 존재하지 않는 것이 문제다.  - 245쪽

 

e점수가 금융 세상을 오염시킴에 따라 가지지 못한 사람들에게는 기회가 거의 주어지지 않는다.  - 267쪽

 

프라이버시 침해는 좋은 목적을 위해서라도 간과해서도 눈 감아도 안된다.  - 291쪽

 

미국 정치에서 몇몇 경합주의 소수 유권자들의 의견이 선거에서 힘의 균형을 깨뜨리는 결정적 역할을 한다. 이러한 점을 파고드는 마이크로 타기팅은 모든 계층에 위해를 가한다.  - 326쪽

 

탐욕에서 비롯됐든 편견에서 나왔든 부당함은 인류의 역사와 궤를 같이해왔다. 인간의 의사결정은 가끔 오류가 있기는 해도 진화하는 능력으로 이를 충분히 상쇄해 왔다.  - 336쪽

 

데이터 처리 과정은 과거를 코드화할 뿐 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 인간만이 가지고 있다.  - 337쪽

 

공정성과 공익은 오직 인간의 머릿속에만 존재한다. 정량화하기 어렵고 측정하기 어렵다는 이유로 정량화 하기 위한 별도의 노력을 하지 않는다. 효율성을 희생시키는 한이 있더라도 알고리즘에 인간적 가치를 반영할 필요가 있다.  - 342쪽

 

빅데이터의 궁극적 목표는 인간의 눈에 보이지 않는 패턴을 찾는 것이다. 현명하게 관리된다면 중요한 통찰을 제공할 수 있다. 데이터 경제에는 유익할 뿐 아니라 오남용되지 않는다면 위대한 모형이 될 수학 모형이 다수 존재한다. 만약 수학 모형을 날씨와 조수 같은 중립적인 불가항력으로 생각해서 수학 모형에서 멀찍이 떨어져 있다면 이는 우리의 책무를 유기하는 행위다. 그 결과는 빤하다.  - 355쪽~359쪽

 

대량살상 수학무기, 캐시 오닐, 김정혜 옮김