기계의 판단, 인간의 책임
카타리나 츠바이크의 무책임한 AI는 인공지능이 인간의 삶에 어떤 방식으로 개입하고, 그 결과가 얼마나 중대한 영향을 미치는지를 탐구하는 책이다.
저자는 알고리즘이 어떻게 사회적 편견을 재생산하며, 때로는 인간보다 더 무책임한 결정을 내릴 수 있음을 경고한다.
다만 해당 책의 내용의 일부분이 전문적인 단어라던가 어려운 어휘가 포함되어있어 휘리릭 읽어가는데에는 어려움이 있었다.
책의 첫 번째 부분인 ‘기계는 어떻게 결정을 내리는가’에서는 알고리즘이 단순한 계산 도구가 아니라, 인간의 삶을 평가하고 판단하는 주체로 기능하고 있음을 보여준다.
특히 ‘알고리즘의 성차별’에서는 채용이나 대출 심사에서 성별에 따라 불공정한 결과를 낳는 사례를 통해, 데이터에 내재된 편견이 어떻게 기계의 판단에 스며드는지를 설명한다. ‘정보과학의 작은 ABC’는 알고리즘의 기본 원리를 쉽게 풀어내며, 비전문가도 기술의 작동 방식을 이해할 수 있도록 돕는다. 이어지는 ‘기계는 신용도를 평가하는 법을 어떻게 배울까?’에서는 신용 점수 알고리즘이 어떤 기준으로 사람을 평가하는지를 분석하며, 그 기준이 얼마나 불투명하고 위험할 수 있는지를 경고한다.
두 번째 장 ‘인공지능이 만들어낸 문제들’에서는 기술이 인간을 돕기보다 해를 끼친 사례들을 소개한다.
얼굴 인식 기술이 유색인종이나 여성에게 불리하게 작동하는 사례, 잘못된 인식으로 억울하게 체포된 남성의 이야기, 알고리즘이 특정 지역이나 인종에 따라 주거 정보를 차단하는 문제 등은 기술이 사회적 배제를 강화할 수 있음을 보여준다. 또한, 인스타그램에서 우울증을 감지하는 기술처럼 감정 상태를 자동으로 분석하는 시스템은 개인의 프라이버시를 침해할 수 있는 가능성도 내포하고 있다.
세 번째 장 ‘왜 이렇게 되었는지 알아야 할 때’에서는 기술이 왜 이런 결정을 내리는지, 그리고 우리가 그것을 어떻게 이해하고 검증할 수 있는지를 묻는다.
검증 가능한 결정과 검증 불가능한 결정의 차이를 설명하며, 알고리즘의 투명성과 설명 가능성에 대한 논의는 기술의 책임 소재를 따지는 데 핵심적이다. 또한, 컴퓨터가 글을 평가하거나 사람을 테러리스트로 분류하는 사례를 통해, 윤리적 판단을 기계에 맡길 수 있는가에 대한 철학적 질문을 던진다.
마지막 장 ‘우리는 앞으로 어떻게 결정을 내릴 것인가’에서는 기술을 어떻게 설계하고, 어떤 기준으로 사용할 것인지에 대한 방향성을 제시한다.
인간 중심의 기술 설계, 투명한 알고리즘, 그리고 사회적 책임을 강조하며, 독자에게 기술을 맹신하지 말고 비판적으로 바라볼 것을 촉구한다.
[무책임한 AI]는 기술에 대한 경외심을 넘어, 기술을 둘러싼 권력과 책임의 문제를 직시하게 만든다.
우리가 어떤 사회를 만들고 싶은지에 대한 근본적인 질문을 던지는 철학적 성찰의 결과물이다.
