우리는 정말 조종당하고 있는가 – ‘윤리적 설계’의 딜레마
우리의 일상은 얼마나 자율적인가. 우리가 스스로 선택했다고 믿는 그 순간, 누군가 우리의 선택지를 미리 설계해 놓았다면?
기술은 어떻게 우리의 주의를 점령하는가
전 구글 디자인 윤리학자 트리스탄 해리스(Tristan Harris)는 TED 강연에서 충격적인 이야기를 꺼냈다. 그는 구글에서 사용자들의 생각과 감정을 윤리적으로 ‘조종’하는 방법을 연구하던 사람이었다. 그의 말에 따르면, 현대 기술 기업들은 스마트폰 속 기능 하나하나를 통해 사용자의 행동을 ‘스케줄’하고 있다고 한다.
가령 유튜브의 자동재생, 페이스북 뉴스피드, 스냅챗의 스냅스트릭스(Snapstreaks) 기능은 단순한 편의가 아니라, 사용자가 그 플랫폼에 더 오래 머물게 하려는 계산된 장치다. 이 구조는 결국 사용자의 자율적 선택보다 기업의 광고 수익 극대화를 우선시하는 ’주의력 경제(attention economy)’의 현실을 반영한다 [(Harris, 2017, TED)].
문제는 이것이 단지 시간 낭비에 그치지 않는다는 것이다. 생각의 방향, 감정의 유도, 심지어 민주주의적 대화마저 이 조종에 의해 영향을 받는다.
‘조종 가능성’을 인식한 사람들, 그래도 왜 행동하지 않는가
트리스탄 해리스는 우리가 이 문제를 ‘모르고 있어서’가 아니라, ‘알면서도 빠져나오지 못하도록 설계돼 있기 때문에’ 심각하다고 말한다. 스마트폰의 피드, 알림, 좋아요 숫자는 인간의 충동적 뇌 구조, 이른바 ‘파충류 뇌(lizard brain)’를 끊임없이 자극하며, 사용자로 하여금 ‘그만두는 것’을 점점 어렵게 만든다.
그렇다면 만약 사용자들이 스스로 “나는 조종당하고 있다”는 인식을 하고 있음에도 불구하고, 변화를 귀찮아하거나 타인의 개입을 기대하며 방치한다면, 이는 더 이상 개인의 게으름만의 문제가 아니다. 오히려 그 무력감 자체가 이 시스템의 산물이다. “알면서도 빠져나오지 못하게 만든다”는 점에서, 이것은 ‘완성된 조종’이다.
윤리적 설계란 무엇이며, 과연 가능한가
이에 대한 해리스의 대안은 ‘윤리적 설계(ethical design)’다. 이는 다음과 같이 정의할 수 있다:
“사용자의 자율성과 장기적 복지를 해치지 않고, 설계자의 목표가 사용자의 진정한 목표와 일치하도록 만드는 기술 설계.”
윤리적 설계는 단순히 중립적인 기능 설계가 아니다. 그 핵심에는 사용자를 ‘도구’가 아닌 ‘목적’으로 대하는 윤리적 태도가 깔려 있다. 이는 칸트의 도덕철학에서 비롯된 관점이며, 인간을 수단화하지 말라는 원칙에 부합한다 [(Kant, 1785)].
또한 공리주의적 관점에서도 타당하다. 단기적인 클릭 유도보다 사용자의 장기적인 행복과 삶의 질을 증진시키는 것이 더 바람직하다는 입장이다 [(Mill, 1863)].
더불어 심리학의 ‘자기결정이론(Self-determination theory)’에 따르면, 인간은 본질적으로 자율성, 유능감, 관계성을 추구한다. 윤리적 설계는 이 세 가지를 억압하지 않고 지지하는 방향으로 설계되어야 한다 [(Ryan & Deci, 2000)].
하지만, 윤리적 설계도 결국 ‘조종’ 아닌가?
이 지점에서 우리는 다시 딜레마를 마주하게 된다. 선택 가능하도록 유도하는 것조차도 결국은 설계자의 개입 아닌가?
이는 진지하게 생각해볼 필요가 있다. 모든 디자인은 어느 정도 유도성을 내포한다. 버튼의 색, 크기, 위치, 순서는 모두 행동을 이끌어내기 위한 요소다. 이 때문에 ‘모든 설계는 조종이다’라는 주장은 성립할 수 있다.
그러나 모든 조종이 비윤리적인 것은 아니다.
핵심은 다음 두 가지이다:
1. 의도가 사용자의 진정한 이익과 정렬되어 있는가?
2. 사용자가 그것이 개입임을 인식할 수 있는가? (투명성)
즉, 사용자의 ‘깊은 자아(reflective self)’가 원할 만한 방향으로 이끌며, 그 선택의 권한을 여전히 사용자에게 남겨두었다면, 그것은 조종이 아니라 ‘지원’이며, ‘협력적 설계’라고 볼 수 있다.
우리가 물어야 할 마지막 질문
지금 이 순간에도 우리의 스마트폰은 우리의 감정과 생각을 스케줄하고 있다. 우리의 클릭은 자유로운가, 아니면 유도된가? 그 유도는 누구의 이익을 위해 존재하는가?
기술은 중립적이지 않다. 우리는 이 구조가 지속되기를 원하는가, 아니면 새롭게 설계되기를 바라는가?
윤리적 설계란 “더 나은 선택을 하도록 만드는 것”이 아니라,
“더 나은 삶을 살 수 있도록 방해하지 않는 설계”일지도 모른다.
참고 문헌
- Harris, T. (2017). How a handful of tech companies control billions of minds every day. TED Talk. https://youtu.be/C74amJRp730
- Kant, I. (1785). Groundwork of the Metaphysics of Morals.
- Mill, J. S. (1863). Utilitarianism.
- Ryan, R. M., & Deci, E. L. (2000). Self-determination theory and the facilitation of intrinsic motivation, social development, and well-being. American Psychologist, 55(1), 68–78.