소셜 미디어와 기술 윤리

넷플릭스 다큐멘터리 '소셜 딜레마(The Social Dilemma, 2020)'는 구글·페이스북·트위터·유튜브 등 주요 소셜 미디어 기업의 전현직 임직원들이 자사 서비스의 설계된 문제점을 고발하는 내용이다. 핵심 주장은 소셜 미디어가 광고 수익을 위해 사용자의 주의력(attention)을 착취하도록 설계되었다는 것이다. 무료 서비스에서 돈을 내지 않는다면 그 사람이 곧 상품이라는 명제가 이를 압축한다.

소셜 미디어의 수익 모델은 세 단계로 작동한다. 첫째, 클릭·좋아요·접속 시간대 등 이용 패턴을 상세히 수집해 개인화 프로필을 구축한다. 둘째, 이 데이터를 기반으로 광고주에게 타깃 광고 도구를 판매한다. 셋째, 사용자가 더 오래, 더 자주 머물도록 푸시 알림 타이밍과 피드 노출 순서를 알고리즘이 최적화한다. 문제는 이 과정에서 가짜 뉴스·음모론이 진실보다 빠르게 확산되고, 청소년 정신 건강 저하, 사회 분극화, 각국의 정치적 혼란 같은 외부효과가 발생하지만 기업은 책임을 지지 않는다는 점이다.

다큐는 컴퓨터 윤리의 선구자 제프 래스킨의 원칙("컴퓨터는 인간에게 위해를 가해서는 안 된다")과 아자 래스킨이 제안한 무한 스크롤 특허 사례를 통해 편의 기능 하나가 수억 명의 행동 패턴을 어떻게 바꿀 수 있는지 보여준다. UX 디자이너·개발자·데이터 분석가는 자신이 설계하는 인터랙션이 사용자와 사회 전체에 미치는 영향을 윤리적으로 검토해야 한다는 경고를 담고 있다.

핵심 내용

무료 소셜 미디어의 실제 상품은 사용자 주의력·데이터이며 광고주가 그 구매자
알고리즘은 체류 시간 극대화를 목표로 최적화되어 가짜 뉴스·음모론 확산에 유리
개인정보 추적은 서비스 이탈 후에도 쿠키·식별 코드 등으로 계속됨 (GDPR·CCPA 등 규제 강화 중)
소수 팀의 알고리즘 결정이 전 세계 수십억 명의 인식과 행동에 영향을 미치는 구조
UX 설계자에게는 편의성 뒤에 숨은 사회적 영향을 인식하는 윤리적 책임이 요구됨

출처

넷플릭스 다큐 '소셜 딜레마'를 보고 — 2020-12-08, gunggmee

소셜 미디어와 기술 윤리

핵심 내용

관련 개념

출처