알고리즘에 대해 싸움을 시작할 때다.
그간 우리는 개인정보 유출의 문제를 ‘약간’ 걱정해 왔다. 개인정보 유출은 어차피 다들 겪는 일이라고, 허탈함을 섞어 말했다. 보이스피싱만 조심하면 된다고. 내가 조심하면 되는 문제라고.
박근혜 정부의 전문가들과 기업들은 한목소리로 말했다. 개인정보 가지고 큰일은 없지 않았냐고. 그러니 이제 개인정보에 대한 권리에 연연하지 말라고. 개인정보는 인권의 문제가 아니다. 미국은 개인정보를 재산으로 취급한다. 우리도 개인정보 판매를 자유롭게 하자고, 목소리를 높였었다. 개인정보 규제를 완화하면 돈 벌 기회가 널려 있다고.
그러나 그들은 말하지 않았다. 누가 개인정보를 가지고 돈을 버는가를. 누가 개인정보를 사고 싶어 하는가를.
그들이 말하지 않은 것이 더 있다. 알고리즘은 눈에 보이지 않는다는 것을. 저들의 인공지능이 조용하게 어떤 일을 하고 있는지를.
우리가 생각하는 것보다 우리의 개인정보는 비싸다. 홈플러스가 보험사에 판매한 온라인 회원 정보는 건당 2,800원이었고 경품응모자의 정보는 건당 1,980원이었다. 2천4백만 건의 개인정보 엑셀을 열 군데의 보험회사에 팔면서 홈플러스가 벌어들인 돈이 231억 원이었다.
보험사는 이 정보를 왜 비싸게 사들였을까? 돈을 벌 수 있기 때문이다. 우선 광고에 썼다. 가족 중에 아이가 있는 이에게는 어린이보험을 팔고, 차가 있는 집에는 자동차보험을 팔았다. 맞춤 광고라서 내가 필요한 부분을 알아주니 편리하다고 볼 일일까? 보험이 필요치 않으면 광고 전화를 무시하고 말 일일까?
최근 진화한 알고리즘은 여기서 멈추지 않는다. 보험에 가입하면 인공지능이 당신을 판단한다. 스스로 학습하는 인공지능은 빅데이터를 이용해 당신을 공부한다. 트위터와 페이스북에 공개된 정보, 마트에서 사 온 정보, 그 밖에도 온갖 곳에서 사 온 정보들로 당신의 등급을 매긴다. 알고리즘이 “보험금을 제때 내지 않을 것 같다”고 판단한 이들에게는 보험료가 높게 책정된다. 보험료 지급을 요청할 때도 마찬가지다. 인공지능은 이미 당신의 트위터를 읽어 두었고, 마트에서 무엇을 샀는지 알고 있다. 휴대전화 회사에서 사 온 위치정보도 가지고 있다. 심지어 어떤 병으로 병원을 다녀왔는지도 알 수 있다. 이런 방식으로 당신이 보험 약관을 위반한 일을 한 적은 없는지 ‘자동으로’ 판단한다.
유럽 개인정보 담당자들은 “우리가 했던 행동이 아니라 장차 우리가 할 법한 행동이라고, 데이터가 말하는 대로 평가받는” 세상이 되었다고 개탄한다. 그리고 빅데이터로 인한 인권침해를 걱정할 때라고 경고한다. 알고리즘은 사회적으로 불공정하고 차별적인 의사결정을 야기할 수 있다. 차별받아온 이들에 대한 편견을 강화할 수 있다. 병이 있는 이들, 이주민들, 그리고 가난한 자들은 믿을 수 없다고. 이들에게는 기회를 주지 않거나 더 비싼 대가를 치르게 하거나.
구매 정보는 경찰에도 팔린다. 미국 경찰이나 정보기관은 신용카드사 정보도 구입한다. 이런 정보가 경찰에 왜 필요할까? 그들은 범죄예방을 위해서라고 말한다. 당신이 범죄율이 높은 동네에서 무기류를 구입했는지 알아두고 당신의 등급을 매겨 두겠다는 것이다. 트위터에 위험한 이야기를 쓰고 평소 불량한 친구들과 어울렸다가 경찰서에 들른 적이 있다면 빼박이다. 이 기록은 당신이 죽을 때까지 삭제되지 않을 것이다. 어쩌면 당신 사후까지도.
이 영화가 다루고 있는 미국, 영국, 독일 경찰의 알고리즘을, 한국 경찰도 도입하려고 한다. 지금 국회에 발의되어 있는 ‘범죄예방 기반 조성에 관한 법률안’은 인공지능으로 ‘범죄예방시스템’을 구축하겠다고 한다. 범죄를 미리 예방하겠다는 좋은 취지다. 그러나 우리는 미국, 영국, 독일 시민들의 경고에 귀를 기울여야 한다. 경찰의 인공지능은 차별적으로 작동하고 있다. 알고리즘은 범죄자를 친구로 둔 흑인을 감시하고, 이주민이 많이 살고 있는 낙후된 동네를 주목한다. 여기서 불심검문을 많이 하다 보면 성과도 있게 마련이다. 더 높은 검거율은 확신을 강화한다. 역시, 인공지능이 옳았어. 이 동네가 문제였어. 유색인종이 문제였어. 하지만 기업 범죄는 경찰 범죄예방시스템의 관심 밖이다.
홈플러스 소비자들은 자신도 모르는 새 개인정보가 팔렸다는 사실에 화를 냈다. ‘내가 모르는 새’라는 점이 중요하다. 개인정보 처리에 대해 알 권리는 정보인권의 출발점이다. 보험사의 알고리즘이, 경찰의 알고리즘이 어떻게 구동하는지 알 수 있어야 한다. 그리고 여기서 한발 더 나가 보자. 보험사나 경찰의 인공지능이 나에 대해 의사결정 하는 것을 거부할 수 있어야 한다.
알고리즘은 양심이 없다. 저들이 우리의 미래를 조종하지 못하도록 해야 한다. 편견과 차별에 저항해야 한다는 인권의 가치를 위해서이다. 알고리즘에 관한 싸움은 개인정보에 대한 더 강한 통제권을 주장하는 데서 시작한다. 내 개인정보가 어디에 쓰이는지 나는 알 수 있어야하고, 내가 통제할 수 있어야한다. 인공지능이 나를 평가하고 의사결정 하는 것을 거부하겠다. 이것이 정보 인권이다. 개인정보 문제를 인권 문제로 접근해온 유럽은, 최근 발효된 유럽 개인정보보호법(GDPR)에 알고리즘 통제 규정을 포함하였다. 우리에게도 할 일이 있다.
장여경 (정보인권연구소 상임이사)
태어나면서부터 성별이 여/남으로 정해지고 변하지 않는다고 믿는 이분법적인 사회 속에서 트랜스젠더로 살아간다는 것은 어떠한 경험일까? 물론 각자의 맥락이 있기에 일반화할 수는 없지만, 영화는 트랜스젠더 네 명의 이야기를 통해 간접적이나마 이러한 경험이 어떤 것인지를 보여준다. 사실 트랜스젠더의 삶은 다른 이들의 삶과 아주 동떨어진 것은 아니다. 직장에서 일을 하고 학교에서 공부를 하고, 친구들과 만나 밤늦게까지 놀고, 노래를 부르고 춤을 추는 등 취미생활을 즐기는, 때로는 즐거워하고 때로는 고민하는, 그런 삶 말이다.
그러나 한편으로 그런 일상적 삶 속에서 트랜스젠더이기에, 규범을 벗어난 존재이기에 겪을 수밖에 없는 차별과 배제의 경험도 존재한다. 자신을 대표하지 못하는 이름을 가져야 하는 일, 의료서비스 이용에서의 장벽을 마주하는 일, 가족들에게 정체성을 부정당하는 일, 교육현장에서 다루어지지 않는 일 등과 같이, 성별이분법적인 사회 속에서 트랜스젠더들은 존재하지 않는, 말할 필요 없는 사람들로 여겨진다. 그리고 이러한 존재의 부정은 브라질만이 아닌 한국을 살아가는 트랜스젠더들 역시 겪고 있는 일이다.
“동성애를 반대하지만 차별받아서는 안 된다 생각한다.” 지난 대선후보 토론에서도 나온 이 말은, 성소수자 이슈의 질문에 대한 정치인들의 의례적인 답변이 되어 버린 것 같다. 6.13 지방선거를 앞두고도 몇몇 후보들은 “개인적으로 동성애에 찬성하지 않는다”, “사회적 합의가 필요하다”와 같은 발언을 쏟아내고 있다. 이렇게 동성애를, 성소수자의 존재 자체를 반대할 수 있다는 성립 자체가 불가능한 발언을 정치인들은 앞장서서 이야기하고 있다. 이런 상황에서 성적지향·성별정체성을 포함한 포괄적 차별금지법은 10년이 넘게 제정되지 못하고 있으며, 성소수자 인권을 보장한다는 이유로 각 지역의 인권조례가 폐지되고 있다. 또한 여성가족부는 성평등과 성소수자 인권은 별개라는 이야기를 하였고 교육부는 성소수자를 다루지 않는 성교육 표준안을 배포하고 있다. 이러한 과정들 속에서 성소수자의 존재는 사회적 합의의 대상, 누군가에 의해 공공연하게 부정될 수 있는 사람들이 되어 버렸다.
한편, 존재의 반대와 차별은 별개라는 주장에는, 범죄화나 해고 등과 같은 의도적이고 거대한 것만이 차별이라는 잘못된 인식이 깔려 있다. 그러나 차별의 경험과 이야기는 결코 그렇게 명시적인 결과만으로 구성될 수는 없다. 기실 성소수자가 겪는 차별의 경험은 이성애가 당연한 사회 속에서 자신의 동성 애인을 이야기할 수 없는 문제, 지정 성별에 따라 남성/여성으로 여겨지고 아들, 딸 등으로 호칭되는 문제와 같이 당연한 존재로 인정받지 못하는 경험들이 다수를 차지한다. 그리고 이러한 존재의 부정은 개인의 자존감을 손상시키며, 동등한 시민으로서 소통할 수 있는 조건을 훼손한다는 점에서 그 자체로 심각한 차별이다.
그렇다면 이렇게 소수자의 존재를 지우는, 공기처럼 만연한 구조적 차별 앞에 우리는 어떻게 저항할 수 있을까. 영화 속 사진을 찍는 장면에서 흑인 여성의 말이 하나의 답이 될 수 있을 듯하다. 사회가 소수자의 존재를 주변화화고 지워버릴수록, 우리는 자신의 존재를, 몸을 드러내며 서로를 확인하고 연대해나가야 한다. 이러한 드러냄을 통해 소수자를 억압하고 차별을 만들어내는 규범의 모순점을 드러내고 균열을 만들어 나갈 수 있으며, 끝내는 이를 전복할 수 있을 것이다. 그렇기에 규범에서 벗어난 몸은, 존재는 그 자체로 정치적이다.
박한희(공익인권변호사모임 희망을만드는법)