히토 슈타이얼 - 데이터의 바다

 

 

 

Overview

팀원들과 함께 국립 현대 미술관에서 진행 중인 "히토 슈타이얼 - 데이터의 바다" 전시를 다녀왔다. 입장하기 전까지도 어떤 내용인지 잘 모르고 그냥 데이터에 대한 내용이겠거니 하고 들어갔다가 이런저런 생각들에 적잖이 충격을 받고 나왔다. 전시가 대부분 영상으로 되어 있고, 영상 하나가 20분 ~ 30분 정도 진행되는 것들이 많아서 모든 전시를 한 번에 다 보려 하기보다, 인상 깊거나 관심 있는 전시 한두 개 정도를 깊게 보면서 이런저런 생각을 해 보는 것을 추천한다. 

 

최근에 관심있게 지켜보고 있던 여러 가지 이슈들, 이를테면 일론 머스크의 트위터 인수라든지, 페이스북 알고리즘에 대한 내부 고발, 그리고 증시 불황과 스웨덴 게이트와 연관 지어 전시를 감상하게 되었고, 그중 인상 깊었던 몇 가지 감상들을 가볍게 정리해보려 한다.

 

안 보여주기 - 디지털 시각성

 

 

 

 

디지털 시대로 넘어오게 되면서 사람들은 그림이나 사진보다 디지털 기기의 화면을 구성하는 "화소"가 표현하는 것을 보게 된다.(여전히 화면이 아닌 다른 것들을 보지만 대부분은 화면이다). 화면은 대상 자체를 담을 수도 있지만, 화면을 편집하고 구성하는 사람(혹은 세력)에 의해 삭제되거나, 일부분만 보이거나, 아예 사라질 수도 있다.

 

 

이러한 관점에서 "보이지 않는다"는 것은 실존에 대한 것이 아니라. "화면에 나타나지 않는 것"를 의미한다. 하나의 픽셀보다 작아지거나, 투명 스크린에 포함되거나, 스크롤 당하거나, 스와이프 당하거나, 사람들이 원하는 자극적인 관심사에서 사라지면 된다.(영상에서는 조금 더 강한 어조로 "50대 이상의 여성이거나, 가난하거나, 거렁뱅이가 되면 된다"라고 이야기한다)

 

 

디지털 시대에서 "실존"에 대한 철학이 필요하다는 생각이 들었다. 우리는 우리가 보고 싶은 것을 보고 있다고 생각하지만, 실제로는 그렇지 않은 경우가 많으며, 다른 사람이나 외부 세력이 보여주고 싶어하는 것을 보고 있는 것일지도 모른다. 실존하지만 보이지 않는 것과 실존하지 않지만 보이는 대상을 구분할 수 없게 만드는 디지털 세상에서 "Visible"한 것은 무엇이고 "Invisible"한 것은 무엇인가에 대한 고민을 하게 되었다.

 

 

최근 일론 머스크의 트위터 인수를 두고 많은 논란들이 있다. 자세한 내용이나 내막을 다 알지는 못하지만, 일론이 밝힌 트위터를 인수하는 목적 중의 하나가 "탈중앙화된 플랫폼에서 관리되는 투명한 광장(agora)"을 만드는 것이고, 이를 위해 스팸 계정을 차단하고 트위터 핵심 알고리즘을 오픈소스화 할 것이라는 주장을 내세웠다. 정말 이렇게 될 수 있을지는 지켜봐야 하겠지만 "무엇을 볼 것인가"의 결정권을 여전히 기성 언론(그리고 뒤에 있는 빅 브라더)이 가져갈 것인가, 아니면 탈중앙화 된 크라우드 플랫폼으로 넘어올 것인가의 프레임으로 지켜본다면 실존하지 않는 것들이 보이지 않게 되고 정말 실존하는 것들이 보이게 되는 일이 점차 가능해지지 않을까 하는 생각을 했다.

 

 

 

보이지 않으려면 픽셀보다 작아지면 된다
50세 이상의 여성이거나, 가난하거나, 제거되면 된다
스와이프 되거나, 스크롤당하면 된다

 

 

 

 

 

유동성 주식회사 - 글로벌 유동성

 

 

이번 전시 중에서 개인적으로는 가장 충격적으로 다가왔던 작품이었다. "물 = 데이터"라는 메타포(Metaphor)를 가지고 생각했던 것보다 더 깊은 통찰을 보여주었던 것 같아서 굉장히 집중해서 보았다. 전시 중간중간에 알 수 없는 복면을 쓴 사람이 나와서 "오늘의 날씨는 아마 당신이 생각하는 그대로일 것"이라는 문구가 반복해서 나오는데, 이에 대한 해석을 암시하는 부분이 영상의 후반부가 되어서야 나오게 된다.

 

 

날씨에 영향을 미치는 요소들은 물론 여러 가지가 있겠지만, 그중 가장 중요한 요소가 "물"이다. 물의 흐름은 파도를 만들고 기압을 만들고 수증기를 만들고 구름을 만들고 비를 만들고 기상 이변을 만든다. 그렇다면 이 물을 "데이터"라고 생각했을 때, 데이터가 만드는 "날씨"는 무엇이 되는가?

 

 

우리의 기분은 트위터나 페이스북이나 주식 매매나 뉴스의 형태로 데이터화 되어 흐른다. 물이 많아지는 곳에 구름이 생기고, 비가 내리고, 비가 계속해서 내리면 폭우가 되고, 재해가 되고, 기상 이변이 된다. "글로벌 유동성"을 가진 요즘 시대에는 우리의 기분이 굉장히 빠르게(수십 ms 정도) 지구 여기저기로 흘러갈 수 있게 되며, 이로 인해 여기저기서 "재해"가 일어날 가능성도 그만큼 높아졌다.

 

 

이런저런 생각을 하면서 작품을 감상하다가 최근 논란이 되고 있는 스웨덴 게이트가 생각났다. "스웨덴 친구 집에 놀러 갔는데 밥을 자기끼리만 먹더라"라는 하나의 댓글에서부터 시작되어 수많은 사람들의 "데이터(물)"가 이곳으로 몰려들었고, 결국에는 스웨덴 문화 혐오, 동유럽 문화 혐오, 스웨덴 문화관광부의 공식 해명(?)의 "기상 이변"으로 번진 사례다. 

 

 

 

일반적으로 물의 흐름은 그렇게 자주 바뀌지 않으며, 대충 어느 시기에 어떤 흐름을 보여줄 수 있을지가 예측이 가능하지만, 데이터가 보여주는 흐름은 그렇지 않다. 어디서 어느 방향으로든지 빠르게 이동할 수 있으며, 이로 인해 전 세계 각 지역에서 예상할 수 없는 기상 이변을 일으킨다. 데이터가 가져오는 기상 이변은 혐오, 차별, 폭행의 형태로 사회와 인간을 잠식시키며, 일반적인 자연재해보다 복구가 어렵고, 지원을 받기도 어렵다. 우리는 디지털 시대로 넘어오면서 더 많은 것들을 빠르게 할 수 있게 되었지만, 그와 동시에 더 많은 문제들에 노출되었고, 이는 예측하기도 어렵고, 크기도 크며, 해결하기도 어렵다.

 

인공 멍청함

전시장 한켠에 누워있는 두발 달린 로봇이 귀여워서 들어갔던 작품이지만, 최근 가장 깊게 고민하고 있었던 "인공 지능에 대한 사회적 책임과 철학적 의무"의 주제와 가장 근접해서 인상깊게 감상했던 것 같다. 전시장 한켠에 있는 "누워있는 로봇"은 사실 시뮬레이터 안에서 "학습"되는 대상이다. 이 로봇들은 실제 환경에서 인간이 의도한 동작들을 문제없이 수행하기 위해 쉴 새 없이 훈련된다.

 

주목할만한 점은 이 로봇들이 훈련되는 방식이 철저하게 "귀납적"이라는 것이다. 연역적 방법을 사용하지 않고 "두들겨 맞으면서", 맞지 않기 위한 방법을 Optimal Solution으로 학습한다. 실제로 시뮬레이터에서 보여주는 로봇뿐 아니라 많은 인공지능 알고리즘이 이와 같은 "보상 체계"를 기반으로 학습한다. 

 

 

 

 

그렇다고 했을 때 중요한 것은 "보상 체계"그 자체일 것이다. 하지만 기술의 발전 속도에 비해 이 기술에 대한 사회적 책임의 발전 속도는 그렇게 빠르지 않은 것 같다는 막연한 느낌이 들었다. 실제로 많은 수의 논문들이 어떻게 하면 더 빠르게, GPU를 덜 쓰면서 학습시킬 것인가에 대해서 이야기하고 있고, 무엇에 가중치를 두어 학습을 시킬 것인가, 가중치를 고려할 때 빠진 사항은 없는가? 철학적으로나 윤리적으로나 충분히 고려된 보상 체계인가? 에 대해 이야기하고 있는 논문들은 적은 느낌이다. 

 

편견이 섞인 데이터에 기반해 부주의하게 설계된 알고리즘이나 스팸 계정들은 "인공 지능"이 아니라 "인공 멍청함"에 가깝다. 백인의 얼굴만을 학습한 이미지 알고리즘이 유색 인종을 "동물"로 인식하는 현상이나, 섬세한 설계 없이 전쟁이나, 성차별, 언어폭력에 가까운 언어들을 학습한 언어 모델이 부적절한 말들을 리턴하는 현상들이 이런 예시가 될 수 있다고 작가는 말한다.

 

 

Conclusion

전시를 감상하면서 계속해서 마음 한켠이 불편한 느낌이었다. 기술은 급속도로 발전했지만, 우리는 그 기술이 가져올 문제들과, 기술의 발전에대해 마땅히 져야 하는 사회적 책임들과 의무들을 애써 무시하고 있거나 아예 무지한 상태인 것은 아닌가 하는 질문이 계속해서 들었다. 예전에는 20대에 기술을 이용해서 빠르게 회사를 창업하고 엑싯해서 억만장자가 된 사람들을 동경했었다. 하지만 서서히 기술에 대한 책임을 이해하고 이를 조심히 설계할 줄 아는 인문학적 통찰력을 가진 사람들을 찾게 되고 또 동경하게 되는 것 같다.