실시간 라이브 방송 시청자 조차 조작하는 Ai앱 등장

사진: Unsplash 의 Steve Johnson

 

 

 

 

오늘 유튜브로 뉴스를 보다가 또 한 번 놀라는 일이 생겼다.

우리는 흔히 AI가 실시간으로 현실을 조작하는 데는 한계가 있다고 생각했었다.

최근 심각하게 받아들인 실시간 조작은 보이스 변환, 딥페이크 기술이었지만

아직은 유심히 듣거나 보면 억양이나 뉘앙스 표정의 변화나 미세한 움직임이 다름을 알 수 있었다.

 

하지만 이런 것들 보다 텍스트로 실시간으로 전달되는 라이브 방송의 막강한 여론 형성의 힘까지 조작 가능한 세상이 되어버렸다. 보통 우리는 이슈가 있는 곳에 몰려들게 되어있기 마련이고 사람이 몰리는 이슈가 상위 가십거리가 되고 대부분의 평범한 사람들은 더 많은 사람들이 주장하는 방향으로 우리의 인식이 변화하기 마련이다.

그런데 그런 대중의 큰 흐름의 방향을 단번에 바꿔 버릴 수도 있는 라이브 방송 조작 앱이라니...

 

이건 진짜 충격이다. 이건 라이브 특성상 바로 대처도 불가능한 부분이다. 엄청난 기술이 있는 것도 아니고 단순한 실시간 대화형 텍스트 송출 AI하나만으로 라이브 방송을 통해 집단의 인식을 맘대로 주무르고 좌지 우지 할 수 있다는 게 무섭다. 기술은 엄청난 속도로 변화하는데 이걸 대처하기 위한 법률은 검증하고 적용하기에 너무 더디기만 하다. 이러다가는 변화에 따라가는 법을 제정하기 위해 더 성능 좋은 슈퍼 컴퓨터와 Ai로 법률을 만들도록 해야 할 판이다. 최근 정치판에는 유튜브 같은 영상 플랫폼을 이용해 세를 과시하거나 여론을 끌어모으고 이슈를 만드는 세상인데 이런 손쉬운 조작 앱을 이용한다면 그야말로 정치판은 대혼란이 일어 것이고 뉴스나 신문에 이어 영상 플랫폼의 이야기 마저 불신하게 될지도 모른다.

 

우리는 신기술로 인해 셀 수 없이 많은 혜택을 누리고 살게 되었지만 그로 인해 우리는 한동안 그 누구도 신용할 수 없는 사회에 살게 될지도 모르겠다.