[글로벌-Biz 24] 페북·유튜브, 콘텐츠 검열에 인공지능 앞다퉈 추진

페이스북이나 유튜브 등 소셜네트워크 기업들이 콘텐츠 모더레이션 업무에 AI를 접목하려는 움직임이 본격화되고 있다. 이것이 타당한가에 대한 논쟁도 한창이다. 콘텐츠 모더레이션이란 문제가 되는 콘텐츠를 차단 또는 삭제하는 것을 말한다. 최근 페이스북과 유튜브가 콘텐츠 모더레이션과 관련해 취한 AI 적용 방침은 사업의 미래에 중대한 영향을 미칠 것으로 보인다.

코로나19로 인해 소셜네트워크 회사에서 근무하는 모더레이터 문제가 사회의 핫 이슈로 떠올랐다고 비즈니스 인사이더가 24일(현지 시간) 보도했다. 이들은 모더레이션 업무를 모두 아웃소싱으로 처리한다. 계약을 맺은 엑센츄어, 코그너전트, 젠팩트 등의 기업은 수만 명의 모더레이터를 고용해 매일 콘텐츠를 관리해 왔다.
그러나 이는 사생활 문제를 야기시켰다. 모더레이터는 사내에서 작업할 때 사용자 데이터를 모니터링하기 위해 계정에 접근해야 한다. 그들이 제3자를 위해 작업할 때 사용자 데이터는 외부로 유출될 위험이 훨씬 더 크다.

이 때문에 회사는 이 업무에 대해 보안을 유지했고 모더레이터들은 최고의 보안 등급 유지를 위한 관리를 받아야 했다. 재택근무도 허용될 수 없었고 휴대폰 등 전자기기를 몸에 지니고 사무실에 들어갈 수도 없었다. 그러나 어떤 기업도 데이터 분실로 공공 관계가 위험에 빠질 가능성을 우려해 이러한 제한을 완화하려고 하지 않았다.

코로나19의 대유행으로 페이스북 구글 등 많은 회사들이 정규직에 대해 재택근무를 허용했지만 비정규직 파견직, 특히 콘텐츠 모더레이터는 재택근무 대상에서 제외됐다. 콘텐츠 품질을 관리하고 개인 데이터에 접근하는 데 원격근무가 허용되지 않았던 것이다. 이에 대한 반발이 있었음은 물론이다.

결국 회사들은 모더레이터에 대해서도 민감하지 않은 부문에 대해 재택근무를 허용했다. 그리고 이들이 AI의 일부인 콘텐츠에 라벨을 붙이는 기계 학습 시스템 훈련을 돕도록 했다.

이어 페이스북, 구글, 링크드인, 마이크로소프트, 레디트, 트위터, 유튜브 등은 공동으로 코로나19와 관련된 사기 및 오보를 제거하고 '권한받은 콘텐츠'를 홍보하는 등 코로나19 대응 노력에 긴밀히 협력하고 있다고 발표했다. 그러면서 코로나19 관련 콘텐츠 모더레이션에도 AI를 적용하겠다는 견해를 밝혔다.

앞으로 소셜네트워크 회사들은 콘텐츠 모더레이션을 자동화하기 위해 기계 학습 시스템에 더 많이 의존할 것으로 예상된다. AI에게 모더레이션 업무를 맡기는 것이 모든 소셜네트워크의 장기 목표다.
그러나 지난 연말까지만 해도 구글은 AI 적용이 가능할 날은 여전히 멀었다고 말했다. 그런데 이번 코로나19 사태를 겪으면서 회사의 분위기가 바뀌었다. 유튜브의 경우 특히 코로나19 대유행 기간 동안 AI에 더 의존하게 될 것으로 보인다. 많은 모더레이터들이 코로나19의 확산을 억제하기 위해 집으로 보내지고 있기 때문이다.

이는 사용자가 올린 동영상이 AI에 의해 '정책을 위반할 가능성이 있다는 라벨이 붙었기 때문에 사이트에서 삭제될 수 있다'는 것을 의미한다. 과연 동영상까지 AI가 적용될지에 대해서는 미지수다. 아직은 사람의 눈과 귀와 손에 의한 모니터링이 필요하다는 인식이 강하다.

유튜브는 AI에 의존할 경우 몇 가지 실수가 있을 것으로 예상해야 한다고 말했다. 더 많은 정상적인 동영상이 삭제될 수도 있고, 정책을 위반하지 않은 일부 동영상도 삭제될 수 있다는 것이다.

회사들이 AI에 큰 기대를 걸고 있는데 여전히 오류의 가능성은 높다. 유튜브는 물론 페이스북과 트위터도 이같은 우려를 표명한다.

회사 측은 콘텐츠 모더레이션 업무는 인간의 판단력만으로도 많은 실수를 저지른다고 말한다. 이를 AI가 보완해 줄 수 있다는 점에서 적용할 만한 가치가 있다고 주장한다. 반면 아직은 콘텐츠 판별에서 AI가 인간을 따르지 못하므로 제한적일 수 밖에 없다는 반론도 많다. AI 적용의 확대는 피할 수 없을 것이나 실수를 보완할 방도는 마련해 놓고 진행하는 것이 바람직하다는 지적이다.


조민성 글로벌이코노믹 기자 mscho@g-enews.com