게시 전 AI 검열, 헌법이 금지한 '사전검열'일까

자사 사이트 화면을 녹화한 평범한 영상이 '불법촬영물'로 걸러졌다. 한 플랫폼 운영진은 이런 오인 차단을 2년도 더 전에 확인했다고 주장한다. 이른바 n번방 방지법에 따른 AI 사전검열 기술이 동영상에서 이미지로 확대 적용되기로 확정되면서, 게시 이전 단계의 자동 필터링을 둘러싼 논란이 다시 불붙었다.

헌법이 막는 '사전검열'의 정확한 범위

헌법 제21조 제2항은 언론·출판에 대한 검열을 금지한다. 여기서 말하는 검열(표현물의 발표 전에 국가가 그 내용을 심사해 발표 여부를 결정하는 것)은 모든 사전 규제를 뜻하지 않는다. 판례는 ▲행정권이 주체가 되고 ▲발표 이전에 ▲내용을 심사·선별해 ▲허가받지 않은 표현을 금지하는 제도를 검열로 보는 입장으로 알려져 있다. 네 요건을 모두 갖춰야 위헌인 검열에 해당한다.

쟁점은 여기서 갈린다. 필터링의 주체가 민간 사업자라면 '행정권 주체' 요건에서 벗어날 여지가 있다. 그러나 국가가 특정 기술 적용을 법으로 강제하고 그 결과 표현물이 게시 전에 차단된다면, 실질적으로 행정권이 개입한 사전 심사로 볼 수 있다는 반론이 성립한다. 형식이 아니라 실질을 봐야 한다는 것이다.

오탐과 형평성이 키우는 위헌 논란

기술의 정확도는 법리 판단과 무관하지 않다. 적법한 표현물까지 광범위하게 걸러내는 오탐이 잦다면, 규제 수단이 목적 달성에 필요한 최소한에 그쳐야 한다는 과잉금지원칙과 충돌할 소지가 커진다. 자사 녹화 영상이 불법촬영물로 오인됐다는 주장은 이 지점을 겨냥한다.

형평성 문제도 있다. 국내 업체에는 강제 적용되는 사전검열이 해외 메신저에는 사실상 면제됐다면, 같은 표현 규제가 사업자에 따라 다르게 적용되는 셈이다. 이는 평등원칙과 규제의 실효성 양쪽에서 물음표를 남긴다.

그래서 어떻게

이용자라면 콘텐츠가 차단됐을 때 그 근거와 이의제기 절차를 먼저 확인하는 것이 현실적이다. 사업자라면 필터링 로그와 오탐 사례를 체계적으로 기록해 두는 편이 낫다. 향후 위헌 여부를 다투거나 손해를 주장할 때, '어떤 표현이 왜 걸러졌는지'를 입증할 자료가 핵심 증거가 되기 때문이다. 최종 판단은 규제의 구체적 설계와 운영 실태를 함께 놓고 가려질 문제다.