1. 개요
2021년 2월 구글이 미국 샌프란시스코에서 소프트웨어 엔지니어로 일하던 40대 남성 마크의 구글 드라이브 속의 아들의 성기 사진을 아동성착취물로 오인해 마크의 계정을 정지한 사건.[등재기준]2. 전개
마크의 아들의 음경이 부어올랐는데 인근 병원이 문을 닫았기 때문에 긴급 비대면 진료를 받았다. 간호사는 환부의 영상, 사진을 찍어서 보내주면 의사가 미리 리뷰를 해 주겠다고 제안했는데 그가 아들의 성기를 휴대전화로 촬영한 사진을 보내자 의사는 항생제를 빠르게 처방했고 아들은 빠르게 회복되었다.그런데 구글의 알고리즘이 해당 사진을 CSAM(아동학대자료)으로 판별하여 마크의 계정을 비활성화하였다. 가족 사진, 연락처, 일정, 업무 자료 저장, 전화[2] 등 스마트폰으로 할 수 있는 모든 업무를 구글에 의존하고 있던 그는 곤경에 처했다. 경찰은 그의 인터넷 검색 기록, 위치, 메시지, 사진 등을 조사했으나 혐의 없음으로 내사 종결했지만 메일, 전화번호 등이 싹다 정지당한 마크는 경찰의 연락을 받는 것조차 어려움을 겪었다.
마크는 알고리즘 오류로 벌어진 상황이고 본인도 직장에서 알고리즘으로 비슷한 일을 한 적이 있었기 때문에 구글이 금방 풀어 줄 것으로 생각했는데 경찰 보고서까지 제출했음에도 계정은 영구적으로 삭제될 것이라는 답변을 받았고 구글은 뉴욕타임즈에도 그의 계정을 복구하지 않을 것이라고 밝혔다. 그는 구글을 상대로 소송 제기를 검토했으나 변호사와 상담한 뒤 비용이 7000 달러에 든다는 말을 듣고 소송을 포기했다.
구글은 성기 사진 외에도 여자와 아이가 침대 위에서 옷을 제대로 입지 않은 사진이 있다고 말했으나 그것은 마크의 아내와 아들이 함께 촬영한 사진이었다.
3. 원인
구글은 2018년 아동성착취물을 탐지, 제거하기 위해 인공지능 도구를 개발했는데 AI에 의해 일차적으로 검열한 다음 사람이 검토하여 아동성착취물로 보이면 계정을 정지하고 관계 기관에 보고서를 제출한다. 2021년에는 62만 건 이상의 신고를 처리했고 27만 개 계정을 비활성화했다. 그러나 구글의 일처리가 완벽하지 않다 보니 피해자가 계속해서 나오는 것이다. 텍사스의 카시오(Cassio)도 비슷한 피해를 입었지만 역시 구글이 계정을 복구하는 일은 없었다.일단 구글 측에서 아동성착취물을 공유하는 계정이라고 판단하면 경찰의 조사 결과가 나오기 전에 계정을 복구할 수 없을 정도로 완전히 말소하는 것으로 보인다. 절차 개선 및 피해자에 대한 충분한 보상이 필요할 것이다.
미국은 법적 절차를 통해 피해보상을 잘 해 주는 국가이기 때문에 구글이 잘못을 인정해 버리면 소송 진행 시 불리해질 수 있으므로 모르쇠로 일관하는 것으로 보인다.
4. 반응
- 구글을 상대로 제대로 소송해서 돈 뜯어낼 만하다는 반응이 많이 쏟아졌다. # #
- 카리사 헤식 노스캐롤라이나법대 교수는 아동 성학대를 근절하기 위해 IT 기업의 협조는 필수적이나 계정 복원 등 사후 조치도 이루어져야 한다고 지적했다. #