AI가 만들었는데 왜 안전하다고 말할까? - 얼굴 사진을 받는 무료 도구들
- 공유 링크 만들기
- X
- 이메일
- 기타 앱
요런 파일들도 다 외부로 안 나가게 안전하게 그리고 다운로드 받는 파일도 메타데이터 다 제거해서
무료 이미지 편집 도구를 공개하는 영상을 보다가 들은 말이다. 만든 사람은 채널을 O년 운영한 기념으로 구독자들에게 뭐라도 돌려주고 싶었다고 했고, 링크는 누구나 접근할 수 있게 열어뒀다고 했다. 기능 소개가 한참 이어지다가 끝자락에 이 한 줄이 지나간다.
지나가는 한 줄인데, 이 도구에 대해 할 수 있는 말 중에서 제일 큰 말이다.
내가 궁금했던 건 그 문장을 받아 든 사람이 그걸 확인할 방법이 있느냐였다. 만든 사람 실력이 좋든 나쁘든 똑같이 물을 수 있는 질문이다.
채널 이름도 사이트 이름도 적지 않겠다. 이 글에 필요한 건 인용한 문장과 기능 목록이고, 이름이 들어가는 순간 글의 성격이 바뀐다.

파일이 외부로 안 나간다는 말
따져 보면 저 문장이 맞으려면 여러 개가 같이 맞아야 한다. 편집이 브라우저 안에서 끝나야 하고, 같은 페이지 광고나 분석 스크립트가 캔버스를 안 읽어가야 하고, 잠깐 서버에 올렸다 지우는 구간도 없어야 한다. 몇 개 더 있다.
근데 그게 하나도 화면에 안 보인다. 사진을 붙여 넣으면 모자이크가 얹히고 다운로드가 된다. 파일이 서버를 한 바퀴 돌고 왔든 브라우저 안에서만 돌았든 화면에서 벌어지는 일은 같다.
확인하려면 개발자도구 네트워크 탭을 켜고 파일을 올려 봐야 한다. 그걸 누가 하나. 나도 뒤에 나올 도구 모음 사이트는 열어서 문구까지 읽었지만 네트워크 탭은 안 열었다. 게을러서만은 아니고, 한 번 봐도 그날 그 배포본만 본 거라서. 이 이야기는 뒤에서 다시 하겠다.
같은 확인을 배포하는 사람도 해야 한다. 코드를 직접 썼든 시켜서 받았든 결과물이 파일을 어디로 보내는지는 열어봐야 알 수 있다. 함수 하나를 읽어서 끝나는 일이 아니고, 페이지에 실린 것 전부가 무엇을 하는지 봐야 한다.
영상에서 모자이크 기능을 소개할 때 화자가 사용 맥락을 직접 지정한다.
블로그 중에 외부에서 사진 촬영 많이 하시는 분들 중에 남의 얼굴이 나올 때 일일이 모자이크 하셨던 분들
나는 이 문장을 이 글에서 제일 중요한 인용으로 본다. 기능을 만든 사람 본인이 쓰임새를 정확히 알고 있고, 그 쓰임새가 제3자의 얼굴이다. 카페에서 찍었는데 뒤쪽 테이블에 앉은 사람이 같이 나온 사진, 행사장에서 찍었는데 옆줄 사람이 정면으로 잡힌 사진이다.
얼굴 주인은 찍히는 데 동의한 적도 없고 그 사진이 어디 올라가는지도 모른다. 올리는 사람은 가려 주려는 마음으로 올리는데, 그 사이트가 파일을 어디로 보내는지는 그 사람도 모른다. 기능 목록에선 모자이크가 QR 생성 옆에 나란히 있지만, 좀 다른 물건이 섞여 있는 거다.
얼굴을 가리려면 가려지지 않은 원본을 먼저 올려야 한다. 가려 주려던 얼굴이 제일 선명하게 찍힌 파일이 제일 먼저 올라간다.
메타데이터를 다 제거해 준다는 말도 있었는데, 그 말이 가리키는 건 내려받는 파일이다. 올라간 원본이 어떻게 됐는지는 다른 질문이고, 그 답은 영상에도 없고 화면에도 없었다. 그런데 문장 하나에 붙어 있으니 같이 해결된 것처럼 들린다.
8월에 나는 개발자 커뮤니티 게시판의 "만들었습니다" 글 60건을 세어서 만드는 건 딸깍 한 번이 됐는데 고치는 건 그렇지 않다는 글을 쓴 적이 있다. 딸깍으로 만든 건 딸깍으로 복사되지만 딸깍으로 고쳐지지는 않는다로 끝낸 글이다. 그때 다룬 위험은 만든 사람 본인의 것이었다. 손해를 보는 사람과 결정을 한 사람이 같으니, 각자 알아서 감당할 일에 가깝다고 봤다.
이번 건 그 결과물이 공개 주소를 달고 나가서 남의 파일을 받기 시작한 경우다. 여기서부터는 결정한 사람과 손해를 보는 사람이 달라진다. 잘못되면 만든 사람은 사이트를 내리면 된다. 사진에 찍혔던 사람은 내릴 것이 없다.
내가 이 소재를 붙잡은 건 이것 때문이다.
예전엔 이런 도구를 만들려면 파일 받고, 디코딩하고, 캔버스에 그리고, 다시 내보내는 걸 직접 짜야 했다. 그걸 해 본 사람은 적어도 파일이 어디로 가는지는 답할 수 있었다. 만들 줄 알아야 배포할 수 있었으니 그 정도는 그냥 따라왔다.
지금은 만드는 단계만 건너뛸 수 있다. 리사이즈, 워터마크, 배경 제거, 얼굴 모자이크, QR, 화면 녹화까지 기능이 열 개 넘게 한 사이트에 들어가 있었다. 예전 같으면 이 목록 하나가 프로젝트였다.
만드는 시간을 건너뛰면서 같이 빠진 게 하나 있다. 만들 줄 알아야 배포할 수 있던 시절에 저절로 따라오던, 파일이 어디로 가는지 확인하는 능력이다.
그런데 그게 빠진 게 잘 안 보인다. 만드는 과정에 묻어 있던 거라 과정이 없어지면 같이 없어진 줄도 모른다. 받은 코드를 붙이기만 하면 데이터가 어디로 가는지 볼 일이 아예 없다.
그런데 배포자가 하는 말의 크기는 예전과 똑같다. "파일이 외부로 안 나갑니다"는 예전에도 지금도 같은 무게의 문장이다. 달라진 건 그 문장을 말하는 데 확인이 더 이상 필요하지 않다는 것뿐이다.
만드는 시간은 확 줄었는데, 배포한 뒤에 들여야 하는 시간은 그대로다.
영상에서 운영 계획을 말하는 부분이 세 번 나온다. 세 번 다 "많이 안 쓸 거예요"로 시작한다. 비용을 설명할 때는 이렇게 나온다.
무슨 뭐 트래픽 비용인가 뭔가 있을 것 같다고 하더라고요
세 번째에는 조건이 붙는다.
너무 혹시나 많이 쓰게 되면은 비용이 발생하던가 아니면은 구독자분들한테만 제공을 해 주던가
솔직하긴 했다. 걸리는 건 순서다. 비용을 따져 보기 전에 운영 계획부터 말한다. 파일 받는 서비스는 브라우저에서 처리하냐 서버에서 하냐에 따라 비용이 완전히 다르다. 그걸 알면 미리 셀 수 있고, 모르면 청구서가 먼저 알려준다.
임계가 왔을 때의 선택지는 유료로 돌리거나, 구독자에게만 열거나, 내려버리거나, 넘기는 거다. 영상에서는 앞의 둘을 말했고, 뒤의 둘은 말하지 않았다. 뒤의 둘이 더 자주 일어난다. 앞의 둘은 관리할 일이 늘어나는 선택이고, 뒤의 둘은 관리를 끝내는 선택이니까. 구독자에게만 열려면 인증을 붙여야 하는데, 그러면 회원가입이 없다는 말이 먼저 깨진다.
이용자는 이 계획 전체를 모르는 채로 얼굴 사진을 올린다. 들은 말은 "써 보면서 불편한 점은 제가 계속 업데이트 드릴 거예요"다. 지킬 마음으로 한 말이 맞을 거다. 다만 약속의 유효 기간이 얼마인지는 말한 사람도 모른다. 혼자 운영하는 도구에서 가장 흔하게 일어나는 일은 조용해지는 거다. 댓글에 답이 늦어지고, 업데이트 간격이 벌어지고, 그러다 멈춘다. 멈춘 사이트와 돌아가는 사이트는 겉으로 구분되지 않는다. 둘 다 잘 열린다.
자동 발행
영상에 이런 말도 있다.
자동 발행 포스팅이나 이런 걸 싹 다 뺐습니다 왜냐면은 어유징이거든요
이건 진짜 판단에 가까웠다. 자동 발행을 붙이면 사람이 몰린다. 그게 왜 나중에 문제가 되는지 알려면 검색 엔진이 그런 패턴을 어떻게 처리하는지에 대한 경험이 있어야 하는데, 있으니까 뺀 거다. 기능을 더 넣는 게 아니라 빼기로 판단한 것도 흔한 일이 아니고.
동기를 감추지도 않았다. "제가 제일 싫어하는 단어가 선한 영향력입니다"라고 하고, 이어서 "저도 저를 위해서 하는게 맞습니다"라고 한다. 그 말 바로 다음에 오는 것이 "혹시나 도움이 되셨다면 요런 거 한 번씩 클릭해 주시면"이다. 영상에서 두 문장은 붙어 있다.
여기가 제일 조심스럽다. 이 사람은 아는 영역에선 판단을 하고 있고 동기도 솔직하다. 성실함 문제가 아니다. 블로그 운영에 뭐가 해로운지는 3년 경험이 안다. 근데 파일 처리는 해 본 적이 없는 일이다. 자동 발행이 어뷰징인 건 겪어서 알지만, 광고 스크립트가 캔버스를 읽을 수 있다는 건 겪어 볼 일이 없다. 사고 나기 전까진.
성실한 사람이 자기가 모르는 부분에 대해 확신에 찬 문장을 말하게 되는 구조인 것 같다. 내가 검증할 수 없는 주장이 확신으로 전달되는 구조를 따로 정리하면서 한 번 본 모양이기도 하다. 그때도 거짓말을 하는 게 아니라, 판정이 날 수 없는 구간에 대해 판정이 난 것처럼 말하는 것이 문제였다.
커뮤니티 개발자 게시판에 올라온 온라인 도구 모음 사이트도 직접 열어봤다. 도구가 350개를 넘고, 회원가입이 없고, PDF, 이미지, 오디오, 비디오, OCR까지 분류가 나뉘어 있었다. 파일을 다루는 도구에는 이렇게 적혀 있었다.
파일이 서버에 저장되지 않아 안전한 무료
영상에서 들은 말과 같은 구조다. 안 나간다는 사실에 안전하다는 결론까지 붙어 있다.
350개를 보면서 든 생각. 배포는 사이트 하나인데 확인은 350번 해야 하는데, 문구는 사이트에 한 번 걸려 있다. 다 확인했든 안 했든 이용자는 알 길이 없다.
게시글 제목이 "2탄"이었고, 사이트 하단에는 제휴 마케팅 공시가 붙어 있었다. 공시를 붙여둔 건 정직한 일이다. 내가 눈여겨본 건 그게 뜻하는 운영 방향이다. 수익이 트래픽에 달려 있는 사이트는 트래픽을 계속 키워야 하고, 도구 모음 사이트에서 트래픽을 키우는 방법은 도구를 계속 늘리는 거다. 도구를 늘리는 건 이제 금방 되는 일이고, 늘어난 도구마다 파일이 어디로 가는지 보는 건 여전히 오래 걸리는 일이다. 첫 번째 도구와 350번째 도구에 같은 표기 문구가 걸려 있는데, 그 문구를 받치는 작업량은 350배가 되어 있다.
얼굴 자동 감지와 배경 제거는 기능 목록에서 다른 면에서도 성격이 다르다. 나머지는 이미지를 자르고 붙이고 크기를 바꾸는 일인데, 이 둘은 학습된 모델이 있어야 하고, 공개된 가중치 중에는 상업적 사용에 조건이 붙은 것이 있다. 광고가 붙은 무료 서비스가 거기 해당하는지는 문서를 찾아 읽고 어느 조항이 내 경우인지 대조해야 알 수 있는데, 그건 코드를 쓰는 일과 전혀 다른 일이다.
만드는 과정을 건너뛸 때 라이선스 확인이 특히 잘 빠진다. 라이브러리를 붙이는 순간에는 그게 동작하느냐만 보이고, 그 라이브러리가 어떤 조건으로 배포됐는지는 화면 어디에도 안 뜨니까. 동작하면 넘어가게 된다. 조건을 어겼다는 사실은 나중에 누가 연락을 해 와야 알게 되는 종류다.
회원가입이 없다는 말도 개인정보를 안 받는다는 뜻으로 받아들여지기 쉽다. 이름과 이메일을 안 받는 건 맞는데, 얼굴 사진은 그 자체가 개인을 식별하는 정보다. 전부 브라우저 안에서 처리한다면 이야기가 달라질 수 있다. 파일이 이용자 기기 밖으로 안 나가면 다루는 행위 자체가 성립하지 않으니까. 그래서 이 구분이 중요한데, 두 경우가 화면에서 똑같이 생겼다는 게 앞에서 적은 문제다.
배포하는 사람 입장에서 보면 이건 배포 전에 정해두고 시작해야 하는 항목이다. 브라우저 안에서 끝내기로 정하면 그 제약을 지키면서 기능을 짜야 하고, 서버를 쓰기로 정하면 보관 기간과 삭제 시점과 접근 권한을 같이 정해야 한다. 둘 중 어느 것인지 모르는 채로 배포되면 나중에 답할 수 없는 질문이 생긴다. 그 얼굴 사진들이 지금 어디 있느냐는 질문이다.
배포한 다음
배포한 날 안전했느냐만 물으면 반쪽짜리 질문이 된다. 시간이 훨씬 긴 건 배포한 다음이다.
의존하는 라이브러리에서 취약점이 나오는 건 늘 있는 일이다. 알림을 받는 경로가 있어야 하고, 그게 내 경우에 해당하는지 판단할 수 있어야 하고, 고친 걸 다시 올릴 수 있어야 한다. 셋 다 만드는 능력과 다른 능력이고, 배포한 날이 아니라 몇 달 뒤에 필요해진다.
알림 받는 것부터 준비가 좀 필요하다. 뭘 쓰는지 목록이 있어야 하는데, 만드는 과정을 건너뛰면 이게 제일 먼저 흐려진다. 기능을 말하면 라이브러리가 딸려 들어오고, 화면이 뜨면 뭐가 들어왔는지는 그냥 잊힌다.
보안 업데이트를 오래 안 한 노후 서버에서 침해가 일어난 건을 따로 정리했을 때 나한테 제일 신경 쓰였던 부분이 발견 시점이었다. 서버를 점검하다가 두 달 전에 이미 일어난 일을 발견했고, 두 달 동안 화면은 멀쩡했다. 파일을 받는 무료 도구도 같은 모양이다. 뚫려도 화면은 그대로 돌아간다. 모자이크는 계속 얹히고 다운로드도 계속 된다. 이상해진 걸 알아차릴 사람이 있느냐가 전부인데, 그 사람은 로그를 볼 수 있어야 한다.
트래픽이 붙은 도구 사이트는 거래되기도 한다. 만든 사람이 지치거나 비용이 부담스러워지는 시점과 제안이 들어오는 시점이 대체로 겹친다. 넘어간 다음에도 주소는 그대로고, "파일이 서버에 저장되지 않습니다"라는 문구도 그대로다. 브라우저 안에서 처리하던 코드가 다음 배포에서 서버로 올라가도 이용자가 보는 것은 달라지지 않는다. 북마크해 둔 사람은 계속 쓴다.
내가 네트워크 탭을 안 열었던 이유가 여기 있다. 열어서 요청이 안 나가는 걸 확인했어도, 다음 주에 같은 주소에서 같은 화면을 봤을 때 그 확인이 유효한지는 다시 알 수 없다. 확인을 한 번 하면 끝나는 종류의 대상이 아닌 거다.
같은 개발자 게시판에서 1인 개발자가 쓴 사진 정리 앱 이야기도 읽었다. 아내 사진첩을 정리해 주려고 만들었다고 했고, 끝에 App Store 링크가 걸려 있었다. 이것도 자기가 만든 것을 알리는 글이다.
이 글은 광고에 쓴 돈 $80.49, 광고로 산 설치 45건, 설치 하나에 $1.79 를 적고, 9월 설치 107건에 개발자 수익 $40 을 나란히 놓는다. 자기 앱이 돈이 안 된다는 계산을 자기가 먼저 적고, 그래서 광고를 껐다고 썼다. ChatGPT 리퍼러로 들어온 조회 20건에 설치 16건이 나왔다는 부분 아래에는 "왜 그런지는 저도 확실히 몰라요"라는 소제목을 달고 이렇게 적는다.
근데 표본이 20명이에요. 이걸로 뭘 단정하긴 어렵더라고요.
자기가 못 본 것도 적는다. 광고 숫자만 들여다보느라 이 경로를 두 달 넘게 못 봤다고 썼고, 광고를 끄고 나니 App Store 검색 노출이 떨어진 건 예상하지 못했다고 썼다.
이 글에는 선이 하나 그어져 있다. 확인한 값은 단위까지 적고, 확인하지 못한 값은 모른다고 적는다. 앞에서 본 영상과 도구 사이트에는 그 선이 없었다.
나는 코드에 이름을 적는 것을 다룬 적이 있다. 회계사의 서명란처럼, 틀렸을 때 누구 이름이 적히느냐를 본 글이었다. 무료 도구에는 이런 고려가 없다. 돈을 안 받으니 계약도 없고, 약관도 대개 없고, 문제가 생겼을 때 연락할 곳도 댓글창뿐이다. 예전에는 그래도 됐다. 만들 수 있는 사람만 배포할 수 있었고, 그 사람은 최소한 자기가 무엇을 보장하고 무엇을 보장 못 하는지 구분할 수 있었으니까. 서명란이 없어도 그 구분이 대신하고 있었다.
지금은 그 구분 없이도 배포가 된다. 그리고 보장한다는 문장은 오히려 더 선명하게 적힌다. 확인해 본 사람은 "아마 안 나갈 겁니다"라고 말하고, 확인해 보지 않은 사람은 "안 나갑니다"라고 말한다. 문장만 보면 뒤의 말이 더 믿음직하다. 표본이 20명이라 단정하기 어렵다고 적은 문장은 읽는 사람을 설득하는 데 아무 도움이 안 되는데, 그 문장이 있어서 나는 나머지 숫자를 어디까지 믿을지 가늠할 수 있었다.
내가 무료 도구를 쓸 때 보는 것이 하나 바뀌었다. 만든 사람이 얼마나 성실해 보이는지는 이제 덜 본다. 이 화면이 틀렸을 때 그걸 누가 언제 알게 되는지를 본다. 남의 얼굴이 찍힌 사진을 올릴 때는 특히 그렇다. 그 질문에 답할 사람이 어디에도 없으면, 답을 가진 사람이 아무도 없다는 뜻이기도 하니까.
- 공유 링크 만들기
- X
- 이메일
- 기타 앱
댓글
댓글 쓰기