금지 목록 대신 판단 기준 — 비개발 직군 AI 보안 가이드를 이렇게 썼다

지난 편에서 정리한 다섯 가지 위험 패턴을 어떻게 가이드로 만들었는지에 대한 이야기다.

금지 목록의 한계

처음에는 하지 말아야 할 것들의 목록을 만들려고 했다. 그런데 쓰다 보니 이 방식이 잘 작동하지 않을 것 같았다.

이유는 두 가지다.

목록에 없으면 괜찮다고 판단하게 된다. 사람은 규칙을 적용할 때 목록을 조회하듯 쓴다. 새로 나온 도구, 처음 해보는 작업은 당연히 목록에 없고, 그러면 “금지된 게 아니니까"로 넘어간다. 정작 위험한 건 늘 새로운 상황이다.

목록은 항상 현실보다 늦다. AI 도구는 몇 달 단위로 할 수 있는 일이 바뀐다. 지난달에 만든 목록이 이번 달에 이미 부족하다. 목록을 유지보수하는 속도가 도구가 변하는 속도를 못 따라간다.

그래서 목록은 예시로만 남기고, 판단 기준을 본문으로 올렸다.

세 가지 질문

애매할 때 스스로에게 묻는 질문 세 개로 정리했다.

• 이게 외부에 알려졌을 때 회사가 곤란한 데이터가 들어 있나?
• 내가 만든 걸 누군가에게 공유했을 때 그 사람이 봐도 되는 정보만 들어 있나?
• 내일 내 노트북이 없어졌을 때 무슨 일이 벌어질까?

하나라도 걸리면 만들기 전에 멈추고 물어보기로 했다.

이 세 질문을 고른 기준이 있다. 전부 기술 지식 없이 답할 수 있는 질문이라는 것이다. “이 데이터가 개인정보에 해당하나요"는 비개발 직군에게 어려운 질문이지만, “이게 기사로 나오면 곤란한가요"는 누구나 판단할 수 있다.

보안 가이드가 실패하는 흔한 이유가 판단에 전문 지식을 요구하기 때문이라고 생각한다. 판단을 못 하면 사람들은 그냥 안 하거나 그냥 다 한다. 둘 다 나쁘다.

대안까지 같이 적었다

각 항목을 “하지 마세요"로 끝내지 않고 “대신 이렇게 하세요"를 붙였다. 예를 들면 이런 식이다.

두 번째 줄이 특히 반응이 좋았다. 비개발 직군 입장에서 “키를 코드에 넣지 마세요"는 그래서 어떻게 하라는 건지 모르는 지시다. 그런데 AI에게 한 줄 더 말하면 알아서 분리해준다는 걸 알려주면 바로 실행할 수 있다.

가이드를 쓰면서 계속 확인한 게 이거였다. 읽고 나서 당장 뭘 해야 할지 아는가. 모르면 그 항목은 다시 썼다.

묻는 비용을 낮추는 데 제일 신경 썼다

마지막 절에 이 문장을 넣었다.

“이거 만들어도 돼요?“가 “만들고 나서 큰일났어요"보다 100배 낫습니다. 사소해 보여도 편하게 물어봐주세요. 물어본다고 뭐라 안 합니다.

이게 가이드에서 제일 중요한 문장이라고 생각한다.

보안 규칙을 처벌 중심으로 만들면 사고가 났을 때 숨기게 된다. 그러면 조직은 사고를 늦게 알게 되고, 늦게 아는 것이 사고 자체보다 큰 피해가 되는 경우가 많다. 키가 노출됐을 때 30분 안에 알면 폐기하고 끝나지만, 일주일 뒤에 알면 이미 다른 이야기다.

그래서 규칙의 강도보다 물어보는 비용과 신고하는 비용을 낮추는 쪽에 무게를 뒀다. 물어볼 창구를 명시하고, 물어본 것에 대해 절대 지적하지 않기로 했다. 이건 한 번만 어겨도 신뢰가 무너지는 종류의 약속이라 처음부터 신중하게 적었다.

마무리는 짧게

가이드 끝은 이렇게 맺었다.

AI 도구는 개발자급 권한을 줍니다. 그만큼 개발자급 책임도 같이 옵니다. 어렵게 생각할 필요 없어요 — 의심되면 멈추고 묻기, 이거 하나면 대부분은 안 일어납니다.

길게 쓸수록 안 읽는다. 다섯 가지 패턴과 세 가지 질문, 그리고 마지막 한 줄. 실제로 기억에 남기를 바란 건 마지막 한 줄뿐이었다.

돌아보며

이 가이드를 쓰면서 배운 건, 보안 가이드는 보안 문서가 아니라 커뮤니케이션 문서라는 것이었다.

기술적으로 정확한 문서를 쓰는 건 어렵지 않다. 어려운 건 그걸 읽은 사람이 다음 주 화요일 오후에 애매한 상황을 만났을 때 실제로 떠올릴 수 있게 만드는 것이다. 그러려면 항목 수를 줄여야 하고, 판단 기준을 쉽게 만들어야 하고, 무엇보다 물어보는 게 안전하다고 믿게 만들어야 한다.

아직 완성됐다고 생각하지 않는다. 도구가 할 수 있는 일이 또 바뀌면 다시 써야 할 것이다. 다만 세 가지 질문은 꽤 오래 갈 것 같다.

자주 묻는 질문

Q. 비개발 직군에게 AI 도구를 열어줄 때 가장 먼저 정해야 할 것은 무엇인가요?

금지 항목의 목록보다 판단 기준을 먼저 정해야 합니다. 목록은 그 안에 없는 상황에서 무력하고, 새로운 도구와 업무가 계속 생기기 때문에 목록은 언제나 현실보다 늦습니다. “이게 외부에 알려졌을 때 곤란한가”, “공유받은 사람이 봐도 되는 정보만 들어 있나”, “내 기기를 분실하면 무슨 일이 생기나” 같은 질문 형태의 기준이 더 오래 갑니다.

Q. AI 도구 사용 규칙을 만들 때 흔히 하는 실수는 무엇인가요?

규칙을 어겼을 때의 처벌을 강조하는 것입니다. 그러면 사고를 낸 사람이 숨기게 되고, 조직은 사고를 늦게 알게 됩니다. 사고 자체보다 늦게 아는 것이 더 큰 피해로 이어지므로, 물어보는 비용과 신고하는 비용을 최대한 낮추는 방향으로 설계하는 편이 안전합니다.