비개발 직군과 AI 보안

지난 편에서 정리한 다섯 가지 위험 패턴을 어떻게 가이드로 만들었는지에 대한 이야기다. 금지 목록의 한계 처음에는 하지 말아야 할 것들의 목록을 만들려고 했다. 그런데 쓰다 보니 이 방식이 잘 작동하지 않을 것 같았다. 이유는 두 가지다. 목록에 없으면 괜찮다고 판단하게 된다. 사람은 규칙을 적용할 때 목록을 조회하듯 쓴다. 새로 나온 도구, 처음 해보는 작업은 당연히 목록에 없고, 그러면 “금지된 게 아니니까"로 넘어간다. 정작 위험한 건 늘 새로운 상황이다. 목록은 항상 현실보다 늦다. AI 도구는 몇 달 단위로 할 수 있는 일이 바뀐다. 지난달에 만든 목록이 이번 달에 이미 부족하다. 목록을 유지보수하는 속도가 도구가 변하는 속도를 못 따라간다. ...

AI 도구를 개발팀 밖으로 열면서 제일 오래 고민한 게 보안이었다. 한 달쯤 지나 다들 도구에 익숙해졌을 때 전사 가이드를 한 번 돌렸는데, 그 내용을 두 편으로 정리해둔다. 문제의 성격 AI 코딩 도구가 이전 도구들과 다른 지점은 하나다. 코드를 작성하고 실행할 권한을 준다는 것. 기존에 비개발 직군이 쓰던 도구들은 대체로 만들어진 기능 안에서만 움직였다. 스프레드시트로 할 수 있는 사고의 최대치는 파일 하나 날리는 것이었다. 그런데 지금은 파일을 읽고, 스크립트를 돌리고, 네트워크로 나가고, 서버에 접속할 수 있다. ...