전환이 희소한 서비스에서 A/B 테스트하기

제품 실험을 주 단위로 돌려보려다 첫 주에 막혔다. 판정할 지표가 없었다. 정확히는 있는데 쓸 수가 없었다. 우리가 궁극적으로 올리고 싶은 건 결제인데, 결제는 주 단위로 보면 건수가 너무 적어서 어떤 변화를 줘도 통계적으로 구분이 안 된다. 이 문제를 어떻게 우회했는지, 그리고 그 과정에서 밟은 함정들을 정리해둔다. 회사마다 숫자는 다르겠지만 구조는 비슷할 것 같다. 왜 최종 전환으로는 판정할 수 없나 필요한 표본 수는 대략 이 식을 따른다. 유의수준 5%(양측), 검정력 80% 기준이다. ...

9월 9, 2026 · Jun Kang

AI가 먹힌 업무와 안 먹힌 업무 — 직군별로 갈린 결과

지난 편에 이어서. 1:1을 돌면서 들은 이야기를 직군별로 정리하다 보니 뚜렷한 경계가 하나 보였다. 시간이 절반으로 준 쪽 가장 극적으로 줄어든 건 콘텐츠·영상 제작 쪽이었다. 원래는 웹 채팅 화면에서 이것저것 물어가며 작업하던 걸, 작업 환경 안에서 바로 돌리는 방식으로 바꾸면서 흐름이 끊기지 않게 됐다. 이미지 프롬프트, 영상 프롬프트, 설명에 들어갈 문구까지 한 번에 이어서 만들 수 있게 되니 한 편 만드는 시간이 절반 이하로 줄었다는 이야기를 들었다. 마케팅 쪽에서도 비슷한 패턴이 나왔다. 2주에 한 번 회의 내용을 정리해서 성과 자료로 옮기는 작업, 인기 있는 콘텐츠 포맷을 참고해 기획안 초안을 잡는 작업. 이런 건 잘 먹혔다. ...

9월 4, 2026 · Jun Kang

AI 도구를 전사에 깔고 한 달 — 토큰 사용량은 생산성이 아니다

AI 도구를 개발팀 밖까지 열고 한 달이 지났다. 사용량을 집계하기로 하면서 고민이 하나 생겼는데, 그 이야기부터 해야 할 것 같다. 재기 시작하면 그게 평가가 된다 한 달을 굴려봤으니 현황을 알아야 했다. 누가 어떻게 쓰고 있는지, 어디서 막히는지. 그러려면 어떤 형태로든 숫자가 필요했다. 그런데 사용량을 집계한다고 공지하는 순간, 그 숫자는 자동으로 평가표로 읽힌다. 아무리 “현황 파악용"이라고 적어도 마찬가지다. 적게 나온 사람은 위축되고, 그러면 그 다음 달에는 숫자를 위해 쓰게 된다. 도구를 익히라고 한 일이 도구를 쓴 척하라는 일이 되어버린다. ...

8월 25, 2026 · Jun Kang

티켓 1건은 1건이 아니다 — 개발팀 지표에 무게를 붙인 이야기

개발팀 지표를 손봤다. 몇 달 돌려보고 나니 정리해둘 만해서 남긴다. 문제는 단위였다 기존에는 티켓을 전부 “1건"으로 셌다. 그런데 실제로 열어보면 이렇다. 어떤 티켓: 화면 파일 하나, 11줄 어떤 티켓: 14개 파일, 430줄, 4개 레이어 제목만 보면 둘 다 “문구 하나 고치는 일"처럼 보인다. 실제 작업량은 스무 배쯤 차이가 난다. 티켓 개수나 버그 개수로 재면 이 차이가 통째로 사라진다. 그러면 한 달 결산이 실제로 우리가 한 일과 어긋나기 시작한다. 무거운 작업을 한 사람이 저평가되는 것도 문제지만, 그보다 회사가 어디에 힘을 쓰고 있는지를 잘못 읽게 되는 게 더 큰 문제였다. ...

8월 16, 2026 · Jun Kang

2025년 회고 - CTO로서의 성장과 변화

2025년 회고 기술의 완성도에서, 팀과 가치의 완성도로 2025년은 산군에게 많은 것이 빠르게 변한 해였다. 데이터는 단순히 커진 수준을 넘어 훨씬 더 복잡해지고 방대해졌고, 데이터 구조화와 서비스 개선을 통해 유의미한 유저 유입이 늘어나면서 MAU가 빠르게 성장했다. 그 결과 플랫폼 전반의 조회량과 사용 패턴 역시 이전과는 비교할 수 없을 정도로 확대되었고, AI는 실험이나 데모를 넘어 실제 서비스의 일부로 자리 잡기 시작했다. 작년 Google AI Academy 선정을 통해 지원받은 리소스와 협업을 기반으로 AI는 점점 더 서비스 깊숙한 곳으로 들어오기 시작했고, 그 흐름의 연장선에서 연말 Series A 투자 유치까지 이어졌다. ...

1월 9, 2026 · Jun Kang