감으로 하던 매매를 '규칙'으로 바꾸는 법 — 자동매매로 넘기기 전, 직관을 시스템으로 만드는 5단계

"저는 감이 꽤 좋은 편이에요. 이걸 봇으로 만들면 되지 않나요?" 자동매매 상담에서 가장 자주 듣는 말입니다. 그런데 막상 이야기를 풀어보면, 그 '감'은 대개 문장으로 옮기는 순간 흩어집니다. "많이 빠지면 사요", "분위기 좋을 때 들어가요" — 사람끼리는 통하지만, 봇은 이 말을 단 한 줄도 실행하지 못합니다. 봇이 아는 것은 오직 관측 가능한 숫자와 조건뿐이기 때문입니다. 그래서 자동매매의 진짜 첫 단계는 프로그래밍이 아니라, 머릿속 흐릿한 판단을 검증 가능한 규칙으로 옮기는 일입니다. 이 글은 그 변환을 다섯 단계로 나눠, 코딩을 몰라도 스스로 해볼 수 있게 안내합니다. 미리 밝혀둘 것 하나 — 이 글은 어느 방향으로 갈지도, 얼마를 벌지도 예측하지 않습니다. 규칙화는 수익의 약속이 아니라 판단을 재현 가능하게 만드는 방법입니다.

1. '감'과 '규칙'은 대체 무엇이 다른가

먼저 용어부터 정리합니다. 시장에서 '감으로 한다'는 것은 학술적으로는 재량(discretionary) 매매에 해당합니다. 매 순간의 상황을 사람이 보고, 그때그때 판단해 결정하는 방식입니다. 반대편에 있는 것이 규칙 기반(rule-based)·시스템 매매입니다. 미리 정해둔 조건이 충족되면 정해진 대로 행동하고, 그 순간의 기분이나 뉴스 헤드라인에 즉흥적으로 흔들리지 않습니다. (자동매매·시스템·알고리즘·퀀트가 어떻게 겹치고 갈라지는지는 헷갈리는 트레이딩 용어 4가지 정리에서 지도처럼 다뤘습니다. 이 글은 그중 재량 → 규칙이라는 축 하나만 깊게 팝니다.)

핵심 차이는 '정보가 어디에 있느냐'입니다. 재량 매매자의 판단 근거는 대부분 머릿속에 있습니다. 수백 번의 차트를 보며 쌓인 패턴 감각, "이럴 땐 위험하다"는 몸의 신호 같은 것들이죠. 이런 지식을 인지과학에서는 암묵지(暗默知, tacit knowledge)라고 부릅니다 — 분명히 알고 있고 실제로 잘 쓰지만, 말로 온전히 풀어내기 어려운 지식입니다. 자전거 타는 법을 문장으로 완벽히 설명할 수 없는 것과 같습니다. 규칙 매매는 이 암묵지를 명시지(明示知, explicit knowledge)로 — 글과 숫자로 밖에 꺼내 놓은 상태입니다.

봇은 암묵지를 읽지 못합니다. 봇에게 넘길 수 있는 것은 명시지뿐입니다. 그러니 "감이 좋은데 자동화가 안 된다"는 문제의 정체는 대개 실력 부족이 아니라, 좋은 암묵지가 아직 명시지로 번역되지 않은 상태입니다. 번역만 하면 됩니다. 그리고 그 번역이 이 글의 전부입니다.

2. 왜 좋은 감이 자동화를 거부할까 — 세 가지 이유

번역이 그렇게 간단하면 누구나 했을 겁니다. 감이 규칙화에 저항하는 데는 구조적인 이유가 있습니다. 세 가지만 알아둬도 함정을 피할 수 있습니다. 미리 말해두면, 이 세 이유는 당신의 감이 나빠서 생기는 문제가 아닙니다. 오히려 감이 잘 작동할수록 뇌는 판단 과정을 자동화해 의식 아래로 숨겨버리기 때문에, 결과적으로 '왜 그렇게 했는지'를 스스로 설명하기 더 어려워집니다. 그래서 실력이 좋은 사람일수록 규칙화의 첫 관문이 의외로 높습니다.

① 맥락 의존 — "그때그때 다르다"의 정체

재량 매매자에게 "왜 샀냐"고 물으면 흔한 답이 "그땐 상황이 좋았으니까"입니다. 문제는 그 '상황'이 매번 다른 요소의 조합이라는 점입니다. 어떤 날은 거래량, 어떤 날은 뉴스 온도, 어떤 날은 다른 종목과의 관계. 사람의 뇌는 이 수십 개의 단서를 동시에·무의식적으로 저울질하는 데 능하지만, 그래서 어떤 단서에 얼마나 가중치를 뒀는지 스스로도 정확히 모릅니다. 규칙화의 첫 고통은 바로 이 지점 — "내가 진짜 무엇을 보고 결정했나"를 캐내는 데 있습니다.

② 비대칭 기억 — 성공은 규칙처럼, 실패는 예외처럼

기억은 공정하지 않습니다. 감으로 크게 번 거래는 "역시 내 직감이 맞았다"며 규칙의 증거로 저장되고, 크게 잃은 거래는 "그날은 특수한 상황이었다"며 예외로 밀려납니다. 그 결과 머릿속 '규칙'은 실제보다 훨씬 그럴듯해 보입니다. 이건 개인의 문제가 아니라 인간 인지의 기본 편향이며, 트레이딩 심리·행동경제학에서 다룬 사후확신·선택적 기억과 직결됩니다. 규칙화가 유익한 진짜 이유가 여기 있습니다 — 밖으로 꺼내 놓으면 실패 사례를 예외로 숨길 수 없습니다.

③ 사후 편집 — 결과를 알고 나서 이유를 만든다

"오를 것 같아서 샀는데 올랐다"는 문장은 위험합니다. 오른 걸 보고 나서 '오를 것 같았다'는 이유를 거꾸로 만들어내기 쉽기 때문입니다. 감을 규칙으로 옮길 때는 반드시 결정 시점에 실제로 관측 가능했던 정보만으로 규칙을 세워야 합니다. 결과를 알고 나서야 알 수 있는 정보(예: "바닥에서 샀다")를 규칙에 넣으면, 그 규칙은 과거에는 완벽해 보이지만 미래엔 한 번도 작동하지 않습니다. 이 함정은 뒤에서 다시, 검증 단계에서 다룹니다.

3. 좋은 규칙 한 줄의 조건 — 관측·경계·재현·반증

변환에 들어가기 전에, 도착점의 모양을 알아야 합니다. 봇이 실행할 수 있는 '좋은 규칙 한 줄'은 네 가지 성질을 갖습니다. 이 넷을 통과하지 못하면 아직 규칙이 아니라 소망입니다.

네 번째 '반증 가능'이 특히 중요합니다. 과학과 점술의 차이가 여기서 갈립니다. "이 종목은 언젠간 오른다"는 반증할 수 없어 규칙이 될 수 없지만, "진입 후 N일 안에 목표에 못 닿으면 청산한다"는 명확히 반증됩니다. 규칙을 세울 때마다 스스로 물어보세요 — "이 규칙이 틀렸다는 걸 나는 무엇으로 알 수 있나?" 답이 없으면 그건 규칙이 아닙니다.

4. 직관을 시스템으로 만드는 5단계

이제 본론입니다. 흐릿한 감 하나를 골라, 아래 다섯 단계를 순서대로 통과시키면 봇에게 넘길 수 있는 규칙 초안이 나옵니다. 한 번에 완벽할 필요는 없습니다. 목표는 '정답'이 아니라 '검증 가능한 초안'입니다.

1단계 · 관찰 — 내 매매를 '녹화'한다

규칙화는 기억이 아니라 기록에서 시작합니다. 앞서 봤듯 기억은 성공을 부풀리고 실패를 숨기기 때문입니다. 그래서 최소 몇 주간, 실제 매매(또는 '샀을 것 같다'고 느낀 순간)를 그 자리에서 적습니다. 이때 결과(얼마 벌었나)보다 결정의 입력값이 중요합니다. 무엇을 보고 있었나, 무슨 생각이 들었나, 어떤 신호가 방아쇠였나. 매매일지가 규칙화의 원재료입니다. 기록이 쌓이면, 흩어져 보이던 결정들에서 반복되는 패턴이 드러나기 시작합니다. 그 반복이 규칙 후보입니다.

2단계 · 언어화 — "왜 샀나"를 완전한 문장으로

기록에서 반복되는 결정 하나를 골라, 빈틈없는 문장으로 풀어냅니다. "쌀 때 산다"가 아니라 "무엇을 기준으로 봤을 때, 얼마나 싸지면, 어떤 확인이 오면 산다"로. 이 단계의 목적은 아직 숫자가 아니라, 내 판단에 몇 개의 부품이 들어가는지를 드러내는 것입니다. 대개 한 문장을 정직하게 풀면 "아, 나는 사실 세 가지 조건이 동시에 맞을 때만 샀구나" 같은 발견이 나옵니다. 반대로 아무리 풀어도 문장이 안 되는 감이 있다면, 그건 규칙화가 어려운(또는 아직 이른) 부분이라는 정직한 신호입니다.

3단계 · 조작적 정의 — 문장을 '숫자와 조건'으로

이제 문장 속 모호한 낱말을 하나씩 측정 가능한 값으로 바꿉니다. 심리학·과학에서 추상적 개념을 측정 가능한 절차로 정의하는 것을 조작적 정의(operational definition)라고 부릅니다. '지능'을 'IQ 검사 점수'로 정의하듯, '과열'을 '특정 지표가 특정 값을 넘은 상태'로 정의하는 것입니다. 이 단계가 규칙화의 심장입니다. 다음 장의 '모호어 사전'이 이 작업의 실전 도구입니다.

4단계 · 다섯 칸 채우기 — 진입만으로는 봇이 못 돈다

초보 규칙화의 90%는 '언제 사는가'에서 멈춥니다. 하지만 진입 규칙만 있는 봇은 산 뒤에 무엇을 할지 모르는 봇입니다. 완결된 규칙은 최소 다섯 칸을 채워야 합니다 — 진입, 청산(이익 실현), 손절(오류 인정), 크기(한 번에 얼마), 거르기(언제는 아예 안 함). 이 다섯 칸을 채우는 순간, 흩어진 감이 하나의 닫힌 절차가 됩니다. 다섯 칸의 자세한 채우기 요령은 6장에서 표로 정리합니다. 청산 설계만 따로 깊게 보려면 청산 설계 가이드, 크기(자금 배분)는 리스크 관리 완전 가이드가 짝입니다.

5단계 · 검증 — 과거에 대보되, 함정을 알고 대본다

다섯 칸이 찬 규칙은 이제 검증의 대상이 됩니다. 과거 데이터에 규칙을 그대로 돌려보는 백테스트가 첫 관문입니다. 그런데 여기가 가장 위험합니다. 규칙이 마음에 들 때까지 숫자를 바꿔가며 '가장 잘 나오는 값'을 고르면, 과거에만 완벽하고 미래엔 무너지는 규칙이 태어납니다. 그래서 가설을 먼저 고정하고, 시험 횟수를 정직하게 세고, 표본 밖 기간과 소액 실계좌로 다시 확인해야 합니다. 이 절차는 실전 투입 전 검증 3단계와 백테스트와 실거래의 괴리에서 자세히 다뤘습니다. 규칙화의 마지막 단계는 '통과 도장'이 아니라, 실전 이후에도 이어지는 점검의 시작입니다.

5. 모호어를 숫자로 옮기는 사전

3단계 조작적 정의는 말처럼 쉽지 않습니다. 그래서 매매에서 자주 쓰는 '모호어'와, 그것을 관측 가능한 조건으로 옮길 때 스스로에게 던져야 할 질문을 사전 형태로 정리했습니다. 오른쪽 칸의 숫자는 전부 예시이며 정답이 아닙니다 — 당신의 답을 채우기 위한 빈칸의 모양일 뿐입니다.

표의 마지막 두 행이 특히 중요합니다. '적당히'와 '이 정도면'은 진입 신호가 아니라 크기와 청산에 대한 모호어인데, 이 둘을 숫자로 옮기지 않으면 봇은 같은 신호에 어떤 날은 크게, 어떤 날은 작게, 아무렇게나 행동합니다. 그리고 '분위기'처럼 끝내 관측 불가능한 요소가 나오는 것도 정상입니다. 그럴 땐 억지로 숫자를 지어내지 말고, ① 관측 가능한 대리 지표로 바꾸거나 ② 그 요소는 규칙에서 빼고 사람이 관리하는 영역으로 남기는 편이 정직합니다.

조작적 정의를 할 때 흔히 하는 실수 하나는, 완벽한 하나의 값을 찾으려고 애쓰는 것입니다. "고점 대비 5%가 맞을까 4.5%가 맞을까"를 며칠씩 고민하는 식이죠. 그러나 이 단계의 목적은 최적값을 찾는 게 아니라 내 판단을 측정 가능한 언어로 옮기는 것뿐입니다. 값의 정교화는 5단계 검증의 일이고, 지금 소수점을 붙들면 오히려 곡선 맞춤으로 미끄러집니다. 그러니 "대략 이 근처였다" 수준의 정직한 초안 값을 적고 다음으로 넘어가세요. 초안이 있으면 검증할 수 있지만, 초안이 없으면 검증할 대상조차 없습니다. 완벽한 규칙을 기다리는 것보다, 검증 가능한 초안을 빨리 만드는 편이 언제나 낫습니다.

6. 진입만이 아니다 — 반드시 채울 다섯 칸

4단계에서 예고한 다섯 칸을, 각 칸에서 반드시 결정해야 할 것과 자주 비는 부분을 함께 정리합니다. 이 표 한 장이 채워지면, 그것이 곧 자동매매 명세서의 뼈대가 됩니다.

③ 손절과 ④ 크기가 비어 있는 규칙이 가장 위험합니다. 진입이 아무리 좋아도, 한 번의 큰 손실이 이전의 작은 이익들을 모두 지울 수 있기 때문입니다. ⑤ 거르기는 초보가 가장 자주 빠뜨리는 칸입니다 — "언제 사는가"만큼 "언제는 아예 안 사는가"가 중요합니다. 예정된 큰 경제 이벤트 앞에서 봇을 잠시 세우는 '이벤트 가드' 같은 것이 대표적인데, 이는 예정된 큰 이벤트를 봇이 넘기는 법에서 개념을, 안전 정지장치 정리에서 자동 브레이크를 다뤘습니다.

7. 흔한 실수 6가지

8. 시나리오 3 — 감 좋은 세 사람이 부딪히는 벽

시나리오 A · "눌림목의 달인"

수년간 눌림목 매수로 재미를 봤다는 A. 언어화 단계에서 "눌림목"을 풀어보니, 사실 그는 세 가지를 동시에 보고 있었습니다 — 최근 고점 대비 하락폭, 특정 지지선과의 거리, 그리고 반등 첫 신호. 조작적 정의를 시도하자 세 번째 '반등 첫 신호'가 유독 애매했습니다. 결과를 보고 나서야 "반등이었다"고 아는 경우가 많았던 것이죠(사후 편집). A는 이 요소를 관측 가능한 형태(예: 특정 봉 패턴 또는 짧은 이동평균의 방향 전환)로 좁히거나, 아니면 '확인 후 진입'이라는 지연을 감수하기로 결정합니다. 벽은 '실력'이 아니라 '아직 명시화되지 않은 부분'이었습니다.

시나리오 B · "느낌이 좋을 때만 크게"

B는 "확신이 강한 날 크게 베팅한다"는 것이 자기 강점이라 믿습니다. 그런데 '확신'은 관측 불가능한 감정 상태입니다(실수 5번). 기록을 뒤져보니, B가 '확신했다'고 느낀 날들의 공통점은 실은 거래량과 추세의 정렬이었습니다. B는 '확신'이라는 감정어를 관측 가능한 조건으로 번역했고, 크기 규칙을 '조건 정렬 강도에 따라 단계적으로' 정의했습니다. 감정을 규칙에 넣는 대신, 감정의 원인을 규칙에 넣은 셈입니다.

시나리오 C · "백테스트가 너무 잘 나와요"

C는 규칙을 만들고 과거에 돌려보니 성적이 눈부셨습니다. 그런데 검증 단계에서 정직하게 세어보니, 그는 '가장 좋은 결과'가 나올 때까지 수십 번 숫자를 바꿨습니다(곡선 맞춤). 표본 밖 기간에 돌리자 성적이 확 꺾였습니다. C는 규칙을 버리지 않되, 파라미터를 단순화하고 가설을 먼저 고정한 뒤 다시 검증하기로 합니다. 화려한 백테스트는 신뢰의 근거가 아니라 의심의 신호였습니다.

9. 규칙화가 곧 자동매매 명세서의 절반인 이유

여기까지 왔다면, 당신은 이미 자동매매 제작의 가장 중요한 일을 절반 이상 해낸 것입니다. 왜냐하면 잘 정의된 다섯 칸이 곧 자동매매 명세서의 핵심이기 때문입니다. 제작을 맡길 때 만드는 쪽이 가장 곤란해하는 것은 '어떻게 만드나'가 아니라 '정확히 무엇을 원하는지 모르는 상태'입니다. 규칙이 흐릿하면 만드는 쪽이 빈칸을 임의로 채우고, 그 결과 "내 생각과 다른 봇"이 나옵니다.

규칙화로 만든 초안을 정식 명세서로 다듬는 방법은 자동매매 명세서 작성 가이드와 명세서 완전 가이드에서 이어집니다. 규칙화가 '무엇을 할지'라면, 명세서는 거기에 '어느 시장·계좌에서, 어떤 안전장치와 함께, 어떻게 검증하고 인수인계할지'를 더한 것입니다. 그리고 나머지 절반 — API 연동, 24시간 운영, 슬리피지·체결, 안전 정지장치, 장애 복구 — 은 만드는 쪽의 기술 영역입니다. 당신이 규칙을 선명하게 가져올수록, 그 절반의 협업이 훨씬 매끄러워집니다.

10. 그래도 남는 것 — 재량의 자리

규칙화의 목표가 감을 박멸하는 것은 아닙니다. 반복되고 재현 가능한 판단을 규칙으로 떼어내되, 시장 구조가 근본적으로 바뀌었는지, 이 규칙을 계속 신뢰할지 같은 상위 판단은 사람의 몫으로 남습니다. 실무에서 흔한 형태는 '실행은 규칙(봇)에게, 규칙을 언제 멈추고 점검할지는 사람에게'입니다. 다시 말해 규칙화는 감을 없애는 일이 아니라, 감이 진짜로 필요한 더 높은 층위로 사람의 주의를 옮겨주는 일에 가깝습니다. 봇이 계속 지고 있을 때 끄기·참기·고치기를 판단하는 문제는 드로다운 중단 규칙 가이드에서 별도로 다뤘습니다.

11. 자주 오해하는 5가지

12. 맡길 때 준비하면 좋은 것

규칙화 초안을 들고 제작을 상담하면 대화가 빨라집니다. 아래 다섯 줄만 채워 와도, 만드는 쪽은 '무엇을 만들지'를 정확히 이해합니다.

여기에 "이 규칙을 어떤 시장·종목에서, 어느 정도 자본으로 돌리고 싶은가"와 "무엇으로 '검증 통과'를 인정할 것인가"를 덧붙이면 준비는 충분합니다. 아직 이 다섯 줄이 다 안 채워져도 괜찮습니다 — 빈칸을 함께 채우는 것부터가 상담의 역할입니다. 시작 전 자가진단이 필요하면 자동매매 시작 자가진단 10문항이 좋은 출발점입니다.

13. 한 장 요약

다시 한 번 — 이 다섯 단계는 수익으로 가는 지름길이 아니라, 판단을 검증 가능하게 만드는 다리입니다. 다리를 건너면 비로소 두 가지가 가능해집니다. 봇에게 넘길 수 있고, 옳고 그름을 데이터로 따질 수 있습니다. 그게 규칙화가 주는 전부이자, 자동매매의 진짜 출발선입니다.

14. 자주 묻는 질문 (FAQ)