데이터 스누핑 편향이란 무엇이며 파라미터 수가 중요한 이유
데이터 스누핑 편향은 데이터 마이닝 편향이라고도 불리며, 전략의 겉보기 역사적 성공이 반복 가능한 우위의 증거가 아니라 탐색 과정의 부산물일 위험을 말합니다. 그 메커니즘은 간단합니다. 모델에 추가되는 모든 파라미터는 최적화 프로그램에 과거에 맞춰 넣을 또 하나의 자유도를 부여합니다. 충분한 자유도가 주어지면 연구자는 보통 평범하거나 심지어 무작위적인 수익 흐름을 매끄럽고 매력적인 자산 곡선으로 바꾸는 규칙 집합을 찾아낼 수 있습니다. 백테스트는 훌륭해 보이지만, 미래의 실전 성과는 전혀 다를 수 있습니다. 전략에 포함된 파라미터가 많을수록, 일회성 정책 결정, 유동성 충격, 지수 리밸런싱 흐름, 또는 단순한 노이즈처럼 같은 형태로 다시 나타나지 않을 우연한 역사적 사건을 더 쉽게 포착합니다. 이는 부정직이나 부주의를 필요로 하지 않습니다. 그것은 탐색의 수학적 속성입니다. 연구자가 이동평균 교차의 만 가지 변형을 테스트한다면, 그중 어느 것도 진정한 우위가 없더라도 최고의 변형은 인상적으로 보일 것입니다. 선택 자체가 역사적 데이터를 사용하기 때문에 보고된 통계는 위쪽으로 편향됩니다. 실질적인 함의는 단순한 전략이 복잡한 전략보다 시간을 더 잘 견디는 경향이 있다는 것입니다. 많은 파라미터와 조건을 가진 규칙은 시장 환경이 변할 때 틀릴 방법이 더 많습니다. 열다섯 개의 보정된 임계값에 의존하는 모델이 반드시 더 정밀한 것은 아닙니다. 그것은 단순히 과거를 암기했을 수 있습니다. 해독제는 연구를 피하는 것이 아니라 모든 최적화를 최적화 프로그램이 본 적 없는 데이터에서 테스트해야 하는 가설로 취급하는 것입니다.
금융 데이터가 패턴 피팅에 약한 기반인 이유
금융 시장은 종종 데이터가 풍부하다고 묘사되지만, 통계적 관점에서 보면 유난히 데이터가 부족합니다. 전략을 테스트하는 데 사용할 수 있는 통계적으로 독립적인 관측치의 수는 원시 가격이나 봉의 수가 시사하는 것보다 훨씬 적습니다. 장중 금융 데이터는 엄청나 보입니다. 분봉, 틱 데이터, 주문장 업데이트는 빠르게 축적됩니다. 그러나 그 관측치들은 자기상관이 있습니다. 1분 수익률은 다음 수익률과 밀접하게 관련되어 있으며, 동일한 기초 시장 상태가 몇 시간 또는 며칠 동안 지속될 수 있습니다. 그것들은 독립적인 표본이 아닙니다. 데이터 포인트가 상관되어 있을 때, 유효 표본 크기는 명목상의 수보다 훨씬 작습니다. 같은 종류의 데이터를 더 추가한다고 해서 독립적인 정보가 많이 추가되지는 않습니다. 그 결과, 많은 파라미터를 가진 모델은 제한된 양의 진정으로 새로운 증거로부터 많은 미지수를 추정하도록 요구받습니다. 그러면 과적합이 심각해집니다. 모델은 역사적 경로의 노이즈에 맞출 수 있지만, 일반화할 근거는 거의 없습니다. 금융 시계열은 또한 비정상 과정에서 나온 단일 실현 경로입니다. 시장 구조는 변합니다. 규제가 바뀌고, 참여자 구성이 변하며, 유동성 체제가 오갑니다. 한 기간에 존재했던 패턴이 다음 기간에는 없을 수 있습니다. 이는 큰 독립 표본을 사용할 수 있는 분야와 대조됩니다. 실질적인 결과는 금융에서의 복잡성이 다른 많은 머신러닝 영역보다 더 높은 대가를 치른다는 것입니다. 많은 파라미터 수는 정교함의 표시가 아니라, 모델이 미래가 아니라 과거를 설명하고 있을 수 있다는 경고입니다.
AI 트레이딩 방법과 지속성 문제
주식 선택과 트레이딩에서 인공지능은 많은 파라미터를 가진 함수를 사용하여 역사적 데이터를 맞추려는 시도로 가장 잘 이해됩니다. 일반적인 도구로는 신경망, 의사결정나무, 유전 알고리즘이 있습니다. 이러한 방법은 인간 분석가가 알아차리지 못할 미묘한 패턴을 발견할 수 있습니다. 신경망은 수십 또는 수백 개의 입력을 복잡한 매핑으로 결합할 수 있고, 유전 알고리즘은 방대한 규칙 조합 공간을 탐색할 수 있습니다. 기술적 능력은 실제입니다. 그러나 핵심 질문은 패턴이 역사적 표본에 존재하는지 여부가 아닙니다. 그것은 패턴이 지속적인지 여부입니다. 모델은 진정한 구조적 관계를 포착할 수도 있고, 훈련 기간에 우연히 나타난 무작위 노이즈를 포착할 수도 있습니다. 외부에서 보면 두 경우 모두 강력한 백테스트를 만들어낼 수 있습니다. 이 구분이 중요한 이유는 오직 지속적인 패턴만이 다시 나타날 이유가 있기 때문입니다. 금융 시장은 여기서 특히 취약합니다. 많은 겉보기 패턴은 일시적 조건의 반영입니다. 비정상적으로 낮은 변동성 기간, 특정 중앙은행 정책, 또는 공급과 수요의 일시적 불균형 등입니다. 충분한 용량을 가진 AI 모델은 그러한 조건을 영구적인 특징인 것처럼 인코딩합니다. 조건이 변하면 모델의 출력은 빠르게 악화될 수 있습니다. 이것은 AI가 금융에서 쓸모없다는 뜻이 아닙니다. 그것은 입증 책임이 더 높다는 뜻입니다. 심층 신경망에서 나온 높은 백테스트 샤프 비율은 그 자체로 미래 성과의 증거가 아닙니다. 관련 증거는 다양한 시장 체제와 모델이 훈련 중에 사용하지 않은 데이터 전반에 걸친 표본 외 지속성입니다.
