[AI] AI Engineer들이 Quant를 공부하기 시작했다 — AI와 퀀트의 경계가 무너지는 이유
“퀀트 엔지니어!”
왜 AI Engineer의 다음 관심사가 Quant가 되고 있을까?
LLM·Agent·Time Series Foundation Model·RL이 금융시장으로 들어오는 지금, AI Engineer가 그대로 가져갈 수 있는 무기와 새로 배워야 할 세계를 분리해서 본다.
최근 AI Engineer 커뮤니티에서 재미있는 흐름이 보인다. LLM Serving, RAG, Agent, GPU 최적화를 하던 사람들이 어느 순간 “Quant Research를 공부해볼까?”라는 질문을 던진다. 둘 다 Python을 쓰고, 모델을 만들고, 대규모 데이터를 처리하고, GPU를 돌린다. 겉으로만 보면 거의 옆자리 직무처럼 보인다.
그런데 먼저 하나는 분명히 해야 한다. 공개 자료만으로 “AI Engineer들이 대규모로 Quant로 이직하고 있다”고 말할 만한 통계는 찾기 어렵다. 대신 더 확실하게 관찰되는 변화는 다른 쪽이다. Quant 조직이 AI 쪽으로 빠르게 확장되고 있다. HRT는 현재 AI/ML 조직에서 deep learning과 GPU compute를 직접 trading model에 연결한다고 설명하고, Citadel의 GQS ML Researcher 역할은 deep learning, sequence/time-series modeling, NLP, LLM, pre-training, reinforcement learning을 명시한다. Two Sigma 역시 Quant Research와 Data Science를 대규모 데이터·advanced modeling·compute 문제로 설명한다.
다만 마지막 30~40%는 전혀 다른 세계다. 그 차이를 만드는 것은 LLM 지식이 아니라 통계적 추론, 시계열, 시장 미시구조, 리스크, backtest discipline이다.
왜 하필 지금 Quant인가?
과거 Quant의 대표 이미지는 확률과정, 옵션 가격결정, C++, 초저지연 시스템이었다. 이 세계는 여전히 존재한다. 하지만 2026년의 Quant stack은 훨씬 넓다. alternative data, deep learning, sequence model, LLM 기반 뉴스 해석, portfolio optimization, RL, GPU training, distributed research platform까지 한 조직 안에 들어오기 시작했다.
2026년 연구도 이 흐름을 보여준다. Agentic Trading survey는 LLM trading system을 시장 정보를 읽고, context를 검색하고, 판단하고, action을 내고, 시장 feedback으로 적응하는 closed-loop pipeline으로 정리한다. 또 financial foundation model survey는 금융용 foundation model을 언어(FinLFM), 시계열(FinTSFM), visual-language(FinVLFM)로 구분한다. 즉 “금융에 GPT를 붙인다”가 아니라 금융 데이터 전체가 foundation-model 연구 대상으로 이동하고 있다.
AI Engineer가 그대로 가져갈 수 있는 Knowledge
1. Machine Learning 자체는 거의 그대로 통한다
Transformer, representation learning, contrastive learning, ranking, anomaly detection, self-supervised learning, Bayesian optimization, RL 같은 개념은 Quant에서도 그대로 쓰인다. 중요한 차이는 target과 evaluation protocol이다. 이미지 분류에서는 iid에 가까운 train/test 분리가 가능하지만 시장 데이터에서는 미래 정보가 과거로 새어 들어가는 순간 연구 전체가 무효가 된다.
2. LLM/RAG 경험은 ‘텍스트 알파’에 특히 강하다
공시, earnings call, 뉴스, analyst report, central-bank communication, 법규·정책 문서는 전형적인 unstructured data다. AI Engineer에게 익숙한 ingestion, parsing, embedding, retrieval, reranking, entity extraction, temporal metadata는 그대로 research feature pipeline으로 변환될 수 있다. 차이는 답을 생성하는 것이 아니라 미래 수익률·변동성·event risk와 연결될 feature를 검증한다는 점이다.
# RAG Engineer의 사고방식
query -> retrieve documents -> rerank -> generate answer
# Quant Research로 옮기면
event(t) -> retrieve only information available at t
-> extract / embed / score
-> join with market state at t
-> predict y(t+h)
-> trade with delay, costs, limits
-> evaluate out-of-sample2025년 FinSeer 연구가 흥미로운 이유도 여기 있다. 금융 시계열 예측에서 과거의 의미 있는 sequence를 retrieval하고 LLM과 결합하는 구조를 제안한다. RAG의 “관련 context를 찾는다”는 아이디어가 financial forecasting으로 이동한 사례다. 다만 Quant에서는 retrieval quality가 좋아졌다는 사실만으로 충분하지 않다. 최종적으로는 거래 가능한 시점, 비용, turnover, universe selection을 포함한 성과로 다시 검증해야 한다.
3. MLOps/Platform 역량은 생각보다 강력한 경쟁력이다
Quant research도 결국 반복 실험 시스템이다. 데이터 버전, feature lineage, experiment tracking, distributed compute, model artifact, online/offline parity, monitoring이 필요하다. 특히 research code를 production trading pipeline으로 옮길 때 AI Platform 경험은 큰 자산이다. Two Sigma도 engineering 역할을 research를 실제 시스템으로 옮기는 기술로 설명한다.
4. GPU 최적화와 numerical computing
대규모 cross-sectional model이나 sequence model을 학습하면 GPU/TPU와 vectorized computation이 자연스럽게 필요하다. PyTorch뿐 아니라 JAX도 유용하다. JAX는 NumPy 스타일 API에 JIT compilation, automatic differentiation, vectorization을 결합하며 CPU/GPU/TPU에서 동일한 수치 계산 패턴을 확장할 수 있다. AI Engineer가 이미 tensor shape, batching, mixed precision, memory bottleneck에 익숙하다면 이 부분의 전환 비용은 낮다.
하지만 여기서부터는 완전히 새로 배워야 한다
Quant에서 어려운 것은 모델을 만드는 것보다 내가 발견한 signal이 진짜인지, 우연인지, 미래에도 남는지 증명하는 일이다.
1. 확률·통계: 모델보다 먼저
최소한 conditional expectation, variance/covariance, hypothesis testing, confidence interval, maximum likelihood, Bayesian thinking, multiple testing, regression diagnostics를 편하게 다뤄야 한다. 특히 여러 feature와 전략을 수백 번 시험하면 “좋아 보이는 결과” 하나는 거의 반드시 나온다. 그래서 p-value 하나보다 multiple hypothesis, data snooping, selection bias를 이해하는 것이 중요하다.
2. Time Series와 Non-stationarity
시장은 stationary dataset이 아니다. regime이 바뀌고, volatility가 바뀌고, correlation이 무너지고, participants가 적응한다. ARIMA를 외우는 것보다 중요한 것은 autocorrelation, heteroskedasticity, cointegration, regime shift, structural break, rolling/expanding estimation을 이해하는 것이다.
3. Portfolio와 Risk
prediction이 맞아도 portfolio가 나쁠 수 있다. expected return 10bp를 예측했는데 spread와 slippage가 15bp면 signal은 존재해도 전략은 존재하지 않는다. covariance estimation, risk budget, factor exposure, leverage, drawdown, VaR/ES, turnover, concentration limit, constrained optimization을 배워야 한다.
4. Market Microstructure와 Execution
AI 연구자가 가장 많이 놓치는 부분이다. quote, bid-ask spread, order book, market/limit order, queue priority, fill probability, impact, adverse selection을 모르면 backtest return은 쉽게 허상이 된다. horizon이 짧아질수록 모델보다 execution model이 중요해진다.
AI 평가와 Quant 평가가 갈라지는 지점
| 문제 | AI/ML에서 익숙한 평가 | Quant에서 추가되는 질문 |
|---|---|---|
| Prediction | Accuracy · F1 · AUC · MAE | IC · Rank IC · calibration · stability by regime |
| Validation | Random / stratified split | Walk-forward · purged split · embargo · point-in-time data |
| Objective | Loss 최소화 | Return vs risk vs cost vs capacity |
| Production | Latency · throughput · drift | + slippage · fills · PnL attribution · exposure · limits |
| Failure | 성능 하락 | 실제 자본 손실 + 전략 crowding + regime change |
2026년 Agentic Trading survey가 꽤 냉정한 이유가 여기에 있다. 조사된 closed-loop 핵심 연구 19편 중 시간 일관적인 split protocol을 추출할 수 있었던 연구는 2편, 명시적인 transaction-cost model을 보고한 연구는 1편, survivorship/universe 처리를 문서화한 연구도 1편뿐이었다. 화려한 LLM agent architecture보다 evaluation discipline이 병목이라는 결론이다.
나중에 backtest code에서 날짜를 잘라낸다고 복구되지 않는다. 재무제표의 실제 공개 시각, index 구성 변경일, corporate action 반영일, vendor 데이터의 revision history까지 point-in-time으로 관리해야 한다.
2026 논문에서 보이는 진짜 최신 흐름 4가지
Trend 1. LLM은 Trader가 아니라 Signal/Controller가 된다
최근 구조는 “GPT에게 매수/매도를 묻는다”에서 벗어난다. 2026년 regime-aware agentic portfolio 연구는 LLM-derived sentiment/uncertainty, regime detection, convex optimization, constrained RL controller를 결합한다. 중요한 것은 LLM이 portfolio 전체를 자유롭게 결정하는 것이 아니라 비정형 정보를 signal로 바꾸고, 수학적 optimizer와 risk constraint가 행동 공간을 제한한다는 점이다.
Trend 2. Time-Series Foundation Model이 금융공학의 별도 축이 된다
Financial foundation model survey는 FinTSFM을 별도 계층으로 분류한다. LLM처럼 모든 시계열을 token으로 바꿔 하나의 모델로 해결하려는 시도도 있고, 금융 특유의 multi-scale pattern과 frequency 특성을 직접 반영하려는 연구도 나온다. 예를 들어 LLM4FTS는 adaptive patch segmentation과 dynamic wavelet convolution을 결합해 financial time-series pattern을 모델링한다.
다만 “Foundation Model = 더 좋은 Quant model”은 아니다. 2026년 연구 흐름에서도 classical baseline과의 엄격한 비교가 중요하다는 반론이 계속 나온다. 금융에서 큰 모델은 capacity를 늘려주지만, low signal-to-noise와 non-stationarity를 없애주지는 않는다.
Trend 3. RL의 관심사는 ‘수익률 최대화’보다 Constraint와 Cost로 이동
최신 portfolio RL 연구를 보면 transaction cost, risk-sensitive objective, regime adaptation, sparse allocation, turnover budget 같은 현실 조건을 모델 안으로 가져오는 흐름이 강하다. 이것은 매우 중요한 변화다. 실제 trading에서는 “action을 낼 수 있다”보다 제약 안에서 계속 살아남는 policy가 중요하기 때문이다.
Trend 4. Quant Research Platform 자체가 AI Platform과 닮아간다
데이터 catalog, feature computation, experiment orchestration, accelerator pool, artifact/version management, distributed backtest, online inference, monitoring이 하나의 research platform으로 합쳐진다. HRT가 GPU cluster와 AI researcher를 trading model 개발에 직접 연결하고, Citadel이 alternative data·AI/ML·quantitative modeling을 같은 research 조직에서 다루는 것은 이 수렴을 잘 보여준다.
“Quant Engineer”도 사실 하나의 직무가 아니다
이직을 고민한다면 먼저 Quant라는 단어부터 쪼개야 한다. 회사마다 명칭은 다르지만 대략 다음 네 축으로 나눠 생각하면 좋다.
| Role | 핵심 문제 | AI Engineer와 거리 | 추가 공부 |
|---|---|---|---|
| Quant Researcher | Signal · Alpha · Portfolio | 중간 | 통계 · 시계열 · 시장 · 리스크 |
| ML Quant Researcher | Deep/Sequence/Alt-data Model | 가장 가까움 | Quant evaluation · financial data |
| Quant Developer | Research Infra · Pricing · Execution | 가까움 | C++ · numerical · domain |
| Low-latency / HFT | Microseconds · Market Making | 멀다 | C++ · OS · Network · microstructure |
LLM/RAG/AI Platform 출신에게 가장 자연스러운 첫 교차점은 보통 ML Quant Research, Alternative Data Research, Quant Research Platform, Financial NLP 쪽이다. 반대로 옵션 pricing 중심의 stochastic calculus 역할이나 HFT execution은 별도의 깊은 재교육이 필요하다.
그렇다면 무엇을 공부해야 할까?
Regression · Test · Bias
Stationarity · Vol · Regime
PIT · Cost · Walk-forward
Risk · Optimizer
Spread · Impact · Fill
Phase 1 — 4주: 통계와 backtest 위생
선형회귀, regularization, hypothesis testing, bootstrap, covariance, cross-validation을 다시 본다. 동시에 아주 단순한 momentum/mean-reversion 전략을 구현하되 random split을 금지한다.
Phase 2 — 4주: Time Series + Risk
AR/MA, volatility, GARCH의 직관, rolling statistics, regime change, correlation instability를 익힌다. Sharpe만 보지 말고 drawdown, turnover, exposure, capacity를 같이 기록한다.
Phase 3 — 4주: AI Engineer의 강점을 다시 투입
이제 뉴스/공시 encoder, financial embedding, temporal RAG, sequence transformer 같은 모델을 넣는다. 순서를 반대로 하면 모델이 좋아서 성과가 난 건지 leakage 때문에 난 건지 구분하기 어렵다.
Phase 4 — 4주: Portfolio와 Execution
signal → position sizing → portfolio constraint → transaction cost → execution delay를 연결한다. 이 단계까지 와야 “prediction demo”가 “trading research”로 바뀐다.
AI Engineer라면 이런 프로젝트가 가장 좋다
event = {
"asset": "XYZ",
"published_at": "2026-03-18T08:31:12Z",
"source": "earnings_call",
"embedding": [...],
"sentiment": -0.21,
"uncertainty": 0.73,
"guidance_change": -1,
}
# 반드시 published_at 이후에만 feature가 보이게 한다.
X_t = features.available_as_of(t)
# 예측 그 자체보다 "거래 가능한가?"까지 본다.
signal = model.predict(X_t)
position = optimizer(signal, risk, limits)
pnl = execute(position, delay="1m", costs="spread+impact")이 프로젝트 하나에 AI Engineer의 강점인 ingestion, NLP/LLM, embedding, model serving, experiment tracking과 Quant의 핵심인 point-in-time data, walk-forward validation, portfolio, transaction cost가 모두 들어간다. “주가를 맞히는 LSTM”보다 훨씬 좋은 포트폴리오가 되는 이유다.
금융권 AI Engineer라면 오히려 유리한 부분
은행·보험·증권의 Enterprise AI를 경험한 사람은 순수 ML 연구자와 다른 강점이 있다. 데이터 권한, lineage, audit, model version, change approval, 장애 대응, 비용 attribution을 이미 시스템 문제로 본다는 점이다. Quant에서도 production은 research notebook과 다르다.
Point-in-time lineage, vendor license, revision history
Version, validation, rollback, approval, reproducibility
Limit, kill switch, fail-safe, stale-data detection
GPU scheduling, experiment platform, monitoring, cost
AI Engineer가 Quant로 가면 잘 맞는 사람, 안 맞는 사람
| 잘 맞을 가능성이 높은 경우 | 생각보다 안 맞을 수 있는 경우 |
|---|---|
| 모델보다 실험 설계와 데이터 품질을 좋아한다 | 새 모델/프레임워크 자체가 가장 큰 동기다 |
| 불확실한 signal을 통계적으로 검증하는 일이 재미있다 | 명확한 정답 dataset과 benchmark를 선호한다 |
| 수학·확률·최적화를 다시 깊게 공부할 의향이 있다 | 금융 domain은 배우지 않고 AI 기술만 적용하고 싶다 |
| 결과가 PnL/risk로 바로 피드백되는 환경을 좋아한다 | 모델 성능과 사업 결과가 느슨하게 연결된 환경이 편하다 |
하지만 2026년에는 그 어느 때보다 가까운 인접 분야가 됐다.
그래서 AI Engineer에게 가장 현실적인 전략은 직함부터 바꾸는 것이 아니다. 먼저 자신이 이미 잘하는 AI stack으로 검증 가능한 financial research system 하나를 끝까지 만들어보는 것이다. 그 과정에서 통계와 시장 지식이 재미있다면 Quant는 꽤 자연스러운 다음 연구 분야가 된다. 반대로 그 과정이 답답하고 모델 자체가 더 재미있다면 AI Platform/ML Systems를 더 깊게 파는 편이 더 맞을 수 있다.
References & Further Reading
- Xia et al. (2026), Agentic Trading: When LLM Agents Meet Financial Markets
- Advancing Financial Engineering with Foundation Models: Progress, Applications, and Challenges
- Xiao et al. (2025), Enhancing Financial Time-Series Forecasting with Retrieval-Augmented Large Language Models
- Liu & Jia (2025), LLM4FTS: Enhancing Large Language Models for Financial Time Series Prediction
- Toward a unified agentic framework for regime-aware portfolio optimization with LLM signals (2026)
- A survey on LLM-enhanced reinforcement learning in financial markets (2026)
- Hudson River Trading — Machine Learning & AI at HRT
- Citadel GQS — Machine Learning Researcher
- Two Sigma — Quantitative Research & Data Science
- JAX Documentation — How to think in JAX