CFD 난류 모델 선택 종합 가이드

난류 모델을 고르는 일은 CFD(전산유체역학, Computational Fluid Dynamics) 엔지니어가 프로젝트 초기에 내리는 가장 무거운 결정 중 하나입니다. 물리 현상과 수학 모델이 어긋나면 단순히 오차가 조금 생기는 정도가 아니라, 핵심 유동 특성이나 열전달 계수, 압력 강하 예측이 통째로 틀어집니다. 컴퓨팅 성능이 꾸준히 좋아지면서 "그냥 가장 고급 모델을 쓰면 되지 않나"라는 생각이 들기 쉽지만, 결국 성패를 가르는 기준은 비용 대비 정확도입니다.

엔지니어들이 가장 자주 마주치는 고민도 여기서 출발합니다. 빠른 설계 반복이 필요한 프로젝트에서 대와류 시뮬레이션(LES, Large Eddy Simulation)의 부하를 감당하기는 쉽지 않고, 그렇다고 정상상태 RANS(레이놀즈 평균 나비에-스토크스, Reynolds-Averaged Navier-Stokes) 해석만으로는 고레이놀즈수 에어포일 주변의 대규모 박리를 잡아내기 어렵습니다. 이 가이드는 그 줄다리기 속에서 정확성과 효율성을 함께 확보할 수 있도록, 난류 모델 선택의 기준을 정리해 봅니다.

난류 모델이란?

CFD에서 난류 모델은 난류 변동이 평균 유동에 미치는 영향을 근사함으로써 나비에-스토크스 방정식을 닫아주는(closure) 수학적 틀입니다. 난류 속의 모든 와류를 직접 풀어내려면 천문학적인 계산 자원이 필요하기 때문에, 직접 계산할 수 없는 미세 규모의 에너지 전달을 모델로 대신 표현합니다. 결국 난류 모델 선택의 핵심은, 난류 스펙트럼을 통째로 모델링할 것인지 아니면 에너지를 가장 많이 품은 큰 규모만 직접 다룰 것인지 판단하는 데 있습니다.

핵심 과제: 닫힘 문제(Closure Problem)

난류 모델링의 한가운데에는 '닫힘 문제'가 있습니다. 나비에-스토크스 방정식을 시간 평균하는 RANS 접근을 적용하면 레이놀즈 응력 텐서라는 새로운 항이 등장합니다. 이 항은 난류 변동이 만들어내는 운동량 전달을 표현하지만, 동시에 미지수가 방정식 수보다 더 많아지는 상황을 만듭니다.

적절한 모델이 없으면 연립방정식 자체가 풀리지 않습니다. 가령 고속 외부 공력 시뮬레이션에서 응력 분포를 제대로 반영하지 못하면 경계층 두께 예측부터 어긋나고, 그 오차는 계산 영역 전체로 번져 충격파 위치를 흐트러뜨리거나 양항비를 왜곡시킵니다. 결국 솔버 자원을 압도하지 않으면서도 충분한 닫힘을 제공하는 모델을 골라내는 일이 관건이 됩니다.

핵심 기술 해설: 모델링의 위계

난류 모델링은 난류 운동에너지 스펙트럼을 어떻게 다루느냐에 따라 RANS, LES, DNS의 큰 축으로 나뉘며, 산업 실무에서는 RANS와 LES 사이를 잇는 하이브리드 접근이 중요한 선택지로 자리 잡고 있습니다.

1. 레이놀즈 평균 나비에-스토크스(RANS)

RANS는 산업 CFD의 주력입니다. 와류를 하나하나 직접 풀어내는 대신, 난류가 평균 유동에 미치는 종합적인 효과를 근사합니다. 대부분의 RANS 모델은 이를 위해 '와류 점성(eddy viscosity)'이라는 양을 도입하는데, 커피에 크림을 저으면 분자 확산만으로는 불가능한 빠른 혼합이 일어나는 것과 같은 원리로, 난류가 운동량을 섞어내는 효과를 표현합니다. 다만 와류 점성은 유체의 실제 물성이 아니라, 난류 혼합 효과를 평균적으로 표현하기 위해 도입한 모델 변수라는 점을 짚어둘 필요가 있습니다.

대표적인 RANS 모델은 다음과 같습니다.

k-epsilon(k-ε): 자유 전단 유동과 일반적인 산업 응용 전반에서 안정적인 성능을 보이며, 산업 CFD에서 가장 폭넓게 쓰이는 모델 중 하나입니다. 다만 강한 역압력 구배나 박리 흐름에서는 약점을 드러내는 경향이 있습니다.

k-omega(k-ω): 벽면 근처와 경계층 영역에 강점이 있어 공력 분야에서 널리 활용되며, 특히 적절한 블렌딩 함수와 결합될 때 더 안정적으로 작동합니다.

전단응력 수송 모델(SST, Shear Stress Transport): 벽면 근처에서는 k-omega를, 원방 영역에서는 k-epsilon을 함께 쓰는 혼합 방식으로, 복잡한 유동을 다룰 때 균형 잡힌 성능을 보입니다. 외부 공력 분야에서는 사실상 표준 출발점으로 자리 잡았습니다.

이 외에도 와류 점성 가정 자체를 버리고 응력 성분 각각에 수송 방정식을 푸는 레이놀즈 응력 모델(RSM, Reynolds Stress Model) 같은 고급 RANS가 있습니다. 강한 회전, 곡률, 2차 유동처럼 비등방성이 중요한 문제에서 유용하지만, 수렴 안정성 측면에서는 까다로운 편입니다.

2. 하이브리드 RANS-LES 접근

순수 RANS와 본격적인 LES 사이에는 DES(Detached Eddy Simulation)와 그 후속인 DDES(Delayed DES), IDDES(Improved Delayed DES) 같은 하이브리드 기법군이 자리합니다. 이들은 부착된 경계층에서는 RANS로, 박리 영역에서는 LES와 비슷한 방식으로 거동을 전환합니다. 대규모 박리, 와류 방출, 비정상 후류가 지배하는 산업 문제 — 자동차 외부 공력, 항공기 박리, 풍하중, 터보기계 후류 — 에서는 오늘날 CPU 시간 대비 가장 좋은 정확도를 내는 선택지로 꼽힙니다.

3. 대와류 시뮬레이션(LES)

LES는 전면적 근사와 전면적 해석의 중간 어디쯤에 자리합니다. 모든 난류를 모델로 처리하는 대신, 에너지의 대부분을 담고 있고 전체 유동 거동을 좌우하는 큰 구조는 직접 계산하고, 더 작고 균일한 와류에만 간소화된 모델을 적용합니다. 그 덕에 와류 방출이나 난류 혼합처럼 본질적으로 비정상적인 현상을 RANS보다 훨씬 잘 잡아내지만, 계산 비용 또한 그만큼 무겁습니다.

4. 직접수치시뮬레이션(DNS, Direct Numerical Simulation)

DNS는 현존하는 가장 정확한 접근입니다. 가장 큰 구조부터 가장 미세한 소산 와류까지, 유동의 모든 규모를 난류 모델 근사 없이 그대로 풀어냅니다. 대신 계산 비용이 극단적으로 커서, 레이놀즈 수가 올라갈수록 격자 수와 시간 스텝 요구가 매우 가파르게 증가합니다. 이 때문에 DNS는 비교적 단순하고 저속인 연구 문제에 한정해 쓸 수 있지만, 다른 모델을 검증하는 기준점으로서 대체할 수 없는 가치를 지닙니다.

난류 모델링 접근법 비교

모델 선택을 최적화하는 데 참고할 수 있도록, 주요 모델링 계열을 비교하면 다음과 같습니다.

실무 적용: 산업별 선택 기준

그렇다면 이 지식을 실제로 어떻게 풀어낼 수 있을까요. 세 가지 장면을 떠올려 보겠습니다.

자동차 외부 공력: 항력 계수를 최적화하는 초기 설계 단계에서는 SST 기반 RANS만으로도 충분한 경우가 많습니다. 풍절음(공력음향)이나 비정상 후류의 압력 변동이 설계의 핵심 질문이 된다면, URANS(비정상 RANS, Unsteady RANS) 단계를 넘어 하이브리드 RANS-LES나 scale-resolving 접근을 검토해야 합니다.

관 내부 유동: 화학 플랜트의 압력 강하 계산처럼 유동 조건이 잘 정의된 문제에서는, 표준 k-epsilon RANS가 속도와 정확도 양쪽에서 가장 합리적인 선택이 됩니다.

연소실: 산업용 연소 시뮬레이션은 여전히 RANS와 flamelet 또는 PDF 기반 화학 모델의 조합이 주류입니다. 화염 불안정성, 희박 화염 소화, 열음향 결합처럼 비정상성이 설계의 핵심 질문이 될 때 LES가 본격적으로 힘을 발휘합니다.

EverySim의 접근 방식

새로운 시뮬레이션을 시작할 때마다 난류 모델 선택이 작은 연구 과제처럼 변해서는 곤란합니다. EverySim은 그래서 한 가지 단순한 철학에서 출발합니다. 엔지니어는 풀고 싶은 공학적 질문에 집중하고, 신뢰할 수 있는 답에 도달하기까지의 모델링 결정은 우리가 떠안는다는 것입니다. EverySim은 형상, 유동 영역, 그리고 사용자가 답하고자 하는 질문을 함께 살펴 합리적인 출발점을 제시합니다. 초기 외부 공력 단계라면 SST 기반 RANS가 될 수도 있고, 박리가 지배적이 되는 시점에서는 하이브리드 접근으로 자연스럽게 안내하기도 합니다. 난류 모델마다 요구하는 격자 해상도가 다른 만큼, 선택된 모델에 맞춰 메시도 함께 조율하도록 설계되어 있습니다. y+ 목표나 가공 영역 설정이 또 하나의 수작업이 되지 않도록 말입니다. 물론 모든 판단을 자동화했다고 말하지는 않습니다. 난류 모델링은 그렇게 한 번에 다 풀어버릴 수 있는 분야가 아닙니다. EverySim이 지향하는 가치는 반복적인 설정 부담을 줄여, 엔지니어가 솔버 세팅보다 결과 해석과 설계 판단에 더 많은 시간을 쓰도록 돕는 데 있습니다.

자주 묻는 질문

경계층 유동에 가장 정확한 난류 모델은 무엇인가요? 경계층 거동이 지배적인 유동에서는 표준 k-epsilon보다 k-omega SST(전단응력 수송) 모델이 일반적으로 선호됩니다. 역압력 구배를 다루는 능력이 더 좋고, 점성 효과가 강한 벽면 근처에서 더 정확한 예측을 내놓기 때문입니다.

RANS에서 LES로 넘어가야 할 시점은 언제인가요? 와류 방출, 난류 혼합, 소음 발생처럼 RANS가 지나치게 평탄하게 처리해 버리는 대규모 비정상 구조가 문제의 물리를 지배할 때입니다. 산업 문제에서는 곧장 LES로 가기보다, DES나 DDES, IDDES 같은 하이브리드 RANS-LES를 중간 단계로 두는 편이 더 현실적인 경우가 많습니다.

레이놀즈 수가 모델 선택에 미치는 영향은 무엇인가요? 레이놀즈 수는 유동에서 관성력과 점성력의 비를 나타냅니다. 이 값이 커질수록 난류 규모의 범위가 급격히 넓어지기 때문에, 공학적 문제에서 DNS를 그대로 쓰기는 사실상 어려워집니다. 경계층 해석의 계산 부담을 관리하기 위해 자연스럽게 RANS나 벽면 모델링 LES(WMLES, Wall-Modeled LES) 쪽으로 옮겨가게 됩니다.

높은 레이놀즈 수의 산업 유동에도 LES를 쓸 수 있나요? 가능합니다. 다만 대개 벽면 모델링 LES(WMLES)의 형태로 사용합니다. 벽면까지 직접 해석하는 wall-resolved LES에서는 벽 근처의 미세 와류까지 격자로 잡아내야 하는데, 레이놀즈 수가 커질수록 이 비용을 감당하기가 어려워집니다. WMLES는 벽면 근처에 간소화된 모델을 적용함으로써 실제 산업 문제에도 LES 수준의 정밀도를 끌어올 수 있게 해줍니다.

결론

성공적인 난류 모델 선택은 결국 유동의 물리와 하드웨어의 제약 사이에서 균형을 잡는 일입니다. RANS에서 하이브리드, LES, DNS로 이어지는 위계를 이해하면 기본 설정에 머무는 단계를 넘어서, 계산 효율성과 물리적 의미를 함께 갖춘 시뮬레이션 워크플로를 만들 수 있습니다. 다행히 엔지니어가 매번 이 결정을 혼자 짊어질 필요는 없습니다. 적절한 도구가 그 무게의 상당 부분을 덜어주면, 정작 가장 중요한 일 — 설계 질문 그 자체 — 에 더 깊이 파고들 여유가 생깁니다.