Modeling of the subgrid-scale stress with a neural network and its application to turbulent channel and backward-facing-step flows

Abstract

A fully-connected neural network (NN) is used to develop a subgrid-scale model which maps the relation between the subgrid-scale stress and filtered flow variable in a turbulent channel (Part I) and backward-facing-step (Part II) flows. For turbulent channel flow, DNS (direct numerical simulation) database of Reτ = 178 is used to develop an NN-based subgrid-scale (SGS) model, and a priori and a posteriori tests are performed to investigate its prediction performance. In a priori test, an NN-based SGS model with the input of filtered velocity gradient or strain rate tensor at multiple grid points provides high correlation coefficients between the true and predicted SGS stresses. However, this model provides an unstable solution in a posteriori test, as the model produces a non-negligible backscatter which is known to induce numerical instability in large eddy simulation (LES). To ensure a stable LES solution with this model, a special treatment like backscatter clipping is required. On the other hand, an NN-based SGS model with the input of filtered strain rate tensor at a single grid point shows an excellent prediction performance for the mean velocity and Reynolds shear stress in a posteriori test, although it gives low correlation coefficients between the true and predicted SGS stresses in a priori test. This NN-based SGS model trained at Reτ = 178 is applied to a turbulent channel flow at Reτ = 723 using the same grid resolution in wall units, providing fairly good agreements of the solutions with the filtered DNS data. When the grid resolution in wall units is different from that of trained data, this NN-based SGS model does not perform well. This is overcome by training an NN with the datasets having two filters whose sizes are larger and smaller than the grid size in large eddy simulation. For turbulent flow over a backward-facing step (BFS), an NN-based SGS model is developed with the filtered DNS data at Reh = 5100. Two input variables, the filtered strain rate and velocity gradient tensors at a single grid point, respectively, are adopted, where the NN-based SGS models with these inputs provide a stable LES solution in the turbulent channel flow without any special treatment. In the LES at Reh = 5100, those NN-based SGS models show similar performance, and provide good predictions for the reattachment length and root-mean-square velocity fluctuations. Then, we assess the performance of the NN-based SGS model with the input of filtered strain rate tensor for the LES at Reh = 24000, and this model provides fairly good results, compared to those from the LES with dynamic Smagorinsky model (DSM). Finally, we apply this model for LES of controlled BFS flow with multiple taps installed at the step edge. LES with this NN-based SGS model predicts the amount of reduction in the reattachment length better than by LES with DSM, showing that the NN-based model trained with uncontrolled BFS flow maintains its prediction performance in LES of controlled BFS flow.

본 연구에서는 난류 채널 유동과 후향 계단 주위 난류 유동에 대해, 필터링 된 유동변수를 입력변수로 하여 아격자스케일 (subgrid scale, SGS) 응력을 예측하는 인공신경망 기반 SGS 모델을 개발하였다. 난류 채널 유동의 경우, 필터링 된 직접수치모사 데이터베이스(Reτ = 178)를 사용하여 인공신경망 기반 SGS 모델을 개발하고, 본 모델의 성능을 평가하기 위해 사전 및 사후 테스트를 수행하였다. 사전 테스트에서, 여러 격자점에 있는 필터링 된 속도기울기 또는 속도변형률 텐서를 입력변수로 하는 인공신경망 모델은 실제 SGS 응력과 높은 상관계수를 보이는 SGS 응력을 예측하였다. 그러나 이 모델은 사후 테스트에서 불안정한 수치계산 결과를 보여주었고, LES 솔루션을 얻기 위해서는 후방 산란(backscatter)을 강제적으로 없애는 등의 임의적인 처리를 필요로 했다. 반면, 단일 격자점에서의 필터링 된 속도변형률 텐서를 입력변수로 한 인공신경망 모델은, 사전 테스트에서 실제값과 낮은 상관계수를 보이는 SGS 응력을 예측하였으나, 사후 테스트에서 평균 속도 프로파일과 Reynolds 전단 응력에 대해 우수한 예측 성능을 보였다. 더 높은 Reynolds 수에서 인공신경망 모델의 성능을 확인하기 위하여, Reτ = 178에서 훈련된 인공신경망 기반 SGS 모델(입력변수: 단일 격자점의 필터링 된 속도변형률 텐서)을, Reτ = 723의 큰 에디 모사에 적용하였다. 벽 단위 격자 크기를 학습데이터의 것과 같도록 설정한 경우, 인공신경망 모델의 큰 에디 모사는 필터링 된 직접수치모사의 솔루션과 상당히 잘 일치하였다. 한편, 벽 단위 격자 크기가 훈련데이터의 것과 다른 경우, 인공신경망 모델의 성능이 저하되었으나, 큰 에디 모사의 격자 크기보다 격자 크기가 큰 그리고 작은 학습데이터를 한꺼번에 인공신경망 학습에 사용하게 되면 좋은 성능을 보여주었다. 후향 계단 주위 난류 유동의 경우, Reh = 5100의 필터링 된 직접수치모사 데이터베이스를 사용하여 인공신경망 기반 SGS 모델을 개발하였다. 인공신경망의 입력변수로는, 난류 채널 유동의 큰 에디 모사에서 안정적이고 좋은 성능을 보여준, 단일 격자점의 필터링 된 속도기울기 그리고 속도변형률을 각각 시험해보았다. Reh = 5100에서 큰 에디 모사를 수행한 결과, 두 개의 입력변수로 각각 학습된 인공신경망 모델 모두 재부착 길이 및 난류 섭동량에 대해서, 가장 널리 사용되는 동적 Smagorinksy 모델(DSM)과 비교하여 좋은 예측 성능을 보였다. 속도변형률을 입력변수로 하는 인공신경망 모델을 Reh = 24000의 큰 에디 모사에 적용한 결과, DSM을 사용한 큰 에디 모사와 비교하여 여전히 좋은 결과를 보여주었다. 마지막으로, 후향 계단 모서리에 탭이 설치된 유동에 대한 큰 에디 모사를 수행하였다. 그 결과, SGS 모델을 사용하지 않은 경우에는, 평균속도와 난류섭동량에 대해 기존 실험결과 및 DSM을 사용한 LES와 매우 큰 차이를 보였으나, 인공신경망 모델은 DSM과 유사한 유동예측 성능을 보여주었으며, 재부착 길이 감소량의 경우, 인공신경망 모델이 DSM보다 실험값과 더 잘 일치하였다.