링크 :

arxiv.org

1. 개요

• Scientifc ML이 관심을 받고 있으나, chaotic system modeling에 적용한 시도는 많지 않다.

• 특히, UDE와 Lorenz System을 결합하는 연구는 없다.

• 그래서 논문은 다음 5가지 질문에 답하고자 한다.

  (1) Neural ODE와 UDE는 전통적인 system modeling task의 대안이 될 수 있는가?

  (2) UDE를 이용하여 Lorenz system의 특정 term을 근사할 수 있는가? 즉, 해당 term을 neural network로 대체했을 때 참값을 복원할 수 있는가?

  (3) Neural ODE와 UDE의 prediction결과를 어떻게 비교할 수 있는가?

  (4) Neural ODE와 UDE를 이용하여 Lorenz System ODE를 잘 예측할 수 있는가?

  (5) UDE가 Neural ODE보다 예측 성능이 좋은가?

• 단, 나는 UDE가 아닌 Neural ODE를 이용해서 lorenz 96 system의 값을 예측하려고 하기 때문에 (4)번 질문 관련하여 NeuralODE를 분석하는 내용 위주로 읽어보았다.

2. Methodology

(1) Equations of Lorenz system

$$ \frac{dx}{dt} = \sigma(y-x)

\\

\frac{dy}{dt} = x(\rho-z)-y

\\

\frac{dz}{dt} = xy-\beta z

\\

\begin{align*} &\sigma : \text{The Prandtl Number, the ratio of the rate of momentum diffusion to thermal diffusion} \\ &\rho : \text{The Rayleigh Number, the driving force for convection due to temperature difference across the fluid layer} \\ &\beta : \text{The Geometric Factor, the aspect ratio of the convective cells} \\ \end{align*}

$$

• 식을 풀었을 때, 해는 다음과 같이 나온다고 한다. 단, u1, u2, u3가 무엇을 의미하는지는 언급되어 있지 않다.

(2) Neural ODE 설계

A. Step

• Step 1 : ODE_solver를 이용하여 lorenz equation을 풀어내서 true_data를 생성
• Step 2 : Neural Network를 설계
  • 이 때, Input은 (x, y, z) 3차원 벡터를 입력받을 수 있도록 설계되어야 한다. → Observation을 state로 간주한다.
  • Output은 (dx/dt, dy/dt, dz/dt)이다.

B. 논문에서 언급한 방법