뛰는 놈 위에 나는 공대생

수치해석은 많은 공학 분야에 사용되고 있습니다. 특히 시스템을 수학적으로 모델링하는 기계공학은, 직접적으로 풀기 어려운 시스템에 대해 수치해석을 많이 사용합니다. 그래서 이번에 공부해야할 필요성을 느꼈고 수업을 들으면서 배운 내용에 대해 정리하려고 합니다. 교재는 Fundamentals of Engineering Numerical Anaylsis (Moin, Parviz)를 사용합니다. 1. Numerical methods 아무런 상황에서도 다 numerical method를 적용하는 것이 아닙니다. Directly solve하기 어려운 physics에 numerical methods를 적용합니다. physics를 크게 분류하자면 1) Linear / Nonlinear 2) Steady / Unstead..

빅데이터, 인공지능을 위한 수학에 대해서 정리합니다. 책은 The elements of Statistical Learning, Date Mining, Inference, and Prediction(Treveor Hastie 외 2명)을 참고할 것 같습니다. 수업을 들으면서 정리하는 내용이 주를 이룰 예정입니다. 제가 아직 확률 및 통계를 글로 정리하지는 않았지만 확률 및 통계 지식이 베이스로 있다고 생각하고 수업이 진행되기 때문에, 확률 및 통계 쪽 지식이 없으면 힘들 수도 있습니다. (저도 복습하면서 진행해야 할 것 같습니다ㅠ) 1. Probability와 관련된 용어 Set : Given a certain condition, the collection of well-defined distinct ob..

조건부확률과 베이즈 정리에 대해 설명할 때 대표적으로 등장하는 예시입니다. 몬티 홀 문제는 몬티 홀이라는 호스트가 진행하는 tv쇼가 배경입니다. 문이 총 3개가 있을 때 3개의 문 중 하나의 뒤에는 고급 차가 있고 나머지 문 뒤에는 염소가 있습니다. 사회자는 자동차가 어떤 문 뒤에 있는지 알고 있고, 참가자에게 문 하나를 선택하게 합니다. 참가자가 문을 하나 선택한 뒤, 사회자는 참가자가 선택하지 않은 문 중 하나를 열어서 염소가 있음을 보여줍니다. 그리고 문을 바꿀 기회를 줍니다. 참가자는 문을 바꾸는 것이 더 유리할까요? 아니면 문을 그대로 유지하는 것이 유리할까요? 단순하게 생각하면 바꾸든, 바꾸지 않든 확률의 차이가 없을 것 같지만 베이즈 정리를 통해 계산해보면 차이가 존재합니다. Backgrou..

이번에는 Singular Value Decomposition을 통해 matrix의 singular value를 구하고 이 singular value가 어떤 의미를 가지는지 살펴보겠습니다. 그리고 singular value가 기하학적으로, controllability 관점에서 어떤 의미가 있는지 보겠습니다. 1. Singular Value Decomposition 어떤 $m\times n$ matrix를 가질 때 이 matrix는 Unitary matrix $U,V$ 그리고 $\Sigma$를 포함한 matrix의 조합으로 표현할 수 있습니다. 어떻게 위와 같은 decomposition을 얻을 수 있는지, 순서대로 보여드리겠습니다. 복소수일 때는 $A^{*}A$, 실수일 때는 $A^{T}A$의 eigenva..

지금까지 배웠던 controllability와 observability를 실제 예시를 통해 보기로 하겠습니다. (이전 글 참고) 이번에는 그림도 들어가고 matrix의 차원도 높아서 그림 위주로 작성하려고 합니다. 1. Controllability 위와 같은 dynamic system에서 $x_{1}$은 $m_{1}$의 position, $x_{2}$는 velocity로 설정했습니다. 마찬가지로 $m_{2}$의 position, velocity 각각 $x_{3},x_{4}$로 설정했습니다. 따라서 state는 $\begin{bmatrix}x_{1}\\x_{2}\\x_{3}\\x_{4}\end{bmatrix}$ 그림에서 위 식이 이 system의 equation이고 아래 P matrix는 controlla..

제어 공부를 하다가 4차원 이상의 matrix의 determinant를 구하는 과정이 필요했습니다. 그런데 직접적으로 determinant를 구하자니 문자가 포함된 고차원 matrix라서 곤란하더라구요. 그래서 matlab에서 symbolic 식을 쓸 수 있다는 사실을 알고 있어서 이번 기회에 써보기로 했습니다. 제가 determinant를 구할 matrix는 4차원에 문자가 섞여있어서 determinant를 구하기 어렵습니다. 문자가 포함된 P matrix를 만들고, determinant를 구하는 matlab 함수 det를 써서 구해보도록 하겠습니다. 1. 기호 변수 생성 : sym 기호 변수를 만드는 함수는 sym이고, 이 sym을 통해 특정 변수에 기호(symbol)을 넣어줘야합니다. 예를 들어 위..

Remind Observability : output과 input을 알고 있을 때, 시스템의 state을 estimate할 수 있는지 여부 1. Definition of observability (CT) $\textbf{Definition :}$ $\dot{x}(t)=Ax(t)+Bu(t)$ $y(t)=Cx(t)+Du(t), A\in R^{n\times n}, C\in R^{r\times n}$ $\text{The LTI continuous time system is said to be observable if, }$ $\text{for any initial state }x(0)=x_{0}$ $\text{there exists a finite time t_{1}>0 such that knowledge of..

Remind : controllability : control input을 이용해 원하는 state로 만들 수 있는지 여부 이번에는 discrete time이 아닌 continuous time에서 controllability를 판별하는 방법에 대해서 알아보겠습니다. discrete time과 거의 유사해서 설명 자체를 간소하게 할 수도 있을 것 같습니다. 참고 글 : normal-engineer.tistory.com/71 1. Definition of controllability $\text{The LTI continous time system}$ $\dot{x}(t)=Ax(t)+Bu(t)\text{ is said to be controllable if,}$ $\text{for any initial st..

1. Ax=b와 Column space&Null space 관계 이 column space와 null space 개념을 통해 $Ax=b$에 대해 이해해볼 수 있습니다. $\text{Given }Ax=b$ $\text{(i). C(A) provides information whether it has a solution. Ax=b has a solution }\Leftrightarrow$ $\begin{bmatrix}b_{1}\\b_{2}\\b_{3}\end{bmatrix}\in C(A)$ 만약 b matrix가 column space of A($C(A)$)에 속해있다면 A의 column들의 선형 조합으로 b를 만들 수 있다는 뜻이므로, x가 존재합니다. (x는 A의 column의 선형 조합에서 계수에 해당..

1. Definition of Null space $\text{Definition : }$ $\text{null space of A, }N(A)=\{x\in\mathbb{R}^{n},Ax=0\}$ $\text{claim }N(A)\text{ is a subspace}$ $\text{(i). non-empty }\Rightarrow$ 항상 $A\dot 0=0$이므로 null space에는 영벡터가 존재하고, null space은 empty일 수 없다. $\text{(ii). }Ax_{1}=0, Ax_{2}=0 \Rightarrow A(x_{1}+x_{2})=Ax_{1}+Ax_{2}=0$ $\text{if }x_{1},x_{2}\in N(A)\text{, then }x_{1}+x_{2}\in N(A)$ $\..