앞선 장에서는 projection과 cosine의 수학적 의미 등에 대해서 다루었다. 이번 장에서는 이러한 projection을 이용해서 space의 bases를 orthonormal bases로 바꾸는 방법에 대해 다룬다. 이렇게 하는 이유는 orthonormal bases일 때 가지고 있는 유용한 성질들 때문이다. Orthonormal bases $$ \text{Def)}\quad q_1, \ldots, q_n \text{ are vectors and orthonormal if}\; q_{i}^{\top}q_{j}=\begin{cases}0 \; (i \neq j) \\ 1 \; (i=j)\end{cases} $$ $$ \text{Def)} Q \text{ is called an orthogonal ..

미분방정식 수업을 들은지는 꽤 지났지만 기계공학, 전자전기공학, 항공우주공학 심지어 화학공학 등 어딜가든 볼 수 있는 것이 미분방정식이기 때문에 자주 복습하게 되어 여전히 잘 쓰고 있는 이론들이다. 이 시리즈에서 쓸 내용은 학부 2학년 수준의 미분방정식 수업 필기 내용을 옮긴 것이다. 실제로는 더 많은 이론들이 있고 그 내용은 아예 다른 카테고리에 넣을지 여기에 계속 누적할 지는 잘 모르겠다. 다루는 내용 1. First-order differential equation 2. Second-order differential equation 3. Laplace transform 4. Systems of first-order linear DE 5. Partial differential equations and..

1. Vector의 norm의 정의 vector space $X$에서 정의된 scalar function 'norm'은 특정한 properties를 만족한다. 즉, 다음의 property를 만족하면 norm이라고 할 수 있다. $x \in \mathbb{R}^{n}$ 와 같은 $n$차원 벡터가 있을 때 1) positivity & positive definiteness $\|x\| \geq 0$ $\|x\|=0 \text{ iff } x=0$ 2) absolute homogeneity $\|\alpha x\|=| \alpha | \|x\|$ 3) triangle inequality $\|x+y\| \leq \|x\| + \|y\|$ 여기서 드는 생각은 왜 norm이라는 것이 중요한가라는 질문이다. 직관적..

1. Inner products and cosines cosine의 물리적인 의미는 다음과 같이 이해할 수 있다. 위에서 벡터 b를 a에 대해 projection한 결과 (편의성을 위해 위의 벡터 표시는 생략) $p=\|b\| \cos\theta \dfrac{a}{\|a\|}=\dfrac{\|a\| \|b\|\cos\theta }{\|a\|^{2}}a=\dfrac{a^{\top}b}{a^{\top}a}a$ 첫번째 부등식은 그림을 보고 유도한 것이고 그 다음 등식은 내적과 cosine의 관계를 통해 유도된 것이다. 위를 통해 b를 a에 대해 projection한 결과는 $\dfrac{a^{\top}b}{a^{\top}a}$ 관계로 연결되어있음을 확인할 수 있다. 그러나 위의 결과는 2차원 평면에서 유도하는..

우리가 통계를 배울 때 가장 먼저 배우는 개념은 평균과 분산(또는 표준편차)이다. 이 2개는 어떤 분포를 표현하는데에 사용되는 지표라고도 이해할 수 있다. 가우시안 분포의 경우에는 평균과 분산 두 개만 가지고도 표현할 수 있는 분포이기 때문에 많이 쓰이지만 실제 분포가 항상 가우시안일 것이라고 기대하기 힘들다. 가우시안 분포를 많이 쓰는 이유는 central limit theorem 때문이다. 개별 표본이 같은 분포(꼭 가우시안이 아니어도 됨)에서 추출되고 서로 독립일 때 이 표본들의 평균이 표본 수 증가함에 따라 가우시안 분포를 따를 것이라는 Theorem이다. 하여튼 이런 경우가 아니라면 분포를 표현하기 위해 여러 moment를 공부하게 된다. $x$는 continuous random variable..

Convex function의 정의 convex function의 정의는 다음과 같다. $\text{A function }J:D\rightarrow \mathbb{R}\text{ is convex if }D \text{ is a convex set and for any two points }z_{1},z_{2}\in D$ $J(\lambda z_{1}+(1-\lambda) z_{2}) \leq \lambda J(z_{1})+(1-\lambda) J(z_{2})\; \forall \lambda \in [0,1]$ 여기서 중요한 점은 convex function은 반드시 domain($D$)이 convex set이어야 한다는 것이다. Convex function의 example 1. $J(z)=a^{\top..

선형대수와 미분방정식에서 중요하게 쓰이는 것 중 하나는 exponential matrix이다. $\dot{x}=Ax\text{, where }A\in \mathbb{R}^{n}$로 된 문제에서 A가 matrix이기 때문에 이에 대한 솔루션을 작성할 때 $x= e^{At}x_{0}$이다. 참고로 이 역시 A가 constant matrix이기 때문에 가능한 것이고, 상수가 아닌 시간에 따라 변하는 경우에는 다음과 같이 표현한다. $x(t)=e^{\int_{0}^{t}A(s)ds}x(0)$ 여기에서는 A가 상수인 경우만 생각하도록 한다. $e^{At}$ 이와 같이 exponential의 지수로 matrix가 들어가는 것을 matrix exponential이라고 한다. 그러면 solution을 구할 때 $e^{..

기계진동학에서 문제를 풀다보면 보통 미분방정식 형태로 많이 나온다. 이 미분방정식은 그냥 풀 수 있는 건 아니고 boundary condition이 주어져야 풀 수 있다. 대표적인 boundary condition 1) Dirichlet boundary condition boundary condition 중에 종속 변수의 0차 미분에 대한 condition이다. 예시를 보면서 이해해보자. Example) $u_{t t}-c^{2} u_{x x}=0$ for $0

역학 관련 분야에서는 미분방정식이 자주 쓰이는데 이런 미분방정식을 푸는 방법은 미분방정식 수업에서 배웠을 것이다. 물론 쉬운 미분방정식은 푸는 방법이 바로 생각날 수도 있지만 그렇지 않을 때 간단하게 답을 체크하는 방법이 있다. 1. 울프람알파 사용 공대생들은 대부분 아는 울프람알파(wolfram alpha) 사이트에서 식을 검색해보는 것이다. https://www.wolframalpha.com/ Wolfram|Alpha: Making the world’s knowledge computable Wolfram|Alpha brings expert-level knowledge and capabilities to the broadest possible range of people—spanning all prof..

선형대수학에서 여러 matrix category가 있는데 맨날 정의를 잊어버리고 각 개념의 포함관계를 잘 알 수 없었다. 그래서 책(아래 참고문헌 적어놓음)을 참고하여 이번에 정리를 하고자 한다. 첫 번째 분류 1. Square / Non-square matrix matrix의 행과 열의 길이가 같으면 square matrix라고 한다. 그렇지 않은 non-square matrix는 선형대수학을 공부하면서 거의 다루지 않지만 dynamics를 공부하다보면 흔하게 나온다. 일반적인 경우에 변수와 방정식의 갯수가 일치하기가 쉽지 않기 때문이다. 그래서 이런 non-square matrix도 분석할 수 있는 Singular Value Decomposition(SVD)를 수행할 수 있다. SVD는 square ..