뛰는 놈 위에 나는 공대생

[논문] Nature format 정리

보통의공대생 — Fri, 3 Apr 2026 07:17:46 +0900

Nature materials format 기준으로 설명한다. : https://www.nature.com/nmat/submission-guidelines/aip-and-formatting

자잘한 당연한 내용은 생략.

1. Document type

- LaTeX 기준 article.cls, revtex.cls or amsart.cls와 같은 class file 사용

- Computer Modern fonts를 사용할 것. Computer modern fonts : https://www.fontsquirrel.com/fonts/computer-modern

- graphicx.sty 사용 - package graphicx를 import하면 됨.

- number로만 인용할 것. manuscript 안에 references가 포함되어야 함.

- bibtex를 쓰고 싶으면 \bibliography나 \bibliographystyle를 사용하지 말고 .bbl file을 사용할 것

LaTeX support : https://www.springernature.com/gp/authors/campaigns/latex-author-support

LaTeX author support | Publish your research | Springer Nature

Still having problems? If you cannot find the answer you need here, or in the FAQs, please contact the editorial office for the journal you are submitting to in the first instance. To help them help you please try and include the following information with

www.springernature.com

2. Table

- Table은 맨 뒤에 첨부

- Complex tables은 별도의 엑셀파일로 제출

- 데이터에 대한 통계적 분석이 포함된 경우 standards of error analysis and range를 table legend에 설명해야한다. (이게 무슨 말이지?)

- chemical structure가 포함된 table은 문서 끝에 native ChemDraw 파일을 포함할 것

3. Figures

figure는 따로 guideline이 있다.

https://www.nature.com/documents/NRJs-guide-to-preparing-final-artwork.pdf

이 글에 대한 거는 따로 작성한다.

Images

- 모든 figures들은 Fig.1, Fig.2와 같은 형태로 순서대로 인용되어야 한다.

- Figure panels들은 minimum resolution이 300dpi이다. maximum width 180mm. (벡터 이미지면 문제 없다. 어차피 png로 export할 때 dpi를 정할 수 있기 때문)

- 5-7pt san serif 폰트 사용 / Greek 문자는 Symbol font로 사용. - 보통 Arial 사용하면 문제 없다.

- scale bars를 사용하라. error bars가 필요하면 사용 가능.

- labelling이나 scale/error bars를 flatten하지 말라는데 무슨 말이지?

Figure legends- 각 figure마다 brief title + a short description of each panel 포함- legend가 article type의 word limit을 넘기면 안됨.- methodological detail은 쓰지 마라.- 심볼이나 visual cue를 쓰지 말고 오직 말로만 설명해라.

그 외 이미지에 대한 내용은 화학쪽이나 high resolution image가 많이 쓰이는 분야에 대한 내용이다.

4는 colour charges라 해서 실물로 출판되는 저널에 한해서 컬러로 출력하고 싶으면 돈을 더 내라는 얘기다.

5. References

Main text
Tables
Figure legends
Box
Methods
Data Availability Section
Extended data

위 순서대로 references 순서가 매겨져야 한다.

- each reference 당 하나의 출판물만 제시되어야 한다.

- 연구 출판물의 경우 DOI가 있으므로 이것도 같이 적어야 한다.

- 출판되지 않은 미팅 초록이나 리뷰 중인 논문은 레퍼런스 목록에 없어야 한다.

- URLs은 괄호 안에 넣어서 인용하고 레퍼런스 목록에는 제외한다.

- grant details이나 acknowledgements은 레퍼런스 목록에 넣지 마라.

- footnotes는 지원하지 않음.

양식:

For long-form manuscripts such as Articles, Letters, Review Articles, Perspectives and Progress Articles, titles of cited articles are required.

Example:

Eigler, D. M. & Schweizer, E. K. Positioning single atoms with a scanning tunnelling microscope. Nature 344, 524–526 (1990).

For shorter article types such as Commentaries or News & Views, titles of cited articles are not included.

Example:

Iijima, S. Nature 354, 56–58 (1991).

For book citations, the publisher is required.

Example:

Jones, R. A. L. Soft Machines: Nanotechnology and Life Ch. 3 (Oxford Univ. Press, 2004).

Data and code may be cited in the reference list if they have been assigned DOIs and should include authors, title, publisher (repository name) and DOI expressed as a URL.

Example:

Hao, Z., AghaKouchak, A., Nakhjiri, N. & Farahmand, A. Global Integrated Drought Monitoring and Prediction System (GIDMaPS) data sets. figshare http://dx.doi.org/10.6084/m9.figshare.853801 (2014).

To cite a preprint

Example:

Babichev, S. A., Ries, J. & Lvovsky, A. I. Quantum scissors: teleportation of single-mode optical states by means of a nonlocal single photon. Preprint at https://arXiv.org/quant-ph/0208066 (2002).

6. Methods

methods는 short, bold headings으로 분리되어야 한다. 추가적인 reference가 필요할 경우 main paper 레퍼런스의 뒤에 들어가게 된다.

좀 신기한 것은 protocol을 다음 웹사이트에 제출하라고 한다. https://www.protocols.io/

Bring structure to your research - protocols.io

A secure platform for developing and sharing reproducible methods.

www.protocols.io

주로 bio, chem 분야에서 필요한 듯하다.

7. Acknowledgements

짧게 작성. referees 나 editors에 대한 감사는 제외. Grant나 contribution numbers는 괜찮음.

8. Extended data figures

main paper에 포함된 data에 필요한 background를 제공해주는 figures들.

최대 10개의 Extended Data 표시용 그림(display figures)까지 허용
Extended Data 그림은 Nature Materials에서 복사 편집(copy-edit)이나 스타일 편집을 하지 않으므로, 그림을 준비할 때 가능한 한 저널 스타일로 그리기
필요할 경우 그림은 여러 패널(multi-paneled)로 구성할 수 있으며, 단일 PDF 페이지에 들어가도록 크기를 조정
Extended Data 그림의 범례(legend)는 본문 그림과 동일한 방식으로 작성해야 하며, ‘Inventory of Supporting Information’ 문서 포함되어야 함
모든 Extended Data 그림은 본문(main text)에서 적절한 위치에 개별 항목으로 참조

10. Supplementary information (SI)

- SI는 제출된 그대로 게시되므로 명확하고 간결하게, 논리적으로 작성한다.

- 용어가 본문과 일관되어야 함.

- SI는 모든 항목이 순차적으로 번호를 매기고 본문이나 Extended data와 별도로 번호를 매긴다.

- Supplementary figure는 해당 결과를 extended data로 제시하는 게 적절하지 않을 경우에만 사용한다. 범례 포함 하나의 pdf 페이지 안에 들어가도록 만들고, 다른 supplementary information을 포함할 경우 최소한으로만 넣어야 한다.

- Figures, Tables, Videos에 제목과 캡션이 있어야하고 이 제목, 캡션은 본문의 룰과 동일하다.

- 방법론적인 정보는 가능한 본문에 포함한다.

- (이건 좀 중요한 부분!) SI 항목은 본문 또는 Methods 섹션에서 최소 한 번 이상 반드시 참조되어야 한다. 반드시 Supplementary라는 단어를 포함해야하며 순서대로 인용해야 한다. 첨언하자면 이럴 경우에는 supplementary 내용을 그냥 본문 인용을 기준으로 배치하면 될 것 같다.

- 하나의 통합된 pdf로 제출하되, 복잡한 표나 데이터는 csv 형식으로 제출하는 것도 허용.

- 소프트웨어는 zip 또는 tar 파일로 제출

- 오디오, 비디오는 일반적인 파일 포맷 사용.

내용이 더 있긴 한데 기본적인 내용은 다음과 같다.

나머지는 좀 분야 specific하다. (bio, chem 분야는 링크 들어가서 다시 확인하는 게 좋을 듯)

[Acoustics] Dispersion relation

보통의공대생 — Thu, 26 Mar 2026 00:10:32 +0900

기계진동학을 공부했지만 acoustics를 전혀 몰라서 작성하는 글.

dispersion relation in acoustics는 wave frequency가 어떻게 wave number와 연관이 되어있느냐, 주파수에 따라 sound waves가 어떻게 빨리 전달되느냐에 대한 정보이다.

여기서 의문이었던 것은

나는 항상 wave frequency = wave number라고 생각했기 때문이다.

dispersion relation은

$$\omega = \omega(k)$$

다음과 같이 $\omega$는 angular frequency, $k$는 wave number이다. 이를 wave propagation behavior라고 한다.

이 관계에서

phase velocity(speed of individual wave crests) 는 $c_p=\omega/k$

group velocity(speed of energy)는 $c_g=d\omega/dk$

1) Non-dispersive acoustics

Non-dispersive acoustics, 예를 들면 공기 중 소리 전파는 다음과 같은 관계를 가진다.

$$\omega=ck$$

즉, wave number와 angular frequency가 선형관계를 갖는다. 따라서 나의 기존 생각은 일반적인 공기 중 소리 전파를 생각했기 때문이다. 공기 중에서 소리의 wave velocity는 어느 주파수에서든 동일하다. 위에서 정의한 대로 $c_p$를 구하든, $c_g$를 구하든 위 관계식에서는 $c_p=c_g=c$로 계산할 수 있다.

2) Dispersive acoustics

Dispersive acoustics의 경우

$$\omega \neq ck$$의 관계를 갖는다. 즉, wave number에 따라 frequency가 달라진다.

다음과 같은 특성을 갖는 물질이 있다고 해보자.

slope → wave velocity
flat band → slow waves
band gap → no propagation
negative slope → negative group velocity

[PCA] Principal Component Analysis (PCA) example code

보통의공대생 — Thu, 12 Mar 2026 05:42:54 +0900

Iris dataset (2d feature)로 PCA를 적용한 예시이다.

import numpy as np
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler
from sklearn.datasets import load_iris

# 1. Load sample data (Iris dataset)
data = load_iris()
X = data.data

# 2. Standardize the data (Mean=0, Variance=1)
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 3. Apply PCA (reduce to 2 components)
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)

# 4. Check results
print(f"Original shape: {X.shape}")
print(f"Reduced shape: {X_pca.shape}")
print(f"Explained variance ratio: {pca.explained_variance_ratio_}")


import numpy as np

def pca_from_scratch(X, n_components):
    # Step 1: Mean Centering
    X_meaned = X - np.mean(X, axis=0)
    
    # Step 2: Compute Covariance Matrix
    cov_mat = np.cov(X_meaned, rowvar=False)
    
    # Step 3: Compute Eigenvalues and Eigenvectors
    eigen_values, eigen_vectors = np.linalg.eigh(cov_mat)
    
    # Step 4: Sort Eigenvalues and Eigenvectors in descending order
    sorted_index = np.argsort(eigen_values)[::-1]
    sorted_eigenvectors = eigen_vectors[:, sorted_index]
    
    # Step 5: Select top N components
    eigenvector_subset = sorted_eigenvectors[:, 0:n_components]
    
    # Step 6: Transform the data
    X_reduced = np.dot(X_meaned, eigenvector_subset)
    return X_reduced

# Example usage
X_scratch = pca_from_scratch(X, 2)

원래 데이터셋은 다음과 같다.

# Visualize Principal Axes
plt.figure(figsize=(8, 6))

# Plot the data points
for color, i, target_name in zip(colors, [0, 1, 2], data.target_names):
    plt.scatter(X_pca[data.target == i, 0], X_pca[data.target == i, 1], 
                color=color, alpha=.8, lw=2, label=target_name)

# Plot principal axes
origin = [0, 0]
scale = np.sqrt(pca.explained_variance_)  # Scale by explained variance

for i, (component, var) in enumerate(zip(pca.components_, scale)):
    plt.arrow(origin[0], origin[1], 
              component[0] * var * 3, component[1] * var * 3,
              head_width=0.2, head_length=0.2, fc=f'C{i}', ec=f'C{i}', 
              linewidth=2.5, alpha=0.7, label=f'PC{i+1}')

plt.legend(loc='best', shadow=False, scatterpoints=1)
plt.title('PCA of IRIS Dataset with Principal Axes')
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.grid(True, alpha=0.3)
plt.axhline(y=0, color='k', linewidth=0.5)
plt.axvline(x=0, color='k', linewidth=0.5)
plt.savefig("pca_iris_with_axes.eps")
plt.show()

[클로드코드] Claude.code 자료 모음

보통의공대생 — Mon, 9 Mar 2026 03:15:50 +0900

최근에 AI를 활용한 코딩을 어떻게 할 것인가에 대한 논의가 많다.

vscode 내에서도 copilot을 이용할 수 있고, CURSOR라는 소프트웨어도 IDE와 AI를 통한 코드 작성을 합친 편한 기능을 제공했다.

Cursor의 등장 후에

OpenAI (chatGPT)에서는 CODEX를 출시하고

구글(Gemini)에서는 Google antigravity를 출시했다.

둘 다 코드 편집을 위한 IDE와 AI를 같이 쓸 수 있는 프로그램이다.

나는 이미 Cursor를 쓰고 있었고 꽤 만족하고 있었다.

둘 다 테스트를 해봐야겠다고 생각하던 와중에 클로드 코드가 좋다는 얘기를 들었다.

클로드 코드는 터미널에서 코드를 편집할 수 있도록 한 프로그램으로, 현재 기준 pro 버전을 구독해야 쓸 수 있다. 보통은 IDE에서 코드를 편집하니, VSCODE나 CURSOR 등에서도 사용할 수 있다.

거두절미하고 찾은 자료들만 기록하겠다.

1. Anthropic 회사에서 직접 만든 클로드 코드 강의 : https://anthropic.skilljar.com/claude-code-in-action/303233

2. Claude code 101 : https://m1zz.github.io/ClaudeCode101/index.html

Claude Code 101 — 완전 입문 가이드

설치부터 실전 프로젝트까지, AI 에이전틱 코딩 완전 정복

m1zz.github.io

3. https://cc101.axwith.com/ko

CC101 — Claude Code 한국어 입문 가이드

Claude Code 설치부터 CLAUDE.md, MCP, Skills, Hooks까지 — 공식 문서 기반으로 쉽게 정리한 한국어 입문 가이드

cc101.axwith.com

[Graphics] Signed distance fields / functions (SDFs)

보통의공대생 — Mon, 2 Mar 2026 06:21:33 +0900

Signed distance fields (SDFs) / Signed distance functions

특정 점의 position을 입력으로 받으면 그 shape에서 가장 가까운 점으로부터의 거리를 알려주는 함수다.

이러한 함수는 Finite element method에서처럼 explicit하게 어떤 위치에 어떤 점이 있는지를 나타내는 것이 아니기 때문에 implicit curves or surfaces라고 표현하기도 한다.

https://numfactory.upc.edu/web/Geometria/signedDistances.html

Signed Distance Function (SDF): Implicit curves or surfaces

Signed Distance Function (SDF): Implicit curves or surfaces A mathematical equation usually involves the relationship between several unknowns. For exemple: In this case, the relation between is implicit because none of then are expressed in terms of the o

numfactory.upc.edu

다음 사이트에서 SDFs의 예시를 가져왔다.

1. 2 Dimensional 일 때

1-1. Circle

가장 대표적인 것이 원이다.

우리가 2d 공간에서 원을 정의할 때 다음과 같이 implicit function으로 나타낸다.

$$(x-a)^2 + (y-b)^2 -1=0$$

이 원을 그리면 원점이 $(a,b)$이고 반지름이 1인 원임을 알 수 있다. 우리가 만약 d를 다음과 같이 정의한다면

$$d(x,y) = (x-a)^2 + (y-b)^2 -1 $$

특정 점이 주어질 때 거리 $d$를 계산할 수 있다. 입력 점 좌표가 원 내부이면 음수, 외부이면 양수가 나온다.

1-2. Segment

다음과 같은 선분($S_{AB}$)이 주어질 때 어떠한 포인트 $(x,y)$를 주면 그 선분에 가장 가까운 거리를 구해야 한다.

선분은 수학적으로 다음과 같이 정의된다.

$$S_{AB} : (x,y)=\lambda A+(1-\lambda)B \quad \lambda \in [0,1]$$

1번 영역에서는 $d(P,S_{AB})=d(P,Q)$ - P와 그 선분에 Projection한 점 Q 사이의 거리를 구한다.

2번 영역에서는 $d(P,S_{AB})=d(P,A)$ - P와 선분의 끝 A 사이의 거리

3번 영역에서는 $d(P,S_{AB})=d(P,B)$ - P와 선분의 끝 B 사이의 거리

이렇게 세 부분으로 나눠서 계산할 수 있다.

따라서 코드 상에서는 SDF를 정의할 때

$$\lambda=\frac{\langle P-A, B-A \rangle}{ \langle B-A,B-A \rangle }$$를 계산한 다음에 이 $\lambda$를 $[0,1]$ 안으로 clipping한 $lambda$값을 선분 방정식에 넣은 점과의 거리로 정의한다.

$\lambda$가 0보다 작을 경우에는 점 A에 projection되고

$\lambda$가 1보다 클 경우에는 점 B에 projection하기 위해서이다.

따라서 SDF를 다음과 같이 정의할 수 있다.

$$d(P,S_{AB})=d(P,Q) \quad {such that} Q=\lambda A +(1-\lambda)B \text[ where }\lambda= \min\left(1, \max \left( \frac{ \langle P-A, B-A \rangle }{ \langle B-A,B-A \rangle }\right)\right)$$

2. 3 Dimensional일 때

2-1. Cube

다음과 같이 cube 거리를 계산할 때는 선분 거리 계산 때와 같이 영역을 나눠서 계산할 수 있다.

영역 1 $d=P_x -R_x$

영역 2 $d=P_y - R_y$

영역 3 $d=\sqrt{ (P_x - R_x)^2 + (P_y - R_y)^2 }$

내부에 점이 있는 경우까지 고려하면 다음과 같이 정리할 수 있다.

$$d = \left\lVert \max\left( \lvert P \rvert - R,\, 0 \right) \right\rVert - \min\left( \left\lVert \lvert P \rvert - R \right\rVert_{\infty},\, 0 \right)$$

SDFs는 mesh를 만들어야한다는 제약이 덜하기 때문에 유용하게 쓸 수 있을까 싶어서 공부 중이다.

[추정] Maximum likelihood estimator (MLE), Maximum a posterior Estimator(MAP)

보통의공대생 — Thu, 12 Feb 2026 11:46:16 +0900

Estimation에 대해 알기 전에 읽어두면 도움이 되는 글 : https://normal-engineer.tistory.com/191

Estimation을 공부하다보면 무조건 나오는 것이 Maximum Likelihood Estimator와 Maximum A-Posterior Estimator다.

이 두 개 개념을 정확히 해놓으면 나중에 칼만 필터와 같은 이론을 공부할 때도 매우 도움이 된다.

추정 이론을 공부하려면 수학과의 probability & statistics 내용을 기본적으로 알고 있어야 한다.

0. Estimation for what?

추정론을 할 때 가장 기본적인 생각은 "무엇"을 추정하고자 하는지 명확하게 해야한다는 것이다. 대부분은 데이터가 있고, 그 데이터를 예측하기 위한 모델의 "파라미터"를 추정하겠다, 라는 것이 그 골자이다.

그럼 모델은 무엇인가?

머신러닝에서 처음 시작할 때 확률론적인 가정이 없다면 linear regression을 할 때

$$y = w^{\top}x + b$$

다음과 같은 모델에서 $w,b$가 deterministic하다고 생각하고 $w,b$를 추정하는 문제를 만든다.

그러나 우리가 얻는 결과값이 정해지는 게 아니라 확률적인 것이라 생각하면 그 문제의 formulation이 조금 달라진다. - 결론적으로는 최적화 문제로 귀결되어 최적화 알고리즘을 적용하게 되는 경우가 많지만, 문제의 가정과 모델링에 따라 그 formulation이 달라진다.

내가 알고 싶은 값이 random variable이라 하자. (Random variable이 무엇인가? 확률론에 기반한 설명보다는 여기서는 간단하게 특정 확률 분포를 갖는 어떤 스칼라값이라고 하자.) 그러면 그 random variable에 대해 알고 싶다할 때 그 random variable의 확률 분포를 특정 파라미터가 포함된 모델이라 가정하고 데이터를 기반으로 파라미터를 추정할 수 있다. 예를 들어 random variable이 가우시안 분포라고 가정한다면 평균과 분산을 추정함으로써 그 random variable의 분포를 예상할 수 있다.

그렇다면 우리가 알고 싶은 파라미터를 가장 "그럴 듯한" 값으로 추정해보고 싶은데 어떻게 해야할까?

1. Maximum likelihood estimator (MLE)

누군가는 주어진 데이터를 보고 어떤 파라미터를 적용하면 그 데이터가 나올 확률이 가장 높은 것이 가장 좋은 파라미터라고 생각할 수 있다. 직관적이고 그럴 듯하다. 이 방법을 Maximum likelihood estimator라고 한다.

$$\hat{\theta}_{mle}=\arg\max_\theta L(\theta;x_1, \ldots, x_N) $$

다음과 같이 Likelihood를 정의하고 그 값이 최대가 되는 파라미터 $\theta$를 구한다. 일반적으로는 log를 씌워서 log-likelihood로 만들어서 구하기도 한다. log는 단조증가함수이기 때문에 함수의 최대값이 변하지 않기 때문이다.

$$\hat{\theta}_{mle}=\arg\max_\theta \log L(\theta;x_1, \ldots, x_N)= \arg\max_\theta \ell(\theta;x_1, \ldots, x_N) $$

이 때 데이터가 $x_1, x_2, \ldots, x_N$가 존재하므로 joint distribution를 구해야한다.

MLE는 사실 예시가 두 개 정도 정해져있고 직관적으로 이해하기도 편하다. 왜냐하면 솔루션을 수식으로 표현할 수 있기 때문이다.

Example : free throw shooting

어떤 코인을 던졌을 때 앞면(Head)가 나올 확률이 $\theta$, 뒷면(Tail)이 나올 확률이 $1-\theta$이라고 하자. N번의 observations이 주어질 때 ($x_1,x_2,\ldots,x_N$) MLE로 $\theta$를 추정해보자.

처음 Likelihood를 작성하면서 시작한다. 앞면일 때의 observation을 $x=1$, 뒷면일 때 $x=0$이라 한다면 각 observation의 확률은 $\theta^x \times (1-\theta)^x$가 된다. $x=1$일 때 $\theta$, $x=0$일 때 $1-\theta$로 확률이 일치한다.

$$L(\theta; x_1,\ldots,x_N) = \prod_{n=1}^{N} \theta^{x_n} (1-\theta)^{1-x_n}$$

각 observation이 독립이라고 가정한다면 $x_1$부터 $x_N$이 동시에 일어날 확률을 단순 곱으로 표현할 수 있다.

$S_N=\sum_{n=1}^{N}x_n$라고 둔다면

$$L(\theta;x_1,\ldots,x_N) =\theta^{S_N} (1-\theta)^{N-S_N}$$

이므로

$$\ell(\theta; x_1, \ldots, x_N)= S_N \log \theta + (N - S_N)\log(1 - \theta)$$

여기서 최대값을 구하기 위해 $\theta$에 대해 미분한다.

$$\frac{d\ell(\theta; \cdot)}{d\theta} = \frac{S_N}{\theta} - \frac{N - S_N}{1 - \theta}$$

$$\frac{d^2\ell(\theta; \cdot)}{d\theta^2}= -\frac{S_N}{\theta^2} - \frac{N - S_N}{(1 - \theta)^2}$$

첫 번째 식이 0이 되는 $\theta$가 곧 MLE다. 대신 최대값인지 확인하기 위해 Second derivative까지 확인해야한다.

$$\theta_{mle} = \frac{S_N}{N}=\frac{1}{N}\sum_{n=1}^{N}x_n$$

즉, 내가 나온 Head의 개수의 평균이 곧 $\theta$라는 것을 알 수 있다.

2. Maximum A-posterior Estimator

MLE는 굉장히 유용한 방법이기는 하지만 우리가 어느정도 사전지식을 갖고 있을 때는 이를 반영해줄 필요가 있다. 예를 들어 위의 예시에서 코인이 있는데 어느정도 코인이 살짝 구부러져있어서 앞면이 더 나올 가능성이 높다는 걸 알고 있다해보자. 그렇다면 MLE를 적용하기보다는 이를 고려한 추정기가 훨씬 그럴 듯할 것이다.

사실 칼만 필터 역시 우리가 dynamics를 알고 있을 때, 이전 스텝의 state가 이후 스텝의 state에 영향을 준다는 사실을 알고 있다. 그래서 이전 정보를 활용해서 정확한 현재 state를 추정할 수 있는 것이다. 따라서 우리는 Bayesian estimator를 사용함으로써 더 정확한 추정치를 알 수 있다. 그래서 이번 장에서는 Bayesian estimator를 적용함으로써 추정 결과가 어떻게 바뀌는지를 확인할 것이다.

A-posterior를 구하기 위해 우리는 궁금한 파라미터 $\theta$가 a random variable이라고 가정한다. 따라서 $\theta$를 추정하는 문제가 deterministic이 아니라 probabilistic 문제로 바뀌는 것이다. $\theta$가 고정된 값이 아니기 때문에 $\theta$에 대한 확률 분포가 필요하다.

$\Theta \~ f_{\Theta}(\theta)$

보통 $\Theta$를 random variable이라고 한다면 $\theta$는 그 realization이다. 즉, $\Theta=1$일 때 $\theta$는 1이라는 값을 대변하기 위한 변수이다.

우리가 관찰한 데이터 $X$는 $Theta$에 따라 확률이 달라진다고 하자.

$$X \~ f_{X}(x|\Theta=\theta).$$

이 때 특정 관찰 데이터 $x$가 주어질 때 우리가 궁금한 파라미터 $\Theta$가 $\theta$일 확률은 다음과 같이 구할 수 있다.

$$f_{\Theta}(\theta | X=x) =\frac{f_{X}(x|\Theta=\theta) f_{\Theta}(\theta)}{f_{X}(x)}$$

우리가 구하고자 하는 $f_{\Theta}(\theta)$은 관찰 결과가 있기 전에 존재하는 확률 분포이므로 prior, 관찰값 $x$를 보고 추정하는 확률 분포 $f_{\Theta}(\theta|x)$는 posterior라고 한다.

따라서 maximum a-posterior estimator는 posterior 확률을 극대화하는 $\theta$를 구하는 추정 문제를 풀어야 한다.

참고로 normalizing factor인 $f_{X}(x)$는

$$f_{X}(x)=\int_{\theta \in \mathcal{T}} f_{X}(x|\Theta=\theta)f_{\Theta}(\theta)d\theta$$와 같이 적분으로 구해줘야한다.

$\Theta$가 discrete variable인 경우에는

$$f_{X}(x)= \sum_{\theta \in \mathcal{T}} f_{X}(x|\Theta=\theta)P(\Theta=\theta) $$

Example : free throw shooting

이제 이전과 동일한 free throw shooting 문제를 $\theta$에 대한 확률분포 $f_{\Theta}(\theta)$를 도입해서 풀어보자.

우리가 알고 싶은 것은 동전이 앞면이 나올 확률($\theta$)이다. (뒷면이 나올 확률은 자연히 $1-\theta$가 된다.)

만약 우리가 동전을 만드는 공정을 다 알고 있어서 동전의 확률이 $\theta=1/2$에서 1이고 나머지는 0이라는 것을 안다면 maximum a-posterior estimator는 어떠한 observations이 있어도 $\theta=1/2$를 출력할 것이다.

지금은 $f_{\Theta}(\theta)=\text{Uniform}([0,1])=1 \; \forall \theta=[0,1]$라고 하자.

그러면 이 정보를 바탕으로 $X_1 =1$일 때 posterior를 구해보자.

$$f_{\Theta}(\theta \mid X_1 = 1)=\frac{f_X(X_1 = 1 \mid \Theta = \theta)\, f_{\Theta}(\theta)}{f_X(X_1 = 1)}$$

$$f_X(X_1 = 1)=\int_{0}^{1} \theta \, f_{\Theta}(\theta)\, d\theta=
\int_{0}^{1} \theta \, d\theta=
\left[ \frac{\theta^2}{2} \right]_{0}^{1}
=
\frac{1}{2}
$$

$$f_{\Theta}(\theta \mid X_1 = 1)
=
\frac{\theta \cdot 1}{1/2}
=
2\theta
$$

따라서 $f_{\Theta}(\theta \mid X_1=1)$을 최대화하기 위한 $\theta$는 1이 된다. ($\theta \in[0,1]$)

만약 우리가 더 많은 관찰 결과를 가진다면 ($X_1, X_2, X_3, X_4,...$) 그 확률은 달라질 것이다.

예를 들어 $ X_1=1,X_2=0,X_3=1,X_4=1$일 때,

$$f_{\Theta}(\theta|X_1=1,X_2=0,X_3=1,X_4=1)=\frac{f_{X}(X_1=1,X_2=0,X_3=1,X_4=1|\Theta=\theta)}{f_{X}(X_1=1,X_2=0,X_3=1,X_4=1)}$$

다음 식에서 우변을 구해야한다.

분자의 경우 $\theta^3(1-\theta)$로 쉽게 나오지만 분모를 구하려면 $$\int_0^1 \theta^3(1-\theta)d\theta$$를 계산해야하므로 좀 더 복잡하다. 이 경우 감마함수를 사용하면 구할 수 있다. 하지만 MAP를 적용하는 관점에서 $f_X$는 $\theta$와 무관한 값이기 때문에 구할 필요가 없다. 즉, 분자만 따졌을 때는 이전에 구했던 MLE 문제와 크게 다르지 않다는 결론이 나온다.

왜 이런 결론이 나왔을까? 우리가 $\theta$의 분포를 uniform하다고 가정했기 때문이다.

즉, $\theta$에 대한 사전 정보에 따라서 MAP 결과가 달라질 수 있다.

3. 종합

MLE와 MAP 외에도 MMSE 등 다른 Estimator가 있는데 이는 나중에 기회가 되면 더 설명하고자 한다.

중요한 것은 MLE와 MAP에서 $\theta$에 대한 가정을 달리함으로써 다르게 추정할 수 있음을 이해하는 것이다.

[JAX] JAX 최신버전(0.8.0~0.9.0) GPU 체크

보통의공대생 — Tue, 27 Jan 2026 00:47:41 +0900

본인의 컴퓨터나 노트북에 NVIDIA GPU가 있고 CUDA가 이미 설치되어있는 것을 전제로 한다.

또한 가상환경을 conda에서 만들어서 그 안에서 최신 버전의 JAX를 설치하는 과정이다. (일반적으로 JAX를 pip으로 설치하면 무조건 최신버전을 설치하도록 된다.)

설치한 JAX 버전은 현재 기준으로 가장 최신인 0.9.0이다. 이전 버전을 설치하고 싶다면 다음 글이 더 유용하다.

나는 주로 Linux x86_64, Windows WSL2 환경을 사용한다.

다음 커맨드를 실행하면 JAX GPU 버전이 설치가 되는데 여기서 가정하는 것은 CUDA가 적절하게 설치되어있다는 것이다.

pip install --upgrade "jax[cuda12]"

최근에는 JAX installation 문서가 잘 업데이트되어서 설치하는 데에 크게 어려움은 없다. 다만 설치하고 gpu를 잘 사용되는지 확인하고자 한다면 다음 처럼 확인해보자.

python # ubuntu 환경에서 python 실행
>> import jax
>> print( jax.default_backend() )

그러면 CPU를 사용한다고 나온다. 이런 문제는 보통 CUDA가 전체 컴퓨터에 설치되어있다하더라도 내가 셋업하고 있는 환경 안에서 CUDA를 읽어들이지 못하는 경우이다. 따라서 환경의 안정성을 위해서는 각 가상환경마다 NVIDIA CUDA를 설치해주는 게 좋긴 하다. (다만 이런 환경이 많이 늘어난 상태라 용량이 문제가 된다면 언젠가는 정리해야할 것 같기도...) 다음 커맨드가 가상환경 내에서 CUDA를 사용하기 위한 library까지 포함해서 설치하는 것이다.

(Note : 옛날에 윈도우 자체에서 CUDA 버전을 여러 개 설치해서 사용을 했었는데 이러면 각 CUDA와 가상환경 사이에 읽어들이는 게 꼬이기 쉬웠었다.)

CUDA를 사용하는지 확실하게 하기 위해서는 다음 Command도 다시 설치해준다.

이렇게 하면 cudnn을 비롯한 CUDA를 사용하기 위한 많은 라이브러리들을 설치하도록 되어있다.

이제는 GPU를 인식하는 것을 확인할 수 있다.

[논문] 일러스트레이터에서 LaTeX 사용하는 법

보통의공대생 — Wed, 21 Jan 2026 07:14:44 +0900

일러스트레이터에서 작업하는데 평소에 쓰는 powerpoint나 draw.io와 달리 LaTeX를 사용할 수 없다는 것을 깨달았다.

그래서 powerpoint에서 LaTeX를 플러그인으로 사용했던 것처럼 비슷한 방법을 찾아보았다.

1. LaTeX2AI

다음 플러그인은 illustrator에서 latex을 쓸 수 있도록 만든 플러그인이다.

https://github.com/isteinbrecher/LaTeX2AI

GitHub - isteinbrecher/LaTeX2AI: LaTeX Plugin for Adobe Illustrator

LaTeX Plugin for Adobe Illustrator. Contribute to isteinbrecher/LaTeX2AI development by creating an account on GitHub.

github.com

기본적으로 MikTeX와 같은 TeX 컴파일러가 설치되어 있어야한다.

이 글에서는 다른 유저는 사용 못하고 내 개인 계정만 이 플러그인을 사용하는 방법을 채택했다.

2. 파일 다운로드

https://github.com/isteinbrecher/latex2ai/releases

Releases · isteinbrecher/LaTeX2AI

LaTeX Plugin for Adobe Illustrator. Contribute to isteinbrecher/LaTeX2AI development by creating an account on GitHub.

github.com

다음에 최신 zip파일을 다운받고 압축을 푼다.

3. 인터페이스 파일 om.isteinbrecher.latex2ai 을 특정 폴더에 복사하기

Interface를 보이기 위함이라서

C:\Users\<USERNAME>\AppData\Roaming\Adobe\CEP\extensions

다음 경로에 위 폴더를 복사해준다. Adobe에 들어가도 CEP\extensions 폴더가 없을 수 있는데 직접 만들어주면 된다.

4. 플러그인 경로 설정

다음과 같이 Plug in & Scratch Disks에서

플러그인이 있는 폴더를 지정해준다. 이 폴더 안에 플러그인 파일이 들어있어야 한다. (아래 그림 참고)

5. 일러스트레이터 재부팅 후 windows > Toolbars > Advanced를 선택

다음과 같이 하면 옆 패널에 latex2AI 아이콘들이 추가된다.

[시뮬레이션] 미분가능 시뮬레이션 코드

보통의공대생 — Sat, 17 Jan 2026 10:02:30 +0900

미분가능 시뮬레이션과 관련된 오픈소스 코드도 많고 리뷰도 나와서 나중에 정리하려고 작성하는 글이다.

리뷰 : https://arxiv.org/pdf/2407.05560

XLB : A differentiable massively parallel lattice Boltzmann library in Python

https://arxiv.org/abs/2311.16080

XLB: A differentiable massively parallel lattice Boltzmann library in Python

The lattice Boltzmann method (LBM) has emerged as a prominent technique for solving fluid dynamics problems due to its algorithmic potential for computational scalability. We introduce XLB library, a Python-based differentiable LBM library based on the JAX

arxiv.org

XPBD : Position-based simulation of compliant constrained dynamics

https://matthias-research.github.io/pages/publications/XPBD.pdf

DiffXPBD : Differentiable Position-Based Simulation of Compliant Constraint Dynamics

[실해석학] Space 개념 overview (1)

보통의공대생 — Sat, 22 Nov 2025 02:00:01 +0900

카테고리만 만들어놓고 글을 올리지 않았던 실해석학.

조금씩 정리한 내용을 올리고자 한다.

참고문헌은 다음과 같다.

현재 듣고 있는 수업의 필기/참고 자료

1. Real analysis by Bartle

2. Introduction to Hibert spaces with applications

지금 설명할 내용을 가장 잘 요약한 diagram을 먼저 소개하고 시작한다.

출처 : https://math.stackexchange.com/questions/3326615/trying-to-visualize-the-hierarchy-of-mathematical-spaces

Trying to visualize the hierarchy of mathematical spaces

I was inspired by this flowchart of mathematical sets and wanted to try and visualize it, since I internalize math best in that way. This is what I've come up with so far: Version 1 (old diagram)

math.stackexchange.com

이 공간에 대한 정의를 알고 시작하면 그 이후에 나오는 정리들이 왜 그 공간에서 설명하는지를 알게 된다. 순차적으로 점점 공간의 범위를 좁혀가는 방향으로 설명한다.

이 글에서는 Vector space -> Metric space -> Normed vector space -> Inner product space 순서로 진행된다.

1. Vector space

첫 번째로 다루는 것은 vector space이다. linear algebra를 배운 사람이라면 처음부터 vector space의 정의를 설명한다는 사실을 알고 있다.

벡터 공간은 다음의 성질을 만족하는 공간을 말한다.

Definition : A vector space $\mathcal{S}$ is composed of a set of elements, called vectors, and members of a field $\mathbb{F}$ called scalars.

벡터 공간은 벡터들과 스칼라값들의 set이라고 볼 수 있다. 여기서 중요한 것은 vector와 scalar이다.

벡터는 어떠한 것도 될 수 있다. 함수가 될 수도 있고, 우리가 아는 일반적인 실수 n개로 구성된 벡터일 수도 있다. 그 벡터들을 가지고 vector addition과 scalar multiplication이 다음과 같은 법칙을 만족해야한다.

Vector addition

The ``$+$'' operation must obey the following four rules for all $x, y \in \mathcal{S}$:

$x + y = y + x$ (commutative)
$x + (y + z) = (x + y) + z$ (associative)
There is a unique \emph{zero vector} $0$ such that $x + 0 = x \quad \forall x \in \mathcal{S}.$
For each vector $x \in \mathcal{S}$, there is a unique vector (called $-x$) such that $x + (-x) = 0$

다음과 같이 교환법칙, 결합법칙, 덧셈의 항등원에 대한 이야기를 한다. 덧셈이 어떤 방식으로 성립되는지를 보이기 위함이다.

Scalar multiplication

$a(x + y) = ax + ay$
$(a + b)x = ax + bx$
For the multiplicative identity of $\mathbb{F}$, which we write as $1$, we have $1x = x \qquad \forall x \in \mathcal{S}$
For the additive identity of $\mathbb{F}$, which we write as $0$, we have $0x = 0$

여기서는 스칼라를 곱할 때 지켜야하는 룰에 대해 설명한다. 분배법칙, 결합법칙, 곱셈의 항등원 등.

그리고 이렇게 벡터 덧셈과 스칼라에 대한 곱셈이 정의될 때, 특정 성질을 만족하면 "Linear" vector space라고 할 수 있다.

$\mathcal{S}$ is closed under scalar multiplication and vector addition:
    \[
        x, y \in \mathcal{S} \;\;\Rightarrow\;\; ax + by \in \mathcal{S}, \qquad \forall a, b \in \mathbb{F}.
    \]

우리가 $\mathbb{R}^N$을 고려한다면 당연하게 느껴질 수 있지만 항상 두 벡터의 선형 조합이 그 공간에 포함된다는 보장은 없다.

예를 들면, $\mathcal{S}=\{[x,y]:x>0,y>0\} ; \mathbb{F}=\mathbb{R}$와 같이 4사분면 중에 1사분면 공간을 생각하면 그 안에서의 벡터를 실수에 대하여 스칼라 곱해서 더했을 때 1사분면에 속하지 않는 경우가 생긴다. 이런 경우는 linear vector space라고 할 수 없다.

Vector space 예시

1. $\mathbb{R}^N$, $\mathbb{C}^N$ 실수 벡터 공간이나 복소수 벡터 공간.

2. Bounded continous function $f(t)$ on the interval $[a,b]$ that are real valued.

bounded continuous 실수 함수들은 함수를 pointwise로 더함으로써 벡터 덧셈을 정의할 수 있고, 스칼라 곱도 pointwise로 가능하다.

3. sequece space : 시퀀스로 정의된 공간이 있다. 스퀀스와 함수가 다른 점은 스퀀스의 값들은 모두 자연수로 인덱싱되어있다는 점이다. 함수는 정의역 set이 있지만 그 정의역에 인덱스가 있는 것은 아니다.

$(x_1, x_2,...) +(y_1,y_2,...)$와 같이 시퀀스 공간 안에서 덧셈도 정의될 수 있다. sequence는 실해석학에서 함수와 함께 다뤄지는 중요한 개념.

2. Metric space

metric space는 벡터 공간에서 어떤 값을 측정하기 위해 metric가 정의될 수 있는 공간을 말한다. 따라서 metric space를 정의하려면 어떤 벡터($\mathcal{S}$)를 가지고 어떤 Metric ($d$)를 정의했는지, 두 개념이 있어야 한다. 즉, 같은 벡터를 다루더라도 metric이 다르다면 다른 metric space인 것이다.

Definition:

Let $S$ be a set. A function
\[
d : S \times S \to [0,\infty)
\]
is called a \emph{metric} on $S$ if it satisfies:
\[
\begin{aligned}
\text{(i)}\;& d(x,y) = 0 \;\text{iff}\; x = y, \\[4pt]
\text{(ii)}\;& d(x,y) = d(y,x) \quad \forall\, x,y \in S, \\[4pt]
\text{(iii)}\;& d(x,z) \le d(x,y) + d(y,z) \quad \forall\, x,y,z \in S.
\end{aligned}
\]

다음 성질을 만족하는 $(S,d)$를 a metric space라고 한다.

$\textbf{Example.}$ Let $S$ be any set. Define
\[
d(x,y) =
\begin{cases}
1, & \text{if } x \ne y,\\[4pt]
0, & \text{if } x = y.
\end{cases}
\]
다음과 같은 metric은 discrete metric으로 위의 성질을 만족한다. 우리가 흔히 생각하는 Euclidean distance도 metric이지만 다음과 같이 정의하면 metric space를 정의할 수 있다. 또한 이렇게 metric을 정의하는 이유는 우리가 공간에서 "ball"을 정의하기 위함이다. 이렇게 ball을 정의해야 convergence와 같은 개념들을 또 정의할 수 있다.

In a metric space, we define the open ball with center $x$ and radius $r$ by
\[
B_r(x) = \{\, y : d(x,y) < r \,\}.
\]
이런 the open ball $B_r$을 정의할 수 있다.

A set $U$ is open iff it is a (possibly empty) union of open balls.
Equivalently, $U$ is open iff for every $x \in U$ there exists an $r > 0$ such that
\[
B_r(x) \subset U.
\]

어떤 set이 open이라고 정의하기 위해서도 open ball 개념이 필요하다. 이런 open, closed, compact 등의 개념은 중요하지만 나중에 다루는 것으로 하자.

3. Normed space

Definition:

Let $E$ be a vector space over $\mathbb{F}$.
A function
\[
\| \cdot \| : E \to [0,\infty)
\]
is called a \emph{norm} if:

\[
\begin{aligned}
\text{(i)}\;& \|x\| = 0 \;\text{iff}\; x = 0, \\[4pt]
\text{(ii)}\;& \|\lambda x\| = |\lambda|\,\|x\| \quad \forall\, \lambda \in \mathbb{F},\; x \in E, \\[4pt]
\text{(iii)}\;& \|x + y\| \le \|x\| + \|y\| \quad \forall\, x,y \in E.
\end{aligned}
\]

A vector space with a norm is called a $\emph{normed space}$.

정의에 따라 normed space는 vector space와 norm 정의가 같이 있어야한다. normed space는 정의를 보면 알 수 있듯이 metric space의 정의를 만족한다. 따라서 normed space면, metric space라고 할 수 있다. 그러나 metric space의 discrete metric 예시에서 알 수 있듯이 metric space라고 해서 normed space가 될 수 있는 건 아니다.

$\textbf{Examples.} $
Let $E = \mathbb{R}^n$ or $\mathbb{C}^n$. For $z = (z_1,\ldots,z_n)$, define:

\[
\|z\|_2 = \sqrt{|z_1|^2 + |z_2|^2 + \cdots + |z_n|^2},
\]

\[
\|z\|_1 = |z_1| + |z_2| + \cdots + |z_n|,
\]

\[
\|z\|_\infty = \max\bigl(|z_1|,\ldots,|z_n|\bigr).
\]

우리가 아는 1-norm, 2-norm, $\infty$-norm은 모두 norm의 성질을 만족한다.

그리고 Complete Normed space를 Banach space라고 한다. Completeness를 설명하지 않았기 때문에 자세한 설명은 생략

4. Inner product space

이제 가장 작은 space에 왔다.

Definition:

An inner product on a (real- or complex-valued) vector space $\mathcal{S}$ is a mapping
\[
\langle \cdot,\cdot \rangle : \mathcal{S} \times \mathcal{S} \to \mathbb{C}
\]
that obeys:

\[
\begin{aligned}
\text{(1)}\quad & \langle x, y \rangle = \overline{\langle y, x \rangle}, \\[6pt]
\text{(2)}\quad & \langle ax + by, z \rangle =
a \langle x, z \rangle + b \langle y, z \rangle
\qquad \forall\, a,b \in \mathbb{C}, \\[6pt]
\text{(3)}\quad & \langle x, x \rangle \ge 0
\qquad\text{and}\qquad
\langle x, x \rangle = 0 \iff x = 0.
\end{aligned}
\]

다음과 같은 성질을 만족하는 inner product가 정의된 공간을 말한다. inner product 예시는 다음과 같다.

$\textbf{Examples.} $

1. $\mathcal{S} = \mathbb{R}^N$,
\[
\langle x, y \rangle = \sum_{n=1}^N x_n y_n
\;=\; y^{\mathsf{T}} x.
\]

2. $\mathcal{S} = \mathbb{C}^N$,
\[
\langle x, y \rangle = \sum_{n=1}^N x_n \overline{y_n}
\;=\; y^{\mathsf{H}} x.
\]

3. $\mathcal{S} = L_2([a,b])$,
\[
\langle x, y \rangle
= \int_a^b x(t)\,\overline{y(t)}\, dt.
\]

선형대수를 공부했으면 굳이 normed space과 inner product space를 구별해야하는지 의문이 들 수 있다. 그러나 위의 diagram에서 알 수 있듯이 inner product space면 normed space지만, normed space라고 해서 inner product space인 것은 아니다. inner product는 induced norm을 정의할 수 있게 한다.

Frobenius norm 같은 경우에는 norm의 성질을 만족하지만 inner product로 정의할 수 없는 norm이다.

또한 norm은 rough하게 말하면 "거리"를 정의할 수 있는 개념이고, inner product는 orthgonality, 또는 "각도"를 정의할 수 있는 개념이다.

Induced norm:

A valid inner product induces a valid norm by
\[
\|x\| = \sqrt{\langle x, x \rangle }.
\]

Induced norm은 inner product (스칼라값)에 square root를 씌워서 정의할 수 있다.

$\textbf{1. Cauchy--Schwarz Inequality.}$

\[
|\langle x, y \rangle| \le \|x\|\,\|y\|.
\]

Equality is achieved exactly when $x$ and $y$ are \emph{colinear}:
\[
\exists\, a \in \mathbb{C} \quad \text{s.t.} \quad y = ax.
\]

\textbf{2. Pythagorean Theorem.}

\[
\langle x, y \rangle = 0 \;\Rightarrow\; \|x + y\|^2 = \|x\|^2 + \|y\|^2.
\]

This also implies
\[
\|x - y\|^2 = \|x\|^2 + \|y\|^2.
\]

\textbf{3. Parallelogram Law.}

\[
\|x + y\|^2 + \|x - y\|^2 = 2\|x\|^2 + 2\|y\|^2.
\]

You can show this by expanding
\[
\|x + y\|^2 = \langle x + y,\, x + y \rangle
\]
and similarly for $\|x - y\|^2$.

\textbf{4. Polarization Identity.}

\[
\operatorname{Re}\{\langle x, y \rangle\}
= \frac{\|x + y\|^2 - \|x - y\|^2}{4}.
\]

norm를 통해서 다음과 같은 법칙들도 유도할 수 있다.

Cauchy-Schwarz는 두 벡터 사이의 각도가 정의되고 그 값이 1보다 클 수 없음을 알려준다. ($\cos\theta\leq1$)

Pythagorean Theorem은 익히 알 듯이 직각삼각형을 떠올리면 된다.

Parallelogram law는 평행사변형 법칙을 생각하면 된다.

또한 complete inner product space를 Hibert space라고 한다.

Linear algebra에서 다루는 $\mathbb{R}^N$은 이미 Inner product space이기 때문에 벡터 공간이라고 말했지만 우리가 잘 아는 성질들을 편하게 적용할 수 있었다. 그러나 정의 상으로는 이렇다.

다음에는 completeness에 대해 좀 더 얘기하려고 한다.