Notice
Recent Posts
Recent Comments
Link
์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- ํธ๋์คํฌ๋จธ
- ๋ฅ๋ฌ๋
- OpenAI
- ๋ฉํฐ๋ชจ๋ฌ
- Transformers
- clip
- ์ปดํจํฐ๋น์
- ํธ๋์คํฌ๋จธ2.0
- ์คํAI
Archives
- Today
- Total
์ธ์ฐฌํ๋
์๊ธฐ์ฅ ๋ณธ๋ฌธ
๐ ๋จธ์ ๋ฌ๋·์ํ·์ปดํจํ ๋จ์ด์ฅ (Midterm Vocabulary)
ํ์ต ํ : ์นดํ ๊ณ ๋ฆฌ๋ณ๋ก ๐ ํ๋์์นด๋๋ฅผ ๋ง๋ค๊ณ ํ๋ฃจ 5โ10๊ฐ์ฉ Spaced Repetition(๋ฐ๋ณต ๊ฐ๊ฒฉ ํ์ต)์ ๋๋ฆฌ์ธ์.
๐ง ๋จธ์ ๋ฌ๋ & ๋ฅ๋ฌ๋ ๊ธฐ๋ณธ ์ฉ์ด
์ฉ์ด ๊ฐ๋จ ์ ์
Machine Learning | ๋ช ์์ ํ๋ก๊ทธ๋๋ฐ ์์ด ๋ฐ์ดํฐ๋ก๋ถํฐ ํจํด์ ํ์ตํด ์์ธก·ํ๋จ์ ์ํํ๋ ๋ฐฉ๋ฒ๋ก ์ ์ฒด |
Deep Learning | ๋ค์ธต ์ธ๊ณต์ ๊ฒฝ๋ง(๋ฅ NN)์ ์ฌ์ฉํด ํน์ง๊ณผ ์์ฌ๊ฒฐ์ ์ ๋์์ ํ์ตํ๋ ML ํ์ ๋ถ์ผ |
Model | ์ ๋ ฅ → ์ถ๋ ฅ์ ๋งคํํ๋ ์ํ·๊ณ์ฐ ํจ์ f(x) |
Task | ๋ชจ๋ธ์ด ํด๊ฒฐํด์ผ ํ ๋ฌธ์ ์ ํ (์: ๋ถ๋ฅ·ํ๊ท) |
Prediction | ํ์ต๋ ๋ชจ๋ธ์ด ์๋ก์ด ์ ๋ ฅ์ ๋ํด ์ฐ์ถํ ๊ฒฐ๊ณผ๊ฐ |
Classification | ์ ๋ ฅ์ ์ด์ฐ์ ์นดํ ๊ณ ๋ฆฌ๋ก ๊ตฌ๋ถํ๋ ์์ (์คํธ/ํ ๋ฑ) |
Regression | ์ ๋ ฅ์ ์ฐ์์ ์ค์ ๊ฐ์ผ๋ก ๋งคํํ๋ ์์ (์ง๊ฐ ์์ธก ๋ฑ) |
Supervised Learning | ์ ๋ ฅ·์ ๋ต(๋ ์ด๋ธ) ์์ผ๋ก ํ์ตํ๋ ๋ฐฉ๋ฒ |
Unsupervised Learning | ๋ ์ด๋ธ ์์ด ๋ฐ์ดํฐ ๊ตฌ์กฐ๋ฅผ ์ฐพ๋ ํ์ต (๊ตฐ์งํ ๋ฑ) |
Overfitting | ํ์ต ๋ฐ์ดํฐ์๋ ๊ณผ์ ํฉํด ์ฑ๋ฅ↑, ๋ฏธ์ง ๋ฐ์ดํฐ์๋ ์ฑ๋ฅ↓ ํ์ |
Underfitting | ๋ชจ๋ธ์ด ๋๋ฌด ๋จ์ํด ํ์ต ๋ฐ์ดํฐ์กฐ์ฐจ ์ค๋ช ๋ชปํ๋ ์ํ |
Generalization | ๋ณด์ง ์์ ๋ฐ์ดํฐ์์๋ ์ฑ๋ฅ์ ์ ์งํ๋ ๋ฅ๋ ฅ |
Loss Function | ๋ชจ๋ธ ์์ธก vs ์ ๋ต ์ฐจ์ด๋ฅผ ์์นํํ ํจ์ (MSE, CE ๋ฑ) |
Accuracy | ์ ์ฒด ์์ธก ์ค ์ ๋ต ๋น์จ (๋ถ๋ฅ ์ฑ๋ฅ ์งํ) |
Error Rate | 1 – Accuracy, ์ค๋ถ๋ฅ์จ |
Training Data | ํ๋ผ๋ฏธํฐ ํ์ต์ ์ฌ์ฉ๋๋ ๋ฐ์ดํฐ ์ |
Test Data | ๋ชจ๋ธ ์ผ๋ฐํ ์ฑ๋ฅ์ ๊ฒ์ฆํ๋ ๋ฏธ์ง ๋ฐ์ดํฐ ์ |
Evaluation | ์ฑ๋ฅ ์งํ๋ก ๋ชจ๋ธ์ ์ ๋ ํ๊ฐํ๋ ๊ณผ์ |
Function / Mapping | ์ ๋ ฅ → ์ถ๋ ฅ์ ๋์์ํค๋ ์ํ ๊ท์น |
Feature | ์๋ณธ ๋ฐ์ดํฐ์์ ์ถ์ถํ ์๋ฏธ ์๋ ์ค๋ช ๋ณ์ |
Feature Space | ํน์ง ๋ฒกํฐ๊ฐ ์ฌ๋ ๊ณ ์ฐจ์ ๊ณต๊ฐ |
Label | ์ง๋ ํ์ต์์ ์ ๋ต ์ ๋ณด (ํด๋์ค·๊ฐ) |
Input / Output | ๋ชจ๋ธ์ ์ ๋ ฅ ๋ณ์ x, ์ถ๋ ฅ ๋ณ์ y |
Noise | ๋ฐ์ดํฐ·๊ด์ธก์ ํฌํจ๋ ๋ฌด์์ ์ค์ฐจ ๋๋ ์ก์ |
Performance | ๋ชจ๋ธ์ด ๊ณผ์ ์ ์ํํ๋ ํ์ง (์ ํ๋, RMSE ๋ฑ) |
Representation | ๋ฐ์ดํฐ์ ๋ด๋ถ ํํ(๋ฒกํฐ, ์๋ ์ํ ๋ฑ) |
Abstraction | ๋ถํ์ํ ์ธ๋ถ๋ฅผ ์ ๊ฑฐํ๊ณ ํต์ฌ ๊ตฌ์กฐ๋ง ํํ |
Algorithm | ๋ฌธ์ ํด๊ฒฐ ์ ์ฐจ·์์(ํ๋ก๊ทธ๋จ) |
Learning | ๋ชจ๋ธ ํ๋ผ๋ฏธํฐ๋ฅผ ์ต์ ํํด ์ฑ๋ฅ์ ๊ฐ์ ํ๋ ๊ณผ์ |
Data Distribution | ๋ฐ์ดํฐ๊ฐ ๋ฐ๋ฅด๋ ํ๋ฅ ๋ถํฌ |
๐งฎ ์ํ ๊ธฐ์ด
๐ ์ ํ๋์ (Linear Algebra)
์ฉ์ด ์ ์(ํต์ฌ)
Linear Algebra | ๋ฒกํฐ·ํ๋ ฌ·์ ํ ๋ณํ์ ๋ค๋ฃจ๋ ์ํ ๋ถ์ผ, ML์ ์ธ์ด |
Scalar | ๋จ์ผ ์ค์ ๊ฐ (0โ์ฐจ ํ ์) |
Vector | 1โD ์์ด, nโ์ฐจ์ ์ขํ (1โ์ฐจ ํ ์) |
Matrix | 2โD ์ ๋ฐฐ์ด (ํ × ์ด) |
Tensor | nโ์ฐจ์ ์ผ๋ฐํ ๋ฐฐ์ด |
Dimension | ๊ณต๊ฐ์ ์ถ ๊ฐ์ ๋๋ ๋ฒกํฐ ๊ธธ์ด n |
Transpose (แต) | ํ·์ด์ ๋ค๋ฐ๊พธ๋ ์ฐ์ฐ |
Dot / Inner Product | ๋ ๋ฒกํฐ์ ์์๋ณ ๊ณฑ์ ํฉ → ์ค์นผ๋ผ |
Outer Product | xโฏyแต : ๋ ๋ฒกํฐ๋ฅผ ๊ณฑํด ํ๋ ฌ ์์ฑ |
Matrix Multiplication | (m×n)(n×p) → m×p ์ ํ ์กฐํฉ ์ฐ์ฐ |
Hadamard Product | ๋์ผ ํฌ๊ธฐ ํ๋ ฌ์ ์์๋ณ ๊ณฑ โ |
Identity Matrix I | ๋๊ฐ 1, ๋๋จธ์ง 0 → ๋จ์ ๋ณํ |
Inverse Matrix Aโป¹ | AAโป¹ = I ๋ฅผ ๋ง์กฑ, ์ ํ ๋ฐฉ์ ์ ํด ๊ตฌํ๊ธฐ |
System of Equations | Ax = b ํํ ์ฐ๋ฆฝ์ ํ๋ฐฉ์ ์ |
Linear Combination | ์ค์นผ๋ผ ๊ฐ์คํฉ์ผ๋ก ๋ฒกํฐ ์์ฑ Σαแตขvแตข |
Span | ๋ฒกํฐ ์งํฉ์ด ์์ฑํ๋ ๋ชจ๋ ์ ํ ์กฐํฉ ๊ณต๊ฐ |
Column Space | ํ๋ ฌ ์ด๋ฒกํฐ๊ฐ ์์ฑํ๋ Span (= Range) |
Rank | ์ด(๋๋ ํ) ์ ํ๋ ๋ฆฝ ๊ฐ์ → ๊ณต๊ฐ ์ฐจ์ |
Singular Matrix | ์ญํ๋ ฌ์ด ์กด์ฌํ์ง ์๋ ํ๋ ฌ (det=0) |
Orthogonal | ๋ด์ 0 → ์์ง ๊ด๊ณ |
Orthonormal | ๋ด์ 0 + ๊ธธ์ด 1 ๋ฒกํฐ ์งํฉ |
Symmetric Matrix | Aแต = A |
Diagonal Matrix | ๋น๋๊ฐ ์์ 0 ํ๋ ฌ |
Unit Vector | ๋ ธ๋ฆ 1 ๋ฒกํฐ (ê) |
Projection | ๋ฒกํฐ๋ฅผ ๋ถ๋ถ๊ณต๊ฐ์ผ๋ก ์ฌ์ํ๋ ์ ํ ๋ณํ |
Eigendecomposition | A = VΛVโป¹, ๊ณ ์ ๊ฐ·๊ณ ์ ๋ฒกํฐ ๋ถํด |
Eigenvalue λ | Av = λv ๋ฅผ ๋ง์กฑํ๋ ์ค์นผ๋ผ |
Eigenvector v | ์ ํ ๋ณํ ํ ๋ฐฉํฅ ๋ถ๋ณ ๋ฒกํฐ |
Positive Definite | ๋ชจ๋ v≠0 ์ vแตAv > 0 ํ๋ ฌ |
Positive Semidefinite | vแตAv ≥ 0 ํ๋ ฌ |
SVD | A = UΣVแต, ์ง์ฌ๊ฐ ํ๋ ฌ ๋ถํด |
Frobenius Norm | ํ๋ ฌ ์์ ์ ๊ณฑํฉ์ ๋ฃจํธ |
L0/L1/L2 Norm | ์์ ๊ฐ์/์ ๋๊ฐํฉ/์ ํด๋ฆฌ๋ ๊ธธ์ด |
Max Norm | ์์ ์ ๋๊ฐ์ ์ต๋๊ฐ |
๐ฒ ํ๋ฅ ·ํต๊ณ (Probability Theory)
์ฉ์ด ์ ์(ํต์ฌ)
Probability Theory | ๋ถํ์ค์ฑ·๋ฌด์์ ํ์์ ์๋ํํ๋ ์ํ |
Random Variable (RV) | ์คํ ๊ฒฐ๊ณผ๋ฅผ ์๋ก ๋งคํํ ๋ณ์ X |
Sample Space S | ๊ฐ๋ฅํ ๋ชจ๋ ๊ฒฐ๊ณผ ์งํฉ |
Event | ๊ด์ฌ ์๋ ๊ฒฐ๊ณผ๋ค์ ๋ถ๋ถ์งํฉ |
PMF | ์ด์ฐ RV ํ๋ฅ ์ง๋ ํจ์ P(X=x) |
์ฐ์ RV ํ๋ฅ ๋ฐ๋ ํจ์ p(x) | |
Marginal Probability | ์ผ๋ถ RV๋ง ๋จ๊ธฐ๊ณ ๋๋จธ์ง ์ ๋ถ/ํฉ์ฐ |
Conditional Probability | P(A |
Independence | P(A,B)=P(A)P(B) ์ด๋ฉด ๋ ๋ฆฝ |
Expectation E[X] | ๊ฐ์ค ํ๊ท , ๋ถํฌ์ ์ค์ฌ |
Variance Var[X] | ํ๊ท ์ผ๋ก๋ถํฐ ์ ๊ณฑํธ์ฐจ์ ๊ธฐ๋๊ฐ |
Standard Deviation σ | √Var : ์ฐํฌ ์ ๋ |
Covariance | ๋ RV ์ ํ ์๊ด ์ ๋ Cov[X,Y] |
Prior | ์ฌ์ ํ๋ฅ P(θ) |
Posterior | ์ฌํ ํ๋ฅ P(θ |
Likelihood | P(D |
Bayes’ Theorem | Posterior ∝ Prior × Likelihood / Evidence |
Uniform Distribution | ๋ชจ๋ ๊ฐ์ด ๋์ผ ํ๋ฅ |
Bernoulli Distribution | 0/1 ๋จ์ผ ์ํ ๋ถํฌ |
Binomial Distribution | Bernoulli n ํ ์ฑ๊ณต ํ์ ๋ถํฌ |
Gaussian / Normal | ์ข ํ ์ฐ์ ๋ถํฌ N(μ,σ²) |
Standard Normal | μ=0, σ=1 ์ ๊ท ๋ถํฌ |
Central Limit Theorem | ํ๋ณธํ๊ท ์ n→∞ ์ ์ ๊ท๋ก ์๋ ด |
Law of Large Numbers | ๋ฐ๋ณต ์ ์๋๋น๋ → ์ฐธ ํ๋ฅ ์๋ ด |
๐ป ์ปดํจํ ·ํ๋ ์์ํฌ
์ฉ์ด ์ ์(ํต์ฌ)
PyTorch | Python ๊ธฐ๋ฐ ๋ฅ๋ฌ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ (Autograd, GPU) |
NumPy | ๋ฐฐ์ด·์ ํ๋์ ์ฐ์ฐ ๊ธฐ๋ณธ ํจํค์ง |
TensorFlow | ๊ตฌ๊ธ ๋ฅ๋ฌ๋ ํ๋ ์์ํฌ (๊ทธ๋ํ ์คํ) |
MXNet | AWS ์ง์ ๋ค์ค ์ธ์ด ๋ฅ๋ฌ๋ ํ๋ ์์ํฌ |
Python | ML ์คํฌ๋ฆฝํธ ์ธ์ด, ๊ด๋ฒ์ ์ํ๊ณ |
Implementation | ์๊ณ ๋ฆฌ์ฆ์ ์ค์ ์ฝ๋๋ก ์์ฑ |
Visualization | ๋ฐ์ดํฐ·๊ฒฐ๊ณผ๋ฅผ ๊ทธ๋ํฝ์ผ๋ก ํํ |
Code | ์์ค ํ๋ก๊ทธ๋จ |
Training | ๋ฐ์ดํฐ๋ก ํ๋ผ๋ฏธํฐ ์ต์ ํ ๊ณผ์ |
Experiment | ํ์ดํผํ๋ผ๋ฏธํฐ·๋ชจ๋ธ ๋น๊ต ์คํ |
Software Framework | ๊ณตํต ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ ๊ฐ๋ฐ ๋ผ๋ |
Easy to Install | ํจํค์ง ๊ด๋ฆฌ๋ก ๊ฐ๋จ ์ค์น ๊ฐ๋ฅ |
Laptop Try out | ๋ก์ปฌ CPU/GPU๋ก ์๊ท๋ชจ ์คํ ๊ฐ๋ฅ |
๐ ๋ชจ๋ธ·๊ธฐ๋ฒ
์ฉ์ด ์ ์(ํต์ฌ)
Linear Model | ์ถ๋ ฅ์ด ์ ๋ ฅ ์ ํ ๊ฒฐํฉ์ผ๋ก ํํ๋๋ ๋ชจ๋ธ |
Parametric Model | ๊ณ ์ ๊ธธ์ด ํ๋ผ๋ฏธํฐ๋ก ๋ชจ๋ธ ์ ์ (์ ํ, NN ๋ฑ) |
Nonparametric Model | ๋ฐ์ดํฐ ์์ ๋ฐ๋ผ ๋ชจ๋ธ ๋ณต์ก๋ ๋ณํ๋ ๊ธฐ๋ฒ (kโNN ๋ฑ) |
Perceptron | ๋จ์ธต ์ ํ ๋ถ๋ฅ๊ธฐ, sgn(wแตx+b) |
SVM | ์ต๋ ๋ง์ง ์ ํ·์ปค๋ ๋ถ๋ฅ๊ธฐ |
kโNN | ๊ฐ์ฅ ๊ฐ๊น์ด k๊ฐ ์ด์ ๋ค์๊ฒฐ ๋ถ๋ฅ |
Naive Bayes | ํน์ฑ ๋ ๋ฆฝ ๊ฐ์ Bayes ๋ถ๋ฅ๊ธฐ |
Decision Tree | ์ ๋ณด ์ด๋ ๊ธฐ๋ฐ ๋ถ๊ธฐ์ ๋ถ๋ฅ·ํ๊ท ๋ชจ๋ธ |
Random Forest | ๋ค์ Tree ๋ฐฐ๊น ์์๋ธ |
Neural Network | ๊ณ์ธต์ ๊ฐ์ค ํฉ·๋น์ ํ ํ์ฑ ํจ์ ๋ชจ๋ธ |
Feedforward NN | ์์ ํ๋ง ์กด์ฌํ๋ ์ผ๋ฐ NN |
Backpropagation | ์ฐ์ ๋ฏธ๋ถ์ผ๋ก ๊ฐ์ค์น ๊ทธ๋๋์ธํธ ๊ณ์ฐ |
Gradient Descent | ์์ค ์ต์ํ๋ฅผ ์ํ ๋ฐ๋ณต ์ต์ ํ |
CNN | ํฉ์ฑ๊ณฑ ํํฐ๋ก ๊ณต๊ฐ ํน์ฑ ์ถ์ถ NN |
Regularization | ๊ณผ์ ํฉ ๋ฐฉ์ง๋ฅผ ์ํ ์ ์ฝ(L2, Dropout ๋ฑ) |
Ensemble | ์ฌ๋ฌ ๋ชจ๋ธ ๊ฒฐํฉํด ์ฑ๋ฅ·์์ ์ฑ ํฅ์ |
Bagging | ๋ฐ์ดํฐ ์ํ ๋ถํธ์คํธ๋ฉ + ํ๊ท |
Boosting | ์ค๋ถ๋ฅ ๊ฐ์ค์น ↑ ์์ฐจ ํ์ต(Adaboost, GBM) |
๐งฉ ๊ธฐํ ํต์ฌ ์ผ๋ฐ ์ฉ์ด
์ฉ์ด ์ ์(ํต์ฌ)
Abstraction | ๋ณต์ก์ฑ์ ์ค์ฌ ๋ณธ์ง์ ๊ตฌ์กฐ๋ง ํํ |
Reasoning | ๋ ผ๋ฆฌ์ ์ถ๋ก ๊ณผ์ |
Uncertainty | ๊ฒฐ๊ณผ์ ๋ถํ์ค์ฑ·๋ฌด์์์ฑ |
Sample | ๊ด์ธก์น ํ ๊ฐ (๋ฐ์ดํฐ ํฌ์ธํธ) |
Dataset | ์ํ๋ค์ ์งํฉ, ํ์ต·๊ฒ์ฆ์ ์ฌ์ฉ |
Input Space | ์ ๋ ฅ ๋ณ์๋ค์ด ํ์ฑํ๋ ๊ณต๊ฐ โแต |
Output Space | ์ถ๋ ฅ(๋ชฉํ) ๋ณ์๊ฐ ํ์ฑํ๋ ๊ณต๊ฐ |
Dimension Reduction | ๊ณ ์ฐจ์ → ์ ์ฐจ์ ํน์ง ์ถ์ (PCA ๋ฑ) |
Task Complexity | ๋ฌธ์ ๋์ด๋·๋ชจ๋ธ ํ์ ํํ๋ ฅ |
Discrete / Continuous | ๊ฐ์ด ์ด์ฐ์ /์ฐ์์ ํน์ฑ |
RealโValued | ์ค์ ๋ฒ์ ๊ฐ์ ๊ฐ๋ |
Multivariate / Univariate | ์ถ๋ ฅ ๋ณ์ ๋ค๋ณ๋/๋จ๋ณ๋ |
Multivariable / Univariable | ์ ๋ ฅ ๋ณ์ ๋คํน์ฑ/๋จํน์ฑ |
โ๏ธ ํ์ฉ ๊ฐ์ด๋
- Active Recall : ํ ๊ฐ๋ฆฌ๊ณ ์ฉ์ด → ์ ์, ์ ์ → ์ฉ์ด ์๋ฐฉํฅ ํด์ฆ.
- Spaced Repetition : 1โ3โ7โ14์ผ ๊ฐ๊ฒฉ์ผ๋ก ๋ณต์ต.
- ์์ ์ฐ๊ฒฐ : ๊ฐ ์ฉ์ด์ ์์ ์ฌ๋ผ์ด๋·๋ฌธ์ ์์๋ฅผ ๋ถ์ฌ ๋งฅ๋ฝ ํ์ต.
- ์ค๋ต ๋ ธํธ : ํท๊ฐ๋ฆฌ๋ ๊ฐ๋ ์ ํ์ด๋ผ์ดํธ ํ ์ถ๊ฐ ๋ฉ๋ชจ.
ํ์ดํ ! ํ์ ์ ํน์ ์ฉ์ด ์ถ๊ฐ ์ค๋ช ·์์ ์ ๋·์ฝ๋ ์์ ์์ฒญํด์ค ๐