Study/Basics 8

Basic Machine Learning : Supervised Learning

Supervised learning - Overview 💡 머신러닝은 data-driven algorithm design이라고도 한다. 이 때 data의 specification이 애매할 수 있다. 예를 들어 얼굴 사진이라고 할 때, 표정, 각도 등등 어떤 것을 ‘얼굴’이라고 정의할 것인지에 대한 분류체계가 모호하다. 대신, example이 주어진다. input-output pairs가 주어진 상황에서, 이를 이용해 ‘얼굴’이라는 specification을 찾아낼 수 있느냐가 관건 우리에게 주어지는 것들 어떤 input-output pairs가 training set으로 주어지고, 머신러닝 모델 M이 training sets를 받아서 output을 냈을 때, 실제 training set과의 차이를 알 수..

Study/Basics 2022.01.17

Module and Package

기본적으로 from 과 import 키워드를 사용 파이썬의 Module ==py 파일 같은 폴더에 Module에 해당하는 .py 파일과 사용하는 .py 저장 후 import문 사용하여 module 호출 __pycache__는 기계어로 컴파일 된 것 namespace import A as B : 앞으로 Module A를 B라고 줄여부르겠다 from A import C : Module A에서 함수 C를 불러온다 (앞으로 함수 C를 사용할 때 A를 명시할 필요 없다) from A import * Module A의 모든 함수를 불러온다 Built-in Modules 파이썬이 기본 제공하는 라이브러리(randam, tum, urllib.request 등) import 문으로 활용 구글에 "python module..

Study/Basics 2021.12.29

Python Object Oriented Programming

Python Object-Oriented Programming Object-Oriented Programming (OOP) 란? 구성요소 객체 : 일종의 물건 - 물건은 일종의 **속성(attribute)**와 행동(Action)을 가짐. OOP는 이러한 객체 개념을 프로그램으로 표현하며, 각각 **변수(variable), 함수(method)**로 표현 구조 class / instance class는 설계도, instance는 실제 구현체. 비유하자면 class는 붕어빵 틀, instance는 붕어빵. 한 붕어빵 틀(class)로 여러 종류의 붕어빵(instance)를 만들 수 있음. 인공지능 축구 프로그램으로 객체지향 이해하기 객체 - 팀, 선수, 심판 method(def) - 공을 차다, 패스하다 (..

Study/Basics 2021.12.29

RNN

Sequential Model sequential data의 특성 상, 언제 그 데이터가 끝날지모른다. 몇개의 데이터가 들어올지에 상관없이 동작해야한다. 이것이 어려운 점으로 작용한다. 과거의 정보들을 고려해야하는 점이 첫 번째 어려움. Autoregressive model : 고려할 과거 정보를 특정 개수로 정해둠 Markov model (first-order autoregressice model) : 가정하기에, 내 현재는 과거에만 의존하며, 이 때 과거는 바로 전에 국한. 근데 이게 말이 안됨. 내일의 수능 공부는 전날 공부에만 의존한다 라는 뜻이기 때문. 많은 정보를 손실하게 됨. Latent autoregressive model : 히든 스테이트가 과거의 정보를 요약해 담고 있고, 이것에 의존해..

Study/Basics 2021.12.29

Optimization

용어 정리 Generalization Fitting Cross-validation train, validation, test data의 비중을 어떻게 해야하나? — cross validation (kfold validation) : train data 와 validation data를 k개로 나눠서 k-1개로 학습시키고 나머지 한개로 test hyper parameter를 지정하는 clue가 없으므로 최적의 학습법 찾아야함 Bias and Variance (둘 다 low인 게 좋음) Variance가 큰 모델은 비슷한 input이 들어와도 output이 다른것 (overfitting 될 확률 높음) Bias가 큰 모델은 분산이 작더라도 평균적으로 봤을 때 표적값에서 벗어난 것 Bootstrapping -..

Study/Basics 2021.12.29

Neural Network & Multi-Layer Perceptron

Neural Networks 애매하게 사람의 뇌를 모방? 함수를 모방하는 approximator Linear Neural networks “어떻게 w와 b를 찾을까?” - backpropagation과 gradient descent/ascent update stepsize를 자동으로 바꿔주는 optimizing이 필요 - adapted learning rate 차원이 다를 때 matrix 사용 두 개의 벡터 스페이스 간의 변환 : 선형성을 가지는 변환이 있을 때, 그 변환은 항상 행렬로 표현된다. 딥러닝은 결국 neural network를 deep하게 쌓겠다는 뜻. Nonlinear function Universal approximators Hidden layer가 하나 있는 Neural network ..

Study/Basics 2021.12.29

Deep learning Preview

What make you a good deep learner? Implementation Skills Math Skills (Linear Algebra, Probability) Knowing a lot of resent papers definition 인공지능의 정의 인간을 모방 (artificial Inteligence) 그 방법이 데이터를 통한 것임 (Machine learning) 학습하는 구조가 Neural networks임 (Deep learning) Key Components of deep learning 1. Data (강아지, 고양이 사진) 어떤 문제를 풀 것인가에 따라 다름 — Classification (강아지 고양이 분류) — semantic segmentation (이미지의 픽셀이 ..

Study/Basics 2021.12.29