Machine Learning 3

Network Implementation Details

데이터를 생성하고, 학습에 사용할 network를 만든 뒤에 세부적인 설정은 어떻게 하여야 하는것일까에대해 이번 포스트에서 다룰 것이다. Select last Layer of Network Select loss function Optimization 딥러닝 알고리즘에서 신경망의 마지막 layer에 사용하는 오차함수 및 활성화 함수의 종류는 다음과 같이 나타낼 수 있다. Problem Activation function Loss function Binary classification Sigmoid nn.CrossEntropyLoss() Multi class classification Softmax nn.CrossEntropyLoss() Multi label classification Sigmoid nn.C..

Machine Learning 2020.02.22

How to Reduce Overfitting?

머신러닝, 딥러닝에 있어서 빈번하게 일어나는 문제는 overfitting과 underfitting일 것이다. overfitting이란, 알고리즘이 train set에서는 잘 작동하지만 새로운 데이터인 valid set, train set에서는 제대로 작동하지 않을때 이 알고리즘은 overfitting 되었다고 할 수 있다. underfitting이란, 알고리즘이 train set에서부터 학습이 제대로 되지 않았다고 생각할 수 있다. 이는 현재 딥러닝 모델에서는 거의 일어나지 않는다. 기본적으로 network의 layer의 수가 많고, feature들이 어느정도 학습이 될 수 있기 때문이다. Network의 구조가 복잡해지고, deep 해질 수 록 Over fitting 현상이 많이 발생한다. 따라서 이번..

Machine Learning 2020.02.22

Introduction of ML

1. Introduction of Machine Learning 이번 포스트에서는 분류,회귀의 머신러닝 문제유형, 모델평가, 전처리 등에 대해 소개를 하겠습니다. 머신러닝의 유형 Supervised Learning Unsupervised Learning Reinforcement Learning 머신러닝에는 위와 같이 3가지의 유형이 있습니다. 유형별로 어떤 특징을 가지고 있고, 간단한 예를 살펴보도록 하겠습니다. 1.1 Supervised Learning 딥러닝과 머신러닝에서 유명한 모델들이나 성공한 대부분의 사례들은 대부분 supervised learning에 기반하였습니다. supervised learning의 예에는 어떤 것들이 있는지 보겠습니다. Classification : cat vs dog ..

Machine Learning 2020.02.22