*첨부자료의 모든 저작권은 COURSERA에 있음을 미리 밝힙니다. Neural Networks(2)- Examples and Intuition, Multi-Class classification 이번 시간에는 Abstract 하게 살펴보았던 Neural Network의 기본적인 로직의 구현을 통해조금 더 실질적인 인공신경망의 구현을 살펴보고, 또 이를 바탕으로 Output의 결과가 하나가 아닌 Multi-Class Classification모델도 간단하게 살펴보고자 한다. 저번 포스팅에서 간단하게 살펴보았던 인공 신경망의 기본적인 구조이다. 여기서 Input Layer인 Layer 1과 Output Layer인 Layer 3를 제외한 중간의 모든 Layer들은 겉으로 드러나지 않는 Hidden Layer..

*첨부한 자료의 모든 저작권은 COURSERA에 있음을 미리 밝힙니다. Neural Networks (1)- Basic Model of Neural Networks 지금까지 Linear Regression과, Logistic Regression의 방법을 통해 Linear Model과 Classification 모델에서 컴퓨터가 기계학습을 어떻게 하는지 살펴보았다.이제 이러한 모델들을 바탕으로 Neural Network, 즉 인공 신경망을 구축하여 더 복잡한 학습들을 수행하는 모델을구축하고자 한다. 우선 '인공 신경망' 을 구축하기 위해 실제 사람의 신경망이 어떤 구조로 연결되어 있는지를 살펴보아야 한다.사람의 신경세포는 Input Wire의 역할을 수행하는 "Dendrites"와 Computation을 ..

Programming Exercise 2 : Logistic Regression 이번 프로그래밍 과제에서는 Octave를 이용하여 Logistic Regression을 모델링하고실제 데이터를 이용해서 결과를 분석해야 했다. 구현해야 할 함수들은 다음과 같았다. ex2.m - Octave/MATLAB script that steps you through the exercise ex2 reg.m - Octave/MATLAB script for the later parts of the exercise ex2data1.txt - Training set for the first half of the exercise ex2data2.txt - Training set for the second half of the ..

Machine Learning - The Problem of OverFitting 지금까지 Machine Learning을 학습하면서 배운 알고리즘들을 간단하게 복습해보자.우선, 기계학습이라는 것은 컴퓨터에게 무엇을 어떻게 하라고 명확하게 지시하지 않은 상태에서 데이터와 결과 Set을 제공하면, 컴퓨터가 그에 따른 분석모델을 적용해서 가설 함수를 세우고, 새로운 데이터가 제공되었을 때 가설 함수를 바탕으로 결과를 예측하여 출력하는 것을 의미한다. 이 가설 함수는 데이터와 결과 Set이 제공될 때마다 전체 오차가 적어지는 방향으로 정확성을 높여간다. 데이터와 결과 Set을 분석하는 방법은 학습한 바로는 크게 두 가지가 있었다.Linear Regression 모델과 Classification 모델이었다. L..

Machine Learning - Classification(3)MultiClass Classification : One - vs - All 지금까지 Classification에서는 One vs One 모델을 주로 다루었다. Linear Regression 모델과는 다르게 결과값이 연속적인 값이 아니라 이산적인 값으로 분포하기 때문에, 기계학습을 통해 Decision Boundary를 구하고, 그 Boundary를 기준으로 y = 0 인지, 1인지를 판단하는 과정을 거쳤다. 하지만 실생활에서는 One vs One 모델 보다는 One vs All 모델을 통해서 결정해야 하는 경우가 더 많다. One - vs - All 모델은 위의 그림처럼 y = 0 ~ n 까지의 값을 가진다. y값을 결정하는 기본적인 아..

Machine Learning - Classification(2) 앞서 Classification에서 사용하는 가설함수 h의 식이 Linear Regression Model에서 사용하는 가설함수의 식과는 다르기 때문에 비용함수도 조금은 수정을 가할 필요가 있다. 기존의 Linear Regression Model에서 사용하는 비용함수의 식을 그대로 사용하게 되면 "Non - Convex" 한 함수가 도출될 가능성이 높아지게 되는데, 이 "Non - Convex" 한 함수란, 볼록함수와는 달리 극점이 굉장히 많을 수 있는 함수(아래 그림 참조) 이기 때문에, Gradient Descent를 통해 구한 최솟값이 Local Minimum일 뿐, Global Minimum값은 아닐 수 있는 가능성이 생긴다. 따라..