본문 바로가기

728x90
반응형

deep learning

(3)
[딥러닝/DL] Loss Function 일반적으로 손실함수(Loss Function)은 딥러닝에서 모델의 출력값과 사용자가 원하는 출력값의 오차를 의미한다. 이 Loss Function을 통해 모델을 원하는 방향으로 학습할 수 있다. Loss Function은 많이 사용되는 MSE, MAE, R2, Cross Entropy 같은 것들도 있고 사용자가 정의하여 커스텀 Loss Function을 만들어 사용할 수도 있다. 이 방법은 특정 모델을 학습하는 방법론에서 적용할 수 있다.  MSE(Mean Squared Error)예측한 값과 실제값 사이의 평균 제곱 오차를 정의한다. 공식이 매우 간단하고, 주로 회귀 문제에 사용된다.오차의 제곱을 평균 낸것이기 때문에 큰 오차에 대해 더 많은 패널티를 부여한다.  MAE(Mean Absolute Err..
[딥러닝/DL] Loss Surface 신경망을 훈련한다는 것은 고차원의 Loss Function에서 파라미터를 업데이트하면서 Global Optima를 찾아가는 과정이다. 신경망의 Loss Function은 고차원 함수이기 때문에, 신경망이 어떻게 학습되고 있는지 직관적으로 알기 어렵다. 하지만, 고차원의 목적 함수를 사람이 이해할 수 있는 3차원 공간에 표현함으로써, 신경망의 훈련 과정을 더 잘 이해할 수 있고 신경망 설계에 필요한 인사이트를 얻을 수 있다. Loss Surface는 모델의 Loss Fuction이 그래프로 표현된 것이다. Loss Function은 모델을 최적화하는 데 사용된다. 따라서 Loss Surface는 모델의 성능과 최적화 과정에 매우 중요한 역할을 한다. Loss Surface 만드는 법 Loss Surfac..
[기계학습/ML]1. 개요 - 인공지능, 머신러닝, 딥러닝 인공지능(Artificial Intelligence) "사람처럼 학습하고 추론할 수 있는 지능을 가진 컴퓨터 시스템을 만드는 기술"이다. 인공지능의 역사 인공지능의 분류 일반 인공지능(Artificial General Intelligence) 또는 강 인공지능(Strong AI) 영화에 등장하는 인공지능 사람과 구분하기 어려운 지능을 가진 컴퓨터 시스템 ex. - 스카이넷, - 사만다 등 약 인공지능(Week AI) 현실에서 우리가 사용하고 있는 인공지능 특정 분야에서 사람의 일을 도와주는 보조 역할을 수행한다. ex. 알바고, 음악추천, 자율주행자동차, 음성비서 등 머신러닝(Machine Learning) 규칙을 일일이 프로그래밍하지 않아도 자동으로 데이터에서 규칙을 학습하는 알고리즘을 연구하는 분야이..

728x90
반응형