poorman

[딥 러닝] 싱글 뉴런 학습 시키기 - 역전파(back propagation) 구현하기

1. MFC로 다이얼로그 구성

1) Toolbox

2. 소스 코드

1) Neuron 클래스에 back propagation 함수 추가

#define MAX2(a,b) (a) > (b) ? (a) : (b) class Neuron { public: double w_; // weight of one input double b_; // bias double input_, output_; // saved for back-prop public: Neuron() : w_(2.0), b_(1.0) {} Neuron(const double& w_input, const double& b_input) : w_(w_input), b_(b_input) {} double getAct(const double& x) { // for linear or identity activation functions return x; // for ReLU activation functions /*return MAX2(0.0, x);*/ } double getActGrad(const double& x) { // for linear or identity activation functions return 1.0; // for ReLU activation functions //if (x > 0.0) return 1.0; else return 0.0; } double feedForward(const double& input) { input_ = input; const double sigma = w_ * input + b_; output_ = getAct(sigma); return output_; } void propBackward(const double& target) { const double alpha = 0.1; // learning rate const double grad = (output_ - target) * getActGrad(output_); double dw_ = alpha * grad * input_; // last input_) came from d(wx+b)/dw = x double db_ = alpha * grad * 1.0; // last input_) came from d(wx+b)/db = 1 w_ -= dw_; b_ -= db_; } };

2) Back-Prop 버튼과 target 에디트 박스 값과 연동

3. 실행 결과

초기값 설정

x : 1, Weight : 2, Bias : 3, y : 5, target : 13

딥 러닝에 대해 독학을 하면서 정리한 걸 적고 있습니다.

전공과 무관하며 전문적인 지식이 아니므로 개인적인 의견과 부족하고 틀린 점이 많습니다.

추가 지식 및 잘못된 점을 지적해주시면 공부하는데 많은 도움이 되겠습니다. 감사합니다^^

- 푸어맨

[Reference]

(MFC에서 콘솔창 띄우기) http://poorman.tistory.com/63

(역전파 구현하기) http://blog.naver.com/atelierjpro/220703090092

[딥 러닝] 싱글 뉴런의 작동원리 (Feed-forward 구현하기)

1. MFC로 다이얼로그 구성

1) Toolbox

2) Editbox의 CString 값을 Double로 Get, Set하는 함수 생성

2. Feed-foward 함수 클래스 생성 및 계산 결과 표시

3. 실행 결과

딥 러닝에 대해 독학을 하면서 정리한 걸 적고 있습니다.

전공과 무관하며 전문적인 지식이 아니므로 개인적인 의견과 부족하고 틀린 점이 많습니다.

추가 지식 및 잘못된 점을 지적해주시면 공부하는데 많은 도움이 되겠습니다. 감사합니다^^

- 푸어맨

[Reference]

(위키백과) https://ko.wikipedia.org/wiki/%EB%94%A5_%EB%9F%AC%EB%8B%9D

(C++로 Feed-forward 구현하기) http://blog.naver.com/atelierjpro/220697902502

(인공 뉴런의 작동원리) http://blog.naver.com/atelierjpro/220697901074

[ Monitor Capture V.1.0.1 ] 모니터 캡처 프로그램

-기능

F1 : 버전 정보 확인

F3 : 파일 경로 및 이름 지정

F4 : 선택 영역 캡처 후 저장

F5 : 선택 영역 연속 캡처 후 저장

F6 : GIF 만드는 홈페이지로 이동

- 사용법

1. F3을 눌러서 파일 경로와 파일 이름을 지정한 후 저장을 누른다.

2. Captrue Area 안의 Monitor 타입을 선택한다.

1) 싱글 모니터의 경우 : Monitor 1, Customizing

 2) 듀얼 모니터의 경우 : Monitor 1, Monitor 2, Customizing

 3) N개의 멀티 모니터의 경우 : Monitor 1, ... , Monitor N, Customizing

- Monitor 1 , Monitor 2, ... Monitor N : 각각의 모니터의 전체 화면을 캡처한다.

- Customizing : 툴의 투명한 영역을 캡처한다.

3. Monitor 타입을 선택한 후 F4를 누르면 1.에서 지정한 파일 경로에 캡처화면을 bmp이미지로 저장한다.

 1) 파일 이름은 1.에서 지정한 파일명 + 숫자로 저장한다.

 2) F4를 연속으로 누르면 파일명 뒤에 숫자가 증가하며 연속으로 저장한다.

 3) F3을 눌러서 파일명을 다시 지정해주면 숫자가 1로 초기화 된다.

 *파일명이 같은 경우에는 덮어쓰기를 하므로 주의

4. F5(REC)를 누르면 지정한 FPS, Time(s) 만큼 bmp이미지를 저장한다.

 1) 파일 이름은 1.에서 지정한 파일명 + 숫자로 저장한다.

 *F5(REC)의 경우 숫자가 초기화되어 저장하므로 주의

 2) FPS (Frames Per Second) : 1초에 몇장을 저장할지 선언한다.

 3) Time(s) : 몇초간 이미지를 저장할지 선언한다.

 4) 총 저장되는 파일 갯수는 FPS * Time(s) 장이 된다.

 5) 파일 저장 중에 F5를 다시 누르면 파일 저장을 멈춘다.

5. F6(GIF)을 누르면 움짤(Animated GIF 파일) 만드는 홈페이지로 이동한다.

웹에서 Animated GIF 파일 생성하기 : http://poorman.tistory.com/179

- 수정 사항

1. GIF 만드는 HTML 표시

- 배포 파일

MonitorCapture.zip

암축해제 암호 : poorman

poorman에 의해 작성된 MonitorCapture은(는) 크리에이티브 커먼즈 저작자표시 4.0 국제 라이선스에 따라 이용할 수 있습니다.

1. MFC 공유 라이브러리를 정적 라이브러리로 변경

프로젝트 속성 -> 구성 속성(Configuration Properties) -> 일반(General) -> MFC 사용(Use of MFC) -> 정적 라이브러리 사용(Use MFC in a Static Library) 로 변경

2. 런타임 라이브러리를 MD에서 MT로 변경

프로젝트 속성 -> C/C++ -> 코드 생성(Code Generation) -> 런타임 라이브러리(Runtime Library) -> Multi-threaded (/MT) 로 변경