반응형

딥러닝 5

[딥러닝 기초] 다층 신경망을 통해 의류분류기 만들어보기(2) (using keras)

[이 글은 "Do it 딥러닝 입문" 책을 보고 공부한 내용을 복습하고자 정리한 글입니다.] 모델 이해하기 Sequential - 케라스는 인공신경망 모델을 만들기 위한 Sequential 클래스를 제공함. Dense - 모델에 포함된 완전 연결층 Sequential 모델에 층 추가하기 - model = Sequential([Dense(...)..]) - model.add(dense) input_shape=(???,) - 가중치의 shape을 결정한다. X값의 열의 개수가 784(벡터)이므로 예제에서는 784로 맞혀준다. Densse 클래스 매개변수 unit - 뉴런 개수를 매개변수로 지정. activation - 시그모이드, 소프트맥스 같은 경우는 activation='sigmoid or softmax..

[딥러닝 기초] 다층 신경망을 통해 의류분류기 만들어보기

[이 글은 "Do it 딥러닝 입문" 책을 보고 공부한 내용을 복습하고자 정리한 글입니다.] bincount : 배열에 있는 정수값의 등장 횟수를 세어 정수값에 해당하는 인덱스 위치에 저장 reshape : 사진의 정보는 2차원으로 되어있기 때문에 (-1, "차원을 합친 길이")로 변환 to_categorical : 클래스의 구별을 위해 정수값으로 되있는 값들을 원-핫 인코딩 방식으로 변환 In [1]: class MultiClassNetwork: def __init__(self, units=10, batch_size=32, learning_rate =0.1, l1=0,l2=0): self.units = units #은닉층의 뉴런개수 self.batch_size = batch_size self.w1 = ..

[딥러닝 기초] 다층 신경망 (MLPClassifier)

[이 글은 "Do it 딥러닝 입문" 책을 보고 공부한 내용을 복습하고자 정리한 글입니다.] 배치 경사 하강법 - 확률적 경사 하강법보다 많은 양을 가지고 손실함수의 최솟값을 찾기 때문에 찾는 과정이 더욱 안정적이다. - 대신 가중치를 1번 업데이터할 때사용되는 데이터 개수가 많으므로 계산 비용이 많이든다. 점 곱(dot product, 스칼라 곱) : 두 벡터를 곱하여 합을 구하는 계산. 다층 신경망 - 뉴런이 2개 이상 있는 신경망으로 은닉층을 통과한 값들은 다시 출력층으로 모임. - 활성화 함수는 층마다 다를 수 있지만 한 층에서는 같아야 한다. - 모든 뉴런이 연결되어 있으면 완전 연결 신경망이라고 한다. (add. 순환 신경망, 합성곱 신경망) Sklearn의 MLP모델 사용하여 구현하기 hid..

[딥러닝 기초] k-fold 교차 검증(cross validation)

[이 글은 "Do it 딥러닝 입문" 책을 보고 공부한 내용을 복습하고자 정리한 글입니다.] 목표 - 교차 검증을 이해한다. 교차 검증이란? 전체 데이트 세트를 8:2로 나눈 다음 8에 해당되는 훈련 세트를 다시 5개의 작은 덩어리로 나눠 1개씩 검증 세트를 만들어 훈련시키는 방법이다. 교차 검증 과정 훈련 세트를 k개의 폴드로 나눔. 첫 번째 폴드를 검증 세트로 사용하고 나머지 폴드(k-1)를 훈련세트로 사용함. 모델을 훈련한 뒤 검증 세트로 평가. 차례대로 다음 폴드를 검증 세트로 사용하여 반복. 최종 성능을 계산. 교차 검증에서 훈련 데이터의 표준화 전처리를 폴드를 나눈 후에 하는 이유? - 훈련을 하기 전에 데이터 전처리를 하고 폴드로 나눈 다면 검증 폴드의 정보를 누설하게 되어 성능개선이 안될 ..

[jupyter notebook] Neural Network (use mnist dataset)

[해당 내용은 "텐서플로우로 시작하는 딥러닝 기초" 수업을 듣고 복습하는 의미로 올리는 글입니다.] mnist dataset란? - mnist가 가지고 있는 필기 숫자들의 28 x 28 픽셀 이미지를 보고, 0부터 9까지의 모든 숫자들에 대해 이미지가 어떤 숫자를 나타내는지 판별하기 위한 데이터 셋을 말한다. [수업 중 궁금했던 것과 사용한 함수들을 정리] 1. from tensorflow.keras.utils import to_categorical - to_categorical은 정수형 class vector을 binary class matrix로 변환시켜준다. 텐서의 표현에 맞게 적절히 변환한다는 표현이 맞는 것 같다. 즉, 7이란 값을 000000100이라는 이진수를 이용해 자릿수로 표현한다. 2...

반응형