카샤의 만개시기

하이퍼파라미터를 최적화하면 모델 성능을 향상시키는데 큰 도움이 됩니다. 그리드 서치는 리스트로 지정된 여러 하이퍼파라미터 값을 받아 모든 조합에 대해 모델 성능을 평가하여 최적의 하이퍼파라미터 조합을 찾습니다. from sklearn.model_selection import GridSearchCV from sklearn.svm import SVC pipe_svc = make_pipeline(StandardScaler(), SVC(random_state=1)) param_range = [0.0001, 0.001, 0.01, 0.1, 1.0, 10.0, 100.0, 1000.0] param_grid = [{'svc__C': param_range, 'svc__kernel': [&#..

모델이 너무 간단하면 과소적합(높은 편향)이 문제가 되기도하고, 모델이 너무 복잡하면 훈련 데이터에 과대적합(높은 분산)이 일어나 문제가 되곤 합니다. 이런 현상을 피해 적절한 편향-분산 trade-off를 찾기 위해서는 모델을 잘 평가해야 하는데, 대표적인 교차 검증 기법인 홀드아웃 교차 검증(holdout cross-validation)과 k-겹 교차 검증(k-fold cross-validation)을 이용하여 신뢰 할만한 추정을 찾습니다. 이는 모델의 일반화 성능, 즉 처음 본 데이터에 모델이 얼마나 잘 동작하는지 추정하도록 도와줍니다. 홀드아웃 교차 검증(holdout cross-validation) 데이터셋을 모델 훈련에 사용할 훈련 세트와 일반화 성능을 추정하는데 사용할 테스트 세트로 나눕니다..

가중치를 0으로 초기화하지 않는 이유는 가중치가 0이 아니어야 분류 결과에 영향을 주기 때문입니다. 가중치가 0으로 초기화 되어 있다면 학습률(learning rate: r)은 가중치 벡터의 방향이 아니라 크기에만 영향을 미칩니다. 가중치 w가 업데이트 되는 공식은 다음과 같이 정의할 수 있습니다. $$ \Delta w_i = r(y - y')x $$ 퍼셉트론 학습 규칙에서 초기 가중치를 0으로 놓으면 $$ w_1 = w_0 + \Delta w_1 $$ $$ = w_0 + r(y_1 - y_1')x_1 $$ $$ = w_0 + r(y_1 - \Phi(w_0x_1))x_1 $$ $$ = r(y_1 - \Phi(0))x_1 $$ $$ = r(y_1 - 1)x_1 $$ 위와 같이 정리가 됩니다. 그러면 학습률..

한빛미디어의 지원을 받아 '파이썬으로 배우는 머신러닝의 교과서'라는 책을 읽어보게 되었습니다. 이 책은 '이토 마코토'라는 일본 박사님께서 2018년 1월에 저술하였으며 11월에 한빛미디어에서 번역되서 공개되었습니다. 책 표지를 보면 이 책에 대하여 몇가지 특징을 적어낸것을 찾아낼 수 있는데 그 내용은 하기와 같습니다. '그림'으로 이해하고 '코드'로 이해하는 머신러닝, 딥러닝 '기초' 머신러닝의 '교과서' 위 특징들과 함께 책의 리뷰와 누구에게 이 책을 권하면 좋을지 알아보겠습니다. Feature 1 & 2. 이 책을 받았을때 아무 페이지나 열어보면 거의 모든 페이지에 그림이 있을정도로 이 책에는 그림이 많습니다. 수학 공식을 설명할때도 쉽게 이해할수 있도록 그래프가 다 그려져 있으며 파이썬을 이용하여..