[머신러닝] 앙상블 - 부스팅 (1)

Boosting boosting(원래 이름은 hypothesis boosting)은 약한 학습기를 여러 개 연결해서 강한 학습기를 만드는 앙상블 방법 앞의 모델을 보완해 나가면서 예측기를 학습한다. 가장 많이 사용하는 모델은 AdaBoosting과 그레디언트 부스팅이다. AdaBoost 1. 개요 이전 모델이 과소 적합했던 훈련 샘플의 가중치를 더 높이 방식으로 학습하기 어려운 샘플에 점점 맞춰가며 학습한다. 훈련을 반복하며 새로운 분류기를 생성할 때마다 알고리즘이 잘못 분류된 훈련 샘플의 가중치를 상대적으로 높인다. 2. sklearn.AdaBoostClassifier 기반 알고리즘이 predict_proba 함수를 제공한다면 클래스 확률을 기반으로 분류가 가능 이 때는 algorithm 이라는 매개변..
카테고리 없음 2024. 3. 14. 15:59
1