cross validation 2

[ML] 06-2. ML - Optuna

[ Optuna ] Optuna: A hyperparameter optimization framework — Optuna 3.6.1 documentation© Copyright 2018, Optuna Contributors. Revision 39f83f7e.optuna.readthedocs.io✅ 하이퍼파라미터 최적화를 위한 파이썬 라이브러리로, 모델의 성능을 향상시키는데 필요한 최적의 하이퍼파라미터를 자동으로 탐색.→ 베이지안 최적화 알고지름 기반*베이지안 : 과거의 데이터를 바탕으로 추→ 목적함수의 값을 최소화하거나, 최대화하는 데 사용됨특징하이퍼파라미터 최적화: 주어진 목적 함수의 값을 최소화하거나 최대화하기 위한 최적의 하이퍼파라미터를 찾습니다.자동화된 하이퍼파라미터 탐색: Optuna는 사용자가..

[ML] 06-1. ML - Cross Validation, Grid Search

[ cross validation ]✅ 모델의 성능을 평가하기 위한 효과적인 방법 중 하나로, 모델의 성능을 정확하게 추정하기 위해 사용.다음과 같은 종류들이 있다.k-fold cross validationleave-one-out cross validationstratified k-fold cross validation [ K-Fold ]✅ 과적합을 막기 위한 방법 중 하나로, 각 다른 학습/검증데이터 셋을 K개 만들고 각 세트에서 학습과 검증을 수행하는 방법→ 데이터가 적을 때는 K를 크게 하고, 데이터가 많을 때는 k를 작게 하는 것이 일반적. 특히 데이터가 적을 때 유용하다K-fold : 위 이미지처럼 앞에서부터 일정한 크기의 test 데이터 정의Stratified K-fold : true/fals..