-
릿지 회귀(Ridge Regression)의 개념AI 2023. 6. 12. 10:54
릿지 회귀(Ridge Regression)는 선형 회귀의 한 종류로, 과적합을 방지하기 위한 기법 중 하나입니다.
이것은 회귀 계수의 크기를 줄이는 데 초점을 맞춰, 모델의 (1)복잡성을 줄이고 (2)과적합을 피하는 데 도움이 됩니다.
릿지라는 이름은 이 방법이 회귀 계수의 제곱합에 페널티를 부여하는 형태를 가지고 있기 때문에 붙여진 것입니다.
이 페널티 항을 "릿지"라고 부르는 것이죠.
이 페널티 항은 모델이 데이터에 과도하게 적응하는 것을 방지하며, 이를 통해 모델의 일반화 성능이 향상됩니다.
릿지 회귀에서는 라소 회귀와 유사하게 페널티를 부여하지만,
릿지 회귀는 계수를 완전히 0으로 만들지 않는다는 점에서 차이가 있습니다.
이로 인해 릿지 회귀는 변수 선택에 덜 유용할 수 있지만, 모든 변수가 중요할 때 더욱 효과적인 모델을 생성할 수 있습니다.'AI' 카테고리의 다른 글
학습 데이터의 분포란? (0) 2024.04.07 명시적(Explicit) 학습과 암시적(Implicit) 학습 (0) 2024.04.07 MATLAB에서 딥러닝툴 소개 (0) 2023.05.30 github에 model 올릴 때 디렉토리명 의미 (0) 2023.05.30 원-핫 인코딩(One-Hot Encoding) 개념만 간단 설명 (0) 2023.05.30