Save
...
ML
10. Linear Regression
10.22-23. L2 Ridge
Save
Share
Learn
Content
Leaderboard
Learn
Created by
Дарья Чернова
Visit profile
Cards (12)
Ridge
-регрессия это
метод
регуляризации
, позволяющий снизить вероятность
переобучения
(overfitting) модели на
обучающем
наборе данных
Что делает
ridge?
добавляет штрафующее слагаемое к
ошибке
, с
квадратом значений коэффициентов
Формула
RSS
Σ
i
=
1
n
(
y
i
−
y
i
^
)
2
\Sigma_{i=1}^n (y_i - \hat{y_i})^2
Σ
i
=
1
n
(
y
i
−
y
i
^
)
2
RSS
это
residual sum of squares, сумма квадратов
остатков
Как выглядит параметр альфа в формуле?
λ
Σ
i
=
1
n
β
j
2
\lambda \Sigma_{i=1}^n \beta_j^2
λ
Σ
i
=
1
n
β
j
2
Для метрик кросс-валидация sklearn использует
объект
scorer
По какому
принципу
работает
scorer
?
бОльшие
результирующие значения лучше, чем
меньшие
Откуда импортируем
Ridge
?
sklearn.linear_model
Параметр
ridge
alpha
(он же лямбда из формулы
λ
Σ
i
=
1
n
β
j
2
\lambda \Sigma_{i=1}^n \beta_j^2
λ
Σ
i
=
1
n
β
j
2
)
Создать
ridge_model
ridge_model
=
Ridge
(
alpha
= 10)
Импорт
RidgeCV
откуда?
sklearn.linear_model
Откуда импортируем
SCORERS
?
sklearn.metrics