Vähimruutude meetodi regulariseerimine
Vähimruutude meetodi regulariseerimine on vähimruutude meetodi lahendamine, kasutades regularisatsiooni, mis aitab kindlaid probleeme kitsendada, tehes nende lahendamise lihtsamaks ja täpsemaks. Regularisatsiooni eesmärk on lihtsustada regressioonimudelit, kahandades tunnuste kaale, ning vähendada sellega ülesobitamise riski. Kui vähimruutude valemi järgi on tunnuste kaalude vektor leitav valemiga w ∗ = a r g m i n w ( y − X w ) T ( y − X w ) {\displaystyle w^{*}={\underset {w}{argmin}}(y-\mathrm {X} w)^{T}(y-\mathrm {X} w)} , kus w {\displaystyle w} – kaalude vektor, y {\displaystyle y} – märgendite vektor, X {\displaystyle \mathrm {X} } – tunnuste maatriks, siis regularisatsiooni puhul lisatakse kaaludele mingisugune penalti või karistus, mis aitaks erinevusi ühtlustada ja kaale minimeerida. Kõige enim kasutatud regularisatsioonimeetodid on kant- ja lassoregressioon.