Jak obliczyć i zinterpretować R-kwadrat w regresji

Co to jest R-kwadrat?

R² (coefficient of determination) to odsetek wariancji zmiennej zależnej (Y) wyjaśniany przez predyktory modelu. R² = 0.45 oznacza że model wyjaśnia 45% zmienności Y — reszta to czynniki nieujęte w modelu lub losowość.

R² oblicza się jako: R² = 1 – SS_resztkowa/SS_całkowita = SS_wyjaśniona/SS_całkowita

Interpretacja R²

Nie ma jednego „dobrego” R². Zależy od dziedziny:

• W psychologii: R² = .10-.30 to często dobry wynik (zachowanie ludzkie jest złożone)
• W naukach przyrodniczych: R² = .70-.90 jest oczekiwane (kontrolowane laboratoryjne)
• W przewidywaniu finansowym: R² = .30-.50 to solidny wynik

Problem z R²: zawsze rośnie

Dodanie jakiejkolwiek zmiennej do modelu zawsze zwiększa (lub utrzymuje) R² — nawet gdy zmienna jest bezużyteczna. Dlatego przy wielu predyktorach używaj skorygowanego R².

Skorygowane R² (adjusted R²)

Skorygowane R² = 1 – (1-R²)(n-1)/(n-k-1), gdzie k to liczba predyktorów. Penalizuje za każdy dodatkowy predyktor. Gdy dodasz bezużyteczny predyktor, skorygowane R² spada. Zawsze raportuj skorygowane R² przy regresji wielorakiej.

Przeuczenie modelu (overfitting)

Gdy R² jest bardzo wysokie (np. .95) przy małej próbie i wielu predyktorach — model może być „przeuczony”. Dopasowuje szum z próby, nie prawdziwy sygnał. Przy nowych danych będzie działał słabo. Zasada: minimum 10-20 obserwacji na predyktor.

R² vs korelacja r

R² w regresji prostej = r² (kwadrat korelacji Pearsona). R² = .25 odpowiada r = .50. Korelacja r = .50 wyjaśnia 25% wariancji — nie 50%! To ważna różnica w interpretacji.

Alternatywy dla R²

Przy porównaniu modeli używaj AIC (Akaike Information Criterion) lub BIC (Bayesian Information Criterion) — penalizują za złożoność. Mniejszy AIC/BIC = lepszy model.

Podsumowanie

R² to użyteczna miara ale nie jedyna. Wysokie R² nie gwarantuje dobrego modelu — zawsze sprawdzaj reszty, sprawdzaj wielokolinearność i sprawdzaj czy predyktory mają sens merytoryczny.