Regresja wieloraka krok po kroku
Regresja wieloraka z kilkoma predyktorami to standard w badaniach naukowych. Wyjaśniam dobór predyktorów, diagnozę modelu i interpretację wyników.
Czym jest regresja wieloraka?
Regresja wieloraka rozszerza prostą regresję liniową na wiele predyktorów: Y = β0 + β1X1 + β2X2 + … + βkXk + ε. Pozwala przewidywać Y na podstawie wielu zmiennych jednocześnie i kontrolować wpływ poszczególnych predyktorów przy stałych pozostałych.
Metody wprowadzania predyktorów
Enter (simultaneous): wszystkie predyktory wprowadzone jednocześnie. Najbardziej przejrzyste i zalecane gdy masz hipotezy o wszystkich predyktorach.
Hierarchical (stepwise theory-driven): ręczne wprowadzanie bloków predyktorów w ustalonej kolejności na podstawie teorii. Pozwala zobaczyć zmianę R² po każdym bloku.
Stepwise (automatic): automatyczny wybór predyktorów przez oprogramowanie. Kontrowersyjne — można użyć do eksploracji ale wyniki nie powinny być traktowane jako konfirmacyjne.
Założenia regresji wielorakiej
- Liniowość: Y jest liniową funkcją Xi
- Normalność reszt: reszty mają rozkład normalny
- Homoskedastyczność: stała wariancja reszt
- Niezależność reszt: brak autokorelacji (szczególnie ważne w danych czasowych)
- Brak multikolinearności: predyktory nie są zbyt silnie ze sobą skorelowane
Diagnoza modelu
Multikolinearność: sprawdź VIF (Variance Inflation Factor). VIF > 10 = problem, VIF > 5 = ostrzeżenie. Rozwiązanie: usuń jeden z silnie skorelowanych predyktorów lub użyj analizy głównych składowych.
Wartości odstające: leveraged points wpływają na współczynniki. Sprawdź odległość Cooka (D > 1 = potencjalnie wpływowa obserwacja).
Reszty: wykres reszt vs przewidywanych wartości — szukasz losowego wzorca wokół zera. Wzorzec „trąbki” = heteroskedastyczność. Krzywizna = nieliniowość.
Interpretacja wyników
B = zmiana Y przy wzroście Xi o 1 jednostkę przy stałych pozostałych predyktorach. β = standaryzowany współczynnik pozwalający porównywać silę predyktorów. sr² = unikalny wkład predyktora do R² (kwadrat korelacji semi-cząstkowej).
Podsumowanie
Regresja wieloraka jest potężna ale wymaga starannej diagnozy modelu. Zawsze sprawdzaj założenia, diagnozuj wartości odstające i raportuj zarówno B jak i β.