Kolokwium: Regresja liniowa

Regresja liniowa

Metoda statystyczna do modelowania zależności między zmiennymi. Zakłada liniowy związek między zmienną niezależną a zmienną zależną.

Zmienna niezależna

Zmienna, której wartość jest manipulowana. W regresji liniowej jest to zmienna X.

Zmienna zależna

Zmienna, której wartość jest przewidywana. W regresji liniowej jest to zmienna Y.

Model regresji

Matematyczna reprezentacja związku między zmiennymi, zazwyczaj w postaci $\displaystyle Y = a + bX$.

Współczynnik regresji

Parametr $\displaystyle b$ w równaniu regresji, który wskazuje na zmianę w zmiennej Y przy jednostkowej zmianie w X.

Intercept

Parametr $\displaystyle a$ w modelu regresji, reprezentujący wartość Y, gdy X = 0.

Błąd standardowy

Miara rozproszenia błędów prognoz. Niski błąd standardowy wskazuje na dokładniejsze prognozy.

R² (R-kwadrat)

Wskaźnik dopasowania modelu. Informuje, jaka część zmienności zmiennej zależnej jest wyjaśniana przez model.

Estymacja

Proces szacowania wartości parametrów modelu regresji na podstawie danych.

Wariancja

Miara rozrzutu wartości zmiennej. W regresji wpływa na dokładność prognoz.

Dopasowanie modelu

Ocena zgodności wyników modelu z rzeczywistymi danymi. Może być oceniane za pomocą $\displaystyle R²$.

Założenie o normalności

Jedno z założeń regresji, które mówi, że błędy regresji powinny być rozkładane normalnie.

Heteroskedastyczność

Zjawisko, w którym wariancja błędów nie jest stała. Może wpływać na wyniki modelu regresji.

Wieloliniowa regresja

Rozszerzenie regresji liniowej, które uwzględnia więcej niż jedną zmienną niezależną.

Zastosowanie regresji

Używana do prognozowania wartości zmiennej zależnej w oparciu o znane wartości zmiennych niezależnych.

Analiza reszt

Ocena różnic między wartościami przewidywanymi a rzeczywistymi. Ważna dla oceny poprawności modelu.

Predykcja

Proces używania modelu regresji do przewidywania przyszłych wartości zmiennych zależnych.

Zbiór treningowy

Zbiór danych używany do trenowania modelu regresji.

Zbiór testowy

Zbiór danych używany do oceny wydajności modelu regresji po jego wytreningu.

Wykres rozrzutu

Graficzna reprezentacja zmiennych, która pomaga wizualizować zależności między zmiennymi.

Zmienność wyjaśniona

Część całkowitej zmienności zmiennej zależnej, która jest modelowana przez zmienne niezależne.

Przekroczenie założeń

Może prowadzić do błędnych wniosków. Ważne jest sprawdzenie założeń regresji.

Korelacja a regresja

Korelacja mierzy siłę związku, regresja modeluje zależność. Korelacja nie oznacza przyczynowości.

Analiza wielowymiarowa

Regresja może być częścią szerszych analiz, uwzględniających wiele zmiennych i ich interakcje.

Modelowanie nieliniowe

Alternatywa dla regresji liniowej, stosowana, gdy relacje między zmiennymi są nieliniowe.

Przykład zastosowania

Regresja liniowa może być używana do przewidywania cen mieszkań na podstawie ich cech (powierzchnia, lokalizacja).

Walidacja krzyżowa

Technika oceny modelu regresji, polegająca na podziale danych na kilka podzbiorów w celu wytreningu i testu.