klassifikasjon versus regresjon notater

Klassifikasjon

En metode innen maskinlæring som deler inn data i kategorier basert på egenskaper.

Regresjon

En teknikk for å forutsi kontinuerlige verdier. For eksempel, forutsi huspriser basert på kvadratmeter.

Klassifiseringsproblem

Et problem der målet er å forutsi hvilken kategori en ny datapunkt tilhører.

Regresjonsproblem

Et problem der målet er å forutsi en kvantitativ verdi ut fra inputvariabler.

True or False: Klassifikasjon kan brukes til prediksjon av kontinuerlige verdier.

False. Klassifikasjon brukes for kategoriske prediksjoner.

Kategoriske variabler

Variabler som representerer grupper eller kategorier, for eksempel 'rød', 'grønn', 'blå'.

Kontinuerlige variabler

Variabler som kan anta hvilken som helst verdi innenfor et intervall, for eksempel temperatur i grader Celsius.

Overfitting

Når en modell har lært seg å gjenkjenne støy i treningsdataene, noe som reduserer generalisering til nye data.

Underfitting

Når en modell er for enkel til å fange opp mønstre i dataene, noe som fører til dårlig ytelse.

Kryssvalidering

En teknikk for å evaluere modeller ved å dele dataene i flere deler, som sikrer at modellen generaliserer godt.

Feature Engineering

Prosessen med å utvikle nye egenskaper fra eksisterende data for å forbedre modellens ytelse.

Beslutningstre

En grafisk metode for å ta beslutninger basert på en sekvens av spørsmål med ja/nei svar.

Support Vector Machine (SVM)

En kraftig klassifikasjonsmetode som søker å finne den beste grensen mellom klasser.

MSE (Mean Squared Error)

En vanlig metode for å evaluere regresjonsmodeller: $\displaystyle MSE = \frac{1}{n} extstyle\forall_{i=1}^{n}(y_i - ilde{y}_i)^2$.

R² (R-kvadrat)

Et mål på hvor godt regresjonsmodellen forklarer variasjonen i den avhengige variabelen, mellom 0 og 1.

Prediksjon

Prognose av fremtidige data basert på en modell bygget fra tidligere data.

Beskriv støttevektormaskiner.

Støttevektormaskiner (SVM) er en klassifikasjonsmetode som finner den optimale hyperplanet for å skille klasser. Bruker støttevektorer, som er datapunkter nærmest hyperplanet.

Klassifisering med beslutningstrær: hvordan fungerer det?

Beslutningstrær splitter data basert på attributter. Hver node representerer et valg, og hvert blad representerer en klasse. Enkel å tolke og visualisere.

Hva er naive Bayes?

Naive Bayes er en probabilistisk klassifikasjonsmetode som bruker Bayes' teorem og antar uavhengighet mellom attributter. Effektiv for tekstklassifisering.

Sammenlign k-nearest neighbors og støttevektormaskiner.

K-nearest neighbors (KNN) klassifiserer basert på nærmeste naboer i datasettet, mens SVM fester et hyperplan. KNN er enkel, men SVM er ofte mer robust.

Fullfør setningen: Random forest er en samling av _____ .

Random forest er en samling av beslutningstrær. Den øker nøyaktigheten ved å kombinere flere trær for å redusere overtilpasning.

Hvilken metode brukes for å redusere dimensjonalitet før klassifisering?

Hovedkomponentanalyse (PCA) er en metode for å redusere dimensjonalitet ved å transformere data til et nytt sett variabler (hovedkomponenter) som bevarer mest mulig informasjon.

Sann eller usann: Dybdelæring kan brukes til klassifikasjon.

Sann. Dybdelæring, spesielt nevrale nettverk, er effektive for komplekse klassifikasjonsoppgaver som bilde- og talegjenkjenning.

Hva er forskjellen mellom binær og flerklasses klassifikasjon?

Binær klassifikasjon involverer to klasser (f.eks. ja/nei), mens flerklasses klassifikasjon involverer tre eller flere klasser (f.eks. katt, hund, fugl).

Gi et eksempel på en brukerdefinert klassifikasjonsmetode.

En brukerdefinert klassifikasjonsmetode kan være en hybrid av eksisterende algoritmer, som en kombinasjon av beslutningstrær og nevrale nettverk for spesifikke anvendelser.

Hva står 'k' for i k-NN?

'k' står for antall nærmeste naboer som vurderes ved klassifisering. Valg av 'k' kan påvirke nøyaktigheten til modellen.

Beskriv hvordan gradient boost fungerer.

Gradient boost bygger klassifikasjonsmodeller sekvensielt, der hver modell korrigerer feilene fra den forrige. Det gir sterk ytelse ved å kombinere flere svake lærere.

Sammenlign logistisk regresjon og naive Bayes.

Logistisk regresjon estimerer sannsynligheten for klassetilhørighet ved hjelp av en logistisk funksjon, mens naive Bayes vurderer sannsynligheter basert på attributtfordelinger med antatt uavhengighet.

Lineær regresjon

En metode for å modellere forholdet mellom en avhengig variabel og en eller flere uavhengige variabler ved hjelp av en lineær funksjon.

Hva er multiple regresjon?

En utvidelse av lineær regresjon som involverer flere uavhengige variabler for å forutsi en avhengig variabel.

Polynomisk regresjon

En regresjonsmetode som bruker polynomfunksjoner for å modellere ikke-lineære forhold mellom variabler.

Når brukes logistisk regresjon?

Logistisk regresjon brukes når den avhengige variabelen er kategorisk, spesielt for å modellere sannsynligheter.

Sann eller usann: Regresjon kan brukes til prediksjon.

Sann. Regresjonsmetoder kan effektivt brukes til å forutsi fremtidige verdier basert på historiske data.

Hva er ridge regresjon?

En teknikk som legger til en straff til størrelsen på koeffisientene for å redusere multikollinearitet i regresjonsmodeller.

Hypotese-testing i regresjon

Tester om koeffisientene er forskjellig fra null for å avgjøre om de uavhengige variablene har en signifikant effekt på den avhengige variabelen.

Hva er hovedforskjellen mellom regresjon og klassifikasjon?

Regresjon forutsier kontinuerlige verdier, mens klassifikasjon forutsier kategoriske resultater.

Sammenlign lineær og polynomisk regresjon.

Lineær regresjon beskriver en rett linje, mens polynomisk regresjon kan avbøye og tilpasse seg kurver i dataene.

Hva er Lasso-regresjon?

Lasso-regresjon er en regresjonsteknikk som bruker L1-regularisering for å redusere overtilpasning og velge variabler.

Forutsigelse med regresjonsmodellen

Gitt en regresjonsmodell $\displaystyle y = a + bx$, forutsig $\displaystyle y$ når $\displaystyle x = 5$ og $\displaystyle a = 2, b = 3$.

Hva er varians-bias kompromiss?

Et prinsipp som beskriver balansen mellom feil på grunn av bias (forenkling) og varians (overtilpasning) i regresjonsmodeller.

Hva er nøyaktighet (accuracy)?

Andelen riktige prediksjoner av alle prediksjoner gjort av modellen. Beregnes som: $\displaystyle \frac{TP + TN}{TP + TN + FP + FN}$.

Definer presisjon (precision).

Andelen sanne positive blant de som ble klassifisert som positive. Formelt: $\displaystyle \frac{TP}{TP + FP}$.

Hva er tilbakekalling (recall)?

Andelen sanne positive som korrekt ble identifisert. Beregnes som: $\displaystyle \frac{TP}{TP + FN}$.

Fyll ut: F1-score er den harmoniske ______ av presisjon og tilbakekalling.

Gjennomsnitt.

Sammenlign R-squared og justert R-squared.

R-squared måler hvor godt modellen forklarer variasjonen, mens justert R-squared justerer for antall prediktorer som brukes.

Hva er AUC-ROC?

AUC (Area Under Curve) av ROC (Receiver Operating Characteristic) kurven, som viser forholdet mellom sann positiv rate og falsk positiv rate.

Sannsynligheten for feil klassifisering er kjent som ______.

Feilrate.

Definer MSE (Mean Squared Error).

Gjennomsnittet av kvadrerte forskjeller mellom predikerte og faktiske verdier. Formel: $\displaystyle MSE = \frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2$.

Sannhetsmatrise (confusion matrix) viser ______.

Antall sanne positive, sanne negative, falske positive, og falske negative klassifiseringer.

Er MAPE (Mean Absolute Percentage Error) en absolutt eller relativ feilmetode?

Relativ, fordi den uttrykker feil i prosent av de faktiske verdiene.

Hva er krysvalidasjon (cross-validation)?

En teknikk for å evaluere modellens ytelse ved å dele datasettet i trenings- og testsett flere ganger.

Klassifikasjonsrapport oppsummerer ______.

Modellens presisjon, tilbakekalling, F1-score og nøyaktighet for hver klasse.