Esame: Regressione e classificazione ML

Cos'è la regressione?

È un metodo statistico per prevedere un valore continuo basato su variabili indipendenti.

Differenza tra regressione lineare e polinomiale

Regressione lineare: relazione lineare semplice. Regressione polinomiale: relazione non lineare, usa potenze.

Cosa rappresenta il coefficiente di determinazione R²?

Indica la percentuale di variazione della variabile dipendente spiegata dalle variabili indipendenti.

Vero o falso: La regressione può essere usata solo per dati numerici.

Falso. Può essere usata anche per dati categorici, se opportunamente codificati.

Cosa fa la regressione ridge?

Ridge aggiunge un termine di penalizzazione per evitare l'overfitting durante l'addestramento.

Formula della regressione lineare semplice

$\displaystyle y = mx + b$, dove m è la pendenza e b è l'intercetta.

Cosa rappresenta l'errore quadratico medio (RMSE)?

È una misura della differenza tra i valori previsti e quelli osservati, più basso è meglio.

Esempio pratico di regressione:

Prevedere il prezzo di una casa in base a metri quadrati, numero di stanze.

Vero o falso: La regressione logistica è un metodo di regressione.

Vero. È usata per la classificazione, ma si basa su una funzione regressiva.

Cos'è la regressione multipla?

Estensione della regressione lineare, utilizza più variabili indipendenti per prevedere una variabile dipendente.

Fill in the blank: La regressione __________ è utile per prevedere risultati binari.

logistica.

Cosa sono i residui in regressione?

Differenze tra valori previsti e reali, aiutano a valutare la qualità del modello.

Vantaggi della regressione rispetto ad altri metodi:

- Semplicità - Interpretabilità - Velocità di calcolo.

Cosa significa overfitting in regressione?

Il modello si adatta troppo bene ai dati di addestramento e perde capacità di generalizzazione.

Qual è il ruolo della variabile indipendente nella regressione?

Influenza la variabile dipendente; è ciò che manipoliamo per osservare cambiamenti.

Cosa sono le variabili dummy?

Variabili utilizzate per rappresentare dati categorici in regressione, codificate come 0 o 1.

Cos'è la classificazione?

È un metodo di apprendimento supervisionato per prevedere la categoria di un dato campione.

Vantaggio dell'albero decisionale?

Facilità di interpretazione e visualizzazione delle decisioni.

Cos'è una SVM?

Support Vector Machine: algoritmo che cerca di massimizzare il margine tra le classi.

Cosa fa un classificatore k-NN?

Classifica un campione in base ai suoi k vicini più prossimi nel dataset.

Verità o falsità: le reti neurali non possono essere utilizzate per la classificazione.

Falso, le reti neurali possono efficacemente classificare dati complessi.

Quando si usa la regressione logistica?

Per stimare probabilità di appartenenza a classi binarie, come successo o fallimento.

Cos'è un classificatore Naive Bayes?

Un modello probabilistico basato sul teorema di Bayes, assume indipendenza tra le variabili.

Caratteristiche del Random Forest?

- Combinazione di più alberi decisionali. - Riduce l'overfitting. - Buone prestazioni su dati rumorosi.

Cosa rappresenta la matrice di confusione?

Una tabella che riassume le prestazioni di un classificatore, evidenziando veri/falsi positivi e negativi.

Cosa significa overfitting?

Quando un modello si adatta troppo ai dati di addestramento, perdendo capacità di generalizzazione.

Esempio di problema di classificazione: predizione del voto.

Usare dati passati per prevedere se un elettore voterà per un certo candidato.

Vantaggio della classificazione tramite ensemble?

Combina diversi modelli per migliorare l'accuratezza e la robustezza delle previsioni.

Cosa sono le feature in un modello di classificazione?

Le variabili indipendenti utilizzate per fare previsioni su un target o classe.

Quando si usa la validazione incrociata?

Per valutare la robustezza del modello attraverso diversi sottoinsiemi del dataset.

Differenza tra classificazione binaria e multiclass?

Binaria: due classi; multiclass: più di due classi da prevedere.

Cosa misura l'accuratezza di un modello di classificazione?

La proporzione di previsioni corrette rispetto al totale delle previsioni effettuate.