Load balancing e scaling

Bilanciamento del carico

Tecnica per distribuire il carico di lavoro su più risorse per ottimizzare le prestazioni.

Perché è importante il bilanciamento del carico?

Previene il sovraccarico di un singolo server, migliora la disponibilità e la reattività del sistema.

Termini associati al bilanciamento del carico?

- Algoritmi - Server - Risorse - Prestazioni

Vero o falso: il bilanciamento del carico aumenta i costi operativi.

Falso. Riduce i costi attraverso un uso più efficiente delle risorse.

Algoritmi di bilanciamento del carico

Tecniche per determinare come distribuire le richieste. Esempi: Round Robin, Least Connections.

Round Robin

Un algoritmo di bilanciamento del carico che distribuisce le richieste in modo circolare tra i server.

Least Connections

Distribuisce le richieste al server con il minor numero di connessioni attive.

Come si misura l'efficacia del bilanciamento?

Valutando la latenza, il throughput e l'utilizzo delle risorse.

Bilanciamento del carico attivo-passivo

Una configurazione in cui un server è attivo e l'altro è in attesa. Usato per ridondanza.

Bilanciamento del carico attivo-attivo

Entrambi i server elaborano le richieste contemporaneamente, migliorando l'efficienza.

Vantaggi del bilanciamento del carico

- Maggiore disponibilità - Scalabilità - Ottimizzazione delle risorse

Come funziona un bilanciatore di carico?

Si interpone tra i client e i server, reindirizzando le richieste secondo l'algoritmo scelto.

Vero o falso: Il bilanciamento del carico non migliora la sicurezza.

Falso. Può migliorare la sicurezza attraverso la ridondanza e la distribuzione del traffico.

Session persistence

Tecnica che garantisce che le richieste di un utente siano sempre gestite dallo stesso server.

Scalabilità orizzontale vs verticale

Orizzontale: aggiungere più server. Verticale: potenziare i server esistenti.

Load balancer hardware vs software

Hardware: dispositivi fisici dedicati. Software: applicazioni installate sui server.

Monitoraggio delle prestazioni

Fondamentale per il bilanciamento del carico; aiuta a identificare colli di bottiglia e inefficienze.

Effetti del sovraccarico del server

Rallentamenti, errori di timeout, e potenziale downtime.

Esempio di bilanciamento del carico

Un sito web ad alto traffico utilizza 3 server con il metodo Round Robin per gestire le richieste.

Cosa si intende per failover?

Processo di commutazione automatica su un server secondario in caso di guasto del server primario.

Scalabilità verticale

Aumentare le risorse di un singolo nodo. Esempio: potenziare un server con più RAM.

Scalabilità orizzontale

Aggiungere più nodi al sistema per gestire il carico. Esempio: aggiungere server.

Vantaggio della scalabilità verticale

Semplicità di gestione: meno nodi da configurare.

Vantaggio della scalabilità orizzontale

Maggiore tolleranza ai guasti: se un nodo fallisce, altri continuano a funzionare.

Scalabilità verticale è migliore perché...

...è più semplice e richiede meno modifica del software.

Scalabilità orizzontale è migliore perché...

...può gestire carichi più elevati senza punti di fallimento.

Esempio di scalabilità verticale

Aggiunta di 32 GB di RAM a un server esistente.

Esempio di scalabilità orizzontale

Cluster di server web che distribuiscono richieste tra più macchine.

In che modo la scalabilità verticale influisce sui costi?

Aumenta i costi: hardware più potente è generalmente più costoso.

In che modo la scalabilità orizzontale influisce sui costi?

Distribuzione dei costi su più nodi: più economica nel lungo termine.

Limiti della scalabilità verticale

Raggiungimento di un limite fisico; costi crescenti.

Limiti della scalabilità orizzontale

Maggiore complessità nella gestione e nella configurazione.

Scalabilità verticale richiede...

...un'architettura monolitica e hardware potente.

Scalabilità orizzontale richiede...

...un'architettura distribuita e gestione del carico.

Qual è un esempio comune di scalabilità verticale?

Aggiornamento di un database esistente per aumentare le prestazioni.

Qual è un esempio comune di scalabilità orizzontale?

Servizi cloud che aggiungono istanze per gestire il traffico.

Scalabilità verticale è limitata da...

...capacità massime dell'hardware e costi.

Scalabilità orizzontale è limitata da...

...complessità della rete e sincronizzazione dei dati.

Scalabilità verticale è tipica in...

...sistemi legacy e applicazioni monolitiche.

Scalabilità orizzontale è tipica in...

...sistemi cloud e architetture microservizi.

Load balancer

Dispositivo o software che distribuisce il traffico di rete su più server per ottimizzare le risorse.

Cosa fa un reverse proxy?

Agisce come intermediario tra client e server, migliorando la sicurezza e bilanciando il carico.

Vero o falso: il bilanciamento del carico è sempre attivo.

Falso. Può essere attivato solo in caso di necessità per gestire il traffico variabile.

CDN

Rete di distribuzione dei contenuti che riduce la latenza memorizzando contenuti vicino all'utente finale.

Quali sono i tipi di load balancing?

Round robin, least connections, IP hash, etc.

Cosa significa scaling verticale?

Aggiungere risorse a un singolo server per migliorare le prestazioni.

Vantaggi dell'autoscaling?

- Riduzione dei costi - Ottimizzazione delle risorse - Adattamento automatico alla domanda

DNS Round Robin

Tecnica di bilanciamento del carico basata su più indirizzi IP restituiti da un DNS.

Quale protocollo è comune nel bilanciamento del carico?

HTTP, TCP e UDP sono protocolli frequentemente utilizzati.

Cosa fa un bilanciatore di carico hardware?

Fornisce prestazioni elevate e funzionalità dedicate per la gestione del traffico.

Vero o falso: il bilanciamento del carico può migliorare la tolleranza ai guasti.

Vero. Distribuendo il carico, i sistemi possono mantenere operatività anche in caso di guasto di un server.

Qual è l'effetto della scalabilità orizzontale?

Aggiunge più server al sistema, migliorando le prestazioni e la disponibilità.

Cosa è un cluster?

Gruppo di server che lavorano insieme per fornire maggiore potenza e disponibilità.

Kubernetes

Piattaforma open source per l'automazione del deployment, scaling e gestione di applicazioni containerizzate.

Cosa significa 'failover'?

Procedura automatica per passare a un sistema di backup in caso di guasto.

Quali strumenti possono essere usati per il monitoraggio del carico?

Prometheus, Grafana, Nagios, etc.

Cosa è un bilanciatore di carico basato su software?

Un'applicazione che gestisce il traffico e distribuisce le richieste su più server.

Cosa significa 'traffic shaping'?

Tecnica per controllare la quantità e la tipologia di traffico che passa attraverso una rete.

Vero o falso: la scalabilità è sempre costosa.

Falso. Può essere ottimizzata per ridurre i costi e migliorare l'efficienza.

Esempio di load balancing in cloud?

Utilizzo di Amazon ELB per distribuire il traffico tra più istanze EC2.

Bilanciamento del carico attivo

Distribuzione delle richieste in modo uniforme tra le risorse per evitare sovraccarichi.

Vantaggio della scalabilità orizzontale

Aggiungere più nodi per gestire il carico. Maggiore flessibilità e costi più contenuti.

Quando usare il bilanciamento del carico?

Quando si prevede un alto volume di richieste o per garantire alta disponibilità.

Strategia Round Robin

Assegna le richieste in modo ciclico. Semplice e utile per carichi simili.

Vero o falso: La scalabilità verticale implica aggiungere più server.

Falso. La scalabilità verticale implica potenziare le risorse di un singolo server.

Load shedding

Tecnica per ridurre il carico scartando alcune richieste durante periodi di picco.

Perché considerare la latenza?

Latenza bassa migliora l'esperienza utente. Fondamentale nei servizi in tempo reale.

Cosa è il bilanciamento basato su sessione?

Mantiene le sessioni degli utenti su un singolo server per coerenza nei dati.

Autoscaling

Aggiunge o rimuove automaticamente risorse in base al carico attuale.

Quale architettura supporta meglio la scalabilità?

Microservizi. Permettono una gestione indipendente delle parti dell'applicazione.

Esempio di bilanciamento del carico geografico

Utilizzare server in diverse regioni per ridurre la latenza per gli utenti locali.

Come monitorare performance e carico?

Utilizzare strumenti di monitoraggio. Esempi: Grafana, Prometheus.

Priorità delle richieste

Classificare le richieste per importanza. Gestire le richieste critiche prima.

Cache e bilanciamento del carico

Le cache possono ridurre il carico sui server. Risposte più rapide per richieste comuni.

Limitazione del numero di connessioni

Stabilire un limite per evitare il sovraccarico sui server. Controlla accessi simultanei.

Cosa fare in caso di picco di traffico?

Implementare autoscaling o load shedding per gestire il carico.

Vantaggi del bilanciamento del carico

- Migliore performance - Maggiore disponibilità - Ridondanza delle risorse

Considerare il failover

Implementare un piano di failover per garantire continuità in caso di guasti.

Strategia Least Connections

Invia nuove richieste al server con meno connessioni attive. Ottimizza l'uso delle risorse.

Obiettivo della scalabilità

Assicurare che un sistema possa gestire l'aumento del carico senza degrado delle prestazioni.