Apprendimento statistico e probabilistico (EM)

Cos'è

L'apprendimento statistico tratta l'apprendere come ragionare in condizioni di incertezza: il modello è una descrizione di come i dati potrebbero essere stati prodotti, con numeri sconosciuti (parametri) che stimiamo dagli esempi. Quando una parte dell'informazione è nascosta, come il gruppo a cui appartiene ogni esempio, l'algoritmo EM (Expectation-Maximisation) alterna l'indovinare la parte nascosta e il migliorare i parametri.

A cosa serve

Quando vuoi probabilità e non solo risposte, quando i dati scarseggiano o quando alcune variabili non si osservano mai: raggruppare i dati in cluster che si sovrappongono, riempire valori mancanti, e molti modelli classici di voce e testo. Spiega anche da dove vengono gli obiettivi di addestramento più comuni.

Come si fa

Il processo, passo per passo. Librerie e strumenti cambiano; questi passi restano.

1. Scrivi una storia di come i dati sono generati, per esempio "ogni punto viene da uno di tre gruppi a campana".
2. Elenca i numeri sconosciuti della storia (centri e larghezze dei gruppi, quanto è frequente ogni gruppo).
3. Scegli stime iniziali, poi ripeti EM: stima quanto è probabile che ogni punto appartenga a ogni gruppo, poi aggiorna i numeri usando quelle stime.
4. Fermati quando l'adattamento smette di migliorare, e prova diversi punti di partenza perché EM può bloccarsi.
5. Controlla che la storia regga: confronta ciò che il modello genererebbe con i dati reali.
6. Usa il modello adattato per dare probabilità sui casi nuovi, e tieni conto dell'incertezza nella decisione.