Cos'è adeline?

Adeline

Adeline è un tipo di rete neurale artificiale sviluppata da Bernard Widrow e Ted Hoff alla Stanford University nel 1960. ADALINE sta per Adaptive Linear Neuron o più precisamente Adaptive Linear Element.

A differenza del Percettrone, che utilizzava una funzione di passo (threshold) per determinare l'output, Adeline utilizza una funzione lineare come funzione di attivazione. Questo significa che l'output è un valore continuo piuttosto che un valore binario. L'algoritmo di apprendimento di Adeline si basa sulla minimizzazione dell'errore quadratico medio (MSE) tra l'output desiderato e l'output calcolato, utilizzando tipicamente l'algoritmo del gradiente discendente.

Caratteristiche principali:

  • Funzione di attivazione lineare: A differenza del percettrone, Adeline usa una funzione lineare, consentendo valori di output continui.
  • Apprendimento basato sull'errore quadratico medio (MSE): L'apprendimento si basa sulla minimizzazione dell'errore tra l'output previsto e quello reale.
  • Regola di apprendimento Widrow-Hoff (Regola Delta): L'aggiornamento dei pesi è basato sulla differenza tra l'output desiderato e la somma pesata degli input (l'output prima dell'applicazione della funzione di passo, se ce n'è una).
  • Algoritmo di addestramento: Principalmente utilizza il metodo del gradiente discendente per trovare i pesi ottimali.

Usi:

Adeline è stata utilizzata in diverse applicazioni, tra cui:

  • Filtri adattivi: Per la cancellazione del rumore e l'equalizzazione del segnale.
  • Sistemi di controllo: Per il controllo adattivo di processi.
  • Riconoscimento di pattern: Anche se meno comune rispetto alle reti neurali più complesse.

Differenze con il Percettrone:

La principale differenza tra Adeline e il percettrone è la posizione della funzione di soglia (se presente) e la regola di apprendimento. Nel percettrone, la funzione di soglia viene applicata prima di calcolare l'errore, e l'aggiornamento dei pesi si basa sull'output binario. In Adeline, la funzione di soglia (se presente) viene applicata dopo aver calcolato l'errore, e l'aggiornamento dei pesi si basa sulla somma pesata degli input (l'output lineare). Questo permette ad Adeline di imparare relazioni più complesse rispetto al percettrone, soprattutto quando si utilizza una funzione lineare senza soglia.