Non tutto richiede un LLM: quando l’IA è davvero utile

Non tutto richiede un LLM: quando l’IA è davvero utile

quale prodotto dovrebbe utilizzare il machine learning?

L’emergere dell’intelligenza artificiale generativa ha trasformato il nostro modo di pensare ai casi d’uso più adatti per il machine learning (ML). Fino a poco tempo fa, il ML veniva principalmente applicato a modelli predittivi ripetibili nelle esperienze dei clienti. Tuttavia, oggi possiamo applicare forme di ML anche senza un dataset di addestramento completo.

Detto questo, la risposta alla domanda “Quali esigenze dei clienti richiedono una soluzione AI?” non è sempre positiva. I modelli di linguaggio di grandi dimensioni (LLM) possono risultare estremamente costosi e, come per tutti i modelli ML, non sempre garantiscono precisione. Ci saranno sempre scenari in cui l’implementazione di una soluzione ML non è la scelta giusta.Ma come possiamo, noi responsabili di progetti AI, valutare le esigenze dei clienti per l’implementazione dell’AI?

Considerazioni chiave per la valutazione delle esigenze

Quando si affronta questo compito, è importante tenere presenti alcuni fattori fondamentali:

Input e output richiesti: Gli input sono le informazioni fornite dai clienti al prodotto, mentre gli output sono ciò che il prodotto restituisce. Per esempio, in una playlist generata da ML di Spotify, gli input potrebbero includere le preferenze musicali e i brani “graditi” dall’utente.

Combinazioni di input e output: Le esigenze dei clienti possono cambiare in base alla necessità di avere lo stesso output per input ripetuti o output diversi per lo stesso input. maggiore è la complessità delle combinazioni da replicare, maggiore sarà la necessità di ricorrere al ML piuttosto che a sistemi basati su regole.

Pattern negli input e output: Identificare schemi nei dati ci aiuta a capire quale tipo di modello ML impiegare. Se esistono pattern nella combinazione di input e output, come ad esempio nel calcolo di un punteggio di sentiment basato su recensioni, sarà meglio considerare modelli ML supervisionati o semi-supervisionati, poiché potrebbero risultare più economici.Costi e precisione: Le chiamate a LLM non sono sempre convenienti quando scalate,e i risultati non sono sempre precisi,nonostante le ottimizzazioni.Talvolta, è preferibile optare per modelli supervisionati in reti neurali, che possono classificare un input secondo un insieme fisso di etichette, o addirittura utilizzare sistemi basati su regole.

Tabella di valutazione delle esigenze dei clienti

Ecco una tabella che riassume le considerazioni precedenti, utile per i project manager:

| Tipo di esigenza del cliente | Esempio | implementazione ML (Sì/No/condizionato) | Tipo di Implementazione ML |
|———————————————————————|———————————————————-|——————————————|——————————————————————|
| Compiti ripetitivi con output identico per lo stesso input | Aggiungere email in vari form online | No | Un sistema basato su regole è sufficiente |
| Compiti ripetitivi con output diversi per lo stesso input | Creazione di nuova arte ad ogni clic | Sì | LLM per generazione immagini – algoritmi di raccomandazione |
| Compiti con output simili per input diversi | Correzione di saggi | Dipende | Classificatori – modelli di argomenti, se esistono schemi |
| Compiti ripetitivi con output diversi per input diversi | Risposte a domande di assistenza clienti | Sì | LLM con generazione aumentata da recupero – alberi decisionali |
| Compiti non ripetitivi con output variabili | Recensione di hotel/ristoranti | Sì | Prima dei LLM, questo era difficile senza modelli specifici come RNN e LSTM |

La riflessione finale da tenere a mente: non utilizzare una spada laser quando un semplice paio di forbici può bastare. È essenziale valutare attentamente le esigenze dei clienti usando la matrice sopra,considerando i costi di implementazione e la precisione dell’output,per creare prodotti accurati e convenienti in scala.