I progressi più recenti nell'intelligenza artificiale hanno spostato rapidamente il confine delle attività che una macchina può svolgere. Modelli capaci di affrontare problemi matematici complessi, scrivere codice e completare sequenze di attività sempre più lunghe hanno reso meno convincente l'idea che il limite principale sia semplicemente la capacità del modello di comprendere un problema.
Ma esiste un altro limite, molto meno spettacolare: quanto costa far ragionare un modello?
La domanda diventa particolarmente importante quando l'obiettivo non è ottenere una singola risposta impressionante, ma sostituire un'attività umana ripetuta migliaia o milioni di volte. In questo scenario la qualità dell'intelligenza artificiale deve essere valutata insieme al costo dell'inferenza, all'energia necessaria e alla quantità di hardware richiesta per mantenere il servizio operativo.
Il problema non è soltanto addestrare modelli più grandi
Per molto tempo il miglioramento dei modelli linguistici è stato associato soprattutto all'aumento delle dimensioni dei modelli e della quantità di dati utilizzati durante l'addestramento. Con i modelli orientati al ragionamento, però, una parte sempre maggiore della capacità viene ottenuta durante l'esecuzione.
Invece di produrre immediatamente una risposta, il sistema può utilizzare una quantità maggiore di calcolo per analizzare il problema, confrontare possibili soluzioni, correggere passaggi intermedi e verificare il risultato.
Questo approccio aumenta la qualità dell'output, ma introduce un compromesso fondamentale: ogni risposta più complessa richiede più lavoro computazionale.
Il calcolo durante la risposta cambia l'economia dell'IA
Immaginiamo due sistemi che devono risolvere lo stesso problema. Il primo produce una risposta attraverso un singolo passaggio relativamente breve. Il secondo dedica molto più calcolo alla stessa richiesta, genera più ipotesi, le confronta e utilizza strumenti esterni per verificare il risultato.
Il secondo sistema può essere nettamente più affidabile, ma non è automaticamente più conveniente.
Questo è il problema del calcolo aggiuntivo durante l'inferenza: la qualità può continuare a crescere aumentando il lavoro svolto per ogni richiesta, ma il costo della singola richiesta cresce insieme ad essa.
Su una dimostrazione matematica particolarmente complessa questo compromesso può essere accettabile. Su milioni di attività aziendali quotidiane, invece, diventa una questione economica.
Il vero collo di bottiglia è spesso la memoria
Il consumo di un sistema di IA non dipende soltanto dal numero di operazioni matematiche eseguite. Nei modelli linguistici una parte fondamentale del costo deriva anche dalla gestione della memoria necessaria durante l'inferenza.
La KV cache, per esempio, conserva informazioni intermedie necessarie per elaborare il contesto già visto dal modello. All'aumentare della lunghezza del contesto e del numero di richieste gestite contemporaneamente, aumenta anche la quantità di memoria richiesta.
Nei sistemi ad alte prestazioni questa memoria è spesso HBM, caratterizzata da una larghezza di banda estremamente elevata ma anche da costi significativi in termini di hardware e consumo energetico.
Il risultato è che un modello non deve soltanto essere abbastanza potente da risolvere un problema: l'infrastruttura deve essere in grado di mantenere contemporaneamente un numero sufficiente di richieste senza saturare memoria e capacità di calcolo.
Un modello intelligente non significa automaticamente un lavoratore digitale economico
È qui che la discussione sulla sostituzione del lavoro umano tende a semplificarsi troppo.
Se un agente deve svolgere un'attività professionale complessa, non basta che sia tecnicamente capace di farlo. Deve farlo a un costo inferiore rispetto all'alternativa umana, oppure produrre un valore sufficientemente superiore da giustificare il costo aggiuntivo.
Questo introduce una vera e propria economia della singola attività. Bisogna considerare il costo dell'infrastruttura, l'utilizzo della memoria, il numero di passaggi necessari, eventuali strumenti esterni e il tempo richiesto per completare l'operazione.
Se un agente impiega una quantità enorme di calcolo per completare un'attività che un professionista può svolgere rapidamente, la superiorità tecnica del sistema non implica automaticamente una convenienza economica.
Il costo della verifica è spesso sottovalutato
Esiste poi un problema ancora più importante: l'errore.
In molte attività il valore dell'automazione dipende dalla possibilità di accettare direttamente il risultato prodotto dal sistema. Se invece ogni output deve essere controllato da una persona qualificata, il processo non è completamente automatizzato.
Questo è particolarmente evidente nel codice destinato a sistemi critici, nelle attività finanziarie, nella consulenza legale o in qualsiasi processo nel quale un errore può avere un costo molto elevato.
Il supervisore umano non rappresenta necessariamente un fallimento dell'IA. Può essere la soluzione economicamente più razionale. Ma cambia completamente il calcolo del risparmio: il costo dell'automazione comprende anche tutto ciò che serve per verificare che l'automazione abbia funzionato.
Perché il cervello umano rimane difficile da confrontare
Il consumo energetico del cervello viene spesso confrontato con quello delle GPU utilizzate nei data center, ma il paragone diretto è fuorviante.
Il cervello umano utilizza circa 20 watt di potenza metabolica, mentre un acceleratore per l'intelligenza artificiale può richiedere centinaia di watt. Ma i due sistemi non svolgono le stesse operazioni, non hanno la stessa architettura e soprattutto non ricevono energia attraverso lo stesso modello di infrastruttura.
Il confronto interessante non è quindi stabilire quale dei due sia semplicemente più efficiente in watt. È capire quanta energia e quale costo infrastrutturale siano necessari per ottenere un determinato risultato utile.
Su questo terreno l'essere umano possiede ancora un vantaggio difficile da eliminare: può combinare percezione, memoria, conoscenza generale, esperienza e ragionamento in un unico sistema biologico che opera continuamente senza richiedere un data center dedicato.
Il limite dei prossimi anni potrebbe essere economico, non tecnologico
Questo non significa che l'intelligenza artificiale non possa sostituire posti di lavoro. Significa che la velocità della trasformazione dipenderà anche dall'economia dell'inferenza.
Se il costo per ottenere un risultato utile continuerà a diminuire grazie a modelli più efficienti, quantizzazione, hardware specializzato e sistemi capaci di utilizzare il calcolo soltanto quando necessario, molte attività oggi troppo costose da automatizzare potrebbero diventare economicamente convenienti.
Al contrario, se la qualità dei sistemi continuerà a crescere principalmente attraverso un aumento massiccio del calcolo utilizzato per ogni singola attività, l'automazione completa potrebbe rimanere limitata alle situazioni nelle quali il valore prodotto giustifica il costo dell'infrastruttura.
Il futuro potrebbe essere meno spettacolare di quanto sembra
La conseguenza più probabile non è quindi una sostituzione improvvisa del lavoro umano, ma una trasformazione progressiva delle attività.
Le operazioni semplici e ripetitive possono essere automatizzate con modelli relativamente economici. Le attività più complesse possono invece essere affidate a sistemi che utilizzano maggiore capacità di ragionamento, mentre l'essere umano rimane responsabile delle decisioni nelle quali il costo dell'errore è elevato.
È un modello molto diverso dalla sostituzione completa del lavoratore. L'intelligenza artificiale diventa un moltiplicatore della produttività, mentre il lavoro umano si sposta verso supervisione, definizione degli obiettivi e gestione delle eccezioni.
Il vero muro da abbattere
L'evoluzione dell'intelligenza artificiale non dipenderà quindi soltanto da quanto saranno intelligenti i prossimi modelli. Dipenderà anche da quanto sarà economico farli funzionare.
Per rendere l'automazione realmente universale bisogna ridurre contemporaneamente il costo del calcolo, il consumo energetico, la quantità di memoria necessaria e il costo della verifica degli output.
La prossima grande competizione nell'IA potrebbe quindi non essere soltanto tra modelli più capaci. Sarà anche una competizione sull'efficienza: ottenere più intelligenza utile da ogni watt, ogni gigabyte di memoria e ogni euro investito nell'infrastruttura.
Finché questo rapporto rimarrà sfavorevole per le attività più complesse, l'IA potrà essere tecnicamente capace di svolgere un lavoro senza essere ancora economicamente conveniente per sostituire chi quel lavoro lo svolge. Ed è probabilmente questa, più della pura capacità dei modelli, una delle variabili che determineranno quanto velocemente cambierà il lavoro umano.
