Troppo AI: la trappola del context stuffing
L’illusione del contesto infinito si scontra con la realtà fisica dei Transformer, dove ammassare documenti degrada l’accuratezza dei modelli fino all’85% e moltiplica i costi di calcolo fino a 125 volte rispetto a un recupero mirato. I vendor di intelligenza artificiale competono a colpi di milioni di token di contesto, promettendo la fine della complessità…