Claude: la funzione auto-compact
La soluzione di Anthropic per gestire chat particolarmente lunghe, la sto usando in modo intenso e posso dire che funziona molto bene.
Le chat lunghe sono un problema per gli LLM. Quando la conversazione supera la finestra di contesto, cioè la quantità massima di informazioni che il modello riesce a tenere presente, inizia quello che si chiama “perdita del contesto”: le cose dette all’inizio vengono progressivamente dimenticate.
La soluzione di Anthropic si chiama auto-compact. Non è una novità, esiste da alcuni mesi, e i primi tempi non funzionava granché: su Reddit si trovano ancora diversi post di chi consigliava di disabilitarla.
Ultimamente l’ho usata parecchio e la mia impressione è che ora funzioni davvero bene. Per chi usa Claude intensamente o lavora su progetti di dimensioni medie è diventata uno strumento prezioso, una sorta di memoria aggiuntiva che si affianca a quelle di chat e di progetto.
Nel video spiego come funziona e racconto una mia esperienza reale, una singola chat che ho tenuto aperta per un’intera settimana di lavoro.
Cliccarew sull’immagine sottostante
