Cos’è un dataset e come si forma
Da dove arrivano i dati con cui si addestrano le AI generative, come sono fatti i dataset, quali problemi portano dentro. Sette tappe di lettura.
Questo blog ha accumulato quasi duecento articoli, quando un nuovo lettore arriva si trova davanti all’imbarazzo della scelta, dove iniziare? Cosa leggere se è già pratico del tema, cosa leggere se è alle prime armi?
Da una richiesta esplicita di un lettore è nata l’idea di un altro modo di entrare nel materiale, articoli che funzionano come «percorsi» di lettura attraverso il blog. Sono insiemi di articoli che, letti in sequenza, costruiscono un discorso più ampio di quello che ciascuno costruisce da solo. Un percorso si distingue da un elenco di articoli correlati per un filo argomentativo costruito a posteriori, un ordine di lettura motivato, dei raccordi che spiegano il passaggio da un articolo al successivo.
Questo è il primo articolo di questa serie, il primo «percorso». Il tema è cos’è un dataset, come si forma, e cosa porta dentro un modello di AI generativa. Il percorso è leggibile sia da chi usa modelli generativi e vuole capirne i meccanismi sotto la superficie, sia da chi non li usa ma vuole orientarsi su temi adiacenti come copyright, cultura, dati personali.
Una precisazione prima di iniziare. La serie tratta i dataset usati per addestrare le AI generative di immagini, gli esempi e i casi concreti arrivano da lì. Le AI di altro tipo, dai grandi modelli linguistici ai sistemi di riconoscimento vocale, lavorano con dataset diversi. I concetti di fondo del percorso, cosa è un dataset, come si forma, quali problemi porta dentro, restano comunque validi.
Sette tappe. Si parte dalla definizione operativa di cosa contiene un dataset. Si attraversa il meccanismo che lo rende efficace, ossia come il modello costruisce rappresentazioni e non archivia immagini. Si entra nelle fonti dei dati e nell’architettura dei principali dataset reali. Si introducono due problemi strutturali del processo, distinti fra loro, l’annotazione umana che porta bias e la contaminazione che resta invisibile fino a quando qualcuno non guarda. Si chiude con la conseguenza più rilevante per chi usa l’AI nel lavoro quotidiano. Il modello può generare solo oggetti che ha visto nel dataset.
Le sette tappe
Il punto di partenza è la definizione operativa, costruita per esempi concreti più che per astrazioni. I principali dataset esistenti (LAION, COCO, Open Images di Google) e perché il tema riguarda chiunque, anche chi non usa modelli generativi.
Sapere cosa contiene un dataset è solo il primo passo. Il secondo è capire cosa il modello ne ricava davvero. Il prossimo articolo mostra perché un dataset non è un archivio che il modello memorizza, ma il materiale grezzo da cui estrae pattern.
Una volta chiarito come il modello costruisce le sue rappresentazioni resta la domanda da cui dipende tutto il resto, i dati che entrano nel dataset, da dove arrivano? Il prossimo nodo, dietro un titolo provocatorio, mette in fila le quattro vie principali di raccolta delle immagini con il loro diverso grado di legittimità.
La prima parte ha mappato i canali di provenienza. La seconda chiude il quadro guardando dentro, dalla distinzione architetturale fra catalogo di link e archivio di immagini ai principali nomi del settore, con le loro storie recenti.
Fin qui il dato è raccolto, in un modo o nell’altro. Ma il dato grezzo non basta, deve essere annotato perché il modello sappia cosa sta vedendo. In questo passaggio apparentemente neutro entra il primo problema strutturale del processo. Il prossimo articolo lo mostra a partire da un caso minimo, il termine «’nduja» nel Google Open Images Dataset.
I bias di annotazione, però, non sono l’unico modo in cui un dataset può rivelarsi problematico. Esiste un secondo livello di natura diversa, quello che accade quando il materiale grezzo che entra nel dataset è esso stesso contaminato e per qualche tempo nessuno se ne accorge. È la storia di LAION-5B e del suo ritiro, raccontata nel prossimo articolo.
Il percorso ha messo in fila due problemi strutturali, l’annotazione che porta bias e la contaminazione che resta invisibile. Riguardano entrambi il dataset, ma le loro conseguenze si vedono solo quando il modello viene usato. Cosa succede se si chiede di generare l’immagine di un oggetto che il modello non conosce? Il prossimo articolo lo mostra con casi concreti.
In chiusura
Sette articoli, scritti in tempi diversi e con occasioni diverse, letti in questa sequenza costruiscono un discorso che nessuno di loro fa da solo. Il dataset è il punto di partenza di un modello generativo, tutto quello che il modello sa fare discende da lì. Vedere come si forma, da dove arrivano i dati, quali problemi strutturali porta dentro non è una curiosità tecnica. È la chiave per leggere le capacità e i limiti dei modelli come conseguenze di un punto di partenza, non come proprietà inspiegabili.
Chi usa l’AI quotidianamente trova qui gli strumenti per anticipare i limiti del modello prima ancora di provare un prompt che fallirà. Chi non la usa ma vuole orientarsi sui temi adiacenti, dal copyright alla qualità dei dati culturali, trova la grammatica di base per leggere notizie e dibattiti senza fermarsi alle semplificazioni.
Questo è il primo percorso del sito e nasce per esperimento. Se il formato funziona ne arriveranno altre, su filoni diversi, di materiale ce n’è parecchio.
