llama-easy-gui: una GUI locale per llama.cpp

llama-easy-gui è una GUI locale per llama.cpp che permette di lavorare con modelli AI sul proprio computer, senza che i dati escano da lì, utile a chi tratta materiale riservato. L’articolo spiega perché ha senso usare modelli locali oggi, con la qualità dei modelli scaricabili in rapida crescita, perché il progetto usa llama.cpp invece di Ollama, e cosa fa lo strumento. È una prima versione, la 0.1.0, centrata sulle funzionalità e ancora orientata a chi ha una certa dimestichezza tecnica.

Ho appena rilasciato llama-easy-gui, una GUI per llama.cpp che permette di lavorare completamente in locale con tutti gli elementi, il modello, le conversazioni, i dati. Chi vuole vedere subito la pagina del progetto la trova qui.

È la versione 0.1.0, una prima release centrata sulle funzionalità e non ancora sull’usabilità, per ora installarla richiede un minimo di dimestichezza tecnica. In questo articolo racconto quando ha senso lavorare con modelli locali oggi, perché ho scelto llama.cpp e cosa fa lo strumento.

Perché usare modelli locali

Far girare un modello in locale vuol dire che il modello sta sul proprio computer, e che le richieste e le risposte non escono da lì. Nessun servizio esterno vede quello che si scrive, nessun dato passa da un cloud.

Per molti usi non è una differenza che pesa, ma lo diventa quando i dati che si affidano al modello sono coperti da riservatezza. Uno studio legale che fa riassumere un atto, un medico che ragiona su una cartella clinica, un notaio che prepara una bozza, sono tutti professionisti che lavorano con informazioni che non possono finire sul server di un terzo, per obbligo deontologico prima ancora che per scelta. Con un modello in cloud quel materiale attraversa l’infrastruttura di qualcun altro, con le sue condizioni d’uso. Con un modello locale la questione non si pone, perché non c’è nessun trasferimento.

Ci sono altri motivi per tenere i modelli in casa, il costo che non dipende dal consumo, il funzionamento anche senza rete, il controllo su come e quando aggiornare. Ma per il pubblico che ho in mente quello che conta è il primo, ed è da lì che nasce llama-easy-gui.

Lavorare in locale ha però un costo. Un modello capace richiede una macchina potente, in genere una scheda grafica con memoria a sufficienza, quindi un computer più costoso di quello che basterebbe per accedere a un servizio via browser. E c’è da gestire un sistema più complesso, da installare, configurare e tenere aggiornato, invece di limitarsi ad aprire un sito. Sono i costi che si accettano in cambio di tenere tutto in casa.

I modelli di oggi

Un elemento importante a favore di questa scelta è il livello di qualità dei modelli che si scaricano e si fanno girare in locale, oramai adeguati a gran parte del lavoro quotidiano.

Il ritmo dei rilasci arriva da due fronti. Da una parte i nomi occidentali, Meta con Llama, Google con Gemma, OpenAI con gpt-oss, Mistral, NVIDIA con Nemotron. Dall’altra i laboratori cinesi, Qwen di Alibaba, DeepSeek, GLM di Zhipu, Kimi di Moonshot, che negli ultimi mesi hanno spinto la qualità più in fretta di chiunque. Ogni poche settimane esce qualcosa che, alla prova, si dimostra realmente usabile in ambito lavorativo.

Due misure recenti danno l’ordine di grandezza. Epoch AI, a fine maggio 2026, stima che da inizio anno i migliori modelli che si scaricano inseguano i migliori disponibili solo in cloud con un ritardo medio di circa quattro mesi. Artificial Analysis, sul proprio indice di riferimento, misura il divario a sei punti, sceso dai tredici di dodici mesi prima. Il distacco esiste ancora, resta più marcato sui compiti di ragionamento lungo e articolato, e nel complesso i modelli in cloud restano i più usati. Ma per la maggior parte degli usi si è ridotto a poca cosa.

Attenzione a non esagerare nell’altro senso. I migliori modelli locali coprono molto del lavoro di tutti i giorni, non tutto. Molto di quel lavoro è ripetitivo o non chiede una qualità altissima, e per la bozza di una mail non serve il modello più potente in circolazione. Quando il compito si fa difficile, però, il vantaggio resta ai modelli di punta, quelli che si usano in cloud. E pesa anche l’ecosistema intorno al modello, gli strumenti e le integrazioni, che in locale non si eguaglia. Resto convinto che quello di Claude sia il migliore, e non scriverei che un modello locale fa lo stesso lavoro con la stessa qualità.

Allo stesso tempo devo e voglio riconoscere che con questi modelli è già oggi possibile eseguire una buona parte del lavoro quotidiano, oltre naturalmente al loro uso quando si ha a che fare con dati sensibili, come già ricordato all’inizio dell’articolo.

Per chi lavora in locale, è la condizione che rende sensato uno strumento come llama-easy-gui.

Perché una versione per llama.cpp

Una domanda legittima, per chi ha già visto ollama-easy-gui, è perché rifare una cosa che c’era già, spostandola da Ollama a llama.cpp.

Ollama è costruito su llama.cpp, semplificando molto si potrebbe dire che è llama.cpp con una struttura attorno.
Il motivo alla base di questo lavoro è che andare diretti al motore, senza quello strato attorno, permette un miglior controllo.

llama.cpp ha una miglior gestione del contesto, permette di far girare un modello più grande della memoria della scheda grafica, dividendolo fra la scheda e la RAM del computer, senza fermarsi con un errore. Grazie ad una community molto attiva, già poco dopo l’uscita di un nuovo modello sono disponibili le versioni quantizzate. E lascia regolare i parametri di lancio per ogni modello. Sono le cose che contano, sul lavoro vero.

Lo scotto è che llama.cpp è più spartano. Si lavora con i file dei modelli così come sono, si sceglie da sé quale versione compressa usare, e ogni modello va avviato con la configurazione giusta, che non arriva già pronta. Scaricare un modello, di per sé, si fa da riga di comando, llama.cpp lo prende da Hugging Face con un’istruzione sola. Io preferisco appoggiarmi a LM Studio, che va installato a parte ma offre la ricerca e il download dei modelli con un’interfaccia grafica che funziona bene, avendo configurato i due tool per usare lo stesso repository locale dei modelli.

Cosa fa, e l’idea del manifest

L’interfaccia mostra l’elenco dei modelli presenti sul computer e, per ciascuno, una scheda con le sue caratteristiche. Da lì si avvia il modello, ci si chatta, si regola la sua configurazione. Le cose che fa si raggruppano in quattro aree.

• Gestione dei modelli. L’app scansiona la cartella dei modelli, ne legge le caratteristiche (dimensione, contesto massimo, capacità come il ragionamento, la lettura delle immagini, l’uso di strumenti esterni) e le presenta in una scheda, con una descrizione in linguaggio semplice ricavata dal nome del file.
• Avvio dei modelli. Il modello scelto si avvia e si ferma dall’interfaccia, con lo stato e i log a vista. Un piccolo programma di appoggio garantisce che il modello non resti mai acceso in memoria per errore, nemmeno se l’app si chiude male, un dettaglio che conta quando un modello può occupare venti o trenta gigabyte di scheda grafica.
• Chat. Risposte in streaming, blocco di ragionamento richiudibile per i modelli che lo producono, testo formattato, esportazione delle conversazioni, allegati di testo e immagini per i modelli che le leggono, e profili di prompt diversi per usare lo stesso modello con ruoli diversi.
• Strumenti esterni. I modelli che lo supportano possono usare strumenti via MCP. Ogni chiamata a uno strumento chiede conferma in chat prima di partire, salvo autorizzarla in anticipo per un certo strumento.

Il punto tecnico che tiene insieme tutto questo è il manifest. Per gestire i modelli l’app affianca a ogni file del modello una specie di carta d’identità, un file che raccoglie tre cose, le caratteristiche del modello, i parametri con cui va avviato su questa macchina, e le preferenze d’uso come i profili di prompt. La carta d’identità la genera l’app, e si corregge dall’interfaccia.

Le capacità di un modello, il ragionamento, le immagini, gli strumenti, vengono da una base di conoscenza interna delle famiglie note, Qwen, Gemma, gpt-oss, Nemotron e altre. Per le famiglie che non conosce, l’app le deduce dal modello stesso, in modo prudente. Tutto avviene sul computer, senza interrogare nessun servizio.

Come è nato

llama-easy-gui l’ho sviluppato con Claude, in vibe coding.

Il mio ruolo non è stato quello di chi commissiona e aspetta. Ho definito cosa doveva fare lo strumento, come doveva essere organizzato, come doveva comportarsi nei casi limite, e ho rivisto il risultato passo per passo, chiedendo modifiche e riprovando finché non tornava. Claude ha scritto il codice, e prima ancora ha fatto da revisore delle mie richieste, segnalando quando una scelta non stava in piedi. Non «io chiedo, l’AI esegue», ma un lavoro a più mani in cui ognuno mette del suo.

Per chi vuole approfondire il discorso sul vibe coding può partire da questo articolo.

Requisiti e installazione

Per far girare llama-easy-gui oggi servono alcune cose:

• Windows, nella versione 10 o 11
• Node.js, l’ambiente su cui l’app funziona
• una build recente di llama.cpp, con il suo llama-server
• un compilatore C, che serve una volta sola per costruire il piccolo programma di appoggio del launcher
• i modelli in formato GGUF, scaricati come descritto sopra

L’installazione vera e propria è breve. Si clona il progetto da GitHub, si installano le sue dipendenze, si compila il file di configurazione indicando dove sta llama-server e dov’è la cartella dei modelli. Uno script di preparazione costruisce il programma di appoggio e genera le carte d’identità dei modelli. Poi l’app si avvia e si apre da sola nel browser.

Come si vede, oggi installarla chiede una certa pratica con questi strumenti, un compilatore da lanciare una volta, un file di configurazione da compilare. Questa release è pensata per chi con queste cose è a suo agio.

Privacy, cosa resta locale e cosa no

Ho presentato la privacy come il motivo di fondo del progetto, infatti llama-easy-gui di per sé non parla con nessuno. Il modello sta sul computer e le conversazioni restano lì, non c’è telemetria, non serve nessuna chiave per le funzioni di base. Ma se si attiva un server MCP, questo può essere un ponte verso un servizio in rete. Se si collega un server che interroga un’API o accede a un servizio online, i dati di quelle richieste passano da lì, e la riservatezza locale dell’app non si estende da sola a quello che si sceglie di collegare.

Ovviamente è l’utente che deve decidere se e cosa collegare, avendo la consapevolezza che utilizzare una risorsa in cloud può vanificare il senso dell’uso di un sistema in locale, quando il motivo di questa scelta è la riservatezza dei dati.

Cosa manca e cosa arriva

La versione 0.1.0 è già utilizzabile come funzionalità, può essere migliorata sul lato dell’usabilità.

Il prossimo passo potrebbe essere una versione installabile con un doppio clic, senza compilatore e senza file di configurazione da toccare a mano, per portare lo strumento anche a chi tecnico non è.

L’app è liberamente scaricabile da GitHub con licenza MIT, chi vuole può scaricarla per guardarci dentro, segnalare un problema o proporre qualcosa può farlo. O anche banalmente usarla, motivo principale per cui l’ho resa scaricabile.

Perché lo rilascio

llama-easy-gui l’ho costruito prima di tutto per me, per un’esigenza concreta, un’interfaccia locale per usare facilmente llama.cpp senza doverlo gestire da riga di comando, adatta a lavorare su materiale che deve restare riservato.

Lo rilascio perché a qualcuno con la stessa esigenza può servire. Non è l’interfaccia definitiva per llama.cpp, e non vuole esserlo, è una proposta con un taglio preciso, il locale e la riservatezza, in una prima versione che chiede ancora un po’ di mestiere per l’installazione. Per chi si trova in quel caso, il codice è a disposizione.
Il link alla pagina è questo