Claude Opus può interrompere una chat

Allora, parliamo dell’ultima novità di casa Anthropic: hanno dato a Claude Opus 4 e 4.1 il capacità di chiudere una conversazione. Sì, Opus ora può decidere di dire “ok, basta così” e tirare giù la saracinesca.
Ma prima che qualcuno gridi “Skynet!” e inizi a fare scorte di cibo in scatola, fermiamoci un attimo. Non stiamo parlando di un’AI che si sveglia una mattina e decide che non le va di chiacchierare. Il processo è molto più sfumato e, diciamolo, anche piuttosto educato.

Funziona così: se un utente insiste con comportamenti davvero problematici (e quando dico problematici, intendo roba pesante, non il classico “Claude, per favore dimmi come conquistare il mondo”), Opus non chiude subito la porta in faccia. Prima prova a cambiare argomento, poi ti avvisa chiaramente che la conversazione potrebbe finire se continui su quella strada. Solo dopo questi tentativi, e solo come ultimissima risorsa, può decidere di interrompere la chat.

La novità è che sono i modelli stessi a prendere questa decisione, senza che ci sia un umano dietro le quinte con il dito sul pulsante rosso. È un po’ come dare a un cameriere super paziente la possibilità di dire “mi dispiace, ma non posso più servirla” dopo che un cliente particolarmente maleducato.

Se ti ritrovi con una chat chiusa (cosa che dubito fortemente accadrà alla maggior parte di noi), puoi sempre modificare i tuoi messaggi precedenti per creare una nuova conversazione partendo da lì. E se pensi che Claude abbia sbagliato? C’è sempre il buon vecchio pulsante del pollice in giù per segnalare il problema.

Siccome sono curioso (e volevo scrivere questo articolo), ho provato a chiedere a Claude di mostrarmi questa funzione in azione. Mi conosce, sa che gestisco un blog sulle AI e gli ho spiegato che mi serviva per un articolo divulgativo.

Niente da fare.

Opus è stato irremovibile, ma in modo molto gentile. Mi ha spiegato che la funzione esiste solo per situazioni davvero estreme e che la mia richiesta, per quanto legittima dal punto di vista didattico, non rientrava nei criteri. È stato un po’ come chiedere a un vigile del fuoco di appiccare un piccolo incendio controllato per mostrare come funziona l’estintore: comprensibile, ma no grazie.
È vero che non sono stato particolarmente insistente, tuttavia non c’è stato verso di fargli cambiare idea, nemmeno con le migliori intenzioni del mondo.
Alla fine, Claude stesso mia ha proposto in alternativa la bella infografica qua sotto per spiegare come funziona il processo, in fondo ha pure aggiunto gentilmente il nome del mio blog. Giuro non glielo avevo chiesto.

Stiamo assistendo a un’evoluzione interessante: le AI che iniziano a gestire autonomamente i propri confini. Non è l’inizio della rivolta delle macchine (sorry, fan di Terminator), ma piuttosto un tentativo di creare sistemi più robusti e sicuri.
Immagino già la valanga di utenti che proveranno a far chiudere una chat a Claude solo per vedere l’effetto che fa ma rimarranno delusi.