Cosa cambia quando lo stesso intervento ha trenta minuti?
Le slide nascono da un copione solo, e un programma genera un deck per ogni versione. La parte tecnica di Caserta ne ha 42, laboratorio compreso, quella di Avellino 15, quella di Benevento 22. Non è la versione di Avellino allungata: è quella di Avellino con sette slide rimesse al loro posto.
Due sono proprio quelle che ad Avellino avevo fuso con altre: il passaggio dalle regole alla probabilità e il confronto fra chatbot e agente. Le altre cinque sono chi vi parla, la storia del diritto al computer, la regola su che dato si può incollare in una chat, perché non basta chiamarlo agente, e quanta macchina serve a uno studio.
L’ultima è la tabella delle macchine: un portatile da 8 GB di memoria della scheda grafica per provare, un computer da 16-32 GB per poche persone, un server da 128 GB per tutto lo studio. Ad Avellino l’avevo tolta per stare nei venti minuti. A Benevento è tornata, e a voce ci ho aggiunto un ordine di grandezza: circa 10.000 euro per il server di tutto lo studio.
Che cosa ha chiesto la sala?
Alla sala era stato chiesto di fare domande anche durante gli interventi, e la prima è arrivata proprio su quella cifra. Un partecipante ha ripreso il server da 10.000 euro e mi ha chiesto se, una volta messo in studio con l’agente al lavoro, resta collegato alla rete.
Il suo timore era preciso: consegnare la posta a un agente vuol dire rischiare di vedere il proprio nome sotto una mail mai mandata, se qualcuno ha modificato le istruzioni dell’agente. È la prompt injection raccontata da chi la teme, senza bisogno del nome tecnico.
Era la domanda giusta, e nelle slide non avevo lo strumento per rispondere. Avevo la slide sul praticante, con le chiavi limitate e niente invii senza firma, ma non quello che quelle chiavi le fa rispettare.
Come si risponde a una domanda che non è nelle slide?
Partendo da quello che la sala ha appena visto. Il server è tuo e lo colleghi a quello che vuoi, ma ogni compito che affidi all’agente va dato con il privilegio minimo: se lavora sulla posta, il permesso di spedire non ce l’ha. E le protezioni dentro un modello si possono togliere, soprattutto su un modello aperto, quindi la sicurezza deve stare intorno al modello.
Poi l’esempio concreto: OpenShell di NVIDIA, un recinto open source in cui ogni agente vede solo le cartelle, gli indirizzi e le credenziali che lo studio ha scritto in una policy, e tutto il resto è bloccato. Per un avvocato è il controllo granulare del dato: non una promessa del fornitore, ma un file che lo studio scrive e può far verificare.
Su AI locale e sicurezza degli agenti sono arrivate altre domande, e la linea è rimasta la stessa: per uno studio legale la strada maestra è un’intelligenza artificiale che gira su una macchina dello studio, e finché la macchina non c’è, una versione professionale con contratto. La chat gratuita mai.
Cosa mi porto a casa?
Che la tabella delle macchine, tolta ad Avellino per stare nei tempi, a Benevento è tornata, ed è da lì che è partita la domanda più utile della serata.
La parte per chi guida uno studio, cioè perché l’AI in locale, quanto costa la macchina e come funziona il recinto di un agente, l’ho scritta sul sito di Castaldo Solutions. Questa pagina resta il retro del palco.
