Il limone che comprava la Schweppes (e altre cene dell'AI)

Nella lista della spesa c'era scritto «limone». Nel carrello è finita una Schweppes. Tecnicamente non è sbagliato: sull'etichetta la parola limone c'è. È il genere di errore che fa ridere a tavola e preoccupa in produzione, perché dice esattamente come ragiona una macchina quando nessuno le ha spiegato cos'è un limone.

Il progetto si chiama Settavola: sette giorni, sette cene, tutti a tavola. Fa una cosa sola, e la fa per una famiglia sola, la mia. L'AI propone il menù della settimana pescando dalle ricette del nostro robot da cucina; noi lo approviamo, oppure scegliamo tra le alternative, oppure lo rimandiamo indietro con un commento. Una volta approvato, il menù diventa lista della spesa e la lista diventa un carrello pronto al supermercato online. Poi arriva una notifica, e a pagare siamo noi. Il sistema non paga mai: è scritto nella valutazione d'impatto sulla privacy, e nel progetto non esiste una riga di codice che sappia pagare.

Primo commit il 9 agosto, in produzione dal 26 agosto, 236 commit in poco più di un mese. Il primo menù vero è del 27 agosto. Costo dell'AI per quella settimana: circa 16 centesimi di dollaro. Il primo carrello vero, ai primi di settembre: 33 prodotti su 37. Detto così sembra la storia di un successo. Il bello però sta nei quattro che mancano, e in quelli che c'erano ma non dovevano esserci.

Il limone, lo zucchero e le pere

Il cuore del sistema è un traduttore: da «zucchero, 200 g» a un prodotto vero su uno scaffale vero. Sembra facile, finché non lo si guarda lavorare.

• «Limone» → una Schweppes al limone.
• «Zucchero» → proposta una Pepsi, che di zucchero ne ha parecchio.
• «Pere» → riso per risotti, pane per hot dog, mozzarella per pizza. Il match era scattato sulla preposizione: per.
• Cipollotti: 700 grammi comprati per 60 grammi di fabbisogno.

La correzione non è stata «un prompt più furbo». È stata una catena in due tempi: prima una ricerca larga, che porta a casa tutti i candidati; poi un modello piccolo ed economico che fa una domanda sola, da nonna al mercato: questo è davvero l'ingrediente, o ci somiglia soltanto?

Il vincolo che stava solo nel prompt

L'errore più istruttivo non riguarda la spesa. Riguarda le regole.

Il menù doveva rispettare dei vincoli: piatti pronti in massimo 30 minuti, cene che siano cene, varietà tra carne e pesce. Li avevo scritti nelle istruzioni all'AI, con cura. L'AI li leggeva, li capiva e, ogni tanto, li ignorava. Una sera la proposta era un piatto da 90 minuti. Un'altra volta la cena del lunedì era un frappè. Il pesce spada non veniva riconosciuto come pesce, e così una settimana con cinque cene di pesce su sette non prendeva nessuna penalità.

Nel registro dei problemi del progetto c'è una frase in grassetto: un vincolo scritto solo nel prompt non è un vincolo. E subito dopo, in maiuscolo, come si scrive quando ci si arrabbia con sé stessi: QUATTRO volte lo stesso bug. Proteine, tempi, ingredienti vietati, varietà: stesso errore, quattro travestimenti. La soluzione è stata spostare le regole dal testo al codice: il prompt chiede, il programma controlla. Se una ricetta supera i trenta minuti, non la scarta l'AI per buona educazione: la scarta un controllo che non ha opinioni.

Il test che mentiva

Il fallimento più silenzioso è il mio preferito, perché non fa ridere per niente. Per nove giorni il sistema ha detto che la sessione era scaduta, e che bisognava rifare l'accesso. La sessione era buona. Era il controllo a essere rotto: verificava una condizione che esisteva solo nel test, e che nella realtà non si presentava mai in quella forma. Il test passava, il codice era sbagliato, e il messaggio d'errore dava la colpa a qualcun altro.

La lezione è da appendere sopra la scrivania: un test scritto su un mondo immaginario controlla solo che il mondo immaginario funzioni.

Il nome, a margine

Il progetto è nato come «Assistente Chef» ed è diventato Settavola il 28 agosto. Tre agenti hanno passato al setaccio undici candidati. Uno, Settimenu, è caduto perché il dominio l'aveva registrato qualcun altro due giorni prima. Il secondo classificato, Impiatta, ha perso sul significato: impiattare è l'ultimo gesto, e il progetto fa tutto quello che viene prima. Il repository, i pacchetti e il progetto di deploy si chiamano ancora col vecchio nome: rinominarli tocca indirizzi e identificatori di sistema, e per ora non vale la fatica. Il debito di naming è debito vero, solo che non fa rumore.

Da mettere nel carrello

• L'AI propone, la famiglia approva, il sistema non paga. Tre verbi, tre soggetti diversi, e nessuno fa il lavoro dell'altro.
• Trovare e giudicare sono due mestieri. Chi fa tutti e due in un colpo compra la Schweppes.
• Le regole che contano vanno nel codice. Nel prompt sono auguri.

Il conto dell'AI, per quella prima settimana, è rimasto sotto il prezzo di un caffè. Il limone, invece, adesso è un limone.

Quello giallo.