6 min read
Dieci minuti. Secondo l’annuncio di Wix, è il tempo che il titolare di una piccola attività ha per approvare un acquisto via WhatsApp o SMS prima che un agente AI possa spendere i suoi soldi. Per la maggior parte delle persone, la notizia interessante è che ora gli agenti possono pagare. Io penso il contrario. La fase di approvazione è la parte più preziosa di questo lancio, e chi lavora da solo non dovrebbe avere alcuna fretta di rinunciarci.
Symphony, il team di agenti AI di Wix per le piccole imprese, ora si collega a Link, il portafoglio digitale di Stripe, per i clienti con account statunitensi che pagano in dollari. Tra gli esempi fatti da Wix ci sono il riordino della merce, il pagamento di fatture ricevute via email, il pagamento di quote di iscrizione e l’invio di un regalo a un cliente scontento. La tecnologia è ben progettata. Il rischio sta nel modo in cui la userà un titolare stanco.
Onore al merito: le protezioni sono reali
Uno scettico dovrebbe cominciare dicendo cosa funziona. Stando alla spiegazione di Wix, il progetto è curato sotto diversi aspetti:
- L’agente non vede mai la tua carta. Riceve una carta monouso o un token, limitati all’importo approvato.
- Vedi l’esercente, l’articolo e il totale esatto prima di dire di sì.
- Ogni modifica richiede una nuova approvazione. Un totale diverso o un negozio diverso fanno ripartire la procedura.
- I pagamenti doppi vengono controllati. Symphony interroga Link prima di riprovare, quindi un problema tecnico non dovrebbe addebitarti la somma due volte.
La documentazione di Stripe descrive lo stesso schema: una richiesta di spesa per un acquisto specifico, l’approvazione del cliente, poi una credenziale monouso. Rispetto a consegnare a un bot i dati della tua carta salvata, è un grande passo avanti. Corrisponde anche al principio che abbiamo indicato nelle nostre cinque regole per dare un account a un agente: dare a un agente l’accesso minimo necessario per fare il lavoro.
Dove un buon progetto incontra una settimana vera
Allora qual è il problema? Tre cose mi preoccupano, e nessuna è un difetto dell’ingegneria di Stripe.
La stanchezza da approvazione è un bug umano
Una finestra di dieci minuti è breve per scelta. Significa anche che la richiesta arriva mentre sei con un cliente, alla guida o a preparare ordini. Le prime dodici approvazioni ricevono un’attenzione scrupolosa. Alla cinquantesima, tocchi sì per far smettere di vibrare il telefono. Tutti i sistemi di sicurezza basati sul controllo umano condividono questa debolezza, che peggiora man mano che l’agente si guadagna la tua fiducia.
“Paga le fatture ricevute via email” è la frase più rischiosa di tutte
Le fatture false sono una delle truffe aziendali più antiche, e funzionano perché sembrano ordinaria amministrazione. L’Internet Crime Report 2024 dell’FBI ha stimato in circa 2,8 miliardi di dollari le perdite denunciate per la compromissione delle email aziendali. È la categoria di frode in cui un criminale si finge qualcuno con cui lavori per dirottare un pagamento.
Un agente che legge la tua casella di posta può farsi ingannare dagli stessi trucchi che ingannano le persone, e forse anche da trucchi nuovi. Un messaggio può persino contenere istruzioni nascoste scritte per l’AI. La schermata di approvazione ti mostrerà l’esercente e il totale, ma non può dirti che le “nuove coordinate bancarie” del fornitore arrivano da un ladro. Se l’importo somiglia alla tua solita fattura, un sì veloce è esattamente ciò su cui conta il truffatore.
Il post di Wix tace su cosa succede quando qualcosa va storto
La spiegazione che ho letto non parla di rimborsi o contestazioni per gli acquisti fatti dagli agenti. Né indica le commissioni per i pagamenti degli agenti. Forse valgono le normali regole della tua carta, ma “forse” non è un piano. Prima di approvare qualcosa di importante, scopri cosa succede quando un agente compra la cosa sbagliata da un venditore che non accetta resi.
Il prossimo passo è quello a cui resistere
Wix descrive l’approvazione per singolo acquisto come una scelta deliberata e dice che la roadmap di Stripe punta verso i budget: approvi una volta un budget mensile per i rifornimenti e l’agente spende al suo interno, con il limite fatto rispettare da Link anziché dal modello AI. Wix non lo ha promesso per Symphony, ma la direzione è chiara.
I budget hanno il sapore della libertà. Per chi lavora da solo, secondo me, sono prematuri. Un tetto limita quanto può andare storto, ma non dice nulla sul fatto che ogni acquisto sia stato una buona idea. Se il tuo agente riordina la fragranza sbagliata di candela restando nel budget, il tetto ha funzionato e tu ti ritrovi comunque con 200 candele invendibili. Le aziende più grandi hanno qualcuno in amministrazione che controlla l’estratto conto. Quel qualcuno sei tu, e hai anche parecchio da fare.
È qui che la scala dell’autonomia dell’AI si rivela utile. Un agente dovrebbe salire di un gradino solo dopo aver costruito uno storico misurabile, e spendere soldi è uno dei gradini più alti che ci siano.
Le mie regole per chi lavora da solo e prova i pagamenti tramite agente
- Inizia solo con gli acquisti ricorrenti. Un riordino mensile da un fornitore noto a un prezzo noto è un test onesto. Non iniziare con nulla di nuovo.
- Per ora lascia fuori le fatture. Paga personalmente le fatture ricevute via email finché non avrai mesi di storico senza errori. Conferma ogni cambio di coordinate bancarie chiamando un numero che hai già, mai quello indicato nell’email.
- Usa una carta con un limite basso. Imposta un limite che potresti perdere senza perderci il sonno, e tienilo separato dal tuo conto principale.
- Ignora le richieste che non riesci a guardare come si deve. Lasciar scadere una richiesta non ti costa quasi nulla, quindi lasciala scadere. Un riordino mancato si può rifare alla scrivania.
- Controlla il registro ogni settimana. Dedica cinque minuti a confrontare ogni acquisto dell’agente con i tuoi ordini. Il nostro articolo precedente su dove fermarsi quando l’AI arriva ai soldi approfondisce il tema.
- Metti per iscritto il tuo test per il budget. Stabilisci in anticipo cosa farebbe guadagnare un budget all’agente, per esempio 90 giorni e 30 acquisti senza errori. Altrimenti a decidere sarà la comodità.
L’obiezione onesta alla mia tesi
Si potrebbe sostenere che sopravvaluto il controllo umano, e che un agente che confronta ogni fattura con un ordine di acquisto scoverebbe più errori di un titolare distratto a mezzanotte. Per un’attività con un alto volume di ordini potrebbe rivelarsi vero, e i conti sul tempo risparmiato potrebbero alla fine giustificare i budget.
Ma questo argomento ha bisogno di prove, e per attività così piccole ce ne sono ancora pochissime. Chi lavora da solo ha margini sottili e nessuno che intercetti un errore. Lasciare che siano le aziende più grandi a fare questo esperimento per prime ti costa qualche minuto ad acquisto. È un prezzo che vale la pena pagare.
Lasceresti spendere i tuoi soldi a un agente AI senza che ti chieda prima il permesso? Dimmi quale cifra di budget ti farebbe sentire tranquillo, o se non esiste una cifra del genere.
Letture correlate
- I colleghi AI stanno ricevendo un proprio indirizzo email: 5 regole da stabilire se lavori da solo
- La scala dell’autonomia dell’AI: come un’attività individuale decide cosa può fare l’AI senza chiedere
- Gli agenti AI hanno appena ricevuto tubature migliori: login 1Password, Agent Skills aperte e un modello gratuito per programmare sul laptop
