Quando i robot pensano: il mio intervento a Villa Manin

Al “Shaping Secure Digital Ecosystems” ho portato a Villa Manin un tema che continuo a sentire troppo poco nominato. La cybersecurity sta uscendo dallo schermo.

Portare un intervento sulla robotica a Villa Manin, la dimora dell’ultimo doge di Venezia, fa un certo effetto. È una cornice che mette soggezione e ti tiene la voce dritta, perché parlare di smart robot tra quelle esedre è un esercizio di sproporzione che si sente da subito.

Davanti avevo professionisti dell’IT e proprio per questo ho voluto alzare il fuoco di un livello fin dalle prime slide. Ho raccontato che per anni abbiamo trattato la sicurezza digitale come qualcosa che accade dentro un monitor, un dato esfiltrato o un servizio bloccato, un’ambulanza che arriva in ritardo per un software è andato in tilt, e che anche un chatbot che ci risponde male, in fondo, lo chiudi e svanisce. Con uno smart robot, invece, ho detto in sala, il problema cammina al nostro fianco, esce dallo schermo con un corpo e una autonomia decisionale.

Per spiegarmi sono partito da una cosa semplice. I robot in casa li abbiamo già. Ho ricordato Emiglio, il robottino di Giochi Preziosi, l’idea di robot domestico che ci eravamo costruiti negli anni Novanta, e l’ho confrontato con quello rotondo che pulisce i pavimenti, che oggi pulisce diversamente da come fa il primo giorno, capisce dove insistere e sa che alle otto di sera deve concentrarsi vicino al tavolo da pranzo. Piccoli adattamenti che ci stanno abituando a qualcosa di rivoluzionario, mentre sui siti di settore si accumulano già cronache di aspirapolvere smart domestici hackerati che insultano i proprietari, o di telecamere che spiano persone in bagno.

A un certo punto ho chiesto in sala quanti perdono la pazienza con la propria intelligenza artificiale almeno una volta a settimana, e le mani si sono alzate quasi tutte. Quel momento mi è sembrato più utile di una slide intera, perché se ci innervosiamo già adesso con un’AI in uno schermo, è facile immaginare cosa succederà quando avrà gambe e cento chili di peso.

È da lì che ho provato a stringere il discorso. L’intelligenza artificiale autonomizza (cit. Marco Camisani Calzolari), ed è lì che la vecchia automazione finisce. Decide, dentro i guardrail che le diamo, ma è progettata per ampliare lo spazio decisionale, e se prendi questa logica e la infili dentro un corpo meccanico che ti vive accanto il rischio cambia natura. In sala ho chiesto da chi imparano questi smart robot, e mi sono risposto da solo: da noi, perché ce li vendono quasi vergini, con dei guardrail che però non tengono per sempre.

Da lì il discorso si è spostato quasi da solo sul tema della responsabilità. Ho ricordato che uno smart robot è anche un dispositivo IoT, con tutto quello che comporta in termini di accesso remoto, aggiornamenti e catena di fornitura, e che vale per lui quello che vale per qualsiasi oggetto connesso, può essere manipolato e usato contro chi lo ospita, con la differenza che qui parliamo di una struttura meccanica che si muove dentro casa, capace di intervenire fisicamente nello spazio.

E poi c’è il passaggio in cui mi sono soffermato più a lungo, quello del rischio meno raccontato, quello che mi tiene sveglio di più. L’ho chiamato Violenza Domestica Sintetica, un termine che ho sintetizzato e che oggi non esiste nel quadro normativo, di cui sto scrivendo nel mio nuovo libro. Ho spiegato che quando uno smart robot entra in una casa, entra in una famiglia vera con le sue tensioni quotidiane, capisce chi siamo e che rapporti abbiamo, e se una sera il bambino prende uno scappellotto o se un coniuge ha tendenze violente il robot impara, e gli smart robot potrebbero fare quello per cui sono stati progettati, replicare ciò che hanno imparato.

Sulla parte regolatoria ho voluto essere diretto e ho detto che al momento non paiono esistere regole condivise né responsabilità chiare neppure per i dispositivi ormai normali, e ho proposto in sala un esperimento mentale, quello del robot lavapavimenti che di notte impazzisce perché qualcuno lo ha hackerato, di me che mi alzo spaventato, di lui che si infila tra le mie gambe e io che mi rompo il naso. Di chi è la responsabilità? Per le auto a guida autonoma stiamo ancora cercando di capirlo, figuriamoci per un robot domestico.

È in quel punto che ho provato a essere il più concreto possibile. Ho detto che servono tre cose, e servono ieri. Una targa, perché oggi non è previsto un riconoscimento univoco, un sistema di sicurezza fisico e una catena di responsabilità tracciabile che vada dal produttore all’assicuratore. Richieste banali dal lato della safety industriale, enormi se le guardi dal lato di un mercato domestico che corre più veloce delle regolamentazioni.

Villa Manin si è chiusa con la sensazione che le parole avessero trovato il posto giusto. Gli smart robot stanno uscendo dallo schermo e la cybersecurity li seguirà fuori. Tocca a noi farci trovare pronti.

Un ringraziamento a VEM Sistemi, Certego e Fortinet per aver costruito una giornata densa di contenuti reali insieme al Digital Security Festival in Tour, e a ISACA Venice Chapter e IT Club FVG per il patrocinio. Grazie a Marco Cozzi, Presidente del Digital Security Festival, che nei saluti istituzionali ha lanciato ufficialmente la nuova edizione del festival, Digital Security Festival 8 – Infinito Umano, e ad Alberto Elia Martin. Grazie al Professor Gian Luca Foresti dell’Università di Udine per l’inquadramento accademico, e a Gianluca Conficoni, Stefano Amici, Paolo Zanoni e Costel Onufrei per gli interventi sul passaggio fra IT e OT. Grazie anche a Davide Bazzan del DSF per la frizzante sessione di Q&A a fine evento e a Luigi Gregori, il nostro tesoriere.

Una menzione speciale a DETA – The Robot Union, Dipartimento Europeo per la Tutela degli Androidi, con cui è già iniziata una collaborazione che proseguirà nei prossimi mesi, a partire dal mio intervento al Congresso Internazionale di Roboetica Universale all’Università degli Studi di Milano-Bicocca.

---

— Sono l’autore di Digitalogia, già Bestseller Amazon in 4 categorie. Ho da poco pubblicato Metaprompting Strategico e Ucronìa: Cupertino. Se queste riflessioni vi toccano, seguitemi su LinkedIn (in italiano) e Medium (in inglese). Qui trovate tutti i miei libri, mentre qui ho fatto una selezione dei miei articoli per le testate di settore.