Se i prompt sono i progetti del nostro intento, stiamo scoprendo che questi stessi schemi possono essere utilizzati per ingegnerizzare illusioni ad alta fedeltà che aggirano i nostri sensori biologici. Siamo passati dalla programmazione funzionale alla gestione dello stato in un ambiente in cui l'”utente” all’altro capo — o l'”esperto” che fornisce i dati — potrebbe essere un agente sintetico.
La narrazione prevalente, sostenuta da realtà come PwC, suggerisce che, man mano che l’IA mercifica l’esecuzione tecnica, dovremmo ritirarci nella nostra “umanità”. La teoria è che il giudizio, la creatività e la leadership siano i nostri fossati difensivi definitivi. Dal punto di vista dell’architettura dei sistemi, questa è una supposizione pericolosa. Quando i principali esperti mondiali di deepfake ammettono di non poter più distinguere in modo affidabile i media sintetici dalla realtà, l'”intuizione umana” cessa di essere un superpotere. Diventa una vulnerabilità.
Stiamo assistendo alla chiusura della Uncanny Valley in tempo reale. In Italia, il comune di Acqui Terme ha nominato un “assessore” IA per occuparsi dell'”umanizzazione”, mentre l’industria musicale è alle prese con brani come Rubberz che sfumano il confine tra creatività biologica e algoritmica. Queste non sono solo curiosità culturali; sono proof of concept per output sintetici ad alta fedeltà.
La Banca Centrale Europea (BCE) ha già lanciato l’allarme per il settore bancario. Riconoscono che quando l’ingegneria sociale può essere sottoposta ad A/B test su larga scala da un LLM, l'”elemento umano” non è solo un anello debole: è una vulnerabilità non patchabile. Mentre Google accumula silicio proprietario per accelerare la corsa verso l’Intelligenza Artificiale Generale (AGI), il resto di noi viene incoraggiato a puntare tutto sulle “soft skill”.