Se un gemello digitale è il “fantasma” ad alta fedeltà di un sistema fisico, il codice sottostante è lo scheletro che ne determina l’integrità strutturale. Passando dall’architettura di alto livello di queste repliche digitali all’accessibilità dei loro progetti, ci troviamo a un bivio critico. Nelle nostre precedenti discussioni sull’agency umana e sull’etica degli agenti IA, abbiamo sostenuto che i modelli open-source sono le fondamenta di un futuro trasparente. Oggi, quella stessa trasparenza viene ridefinita da alcuni come un rischio.
Presso Ambiente Ingegneria, guardiamo a questo cambiamento con occhio critico. La narrazione del settore sta virando verso un modello di “sicurezza tramite segretezza” (security through obscurity), ma come ingegneri sappiamo che uno scheletro con fratture nascoste è destinato a crollare.
L’IA open-source sta diventando “troppo pericolosa” per il pubblico?
Recentemente, i leader del settore hanno paragonato l’evoluzione dell’IA — specificamente modelli come Claude Mythos — all’affilatura di una lama. Suggeriscono che, se le versioni precedenti erano “colellini tascabili”, le nuove iterazioni sono “machete” capaci di infliggere danni significativi se lasciati non regolamentati. Alcuni hanno persino riesumato la retorica di 25 anni fa usata contro Linux, etichettando i modelli open-source come intrinsecamente pericolosi.
Siamo rispettosamente in disaccordo. Nel nostro lavoro quotidiano — che si tratti di sviluppare soluzioni integrate di Machine Learning o di affinare assistenti LLM — riscontriamo che la sicurezza non nasce dalle “scatole nere”. Nasce dallo stesso principio che governa il sistema metrico: standard universali e trasparenti che chiunque può verificare. Nascondere la logica di un modello non ne elimina i difetti; elimina solo la capacità della comunità di revisionarli e correggerli.
Le normative sulla trasparenza, come l’EU AI Act, soffocheranno l’innovazione?
C’è una crescente preoccupazione che, mentre l’Occidente implementa rigide regole di trasparenza (come l’Articolo 50 dell’AI Act), altre potenze globali continueranno a sviluppare l’IA senza tali “freni”. Tuttavia, per uno studio come il nostro, la regolamentazione non è un ostacolo, ma un quadro di riferimento per la qualità.
Il nostro impegno nell’analisi dei dati e nella lotta alla disinformazione si allinea perfettamente con queste nuove regole. Richiedendo una documentazione chiara e il tracciamento dell’origine, ci allontaniamo dall’ingegneria del “fidati di me” verso un sistema in cui la metrica del successo è l’affidabilità. È molto più facile individuare dati distorti o “fake news” quando è possibile ispezionare i meccanismi interni del modello.
La “sicurezza” viene usata come pretesto per il gatekeeping tecnologico?
Yann LeCun ha recentemente avvertito che bloccare lo sviluppo dell’IA sotto le spoglie della sicurezza è una forma di “oscurantismo medievale”. Concordiamo sul fatto che la vera sovranità tecnologica — specialmente per gli ospedali, le infrastrutture e le imprese europee — richieda la capacità di ospitare e controllare i propri servizi.
Quando costruiamo applicazioni web utilizzando Python e React, o distribuiamo moduli Odoo personalizzati, la capacità di ispezionare il database e la logica sottostante è ciò che garantisce la robustezza del sistema. La vera sicurezza deriva dallo standard ingegneristico del “verificare, poi fidarsi”, che è possibile solo quando la sorgente rimane aperta a coloro che costruiscono il futuro.