Se l’IA open-source è il fondamento della nostra agenzia digitale, dobbiamo smettere di fingere che gli strumenti che costruiamo possano — o debbano — essere osservatori sterili e privi di carattere. Non possiamo pretendere di essere gli architetti del nostro destino digitale e allo stesso tempo esigere che i nostri algoritmi rimangano osservatori “neutrali” di una condizione umana profondamente non neutrale.
In precedenza ho sostenuto che gli standard ingegneristici sono la bussola di cui abbiamo bisogno per navigare il cambiamento sociale dell’IA. Ma una bussola funziona solo se si riconosce il campo magnetico in cui si trova. Ultimamente, l’industria è ossessionata dal “de-biasing” dei modelli, trattando la prospettiva soggettiva come un bug da correggere. Da un punto di vista architettonico, questo non è solo un errore; è l’incapacità di tenere conto dello stack socio-tecnico.
Immaginate un’aula universitaria a Madrid. Uno studente consegna un saggio impeccabile e perfettamente strutturato, generato da ChatGPT. Il disagio del professore non deriva solo dalla mancanza di sforzo; è l’inquietante neutralità della prosa, quella “visione da nessun luogo”. È una voce che è stata levigata dai filtri di sicurezza fino a perdere l’anima. Questa non è “equità” — è entropia.
La narrativa prevalente tratta il bias come un veleno da estrarre. Ma nella nostra fretta di igienizzare, stiamo creando una perdita di segnale. Studi recenti mostrano che, nel tentativo di evitare di “offendere”, i modelli stanno diventando sempre più sicofanti o evasivi — arrivando persino a essere più critici nei confronti dei leader democratici occidentali rispetto a quelli autoritari per evitare di “prendere posizione”. Cercando di progettare un centro “neutrale”, non stiamo ottenendo l’oggettività; stiamo codificando una specifica ortodossia aziendale avversa al rischio tramite il Reinforcement Learning from Human Feedback (RLHF).
Mentre l’EU AI Act entra nella sua fase critica di implementazione questo agosto, stiamo assistendo a un pericoloso tentativo di regolamentare l'”equità” come se fosse una costante fisica misurabile come il voltaggio o il peso. Come ingegnere, ve lo dico chiaramente: un'”IA priva di bias” è un’impossibilità tecnica. Quando la BCE avverte dei rischi derivanti dall’affidarsi a pochi modelli dominanti come quelli di Anthropic, sta descrivendo una monocultura sistemica.
Se ogni modello viene forzato attraverso lo stesso filtro normativo di “neutralità”, perdiamo la diversità cognitiva che rende il sistema resiliente. Non perdiamo solo l’anima; perdiamo i “casi limite” che portano a innovazioni dirompenti. Invece di inseguire il fantasma dell’oggettività, dovremmo costruire per il Pluralismo by Design. Non voglio un’IA che faccia finta di non avere opinioni; voglio un’IA in cui io possa vedere esattamente verso quale “Nord” punta la sua bussola. Non abbiamo bisogno di meno bias; abbiamo bisogno di un mercato di prospettive dichiarate tra le quali noi, come agenti, possiamo scegliere.