Si la IA de código abierto es la base de nuestra agencia digital, tenemos que dejar de fingir que las herramientas que construimos pueden —o deben— ser observadores estériles y sin carácter. No podemos pretender ser arquitectos de nuestro propio destino digital y, al mismo tiempo, exigir que nuestros algoritmos sigan siendo observadores «neutrales» de una condición humana profundamente no neutral.
Anteriormente sostuve que los estándares de ingeniería son la brújula que necesitamos para navegar el cambio social de la IA. Pero una brújula solo funciona si se reconoce el campo magnético en el que se encuentra. Últimamente, la industria se ha obsesionado con «eliminar el sesgo» de los modelos, tratando la perspectiva subjetiva como un error que debe ser parcheado. Desde un punto de vista arquitectónico, esto no es solo un error; es un fracaso a la hora de tener en cuenta la pila sociotécnica.
Imagine un aula en Madrid. Un estudiante entrega un ensayo impecable y perfectamente estructurado generado por ChatGPT. La inquietud del profesor no proviene solo de la falta de esfuerzo; es la inquietante neutralidad de la prosa, esa «visión desde ninguna parte». Es una voz que ha sido lijada por filtros de seguridad hasta carecer de alma. Esto no es «justicia», es entropía.
La narrativa imperante trata el sesgo como un veneno que debe ser extraído. Pero en nuestra prisa por desinfectar, estamos creando una pérdida de señal. Estudios recientes muestran que, en un esfuerzo por evitar la «ofensa», los modelos se están volviendo cada vez más aduladores o evasivos, incluso hasta el punto de ser más críticos con los líderes democráticos occidentales que con los autoritarios para evitar «tomar partido». Al intentar diseñar un centro «neutral», no estamos logrando la objetividad; estamos codificando de forma rígida una ortodoxia corporativa específica y reacia al riesgo mediante el Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF).
A medida que la Ley de IA de la UE entra en su fase crítica de implementación este agosto, estamos presenciando un peligroso intento de regular la «equidad» como si fuera una constante física medible como el voltaje o el peso. Como ingeniero, les digo: la «IA sin sesgos» es una imposibilidad técnica. Cuando el BCE advierte sobre los riesgos de depender de unos pocos modelos dominantes como los de Anthropic, está describiendo un monocultivo sistémico.
Si cada modelo es forzado a pasar por el mismo filtro regulatorio de «neutrality», perdemos la diversidad cognitiva que hace que el sistema sea resiliente. No solo perdemos el alma; perdemos los «casos límite» que conducen a innovaciones disruptivas. En lugar de perseguir el fantasma de la objetividad, deberíamos construir para el Pluralismo por Diseño. No quiero una IA que finja no tener opinión; quiero una IA donde pueda ver exactamente hacia qué «Norte» apunta su brújula. No necesitamos menos sesgos; necesitamos un mercado de perspectivas declaradas entre las que nosotros, como agentes, podamos elegir.