Imagina por un momento a tu editor parado frente a ti apurándote. Y tú tratando de inspirarte y describir de manera magistral la nota que estás redactando. El flujo de trabajo es intenso. “Deadline tras deadline”. Y sin embargo… ¿alguna vez te detienes a preguntarte a quién podría herir una sola línea de lo que estás escribiendo?
Solemos pensar que el código es neutral. Que los algoritmos son fórmulas matemáticas, pura lógica. Pero te pregunto: ¿es neutral el bisturí en manos de un cirujano? ¿Es neutral la pluma en manos de un escritor?
No lo es. Y tampoco lo es tu código.
Cada algoritmo que construimos decide cosas que jamás imaginamos:
- Si alguien accede o no a un crédito bancario.
- Si un currículum llega a los ojos de un reclutador.
- Si un rostro es identificado como “sospechoso” por un sistema policial.
- Si una mujer recibe un diagnóstico médico certero… o no.
No son datos. Son personas. Son historias. Son vidas.
La tecnología es poder. Y todo poder exige integridad.
El sesgo no surge solo. Lo codificamos nosotros. A veces sin querer. Otras, por ignorancia. A veces, simplemente, porque es más fácil callar y seguir adelante. Porque “no es nuestro problema”. O porque tenemos miedo de ser quienes alzan la voz.
Pero siempre, siempre, deja marcas. Injusticias invisibles que pueden destruir oportunidades, sueños o incluso vidas.
Imagínate que un día, tu madre no recibe un diagnóstico correcto porque el algoritmo médico fue entrenado sólo con datos masculinos. O que tu hijo queda fuera de una beca porque su escuela rural “no cumple los parámetros”. O que tú mismo apareces en una lista de vigilancia porque una red neuronal cree que “tienes pinta de maleante”.
La injusticia algorítmica no siempre se ve. Pero siempre se siente.
La pregunta entonces no es sólo técnica. Es profundamente ética:
- ¿Qué valores codifico sin darme cuenta?
- ¿A quién deja fuera mi algoritmo?
- ¿Puedo explicarle a mi abuela cómo toma decisiones mi sistema?
- ¿Estoy dispuesto a alzar la voz si veo algo injusto?
La integridad no es sólo cumplir normas. Es elegir lo correcto aunque nadie te esté mirando. Es escribir códigos con la conciencia de que del otro lado siempre hay un ser humano.
No necesitamos programadores perfectos. Necesitamos programadores responsables. Humanos. Éticos. Que recuerden que cada línea de código es una declaración silenciosa sobre el mundo que queremos construir.
¿Qué mundo quieres construir tú?