El Espejo Roto: Cómo la IA automatiza el racismo del siglo XXI.

Habrás oído hablar de la IA en las aplicaciones y su perfilamiento racial. Pero para que pueda hablarte de ello, deberíamos asumir que, la aplicación no es neutral. No siente, aprende de lo que se le hace hacer. Y quiero contarte mi historia para ello, de un ingreso en una app de citas.

Al ingresar, después de una larga lista de datos, que imaginamos (afinará la búsqueda para encontrar a mi pareja ideal) me pide mostrar mi rostro en una redonda y así, escanear mi rostro. Este caso, no se está implementando sólo en personas negras, también en personas blancas. Pero si nos ponemos a seleccionar el tipo de hombres que me selecciona, para mi interés, casi nunca son de personas negras o sólo son del contexto extranjero. Como si una persona negra, no pudiera hacer migas con alguien por ejemplo, español y catalán. Si esto, pudiera verse del modo en el que lo veo yo: y es que, puede hacer más mal que bien. Si creemos que el mundo es diverso, ¿No debería primar la diversidad? Bueno, puedo ir más allá.

¿Es justo el reparto y equitativo? A simple vista parece que no, ¿No? Porque me está diciendo que sólo puedo tener relación con un ámbito único y no con un abanico de posibilidades.

Utilizar el código postal, nos huele mal. Pero claro, según la zona y que sea sólo un tipo de hombre especifico, huele todavía peor. Identificar esto, para mí es un hallazgo de separación.

Ya que la IA es especialmente creada por gente que sabe, el hecho de poner sociólogos, antropólogos y expertos en ética, ¿estaría de más o de menos? Teniendo en cuenta que somos personas que en alguna parte del planeta puede haber alguien cercano a mí, o lejano (según los intereses) que pueda creer, pensar o tener gustos similares a los míos, no sería un motivo para que a la hora de mantener finalmente, una relación de éxito, no nos correásemos de forma que el primer día, aniquile nuestras esperanzas para con el amor… pregunto…

Porque es injusto que los modelos indicados, muestren match que no se ajusten a la realidad que vivo. (que vivimos) y que me dices de una penalización por mostrar rasgos que son idénticos? Porque… por muy negra que sea, no significa que me tenga que interesar otra persona negra, no sé, apetencias, amigues. Ni todos somos iguales ni todos bebemos de los mismos pensamientos. Aunque soy de las que piensa que está bien tener pensamientos distintos en algo, porque… se puede debatir. Aunque al final, esto, según cómo pueda corroer la relación. No sé, lo que opinas, pero te sigo dando motivos.

Los matches, ¿deberían ser por puntos iguales o deberían ser de distintas localidades) piénsalo, si todos los likes o las sugerencias, son de hombres que no se ajustan a tus estándares o mejor dicho, lo que andas buscando, ¿no sería esta una prueba de que el sistema de la app no funciona bien? Recordemos que no es neutral. Si acaso lo habíamos perdido de vista.

Y vayamos al grano, el perfilamiento racial en una app, si deja fuera a gente negra, migrante o africana, o de cualquier otra cultura, sería otro motivo por el que recurrir a la rigurosidad y denunciar, ¿no? Hemos hablado de diversidad, de puntos en común, gustos, pensamientos en común, una paleta que parece no ser reconocida.

Para ello, el sistema debería ser capaz de explicar ese porque y no simplemente rechazarlo. Si es que te has encontrado con algún caso. Es momento de detectar una misma el momento IA por perfilamiento racial.

Toma nota:

• ¿Quién recolectó estos datos?

• ¿Se ha probado el sistema en poblaciones diversas?

• ¿Existe un humano en el ciclo (Human-in-the-loop) para corregir errores del algoritmo?

¿Conoces otro caso de perfilamiento racial?