❌❎Casos de discriminación racial y por algoritmo

CASOS DE DISCRIMINACIÓN POR LA IA Y EL SISTEMA ALGORÍTMICO

Si estas por las redes sociales, ya te habrás dado cuenta de que todos/as tienen una opinión, para bien o para mal. Lo que no se data es que la gran mayoría son discursos de odio, y en esos casos hay discriminación.

Tanto es así, que el sistema pone la balanza en favor contrario. Según los sesgos https://www.inclusion.gob.es/web/oberaxe/w/el-sesgo-en-los-algoritmos-de-vigilancia-predictiva-y-de-deteccion-de-discursos-de-odio-puede-producir-discriminacion

La vigilancia preventiva está presente, irradiando desigualdad.

“Se expone el llamado bucle de retroalimentación, que aparece cuando las predicciones hechas por un sistema de inteligencia artificial influyen en los datos utilizados para alimentar y actualizar el propio sistema.” – Oberaxe

y los idiomas que corren el riesgo de discriminar es el aleman, el italiano y sin contextualizar.

También es cierto que las comprobaciones biometricas, reconocimiento facial y verificación facial es una discriminación porque la IA, no entiende de racismo, se le enseña de racismo.

La FRA nos anima a poner en práctica lo dicho. Es decir, que las apps son discriminatorias y que no todo es creíble. Si la información se posiciona demasiado sobre un lado, no es relevante, o si no ofrece información detallada con estudios o fuentes, hay que dudar.

ENSEÑANDO A LA IA A RECONOCER

Como he dicho antes, la IA no sabe, se sirve de un banco de información, y como es evidente, vertiente de lo blanco. Pero si somos concretos, claros y detallados, podemos enseñar a la IA a mostrar contenido real, relevante y veraz.

PARA QUÉ DEBERÍA SER ÚTIL LA IA

No debería hacernos el trabajo completo, más bien, ayudarnos como tutores a comprender cosas complejas de forma sencilla.

Evaluar el contenido, con ejemplos, fuentes, datos y veracidad. Aquí, implica, reconocer como facto o fake.

Cuando hablamos de un favorecimiento inclinado para las personas blancas, hay que tener en cuenta de que la historia, no fue escrita en favor de las personas negras, teniendo en cuenta los hechos.

QUÉ DEBERÍAMOS ENSEÑARLE

Algunos no estarán de acuerdo, pero las ilustraciones, favorecen el ‘contenido black’

reimaginando otro tipo de arte, al mismo tiempo, se es creativo mediante una visión ajustada a la realidad, en vez de la perorata racista. Con esto me refiero a huir de las imágenes pesimistas, que no ayudan a nadie. Y así, cabemos todos en un mismo imaginario.