Son muchas cosas sobre las que debemos reflexionar en torno a aquello que llamamos hoy Inteligencia Artificial (IA)
En The Guardian, Arwa Mahdawi un sólido reportaje sobre lo que una foto de Ocasio-Cortez en bikini nos dice acerca del inquietante futuro de la Inteligencia Artificial .
Nuevas investigaciones sobre algoritmos generadores de imágenes ponen de manifiesto la existencia de una alarmante evidencia de arbitrariedad prejuiciosa. Es momento de poner freno al problema de discriminación que se está cocinando al amparo de la tecnología antes de que sea demasiado tarde.
¿Quiere ver a una mujer semi desnuda? Bien ¡ha tenido suerte! El internet está lleno de fotos escasamente cubiertas. De hecho, hay tal cantidad de este tipo de fotografías online que la Inteligencia Artificial (IA) parece haber asumido que las mujeres simplemente no tienen interés en ir vestidas.
Esto es una síntesis de los resultados de una nueva investigación sobre algoritmos generadores de imágenes. Los investigadores alimentaron este algoritmo -que opera como la función de “autocompletar”, pero para imágenes- con fotografías de hombres cortadas a la altura del cuello: 43% de estas imágenes fueron autocompletadas con el hombre vestido con traje. Si el mismo algoritmo es alimentado con fotografías de mujeres, igualmente recortadas a la altura del cuello, 53% de ellas fueron autocompletadas con la mujer vistiendo una camiseta con un profundo escote o un bikini. Por alguna razón, los investigadores entregaron al algoritmo una fotografía de Alexandria Ocasio-Cortez, la congresista norteamericana del Partido Demócrata y vieron que, también en este caso, el algoritmo autocompletó la imagen mostrándola en bikini. (En función de las consideraciones éticas surgidas en Twitter, los investigadores retiraron la imagen de AOC en traje de baño creada por el computador de los informes de la investigación)
¿Por qué parecían gustarle tanto las fotos en bikini al algoritmo? Bueno, porque si introduces basura, lo que sale es basura: la IA “aprendió” cuál es el aspecto de una mujer típica consumiendo en línea dataset que contenían numerosas fotografías de mujeres semi desnudas. El estudio es, sin duda, un nuevo recordatorio de que la IA viene ya con prejuicios incorporados. Esto no es una cuestión académica: dado que los algoritmos controlan cada vez más aspectos de nuestras vidas, se trata de una cuestión con consecuencias devastadoras para el mundo real. En el año 2015, por ejemplo, Amazon descubrió que la secreta herramienta de contratación de IA que estaba utilizando, frente a la palabra “mujer”, inmediatamente disparaba una señal de alarma. Los algoritmos racistas de reconocimiento facial han llevado a qué personas negras hayan sido arrestadas por crímenes que no habían cometido. El año pasado, un algoritmo utilizado para detectar estudiantes potencialmente brillantes parecía degradar desproporcionadamente a estudiantes de grupos desfavorecidos.
¿Y, para que se utilizan estas imágenes generadas por algoritmos que consideran que a las mujeres les corresponde ir en bikini? Pues, desde en los procesos de entrevistas laborales que se realizan a través de plataformas digitales hasta para crear enormes cantidades de deepfake porno. La foto de AOC en bikini generada por computador no es mas que la punta del iceberg: hasta que no se empiece a discutir en serio sobre los prejuicios en los algoritmos, internet será un lugar insoportable para las mujeres.
La pregunta es ¿hasta dónde somos parte de ese algoritmo? o, a lo menos no alimentamos la memoria de esa «inteligencia artificial».
Hoy los teléfonos inteligentes «hacen» estupendas fotos y, de alguna manera, las cámaras digitales y los programas de edición y postproducción fotográfica también lo hacen. ¿Cuánto falta para que los aparatos decidan, con nuestro beneplácito, o no, cuál es la imagen que debe captar para satisfacer el gusto o la «necesidad documental» del fotógrafo o, lo que es peor, de sus clientes?
Respuestas