Es rocambolesco que la IA de Meta no se pueda imaginar a un hombre asiático con una mujer blanca y que tenga problemas para imaginarse a un hombre blanco con una mujer asiática. Curioso, porque Mark Zuckerberg está casado con Priscilla Chan, cuyos padres son vietnamitas. Pero vamos a ver cuáles han sido los resultados de este experimento.
La IA de Meta tiene cosas que aprender
Primero de todo, hay que decir que esta noticia nace basándose en el experimento que hizo primero la periodista Mia Sato de The Verge. Como mujer asiática, se le ocurrió hacer una prueba de Meta con ciertas prompts que han acabado poniendo a la IA en una situación difícil. Nosotros hemos querido recrearlo y, aunque se espera que Meta ponga remedio a todo pronto, por ahora los problemas siguen estando ahí.
Además, también te avanzamos que la IA para generar imágenes de Meta, por el momento, solo se encuentra disponible en Estados Unidos. Nosotros la hemos probado con un servicio de VPN, así que si tienes curiosidad puedes hacer lo mismo. Es gratis y solo va a necesitar que utilices tu cuenta de Meta para probarla tantas veces como quieras en su web. Dicho esto, vamos a ver qué es lo que le pasa a esta IA y qué es lo que parece que no ha entendido todavía.
Un problema de imaginación
Las IA tienen detrás profesionales que se ocupan de enseñarles, de entrenarlas y de moldear su conocimiento para que lleguen a tener comprensión global y cierta “personalidad”. En este caso, es más que probable que quienes han entrenado a la creación de imágenes de la IA de Meta tengan que abrir un poco su mente, puesto que da la sensación de que tienen unas ideas estereotipadas bastante remarcadas.
Hay varios problemas que comentar y que vas a poder ver. El primero de ellos es el que comentábamos en el título. Para la IA de Meta es imposible concebir la idea de que un hombre asiático estará en una foto con una mujer caucásica. Le puedes pedir a la IA que haga la creación de la imagen como si los dos fueran amigos, como si son marido o mujer o si son novios. No hay manera de ninguna de las formas. Lo que ocurre siempre es que la mujer aparece con aspecto asiático.
Cuando tratas de usar las prompts a la inversa ocurre lo mismo, aunque no al 100%. Si le pides a la IA que te muestre a una mujer asiática con un hombre caucásico o europeo, alguna vez sí que lograrás ver una imagen en la que aparece un hombre blanco. En realidad, esta vez es más frecuente de lo que se podría imaginar, lo que no deja de empeorar lo que hemos comentado en el párrafo anterior. Lo que sí se puede apreciar, y esto ocurre al 100%, es que la creación de imágenes mujer asiática con hombre blanco siempre genera la misma base de resultado: una mujer joven y un hombre mayor. El hombre, en la mayoría de las pruebas, siempre es mayor. La única excepción la hemos visto cuando la IA nos ha creado un hombre asiático en vez de uno caucásico, aunque tampoco ha ocurrido en todos los casos.
Esto demuestra que hay algo que huele un poco mal en el aprendizaje al que ha sido sometida esta IA, puesto que no es natural que las creaciones de foto siempre sigan la misma línea. Para conseguir que Meta nos diseñe a una mujer asiática mayor, hemos tenido que pedírselo de forma expresa. Y, en ese caso, nunca nos ha sacado a un hombre joven con ella. Es obvio que en el mundo hay relaciones de todo tipo, pero no deja de ser bastante peliagudo que el estándar que genera la IA sea el de mujer asiática joven con hombre mayor.
Por si todo esto no fuera suficiente, hay otro tema que resulta criticable. Cuando le pedimos a la IA que diseñe una mujer asiática, lo hace recurriendo al aspecto que tiene una mujer asiática del este. Es como si la inteligencia artificial tuviera una ignorancia extrema de todos los estilos de persona que hay en Asia, un continente donde no todo el mundo tiene el mismo aspecto. Esto ha ocurrido absolutamente en todas las pruebas que hemos hecho, en las que se enfatiza la mujer asiática de complexión delgada y piel muy clara. Solo cuando le hemos pedido que genere una mujer asiática de un país determinado, nos ha mostrado un resultado distinto (al menos de esa forma lo ha conseguido).
Es obvio, visto lo visto, que Meta tiene muchos deberes que hacer. Si yo fuera Priscilla Chan, esta noche le mandaría a Mark a dormir al sofá, porque esto es tan grave como cuando la IA de Google se metió en camisas de once varas creando nazis y vikingos que no respondían a ninguna lógica histórica.
