Meta AI es constantemente incapaz de generar imágenes precisas para solicitudes aparentemente simples como «hombre asiático y amigo caucásico» o «hombre asiático y esposa blanca», informa The Verge. En cambio, el generador de imágenes de la compañía parece estar predispuesto a crear imágenes de personas de la misma raza, incluso cuando se solicita explícitamente lo contrario.
La meta IA está bastante sesgada
La fuente afirma que solicitudes como "una mujer asiática con un hombre blanco" y otras solicitudes de parejas de diferentes razas generaron imágenes de parejas de la misma raza. Cuando se le preguntó por "un grupo diverso de personas", Meta AI generó una cuadrícula de nueve caras blancas y una persona de color.
Hubo algunas ocasiones en las que creó un resultado único que reflejaba la solicitud, pero en la mayoría de los casos no pudo representar con precisión la solicitud.
Como señala The Verge, hay otros signos de sesgo más "sutiles" en Meta AI, como la tendencia a hacer que los hombres asiáticos parezcan mayores y las mujeres asiáticas parezcan más jóvenes. El generador de imágenes también agregaba a veces "trajes culturalmente específicos", incluso cuando no era parte del mensaje.
No es la primera plataforma en ser examinada por su representación de la raza.
No está claro por qué Meta AI tiene dificultades con este tipo de solicitudes, aunque no es la primera plataforma de IA generativa que es examinada por su representación de la raza. El generador de imágenes Gemini de Google ha suspendido su capacidad de crear imágenes de personas después de corregir en exceso la diversidad con resultados extraños. en respuesta a solicitudes sobre personajes históricos.
Más tarde, Google explicó que sus medidas de seguridad internas no tuvo en cuenta las situaciones en las que los diferentes resultados fueron inadecuados.
Meta describió anteriormente a Meta AI como en "beta" y, por lo tanto, propensa a cometer errores. Meta AI también ha tenido dificultades para responder con precisión preguntas sencillas sobre eventos actuales y figuras públicas.
Lea también:
