Fuente de la imagen: Cortesía de Joy Buolamwini
Con demasiada frecuencia, las mejores historias de belleza no se cuentan y se basan únicamente en el color de piel, la religión, la expresión de género, la discapacidad o el nivel socioeconómico de una persona. Aquí, le estamos pasando el micrófono a algunas de las voces más ambiciosas y talentosas de la industria, para que puedan compartir, en sus propias palabras, la notable historia de cómo llegaron a ser y cómo están usando la belleza para cambiar. el mundo para mejor. A continuación: Joy Buolamwini, científica informática y fundadora de Algorithmic Justice League (AJL).
Desde muy joven, me interesó buscar formas de usar las computadoras para ayudar a las personas. Al crecer, mi padre, que es profesor de química médica y ciencias farmacéuticas, solía llevarme a su laboratorio para alimentar a las células cancerosas. También me mostraba la forma en que usaba las computadoras para desarrollar medicamentos para combatir el cáncer.
Crecí apreciando la búsqueda de la verdad, tanto en las artes como en las ciencias, gracias a que mi madre es una artista. Al principio no estaba seguro de si sería capaz de combinar tanto la parte artística de lo que hice con la auditoría algorítmica, pero me arriesgué a preguntarme cómo sería ser un poeta del código, alguien que fusiona ambos mundos para hacer lo que hacen los poetas, que es iluminar la verdad incómoda o las percepciones ocultas en las interacciones cotidianas que tenemos?
Yo también siempre he tenido un poco de espíritu emprendedor. En la escuela secundaria, tenía una pequeña empresa de diseño web, y eso me permitió ganar algo de dinero para poder pagar el equipo de baloncesto, atletismo y campo a través, y luego, en la universidad, cofundé una empresa de tecnología para el cuidado del cabello que Analice el tipo de cabello y dé a las personas recomendaciones de productos personales.
Después de eso, tuve la gran suerte de obtener una beca Fulbright para ir a Zambia y comencé una organización que enseñaba a las niñas a programar. Cuando llegué a la escuela de posgrado, tenía la experiencia y la confianza para comenzar la Liga de la Justicia Algorítmica, una organización que combina arte, investigación académica y defensa para luchar por las personas que se ven perjudicadas por la IA, a quienes me gusta llamar. el «ex-codificado».
Comencé a investigar si los sistemas de inteligencia artificial funcionan de manera diferente según el tipo de rostro que se está analizando, y lo que descubrió mi investigación fue que, de hecho, lo hacen.
Cuando estaba trabajando en una instalación de arte como estudiante de posgrado en el MIT, parte de la instalación estaba destinada a rastrear la ubicación de mi cara con software, pero no funcionó tan bien en mi cara hasta que me puse una máscara blanca. Esto me llevó a mi investigación en 2017 sobre tecnología facial y de análisis que podría intentar adivinar el género de una cara. Esa experiencia de ponerme una máscara blanca para hacerla visible a una máquina es lo que realmente me hizo empezar a preguntarme, ¿estas máquinas son tan neutrales?
Comencé a investigar si los sistemas de inteligencia artificial funcionan de manera diferente según el tipo de rostro que se está analizando, y lo que descubrió mi investigación fue que, de hecho, lo hacen. Al observar los sistemas de inteligencia artificial de varias de las principales empresas de tecnología, descubrí que los sistemas funcionan mejor en rostros de hombres que en rostros de mujeres cuando se trata de adivinar el género, y funcionan mejor en rostros de piel más clara que en rostros de piel más oscura. Eso me hizo pensar, si esos resultados se hubieran revertido, ¿estas computadoras estarían en el mercado en primer lugar? Fue esa experiencia de codificar en una máscara blanca, y luego tener la oportunidad de mostrar algunas de las mayores diferencias de precisión en los productos de inteligencia artificial vendidos comercialmente en ese momento, lo que me llevó a investigar más a fondo los problemas de sesgo codificado, que realmente fue la semilla por iniciar la Liga de la Justicia Algorítmica.
Fuente de la imagen: Cortesía de Olay
En la IA de belleza, si estamos pensando en analizar rostros o en que una máquina procese rostros, lo verá con los tipos de filtros que se utilizan que pueden aclarar su piel o adelgazar su nariz como una forma de afirmar que realzan la belleza. – que se basa en los estándares de belleza eurocéntricos y margina a las mujeres de color. A través de mi investigación, me di cuenta de que tengo esta perspectiva importante que aportar de mi experiencia vivida de no ser visto, de ser ex-codificado. Es algo que no solo me impacta, sino que es algo que está en nuestra sociedad en general porque tenemos sistemas de IA que ingresan cada vez más en todas las áreas.
Otra cosa en la que pensar en el espacio de la belleza es el uso de la inteligencia artificial en el empleo: decidir a quién se contrata, a quién se despide, a quién se asciende. La industria de la belleza emplea a tanta gente y, comprensiblemente, las empresas quieren intentar adoptar las últimas tecnologías, pero realmente debemos pensar en las formas en que la IA sirve como un guardián para quienes incluso pueden participar en la industria.
Una parte importante de lo que hacemos con la Liga de la Justicia Algorítmica es preguntarnos cómo avanzamos hacia un mundo con una IA más equitativa y responsable. Parte de esto es crear conciencia porque no puedes solucionar un problema que ni siquiera conoces, y mucha gente no es consciente del sesgo codificado. Es por eso que estaba tan feliz de asociarme con Olay en la campaña Decode the Bias para combatir el sesgo en los algoritmos de belleza. Pensar en quién está codificando y cómo estamos codificando es una parte esencial para hacer un cambio. La iniciativa de la marca de enviar 1,000 niñas al campamento Black Girls CODE para ayudarlas a seguir carreras STEM ayuda a garantizar que las personas que están creando las tecnologías que dan forma a la sociedad realmente reflejen la sociedad. Los sesgos continúan mostrando lo que sucede cuando no estamos en la habitación.
En la IA de belleza, si estamos pensando en analizar rostros o en que una máquina procese rostros, lo verá con los tipos de filtros que se utilizan que pueden aclarar su piel o adelgazar su nariz como una forma de afirmar que realzan la belleza. .
Cuando comencé mi investigación, experimenté comentarios desalentadores, pero no dejé que eso me impidiera perseguir algo que sentía que era extremadamente importante. Ser mujer y tener la piel oscura me dio una experiencia vivida que condujo a una investigación impactante que la mayoría de los compañeros de la corriente principal simplemente no estaban siguiendo o priorizando en ese momento. Entonces, mi experiencia con la codificación con una máscara blanca es lo que realmente catapultó esta investigación.
Cuando estás en un campo donde tu perspectiva no está centrada, realmente necesitas encontrar una comunidad de apoyo. He tenido un sistema de apoyo muy sólido, grandes mentores y una base realmente sólida, por lo que creo que desde el principio eso ha sido de gran ayuda para mí. Eso me ha demostrado la importancia de tener ese tipo de comunidad, especialmente como mujer joven de color y para las niñas de color. Animaría a cualquiera que tenga ideas y quiera entrar en este espacio, pero teme que se enfrente a un retroceso para seguir adelante de todos modos. Todavía te necesitamos.
Fuente de la imagen: Olay