Cómo Google está luchando contra el racismo de las cámaras

15/04/2023

Con la tecnología Real Tone, Google entrena sus algoritmos para representar adecuadamente a las personas racializadas. Numerama conoció a Florian Koenigsberger, el director del proyecto, ya Natacha Ikoli, colorista especializada en iluminación y presentación.

¿Las cámaras de nuestros smartphones son racistas? Si no fueron diseñados para este propósito específico, la mayoría de ellos continúan descuidando a las personas racializadas en la actualidad. Entrenados durante décadas en modelos que se parecen a sus creadores, a menudo hombres blancos, los algoritmos de imagen están llenos de sesgos. Sin hacerlo a propósito, suelen optar por resaltar un sujeto blanco en detrimento de una persona negra. Las personas de color saben que son víctimas de una forma de discriminación digital, ya que muchas veces su piel aparece subexpuesta, sobreexpuesta o simplemente diferente a la realidad.

Más allá de la cuestión de la elección de la priorización entre un blanco y un negro, los algoritmos de las cámaras simplemente no están entrenados para pieles negras (las herramientas dedicadas a la gradación de color se basan en pieles claras). Un problema destacado por Google con su Pixel 6 en 2021, los primeros smartphones oficialmente equipados con tecnología Real Tone (el Pixel 5, lanzado un año antes, estaba experimentando en secreto con ella). Numerama conoció a los equipos detrás de este importante avance tecnológico.

Índice de Contenidos
  1. Real Tone, conciencia del problema
  2. ¿Puede esta tecnología convertirse en el estándar en Apple, Samsung y Xiaomi?

Real Tone, conciencia del problema

Le projet Real Tone part de Florian Koenigsberger, qui a rejoint Google en tant que stagiaire en 2017. Ce fils d'une mère jamaïcaine noire et d'un père allemand blanc, lui-même photographe, a commencé à s'intéresser à la question des biais algorithmiques en 2018. Après avoir parlé à son manager de son idée d'améliorer cet aspect sur les smartphones Pixel, réputés comme excellents en photo, Florian a pris les commandes d'un projet qui n'a été officiellement annoncé que trois ans más tarde. Investigación, reuniones… Lo difícil con Real Tone fue saber tocar un tema tan sensible de la manera correcta. “Sabemos cómo hacer fotografía computacional, pero no podemos hablar por la comunidad. Necesitábamos mucha gente” explica el director del proyecto.

Para lograrlo, Google ha creado una especie de “grupo de trabajo” formado por personas racializadas. Varios expertos del mundo de la fotografía vinieron a ayudar a la empresa a tomar las decisiones correctas, para finalmente enseñar a sus teléfonos inteligentes a representar adecuadamente las pieles de colores. “Era muy importante no involucrar a los expertos solo al final del proyecto”, comenta Florián. Obviamente, ha habido mucho aprendizaje automático, para enseñarle al algoritmo fotográfico Pixel a tratar a las personas de manera diferente en función de su color, en lugar de hacer todo en el modelo de piel blanca. “Nadie pregunta a los fotógrafos negros si saben fotografiar a los blancos”comenta el director del proyecto.

En el equipo de Google hay varios artistas y especialistas en representación. Entre ellos, Natacha Ikoli, nacida en el Congo y criada en París. Natacha, colorista y especialista en temas de presentación de personajes, es experta en videocolorimetría. "Cuando eres una persona negra, ves que ciertas personas parecen sobreexpuestas o demasiado oscuras", ella explica. Un problema que los blancos no siempre ven.

“Nadie pregunta a los fotógrafos negros si saben fotografiar a los blancos”

florian koenigsberger

En 2020, Google comenzó a implementar Real Tone. En 2021, lo presentó oficialmente. Gracias a esta tecnología, actualmente reservada a los smartphones Pixel, los tonos de piel se representan con más fidelidad en los smartphones Pixel que en otros móviles. Las texturas también son mejores, ya que los algoritmos anticipan qué hacer cuando reconocen a una persona negra.

¿Puede esta tecnología convertirse en el estándar en Apple, Samsung y Xiaomi?

Hoy, Real Tone se limita a la cámara Pixel. Hay filtros en Google Photos, pero Florian Koenigsberger sugiere que solo las fotos realmente tomadas con los teléfonos inteligentes de Google usan realmente bien su nuevo algoritmo: "Hay formas de mejorar fotos antiguas, pero si tu trabajo inicial es malo, no será bueno".

Algunos de los ejemplos de Real Tone destacados por Google.  // Fuente: Google
Algunos de los ejemplos de Real Tone destacados por Google. // Fuente : Google

¿Qué pasa con otros productos de Google, como Google Meet (el servicio de videollamadas con el que realizamos la entrevista a Florian Koenigsberger)? Real Tone no se usa en otros servicios de Google en la actualidad, lo que significa que las cámaras web aún no hacen justicia a la piel negra. "Es complicado, pero estamos trabajando en ello" explica Florian Koenigsberger, quien destaca los problemas de compresión.

Finalmente, ¿cómo explicar que ninguna otra marca de teléfonos haya investigado el tema? Google dice que está discutiendo con los fabricantes de dispositivos Android, pero la realidad es que es el único que se comunica sobre este aspecto en 2023. ¿Deberíamos ver una falta de interés por parte de otras marcas? Florian Koenigsberger no lo cree así: “No es por nada que tardamos tanto. No es un trabajo rápido”. Según él, todas las demás grandes marcas (Apple, Samsung, Xiaomi, etc.) están trabajando en este tema, pero ninguna está lista aún para destacar su progreso. “Saben que cuando hablemos de esto, la gente te hará preguntas”. "Es bueno que los demás se tomen su tiempo".

Cuando se estrenó Black Panther Wakanda Forever, la revista Ebony fotografió al elenco de la película con un Pixel 7 Pro.  // Fuente: Ébano
Cuando se estrenó Black Panther Wakanda Forever, la revista Ebony fotografió al elenco de la película con un Pixel 7 Pro. // Fuente : Ébano

En unos años, las cámaras de nuestros teléfonos inteligentes podrían capturar la piel oscura con facilidad, tanto que ni siquiera surgirá la pregunta. Mientras tanto, los teléfonos inteligentes Pixel son los únicos que realmente reclaman esta calidad.


¿Quieres saberlo todo sobre la movilidad del mañana, desde los coches eléctricos hasta las pedelecs? ¡Suscríbase ahora a nuestro boletín Watt Else!

Te puede interesar

Subir