Q:
¿Puede la IA detectar tu orientación sexual o política con solo mirar tus fotos a través del reconocimiento facial?
UN:En resumen: sí, pueden hacerlo, y son incluso mejores que los humanos para hacerlo. Según un estudio muy desconcertante de la Universidad de Stanford, las imágenes de rostros humanos contienen una gran cantidad de información que el cerebro humano simplemente no puede procesar, mientras que la inteligencia artificial sí. Según su investigación, una red neuronal profunda pudo distinguir entre hombres homosexuales y heterosexuales en el 81 por ciento de los casos, y en el 74 por ciento de los casos de mujeres, en comparación con solo el 61 por ciento de los hombres y el 54 por ciento de las mujeres de los jueces humanos. Si el algoritmo tenía al menos cinco imágenes de una persona para escanear, el porcentaje de éxito aumentó a 91 por ciento y 83 por ciento, respectivamente.
La IA no solo pudo distinguir algunas características "atípicas de género", como el estilo de aseo y las elecciones de moda, sino que la máquina también identificó algunos rasgos fenotípicos específicos en sus rasgos faciales, como los hombres homosexuales con mandíbulas más estrechas, frentes más grandes y narices más largas. Independientemente de las posibles implicaciones de este descubrimiento (como la idea de que la orientación de género podría estar vinculada a algunas características genéticas), es bastante aterrador cuán dañinas podrían ser las aplicaciones de esta tecnología. Por ejemplo, podría ser utilizado por aquellos gobiernos que procesan a las personas LGBT para "filtrarlas", o simplemente para violar la privacidad de innumerables usuarios para todo tipo de propósitos maliciosos: el marketing dirigido es el menos malo de todos.
Sin embargo, lo que lo hace aún más incómodo es que tecnologías similares ya están disponibles y ya se están utilizando. La IA puede detectar mucho más que la sexualidad al mirar una imagen de un rostro humano: puede detectar emociones, coeficiente intelectual e incluso preferencias políticas. Se han utilizado tecnologías similares de creación de perfiles psicométricos con inteligencia artificial para extraer datos de los perfiles de Facebook y sacar conclusiones sobre las preferencias personales y las opciones de estilo de vida. De esta forma, los votantes solo verían un subconjunto específico de anuncios políticos dirigidos que podrían dirigir sutilmente sus elecciones políticas.
El creador de este experimento, el psicólogo Michal Kosinski, expresó su preocupación por los posibles riesgos si esta tecnología se usara con fines malvados, hasta el punto de que él y su equipo pasaron mucho tiempo considerando si los resultados deberían hacerse públicos. La consultora política Cambridge Analytica, de hecho, supuestamente utilizó información recopilada de las redes sociales para publicar anuncios que influyeron en las elecciones presidenciales de EE. UU. En 2016, y posiblemente incluso en la campaña británica Brexit. Según la investigación en curso, un vasto ejército de bots comenzó a difundir una serie de noticias falsas dirigidas con precisión sobre Hillary Clinton para dirigir a sus posibles electores a votar por Donald Trump. Muchos de estos anuncios fueron construidos en el acto por algoritmos inteligentes, para mostrar a las personas durante eventos importantes o debates electorales. La IA también midió las reacciones de las personas, para reforzar su eficiencia al influir en los votantes de Clinton para que creyeran que era una persona malvada y trastornada.
Después del escándalo, la agencia se cerró, pero aún existen tecnologías similares y pueden utilizarse con fines maliciosos. Kosinski pronunció muchos discursos advirtiendo sobre este riesgo mucho antes del escándalo, pero, lamentablemente, la naturaleza humana no se puede cambiar. En un experimento inédito, afirmó que su IA podía distinguir entre los rostros de republicanos y demócratas, aunque admitió que las barbas podrían marcar la diferencia. Entonces, para todos los teóricos de la conspiración (y personas conocedoras de la privacidad), aquí hay una gran pista: si desea evitar que el gobierno se meta en su vida privada, simplemente deje crecer la barba. Una enorme, si es posible.
