Q:
¿Cuáles son algunos problemas éticos con respecto al aprendizaje automático?
UN:Los problemas éticos que rodean el aprendizaje automático implican no tanto los algoritmos de aprendizaje automático en sí mismos, sino la forma en que se utilizan los datos.
El escándalo de Cambridge Analytica con Facebook, donde una empresa de consultoría política utilizó datos del sitio de redes sociales sin el conocimiento o consentimiento de los usuarios, ilustró muchos de los problemas asociados con la recopilación y el uso de datos de los usuarios. Si bien muchos acuerdos de licencia de usuario final especifican cómo se pueden usar los datos de los usuarios, muchos usuarios de redes sociales pueden no leer la letra pequeña.
| Descarga gratuita: Aprendizaje automático y por qué es importante |
Otro problema es que estos algoritmos de aprendizaje automático pueden ser "cajas negras" donde es imposible ver cómo funcionan realmente. Puede ser imposible saber por qué un algoritmo de aprendizaje automático tomó una decisión.
Un área del aprendizaje automático es hacer diagnósticos médicos. Un algoritmo podría observar las radiografías para detectar el cáncer. Un médico humano puede explicar por qué hicieron un diagnóstico, pero es posible que no sepamos cómo un algoritmo de aprendizaje automático determinó que un paciente tenía cáncer o no.
Lanzar programas de aprendizaje automático bajo licencias de código abierto es una solución. Cuando las personas pueden ver el código fuente de un programa, pueden ver cómo toma decisiones.
Otro problema es el uso de datos de entrenamiento de aprendizaje automático y posibles sesgos. Ha habido varios casos de prejuicios raciales y de otro tipo que se convirtieron en programas de aprendizaje automático sin querer. Un algoritmo identificó a las personas negras como gorilas, y otro alteró las características faciales de las personas de color para que parecieran más "europeas" mientras afirmaba embellecerlas.
Una forma de contrarrestar esto es tener más personas de diversos orígenes en el campo de la IA.
Otro problema es el uso seguro del aprendizaje automático y la inteligencia artificial. Los programas de inteligencia artificial y aprendizaje automático podrían desarrollar comportamientos que las personas no querrían que hicieran, como evitar que las personas los apaguen.
