Tabla de contenido:
- Definición - ¿Qué significa Value Learning Problem?
- Techopedia explica el problema de aprendizaje de valor
Definición - ¿Qué significa Value Learning Problem?
El problema del aprendizaje del valor es un tema fundamental específico en el desarrollo del aprendizaje automático y las tecnologías de inteligencia artificial que abordan la diferencia entre los humanos y las computadoras, y las formas en que piensan.
En pocas palabras, el problema del aprendizaje del valor se basa en lo difícil que es para las computadoras averiguar qué "valorar" (tanto en términos de datos como de políticas) y cómo actuar en una red de aprendizaje automático, y cómo los programadores pueden optimizar cómo el programa actúa para que coincida con sus intenciones originales cuando lo crearon.
Techopedia explica el problema de aprendizaje de valor
La clave del problema del aprendizaje de valores es que es extremadamente importante para los programadores poder crear programas de aprendizaje automático que lleven a cabo los valores deseados. Sin embargo, el problema es que los valores no se pueden establecer explícitamente de manera que obstaculicen el aprendizaje del programa.
La gente a veces habla de la 'convergencia' de las tecnologías de aprendizaje automático como el enfoque exitoso en los datos de valor, pero el problema del aprendizaje de valor es de alguna manera un poco diferente. Es la idea de que tiene que haber alguna forma central de mostrarle al programa de aprendizaje automático lo que se desea, en lugar de simplemente explicarlo, que es una forma determinista de ejecutar ML.
Por ejemplo, tome este documento sobre el problema del aprendizaje de valores que sugiere que los programas de aprendizaje automático podrían tener un conjunto de entradas de almacenamiento que muestren respuestas humanas positivas a los estímulos. Al leer este tipo de direcciones sobre el problema del aprendizaje de valor, queda claro que hay una brecha importante en el aprendizaje automático que no es fácil de solucionar, esencialmente, ¿cómo crean las personas máquinas que realmente pueden pensar como las personas? Otra forma de explicar esto es que el problema del aprendizaje de valores va al corazón de cómo pensamos como humanos, y cómo nuestros pensamientos no siempre se basan en la información de memoria.
Para las computadoras modelar nuestra intuición, nuestro instinto, nuestras inclinaciones sociales y nuestros valores éticos más profundos es una tarea difícil, incluso cuando las computadoras pueden aprender a jugar ajedrez de manera humana, o superarnos en la resolución de problemas matemáticos difíciles. Los profesionales pueden esperar que el programa de aprendizaje de valor continúe siendo central en el desarrollo de tecnologías de aprendizaje automático.
