Q:
¿Por qué una empresa podría cerrar un proyecto de chatbot AI?
UN:Las empresas pueden cerrar los proyectos de chatbot de inteligencia artificial por muchas razones, pero los más probables se pueden agrupar en un par de categorías. Primero, las compañías pueden cerrar las tecnologías de chatbot si actúan de manera que puedan hacer que la compañía se sienta incómoda, como la promoción de discursos objetables. Alternativamente, las compañías podrían cerrar un proyecto de chatbot si comienza a demostrar sensibilidad y capacidad que no puede controlarse fácilmente o puede presentar algún tipo de amenaza eventual para la salud y la seguridad públicas.
Tenemos ambos escenarios documentados en la historia reciente. El experimento de Microsoft con el chatbot de Tay terminó cuando Tay comenzó a asumir algunas de las peores características de sus contrapartes humanas: comentarios racistas y agresivos, y una actividad generalmente objetable, gran parte de la cual se aprendió claramente o incluso se lloró directamente de los usuarios.
En un estudio de caso muy diferente, una configuración de chatbot iniciada por Facebook se cerró cuando los científicos observaron que dos chatbots se comunicaban entre sí de una manera que era algo exclusivo de la observación humana. Hubo la opinión de que las entidades de chatbot habían comenzado a "hablar en una especie de código" que era más conveniente para ellos y menos transparente para sus manejadores humanos. Este es un ejemplo de esa preocupación muy real en torno a la inteligencia artificial en general: que a medida que avancemos en la progresión de la inteligencia artificial fuerte, los humanos deben actuar para contener y controlar cualquier ejemplo de implementación de IA para asegurarse de que no se crucen fronteras Hay una gran cantidad de inquietudes éticas y problemas de seguridad que deben abordarse con una fuerte inteligencia artificial, y esta es una de las principales razones por las cuales algunos chatbots u otros proyectos de inteligencia artificial pueden ser cerrados en el futuro por las partes interesadas que han desarrollado y los apoyé a través de cierto proceso.
