Slack aboga por entrenar la IA con datos de usuarios | Edad de información

Slack ha actualizado sus principios de privacidad después de que sus referencias a la inteligencia artificial confundieran a algunos usuarios. Imagen: Shutterstock

La popular plataforma de comunicaciones Slack ha defendido su uso de datos de clientes para desarrollar algunos modelos de inteligencia artificial (IA) y aprendizaje automático (ML), tras las protestas de algunos usuarios.

El problema surgió de los principios de privacidad de la IA de la aplicación de chat, que hasta esta semana estipulaban que sus sistemas «analizaran los datos de los clientes (como mensajes, contenido, archivos)» y los datos de uso para desarrollar el conjunto de modelos de IA de la empresa.

Los principios también establecen que las organizaciones deben enviar un correo electrónico a Slack si desean optar por que estos formularios no utilicen los datos de sus clientes.

Los usuarios de Slack, algunos de los cuales pagan por el servicio propiedad de Salesforce, expresaron su preocupación por la política en las redes sociales la semana pasada, y algunos estaban confundidos sobre si sus mensajes se estaban utilizando para entrenar inteligencia artificial o no estaban seguros de por qué no se les pedía que eligieran. eso. en.

«¿Por qué se excluyen estas cosas? Es necesario resolverlas. Literalmente estamos discutiendo cambiar a Teams en mi empresa (1.500 empleados)», escribió una persona en un foro.

«Cuando enviemos nuestro aviso, enviaremos un aviso de que no queremos que ninguno de nuestros datos se utilice para ninguna capacitación de aprendizaje automático de Slack o de cualquier otra persona», dijo otro.

flojo desde entonces Actualizar sus principios de privacidad Explicó que no utiliza datos de clientes para entrenar ninguno de sus sistemas generativos de IA, que son plataformas complejas que pueden resumir conversaciones y ejecutar investigaciones basadas en IA.

READ  Resident Evil 4 Remake: fecha de lanzamiento, horarios de lanzamiento y detalles de precarga en Xbox

Sin embargo, la compañía afirma que utiliza datos de clientes para entrenar modelos no generativos en funciones como sugerencias de emoji, búsqueda básica, recomendaciones y autocompletado de texto.

«No construimos ni entrenamos estos modelos de una manera que les permita aprender, memorizar o reproducir datos de clientes de ningún tipo», dijo la compañía.

«Si bien los clientes pueden optar por no participar, estos modelos mejoran la experiencia del producto para los usuarios sin el riesgo de que sus datos se compartan en absoluto».

Slack dice que su producto adicional Slack AI utiliza modelos de lenguaje grande (LLM) de terceros que no se desarrollaron utilizando datos de sus clientes.

«Los datos del cliente pertenecen al cliente».

En la situación actual En la plataforma de redes sociales XSlack dijo que estaba de acuerdo con los comentarios de los clientes de que «podría haber explicado mejor» su enfoque sobre el uso de datos de clientes para entrenar algunos de sus sistemas.

«Creemos firmemente que los datos del cliente pertenecen al cliente», dijo la empresa.

“No desarrollamos LLM ni otros modelos generativos utilizando datos de clientes. Los datos de los clientes no se utilizan para entrenar modelos de LLM de terceros.

Los principios de privacidad de la IA de Slack también establecen que los datos de los clientes «no se filtrarán a través de los espacios de trabajo», y la compañía dice que tiene controles técnicos que le impiden acceder al contenido subyacente de esos datos.

Slack afirma que las organizaciones que abandonen la formación en IA seguirán beneficiándose de los modelos generativos de IA/ML.

READ  Cult of the Lamb te enseña cómo iniciar tu secta

en Entrada en el blogla compañía admite que si bien los clientes que opten por no participar verán pocos cambios, «cuantos más clientes opten por no participar, peor será el rendimiento general de este tipo de modelos».

Slack no es la primera organización que utiliza algunos de los datos de sus clientes para entrenar sistemas de inteligencia artificial y aprendizaje automático sin pedir primero a los usuarios que se registren.

Los usuarios del popular sistema de IA generativa ChatGPT de OpenAI deben optar por no participar si no quieren que sus datos se utilicen para mejorar el modelo, incluso si lo utilizan de forma gratuita o sin una cuenta de OpenAI.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *