Google cambia su búsqueda después de un alboroto por la expulsión de científicos Google

Google cambiará los procedimientos antes de julio para revisar el trabajo de sus científicos, según una grabación del Ayuntamiento que escuchó Reuters, como parte de un esfuerzo por sofocar la confusión interna en torno a la integridad de la investigación de inteligencia artificial (IA).

En declaraciones durante una reunión de personal el viernes pasado, los ejecutivos de Google Research dijeron que estaban trabajando para restaurar la confianza después de que la compañía despidió a dos mujeres prominentes y rechazó su trabajo, según una grabación de una hora que confirmaron dos fuentes.

Maggie Johnson, Gerente de Operaciones de la Unidad de Investigación, dijo en la reunión que los equipos ya están experimentando con un cuestionario que evaluará los riesgos de los proyectos y ayudará a los científicos a navegar las revisiones. Este cambio inicial comenzará a fines del segundo trimestre, dijo, y la mayoría de los trabajos no requerirán un examen adicional.

Reuters informó en diciembre que Google proporcionó una revisión de «temas delicados» de estudios que involucraban docenas de temas, como China o sesgos en sus servicios. Reuters informó que los auditores internos han pedido que se modifiquen al menos tres artículos de investigación sobre inteligencia artificial para abstenerse de ver negativamente la tecnología de Google.

Geoff Dean, vicepresidente de Google que supervisa la división, dijo el viernes que la revisión de «temas sensibles» «era y sigue siendo confusa» y que ha encargado al director senior de investigación, Zubin Kahramani, que aclare las reglas, según la grabación. .

«Necesitamos sentirnos cómodos con esta incomodidad» en la investigación de autocrítica, dijo Kaharmani, un profesor de Cambridge que se unió a Google en septiembre desde Uber, en la reunión del municipio.

Google se negó a comentar sobre la reunión del viernes.

Un correo electrónico interno, visto por Reuters, proporcionó nuevos detalles sobre las preocupaciones de los investigadores de Google, mostrando exactamente cómo el departamento legal de Google modificó uno de los tres artículos de inteligencia artificial, llamado extracción de datos de entrenamiento de modelos de lenguaje grandes.

El correo electrónico, con fecha del 8 de febrero, de Nicholas Carlini, coautor del artículo, se envió a cientos de colegas, en un esfuerzo por llamar su atención sobre lo que él llamó modificaciones «extremadamente maliciosas» de los abogados de la firma.

Las aproximadamente 1200 palabras del correo electrónico dicen «Seamos claros aquí». «Cuando los académicos escribimos que tenemos» ansiedad «o encontramos algo» preocupante «y un abogado de Google pide cambiarlo para que se vea mejor, eso es un gran paso de la intervención del Gran Hermano».

Los ajustes requeridos, según su correo electrónico, incluyeron compensaciones de «negativo a neutral», como cambiar la palabra «preocupaciones» por «consideraciones» y «riesgos» por «riesgos». Los abogados también exigieron que se borren las menciones de Google; Los autores descubren que AI ha filtrado contenido protegido por derechos de autor; El correo electrónico decía «infracción» y «confidencial».

Carlini no respondió a las solicitudes de comentarios. En respuesta a las preguntas sobre el correo electrónico, Google refutó su afirmación de que los abogados estaban tratando de controlar el tono del periódico. La compañía dijo que no tenía problemas con los temas que investigaba el periódico, pero encontró algunos términos legales usados ​​incorrectamente y, como resultado, hizo una revisión.

Auditoría de justicia étnica

La semana pasada, Google también nombró a Marianne Croak, líder en tecnología de voz de Internet y una de las pocas vicepresidentas de Black de Google, para unir y administrar 10 equipos que estudian temas como el sesgo racial en algoritmos y tecnología para personas con discapacidades.

Llevará algún tiempo abordar las preocupaciones entre los investigadores de ética de la inteligencia artificial y mitigar el daño a la marca Google, dijo Kerouac en la reunión del viernes. «Por favor, háganme totalmente responsable de intentar cambiar esta situación», dijo en la grabación.

Johnson agregó que AI estaba contratando a una empresa consultora para realizar una evaluación amplia del impacto de la igualdad racial. Dijo que la primera revisión de la dirección conduciría a recomendaciones que «serían muy difíciles».

Las tensiones aumentaron en el departamento de deuda en diciembre después de que Google Lanzamiento de Timnit GebruElla codirige el equipo de investigación de IA ética, después de negarse a retractarse de un artículo de investigación sobre IA que genera lenguaje. Gibro, quien es de raza negra, acusó a la empresa al momento de revisar su trabajo de manera diferente debido a su identidad y la marginación de los empleados de entornos subrepresentados. Cerca de 2.700 empleados firmaron una carta abierta en apoyo de Gebru.

Durante el Ayuntamiento, Dean dejó en claro qué becas apoyaría la empresa. «Queremos investigaciones responsables de la IA y la IA», dijo Dean, dando un ejemplo de estudio de los costos ambientales de la tecnología. Pero dijo que era difícil citar los datos «casi cien veces» ignorando estadísticas más precisas y los esfuerzos de Google para reducir las emisiones. Dean había criticado previamente el artículo de Gibro por no incluir hallazgos importantes sobre el impacto ambiental.

Gibro defendió la cita de su artículo. «Es realmente un mal aspecto para Google publicar esto a la defensiva contra un documento citado por muchas organizaciones pares», dijo a Reuters.

Los empleados han seguido publicando sobre sus frustraciones durante el último mes en Twitter mientras Google investiga Margaret Mitchell despedida, Co-líder ético de inteligencia artificial, para mover archivos electrónicos fuera de la empresa. Mitchell dijo en Twitter que actuó «para plantear preocupaciones sobre la desigualdad de género y la raza, y para hablar sobre el problema de que Google despida al Dr. Gibro».

Mitchell colaboró ​​en el documento que llevó a Gibro a irse, y una copia publicada en línea el mes pasado sin afiliación con Google llamada «Shmargaret Shmitchell» como coautor.

En respuesta a una solicitud de comentarios, Mitchell expresó a través de su abogado su decepción por las críticas de Dean al periódico y dijo que su nombre fue eliminado luego de una orden de la compañía.