El controvertido caso del equipo de Inteligencia Artificial Ética de Google

Desde hace tiempo la compañía Google, se ha visto envuelta en una serie de controvertidos problemas relacionados con el equipo de Inteligencia Artificial Ética, esto después de que la empresa despidiera a la científica en computación y colíder del equipo de ética Timnit Gebru y meses después a Margaret Mitchell, la investigadora de Google que fundó el equipo de ética de la compañía. 

Ante esto, Google ha intentado controlar la situación restructurando al equipo de IA, sin embargo, a raíz de estos despidos, los empleados han hecho demandas en donde se le pide a la compañía que les brinde la confianza para continuar con sus investigaciones respecto a las repercusiones de la inteligencia artificial sin que estos sufran algún tipo de censura o sean despedidos como lo hicieron con Gebru. 

Pero, hasta hace poco la compañía ha seguido perdiendo a empleados, tal es el caso de Samy Bengio, quien decidió irse de Google para buscar otras oportunidades y aunque en su carta de despedida no mencionó los despidos de Gebru y Mitchell, él había sido un firme defensor de ambos personajes. 

A continuación, hacemos un recuento de la controversia con el equipo de Inteligencia Artificial Ética de Google. 

Caso Gebru 

El 9 de diciembre del 2020, la colíder del equipo IA de ética Timnit Gebru, publicó un tweet en donde daba a conocer que había sido despedida de Google, esto después de que se bloqueara la publicación de su investigación sobre el sesgo en los sistemas de IA.

Antes de ser despedida envió a sus compañeros una carta a través de correo electrónico en donde explica que los superiores de Google intentaron anular su investigación, además, criticó a su departamento por la falta de diversidad que había entre su personal. 

En la carta publicada por Platformer, Gebru señaló le pidieron retractarse ya que su trabajo de investigación no cumplía con los estándares de publicación de la compañía. Por otro lado, Jeff Dean publicó una carta en donde señalaba que, debido a que no le permitieron a Gebru publicar su investigación, ella envió una serie de demandas a la compañía que debían cumplirse, sino ella renunciaría a Google. 

Debido a la forma en la que Dean manejó la salida de Gebru de la compañía, en donde no señaló que fuera un despido, más bien que ella había decidido irse, causó un gran revuelo entre las comunidades tecnológicas y académicas quienes dieron a conocer su descontento en Twitter, e incluso hicieron una petición para apoyar a Gebru, para el 5 de diciembre, dicha petición había recibido más de mil 500 firmas de empleados de Google y más de 2 mil firmas de académicos, líderes sin fines de lucro y compañeros de la industria.

Por otro lado, dos empleados de la compañía renunciaron tras la salida de Gebru. En una carta publicada en LinkedIn, David Baker director de ingeniera de Google declaró que la razón por la que dejaba la compañía después de 16 años, era por el despido de Timnit Gebru ya que con ello se había extinguido su deseo de continuar trabajando para el gigante tecnológico. Mientras que Vinesh Kannan, ingeniero de software, dio a conocer mediante un tweet que dejaba la compañía debido al maltrato por parte Google hacia Gebru y April Curley, quien también había sido despedida de la compañía después de recibir represalias por exigir que se contratará a personas negras que fueran calificadas. 

Ante esta polémica, la compañía decidió cambiar sus políticas relacionadas con la investigación y la diversidad, con ello, la compañía busca vincular el salario de los ejecutivos con los objetivos de diversidad e inclusión, asimismo han buscado hacer cambios en la forma en que se administran la salida de los empleados. Estos cambios en la política se dieron a conocer después de que se reestructurará a sus equipos de IA. 

Caso Mitchell

Y como si el caso de Timnit Gebru no fuera suficiente, meses después se dio a conocer que Google había despedido a Margaret Mitchell. El colíder del equipo de Inteligencia Artificial Ética fue despedido después de utilizar un script automatizado para obtener pruebas a través de correos electrónicos sobre la violencia discriminatoria contra Gebru.

Esto ocurrió un día después de que Google reorganizará el equipo de IA, quien ahora estaría a cargo de Marian Croak, vicepresidenta de la organización de ingeniería

Mitchell y Gebru había comenzado a trabajar juntas desde 2018 cuando decidieron crear el equipo de IA ética, además, ambas habían estado trabajando en la investigación que llevo a Gebru a ser despedida. Después de este acontecimiento Mitchell fue abiertamente crítica con las acciones de Google, así como con el personal superior de la compañía, por lo que en enero de este año perdió acceso al correo electrónico corporativos. 

En un comunicado publicado por Axios, la compañía declaró lo siguiente: “Después de realizar una revisión de la conducta de la gerente, confirmamos que hubo múltiples violaciones de nuestro código de conducta, así como de nuestras políticas de seguridad, que incluyeron la exfiltración de documentos confidenciales sensibles a la empresa y datos privados de otros empleados”

Mitchell confirmó la noticia de su salida a través de un tweet en donde decía “Estoy despedida”, aunque de acuerdo con CNN Business, antes de que se diera a conocer de su despido, ella no sabía nada de las acusaciones que se le adjudicaban; «No sé sobre esas acusaciones en realidad. Quiero decir que la mayor parte de eso es noticia para mí». 

Las controversias continúan 

Como se mencionó al principio de esta nota, Samy Bengio quién fue supervisor del equipo de IA ética se despidió de Google el 28 de abril. A raíz del despido de Gebru, Bnegio había declarado a través de Facebook que se sentía aturdido por lo que estaba sucediendo, sobre todo porque él había defendido fuertemente a la científica computacional. 

Hace más de un mes fue su último día en la compañía y dejó una carta de despedida en donde declaraba; “Aprendí mucho con todos ustedes, en términos de investigación de aprendizaje automático, por supuesto, pero también sobre lo difícil pero importante que es organizar un gran equipo de investigadores para promover la investigación ambiciosa a largo plazo, la exploración, el rigor, la diversidad y la inclusión». 

Y aunque los motivos no fueron por la despedida de Mitchell y Gebru, su salida de la empresa se suma a la controversia que ha provocado que Google pierda a importantes personajes dentro de su compañía. Por el momento, esperamos a ver cómo el gigante de la tecnología logra estabilizarse ante estos controvertidos problemas. 

CON INFORMACIÓN VÍA EL UNIVERSAL

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s