Luke Stark recusou uma bolsa de pesquisa de US$ 60 mil do Google, em apoio \u00e0 equipe de IA \u00e9tica demitida da empresaFoto: Divulga\u00e7\u00e3o<\/p>\n\n\n\n
(CNN Business) –<\/strong> Quando Luke Stark pediu dinheiro para o Google em novembro, n\u00e3o tinha ideia de que recusaria US$ 60 mil (cerca de R$ 340 mil) da gigante da tecnologia meses depois, em mar\u00e7o.<\/p>\n\n\n\n Professor assistente da Western University em Ont\u00e1rio, Canad\u00e1, Stark estuda os impactos sociais e \u00e9ticos da intelig\u00eancia artificial (IA). No final de novembro, ele se inscreveu para o pr\u00eamio Google Research Scholar, uma bolsa de pesquisa de at\u00e9 US$ 60 mil para apoiar professores que est\u00e3o no in\u00edcio de suas carreiras.<\/p>\n\n\n\n O canadense se candidatou ao pr\u00eamio \u201cpor causa da sensa\u00e7\u00e3o na \u00e9poca de que o Google estava construindo uma equipe de IA \u00e9tica realmente forte e potencialmente l\u00edder do setor\u201d.<\/p>\n\n\n\n Logo depois, esse sentimento come\u00e7ou a se dissipar. No in\u00edcio de dezembro, Timnit Gebru, a col\u00edder da equipe \u00e9tica de IA do Google \u2013uma mulher negra em ascens\u00e3o em uma \u00e1rea predominantemente masculina de brancos\u2013, deixou o Google de forma abrupt<\/p>\n\n\n\n No dia 2 de dezembro, Gebru tuitou que ela fora \u201cdemitida imediatamente\u201d por causa de um email que havia enviado para a lista de emails interna da empresa Brain Women and Allies do Google. No email, ela expressava consterna\u00e7\u00e3o com a cont\u00ednua falta de diversidade na empresa e frustra\u00e7\u00e3o com um processo interno relacionado \u00e0 revis\u00e3o de pesquisa ent\u00e3o in\u00e9dita sobre os riscos de construir modelos de linguagem de IA cada vez maiores \u2013um tipo de IA que \u00e9 cada vez mais importante para o enorme neg\u00f3cio de pesquisa do Google.<\/p>\n\n\n\n Na \u00e9poca, Gebru disse que a lideran\u00e7a de IA do Google pedira para ela retirar o artigo da considera\u00e7\u00e3o para apresenta\u00e7\u00e3o em uma confer\u00eancia ou retirar seu nome do artigo. O Google disse que aceitou o pedido de demiss\u00e3o de Gebru por causa de uma lista de exig\u00eancias que ela havia enviado por email para continuar trabalhando na empresa.<\/p>\n\n\n\n A demiss\u00e3o de Gebru deu in\u00edcio a uma crise na empresa que durou meses, incluindo sa\u00eddas de funcion\u00e1rios, uma troca de cadeiras na lideran\u00e7a e um pedido de desculpas do CEO do Google pelas circunst\u00e2ncias da sa\u00edda de Gebru. O Google conduziu uma investiga\u00e7\u00e3o interna sobre o tema. Os resultados foram anunciados no mesmo dia e o Google demitiu a col\u00edder da equipe de Gebru, Margaret Mitchell, que havia criticado consistentemente a empresa no Twitter ap\u00f3s a sa\u00edda da colega. A empresa citou \u201cviola\u00e7\u00f5es m\u00faltiplas\u201d de seu c\u00f3digo de conduta para justificar a demiss\u00e3o.<\/p>\n\n\n\n Enquanto isso, pesquisadores de fora do Google, particularmente em IA, est\u00e3o cada vez mais desconfiados da bolsa de estudos historicamente bem conceituada da empresa e irritados com o tratamento dado a Gebru e Mitchell.<\/p>\n\n\n\n Tudo isso entrou em foco para Stark no dia 10 de mar\u00e7o, quando o Google lhe enviou uma nota de parab\u00e9ns, oferecendo-lhe US$ 60 mil por sua proposta para um projeto de pesquisa que examinaria como as empresas est\u00e3o implementando IA para detectar emo\u00e7\u00f5es. O canadense disse que imediatamente sentiu que precisava rejeitar o pr\u00eamio para mostrar seu apoio a Gebru e Mitchell, bem como \u00e0queles que ainda permanecem na equipe \u00e9tica de IA do Google.<\/p>\n\n\n\n \u201cMeu primeiro pensamento foi que tinha de recusar a bolsa\u201d, disse Stark ao CNN Business<\/strong>.<\/p>\n\n\n\n Stark est\u00e1 entre um n\u00famero crescente de pessoas na academia que est\u00e3o citando as sa\u00eddas de Gebru e Mitchell por causa de decis\u00f5es recentes de perda de fundos ou oportunidades oferecidas pela empresa. Alguns organizadores de confer\u00eancias de IA est\u00e3o repensando em ter o Google como patrocinador. Pelo menos um acad\u00eamico que recebeu um grande cheque do Google no passado declarou que n\u00e3o buscar\u00e1 seu apoio financeiro at\u00e9 que as altera\u00e7\u00f5es sejam feitas na empresa.<\/p>\n\n\n\n \u201cEm s\u00e3 consci\u00eancia, n\u00e3o posso mais aceitar financiamento de uma empresa que trata seus funcion\u00e1rios dessa maneira\u201d, afirmou ao CNN Business <\/strong>Vijay Chidambaram, professor assistente da Universidade do Texas em Austin, que estuda sistemas de armazenamento. Chidambaram j\u00e1 havia recebido US$ 30 mil (cerca de R$ 170 mil) do Google em 2018 para um projeto de pesquisa.<\/p>\n\n\n\n O dinheiro envolvido \u00e9 de pouca import\u00e2ncia para o Google. Mas as consequ\u00eancias cada vez maiores das tens\u00f5es do Google com sua equipe \u00e9tica de IA representam agora um risco para a reputa\u00e7\u00e3o e estatura da empresa na comunidade de IA, um fator crucial na busca do Google por talentos \u2013tanto para contrat\u00e1-los como funcion\u00e1rios da empresa como para ter conex\u00f5es na comunidade acad\u00eamica.<\/p>\n\n\n\n \u201cAcho que isso \u00e9 mais amplo do que a pr\u00f3pria empresa imagina\u201d, comentou Stark.<\/p>\n\n\n\n Apesar de seu desejo inicial, Stark n\u00e3o recusou imediatamente o pr\u00eamio do Google. Ele falou aos colegas sobre o que planejava fazer (\u201cAs pessoas apoiaram qualquer decis\u00e3o que eu tomasse\u201d, disse) antes de enviar ao Google sua resposta dois dias depois do an\u00fancio. Ele agradeceu \u00e0 empresa pelo \u201cvoto de confian\u00e7a\u201d em sua pesquisa, mas escreveu que estava \u201crecusando o pr\u00eamio em solidariedade \u00e0s doutoras Gebru e Mitchell, seus companheiros de equipe e todos aqueles que j\u00e1 passaram por situa\u00e7\u00f5es semelhantes\u201d, segundo emails lidos pelo CNN Business<\/strong>.<\/p>\n\n\n\n \u201cEstou ansioso pela possibilidade de colaborar novamente com o Google Research quando a organiza\u00e7\u00e3o e seus l\u00edderes refletirem sobre sua decis\u00e3o neste caso, abordarem os danos que causaram e se comprometerem, por palavras e atos, a promover pesquisa cr\u00edtica e produtos que apoiam a equidade e a justi\u00e7a\u201d, escreveu Stark.<\/p>\n\n\n\n Ele tuitou sobre sua decis\u00e3o de rejeitar o pr\u00eamio e fazer isso publicamente, mas observou que muitas pessoas n\u00e3o podem recusar esse financiamento do Google ou de outras empresas. Stark pode abrir m\u00e3o do dinheiro porque seu departamento na Western University tem fundos suficientes. Segundo ele, o pr\u00eamio do Google teria proporcionado dinheiro extra para pesquisa.<\/p>\n\n\n\n \u201cFoi algo que eu senti que poderia fazer\u201d, Stark tuitou.<\/p>\n\n\n\n Gebru disse que gostou da a\u00e7\u00e3o de Stark.<\/p>\n\n\n\n \u201cN\u00e3o \u00e9 pouca coisa uma pessoa recusar o patroc\u00ednio do Google\u201d, afirmou Gebru ao CNN Business<\/strong>. “Especialmente algu\u00e9m que est\u00e1 no in\u00edcio de carreira.”<\/p>\n\n\n\n Um porta-voz do Google disse que a empresa forneceu mais de 6.500 bolsas acad\u00eamicas e de pesquisa para pessoas de fora, nos \u00faltimos 15 anos. Stark \u00e9 o primeiro a recusar uma, de acordo com o porta-voz.<\/p>\n\n\n\n No entanto, a decis\u00e3o de Stark \u00e9 apenas a mais recente demonstra\u00e7\u00e3o de solidariedade com Gebru e Mitchell.<\/p>\n\n\n\n O primeiro sinal \u00f3bvio de raiva veio logo depois que Gebru deixou o Google. Um texto no site Medium criticando sua partida e exigindo transpar\u00eancia sobre a decis\u00e3o do Google em rela\u00e7\u00e3o \u00e0 pesquisa que foi piv\u00f4 da demiss\u00e3o rapidamente ganhou a ades\u00e3o de funcion\u00e1rios e apoiadores do Google nas \u00e1reas acad\u00eamica e de IA. No final de mar\u00e7o, o n\u00famero de apoiadores havia aumentado para quase 2.700 funcion\u00e1rios do Google e mais de 4.300 outros.<\/p>\n\n\n\n No in\u00edcio de mar\u00e7o, a confer\u00eancia para a qual Gebru e seus coautores enviaram o artigo, a Confer\u00eancia ACM sobre Justi\u00e7a, Responsabilidade e Transpar\u00eancia, ou FAccT, suspendeu seu contrato de patroc\u00ednio com o Google. Gebru \u00e9 uma das fundadoras da confer\u00eancia e atuou como membro do primeiro comit\u00ea executivo da FAccT. O Google patrocinava o evento desde que foi lan\u00e7ado, em 2018. <\/p>\n\n\n\n Michael Ekstrand, copresidente da ACM FAccT Network, confirmou ao CNN Business<\/strong> que o patroc\u00ednio foi interrompido \u201cno melhor interesse da comunidade\u201d e que o grupo \u201crevisitar\u00e1\u201d sua pol\u00edtica de patroc\u00ednio para 2022. Ekstrand disse que Gebru n\u00e3o estava envolvida na decis\u00e3o.<\/p>\n\n\n\n Tamb\u00e9m em mar\u00e7o, dois acad\u00eamicos protestaram contra as a\u00e7\u00f5es do Google, tuitando que decidiram n\u00e3o participar de um evento online de pesquisa em rob\u00f3tica somente para convidados. Um deles foi Hadas Kress-Gazit, professora de rob\u00f3tica da Cornell. Ela disse que foi convidada em janeiro, mas foi ficando mais reticente \u00e0 medida que o evento se aproximava.<\/p>\n\n\n\n \u201cA maneira como [Gebru e Mitchell] foram tratadas foi um fiasco. Ningu\u00e9m se desculpou com elas ainda\u201d, disse a professora. \u201cN\u00e3o quero interagir com empresas que se comportam dessa forma em rela\u00e7\u00e3o aos pesquisadores de ponta\u201d.<\/p>\n\n\n\n O Google est\u00e1 ciente de que sua reputa\u00e7\u00e3o como institui\u00e7\u00e3o de pesquisa foi prejudicada nos \u00faltimos meses e afirmou que pretende consert\u00e1-la. Em uma recente sabatina, a empresa descreveu as mudan\u00e7as que est\u00e1 fazendo em suas pesquisas internas e pr\u00e1ticas de publica\u00e7\u00e3o acad\u00eamica.<\/p>\n\n\n\n \u201cAcho que a maneira de reconquistar a confian\u00e7a \u00e9 continuar a publicar trabalhos de ponta em muitas, muitas \u00e1reas, incluindo ultrapassar os limites em t\u00f3picos relacionados \u00e0 IA respons\u00e1vel. Publicar coisas que s\u00e3o profundamente interessantes para a comunidade de pesquisa \u00e9 uma das melhores maneiras de continuar a ser um l\u00edder no campo de pesquisa\u201d, disse Jeff Dean, chefe de IA do Google. Ele estava respondendo \u00e0 pergunta de um funcion\u00e1rio a respeito de pesquisadores externos, dizendo que ler\u00e3o artigos do Google \u201ccom mais ceticismo agora\u201d.<\/p>\n\n\n\n Gebru espera que, como o FAccT, mais confer\u00eancias reavaliem suas rela\u00e7\u00f5es com os laborat\u00f3rios de pesquisa das empresas de tecnologia. Historicamente, muito do trabalho de desenvolvimento e estudo da IA foi realizado em ambientes acad\u00eamicos. Mas, \u00e0 medida que as empresas descobrem cada vez mais usos comerciais para a tecnologia, as linhas entre os mundos acad\u00eamico e corporativo se confundem.<\/p>\n\n\n\n O Google \u00e9 apenas uma das muitas empresas de tecnologia que exerce grande influ\u00eancia em confer\u00eancias acad\u00eamicas que publicam trabalhos de pesquisadores. Seus funcion\u00e1rios participam de pain\u00e9is de confer\u00eancias e a empresa patrocina in\u00fameras confer\u00eancias todos os anos, investindo dezenas de milhares de d\u00f3lares.<\/p>\n\n\n\n O Google e algumas subsidi\u00e1rias de sua empresa controladora, a Alphabet, foram listados como patrocinadores do n\u00edvel \u201cplatina\u201d (US$ 20 mil, ou cerca de R$ 113 mil) e \u201couro\u201d (US$ 10 mil, cerca de R$ 56 mil) na Confer\u00eancia Internacional sobre Aprendizado de M\u00e1quina, ou ICML, e na Confer\u00eancia sobre Sistemas de Processamento de Informa\u00e7\u00e3o Neural, ou NeurIPS, em 2020, as principais confer\u00eancias de IA. Al\u00e9m disso, alguns funcion\u00e1rios da empresa participam de seus comit\u00eas organizadores.<\/p>\n\n\n\n O presidente do ICML, John Langford, disse que a confer\u00eancia est\u00e1 \u201catualmente aberta ao patroc\u00ednio\u201d do Google para sua confer\u00eancia de 2021, marcada para julho.<\/p>\n\n\n\n \u201cH\u00e1 muita discuss\u00e3o em andamento sobre como o ICML deve encorajar uma boa cultura e pr\u00e1ticas de aprendizado de m\u00e1quina com futuras pol\u00edticas de patroc\u00ednio”, acrescentou.<\/p>\n\n\n\n A diretora executiva do NeurIPS, Mary Ellen Perry, disse que a confer\u00eancia ainda n\u00e3o fez sua convoca\u00e7\u00e3o anual para patroc\u00ednios, mas que os pedidos \u201cser\u00e3o avaliados de acordo com um conjunto de diretrizes de sele\u00e7\u00e3o estabelecidas pelos presidentes de patroc\u00ednio deste ano\u201d. O NeurIPS est\u00e1 programado para dezembro.<\/p>\n\n\n\n Para Stark e outros na comunidade de pesquisa acad\u00eamica, no entanto, seus crit\u00e9rios para aceitar fundos do Google j\u00e1 mudaram.<\/p>\n\n\n\n \u201cDinheiro extra para pesquisa seria \u00f3timo\u201d, disse Stark. \u201cMas isso era algo que eu sentia que simplesmente n\u00e3o podia suportar\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":" Professor assistente da Western University em Ont\u00e1rio, Canad\u00e1, Stark estuda os impactos sociais e \u00e9ticos da intelig\u00eancia artificial (IA) Por Rachel Metz, CNN Business26 de mar\u00e7o de 2021 \u00e0s 05:00\u00a0| Atualizado 26 de mar\u00e7o de 2021 \u00e0s 08:11 Luke Stark recusou uma bolsa de pesquisa de US$ 60 mil do […]<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_publicize_message":"","jetpack_is_tweetstorm":false,"jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","enabled":false}}},"categories":[1],"tags":[],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/posts\/6059"}],"collection":[{"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/comments?post=6059"}],"version-history":[{"count":2,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/posts\/6059\/revisions"}],"predecessor-version":[{"id":6061,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/posts\/6059\/revisions\/6061"}],"wp:attachment":[{"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/media?parent=6059"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/categories?post=6059"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alvopesquisa.com.br\/blog\/wp-json\/wp\/v2\/tags?post=6059"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Solidariedade<\/h2>\n\n\n\n
\u201cUm fiasco\u201d<\/h2>\n\n\n\n
Expans\u00e3o dos limites da IA<\/h2>\n\n\n\n