Pesquisa analisou artigos sobre Inteligência Artificial e concluiu que computação está enfrentando questões éticas sem se comunicar com as ciências sociais
Pesquisadores de inteligência artificial estão empregando algoritmos de aprendizagem de máquina para auxiliar tarefas tão diversas quanto dirigir carros, diagnosticar problemas médicos e selecionar candidatos a emprego. Essas aplicações levantam uma série de questões sociais e éticas novas e complexas.
Assim, à luz desses desenvolvimentos, que pensamentos diferentes os cientistas sociais devem ter sobre as pessoas, a economia e a sociedade? Como os engenheiros que criam esses algoritmos devem lidar com os dilemas éticos e sociais que suas criações representam?
“Esses são os tipos de perguntas que você não pode responder apenas com as soluções técnicas”, diz Dashun Wang, professor associado de administração e organizações da Kellogg. “Elas são questões fundamentalmente interdisciplinares”.
Na verdade, os economistas que buscam prever de que forma a automação terá impacto no mercado de trabalho precisam entender quais habilidades são mais ideais para as máquinas desempenharem
Ao mesmo tempo, os engenheiros que desenvolvem software para diagnosticar tumores podem querer saber o que os filósofos têm a dizer sobre os dilemas morais que sua tecnologia apresenta. Programadores e psicólogos precisarão trabalhar juntos para garantir que os algoritmos de software de recrutamento não amplifiquem os vieses humanos.
Alguns pesquisadores conseguiram atravessar as barreiras departamentais. Por exemplo, um inovador realizado no ano passado explorou como milhões de pessoas em todo o mundo tomariam as decisões difíceis que os veículos autônomos enfrentam (por exemplo, diante da escolha entre matar um pedestre ou um passageiro, qual vida eles prefeririam?). Os pesquisadores pretendem usar esse trabalho para garantir que as novas tecnologias reflitam valores universais.
No entanto, um novo artigo de Wang e colaboradores conclui que o vínculo entre a IA e as ciências sociais (e outros campos) enfraqueceu ao longo do tempo.
Os pesquisadores analisaram várias décadas de trabalhos publicados no campo da IA, assim como nas ciências sociais, humanidades, ciências naturais, engenharia e medicina. Eles descobriram que, cada vez mais, os cientistas da computação estão enfrentando questões sociais por conta própria, sem depender profundamente de insights dos acadêmicos que as estudam. Ao mesmo tempo, acadêmicos de ciências sociais, físicas e humanas também parecem estar perdendo contato com os rápidos avanços da IA.
Juntos, os resultados demonstram uma necessidade renovada de os pesquisadores colaborarem entre as disciplinas, diz Wang.
“Justo agora que a IA está se tornando cada vez mais relevante no mundo todo, ela está se tornando cada vez mais isolada”, diz Wang. “Nós realmente precisamos fechar essa lacuna”.
Inteligência artificial na sociedade levanta novas questões
Há séculos, as pessoas vêm lutando contra as consequências sociais e filosóficas da tecnologia, assinala Wang. Tomemos, por exemplo, o livro Frankenstein de 1823. “A IA nasceu desse tipo de fascínio”, diz ele. “Tinha raízes muito profundas nas ciências sociais”.
Mais recentemente, pesquisadores de IA começaram a enfrentar os dilemas da vida real que a tecnologia apresenta.
Considere, por exemplo, quando a Amazon tentou desenvolver ferramentas de aprendizagem de máquina para classificar os candidatos a emprego. Como o software usava dados de candidatos anteriores para prever quais pessoas seriam as mais adequadas para a empresa, surgiu um problema evidente: como muitos dos candidatos anteriores eram homens, o programa penalizou os candidatos cujos currículos continham a palavra “mulheres” ou mencionavam algumas faculdades exclusivamente para mulheres como sua base de formação acadêmica.
Onde quer que o viés já exista, a IA “apenas ampliará esse viés”, diz Wang. (O programa da Amazon foi descontinuado.)
Wang queria saber com que frequência os pesquisadores de IA estavam envolvidos com disciplinas como psicologia, filosofia, economia e ciência política, o que poderia ajudá-los a lidar com essas inevitáveis questões éticas e sociais. Uma medida desse envolvimento é se os pesquisadores de IA estão citando outras disciplinas em seus trabalhos acadêmicos. Para investigar, Wang colaborou com Morgan Frank, Manuel Cebrian e Iyad Rahwan do Instituto de Tecnologia de Massachusetts (MIT).
A equipe aproveitou um conjunto de dados recém disponibilizado do Microsoft Academic Graph (MAG), que indexa artigos acadêmicos. Os dados incluíram citações de periódicos tradicionais, bem como anais de conferências, um local importante para descobertas de IA. Foram capturadas as relações das citações entre artigos, ou seja, sempre que um estudo fazia referência a outro.
A panelinha de IA
Wang e seus colaboradores examinaram os dados do MAG de 1950 a 2018. Eles descobriram que o número de publicações sobre IA e subcampos relacionados (como visão computacional e processamento de linguagem natural) aumentou exponencialmente durante esse período, de centenas para dezenas de milhares de trabalhos por ano. Esses campos agora dominam a pesquisa em ciência da computação.
Para quantificar as interações entre IA e outras disciplinas, a equipe desenvolveu uma medida que capturou a frequência com que os trabalhos em uma área citam uma outra área, controlando o número total de trabalhos publicados na segunda área.
Primeiro, a equipe analisou como os artigos da IA citaram outras áreas acadêmicas. Eles descobriram que, na década de 1960, os pesquisadores de IA citaram artigos de psicologia com uma frequência acima de cinco vezes mais do que se esperaria se tivessem escolhido trabalhos para citar aleatoriamente de um conjunto. Hoje, no entanto, eles citam artigos de psicologia com uma frequência de menos da metade disso.
Da mesma forma, ocorreram quedas dramáticas nas citações de filosofia, economia e arte. Não é de se surpreender que os documentos da IA de hoje citam ciência da computação e matemática muito mais vezes.
Em seguida, os pesquisadores consideraram o problema inverso: Quantas vezes outras disciplinas citaram artigos de IA, enquanto controlava o crescente número de publicações de IA a cada ano? Aqui, eles descobriram que áreas como psicologia, filosofia, negócios, ciência política, sociologia e economia tornaram-se menos propensas a usar as pesquisas de IA. Por exemplo, os psicólogos nos anos 60 citavam artigos da IA cerca de quatro vezes mais do que seria esperado se fosse ao acaso. Hoje, no entanto, eles citam a IA com menos frequência do que se escolhessem artigos para citar de forma totalmente aleatória.
Conclusão geral: “A IA se tornou cada vez mais clichê”, diz Wang.
Uma possível explicação é que simplesmente ficou mais difícil para os cientistas sociais acompanharem os rápidos avanços nas pesquisas cada vez mais complexas de IA.
Além disso, a onda de interesse pela IA poderia, paradoxalmente, ajudar a explicar seu isolamento. Alguns congressos de IA são tão requisitados que os cientistas sociais podem ter dificuldades em participar, segundo o coautor de Wang, Morgan Frank. Em uma postagem no blog, Frank observou que um encontro popular “esgotou as vagas de inscrição em menos de 15 minutos, dificultando a participação de pesquisadores ativos em IA, e muito menos de cientistas interessados de outras áreas”.
Quem está fazendo pesquisa em IA?
Outro fator é a mudança em quem domina a pesquisa de IA hoje.
Os pesquisadores examinaram quais instituições estavam publicando os artigos mais “centrais” de IA, aqueles citados mais frequentemente por outros artigos altamente citados.
Enquanto universidades como a MIT, Stanford e Carnegie Mellon figuravam como centros de pesquisa de IA por excelência, os pesquisadores descobriram que hoje esses trabalhos tendem cada vez mais a sair de empresas privadas como Google e Microsoft.
O fato dessas empresas estarem cada vez mais se envolvendo com IA é que elas contam com recursos para adquirir infraestrutura cara. “Não é um esporte barato”, diz Wang. “É preciso ter toda uma enorme quantidade de unidades de processamento gráfico, poder computacional e armazenamento”.
Isso pode ajudar a explicar a crescente desconexão entre a IA e as ciências sociais. Em seu estudo, Wang e colaboradores descobriram que os pesquisadores em sociologia, filosofia, ciência política, negócios e economia são menos propensos a citar publicações produzidas por empresas do que as da academia. Como tal, a concentração da pesquisa em IA no setor privado poderia estar contribuindo para o enfraquecimento do relacionamento com as ciências sociais.
E, assim que conseguem uma vantagem inicial, é mais provável que as grandes empresas continuem produzindo uma parcela desproporcional da pesquisa em um fenômeno de “rico ficando cada vez mais rico”, diz Wang. As equipes do setor desenvolvem sistemas melhores, atraem mais usuários e geram mais dados, que podem ser usados para treinar seus sistemas para se tornarem ainda mais precisos. “É um mecanismo de auto reforço”.
Preenchendo a divisão de IA
Apesar do rápido crescimento da IA, Wang teme que a nova tecnologia fique aquém do seu potencial máximo se não incorporar melhor os insights das ciências sociais e de outras áreas.
Para preencher esta lacuna, Wang recomenda que as universidades incentivem mais colaborações entre a IA e outros departamentos. Por exemplo, a Northwestern University iniciou um programa chamado CS+X, que conecta cientistas da computação a pesquisadores em áreas como medicina, jornalismo, direito e economia.
Algumas pesquisas existentes sugerem como os desenvolvedores de IA podem efetivamente integrar descobertas de outros campos. Por exemplo, o estudo explora como os carros autônomos podem refletir melhor a moralidade humana (coautoria do colaborador de Wang, Iyad Rahwan, um acadêmico de IA) baseado em pesquisas de psicologia, filosofia moral, economia e até mesmo ficção científica.
No entanto, permanece o fato de que tais bibliografias abrangentes são relativamente raras.
Assim como os cientistas da computação precisam consultar especialistas de fora de sua disciplina, diz Wang, os cientistas sociais não podem mais ignorar os desenvolvimentos em IA. À medida que as máquinas reformulam o modo como trabalhamos, pensamos e tomamos decisões, ele argumenta, está se tornando mais crucial do que nunca que economistas, filósofos e psicólogos estejam a par dos mais recentes desenvolvimentos da ciência da computação e vice-versa.
“É uma via de mão dupla”, diz Wang. “A IA precisa prestar mais atenção às ciências sociais. Os cientistas sociais precisam prestar mais atenção à IA”.
Texto publicado originalmente no site Kellogg Insight, da Kellog School of Management