Os cientistas de dados aspirantes, na verdade, se importam com a ética. (Pixabay)
Por Jack Jenkins
Quando Shion Guha, professor da Universidade Marquette, nos Estados Unidos, começou a planejar uma aula no outono passado, focada em inteligência artificial e ética, ele supôs que atrairia apenas uns poucos alunos e que seria um seminário íntimo e pequeno.
Em vez disso, os alunos lotaram a sala de aula, forçando Guha a criar uma lista de espera.
"Realmente não esperava esse tipo de resposta dos estudantes", disse Guha, diretor do programa de pós-graduação em ciência de dados da faculdade católica.
Os cientistas de dados aspirantes, na verdade, se importam com a ética.
E, o mais interessante, eles não são os únicos.
Os estudantes da Marquette fazem parte de um movimento crescente de profissionais do setor de tecnologia, líderes religiosos e trabalhadores do Vale do Silício refletindo e lutando com questões profundas sobre se as futuras tecnologias serão usadas para o bem ou para o mal.
Guha diz que seus alunos queriam aprender como aplicar o que aprenderam nas aulas de ética - parte obrigatória do currículo de graduação de Marquette - em seus cursos de ciência da computação e de dados. Uma discussão sobre ética é uma abordagem católica para a educação, e Guha diz que a classe utiliza o ensinamento da igreja sobre ética.
"A Igreja Católica tem sido realmente um instrumento útil no desenvolvimento de alguns dos cânones ocidentais do que é a pesquisa ética", disse ele.
Enquanto isso, líderes católicos aparecem cada vez mais investindo na atualização desses cânones.
Em fevereiro, autoridades da Pontifícia Academia para a Vida e da Microsoft anunciaram planos de colaborar em um prêmio internacional de $ 6.900 dólares para homenagear um estudante de doutorado que defenda uma dissertação focada na interseção entre ética e inteligência artificial.
O presidente da Microsoft, Brad Smith, discutiu a iniciativa durante uma reunião privada com o papa Francisco e o arcebispo Vincenzo Paglia no mesmo mês. De acordo com Fabrizio Mastrofini, Gerente da Pontifícia Academia para a Vida, o trio "concordou com a importância de educar as gerações mais jovens sobre o uso responsável das tecnologias".
Mastrofini também observou que a parceria surgiu depois que o papa Francisco pediu à academia que estudasse o tema da ética e da inteligência artificial.
"As tecnologias estão avançando, mas não são neutras", disse ele ao Religion News Service por e-mail. "A Igreja, especialista em humanidade, pode mostrar o caminho para um desenvolvimento que torna o mundo mais humano e justo".
Funcionários da Microsoft se recusaram a comentar sobre a reunião.
A conversa entre o papa e Smith é uma das várias tentativas recentes de grupos religiosos de entrar no debate sobre a possibilidade de um curso sobre a ética da inteligência artificial no Vale do Silício.
Não muito tempo depois que a Microsoft anunciou sua parceria com o Vaticano, Francisco abordou a questão diretamente durante um discurso em uma reunião plenária da Academia Pontifícia para a Vida. O pontífice observou que já havia falado com a seriedade da inteligência artificial durante seu discurso de janeiro de 2018 ao Fórum Econômico Mundial em Davos, na Suíça, mas aumentaram os perigos potenciais do uso indevido de tecnologia.
"Deve-se notar que a definição e desenvolvimento da 'inteligência artificial', embora certamente eficaz, pode correr o risco de ser enganosa", disse Francisco à Academia Pontifícia. "Os termos escondem o fato de que, apesar do útil cumprimento das tarefas servis (este é o significado original do termo 'robô'), os automatismos funcionais permanecem qualitativamente distantes das prerrogativas humanas de conhecimento e ação. E, portanto, eles podem se tornar socialmente perigosos".
As preocupações do papa foram ecoadas por um grupo de líderes batistas e evangélicos do sul dos EUA, que divulgou uma declaração intitulada "Inteligência Artificial: Uma Declaração Evangélica de Princípios" no mês passado.
"Os cristãos não devem temer o futuro ou qualquer desenvolvimento tecnológico porque sabemos que Deus é, acima de tudo, soberano sobre a história, e que nada jamais suplantará a imagem de Deus na qual os seres humanos são criados", diz uma seção da declaração. "Nós reconhecemos que a IA nos permitirá alcançar possibilidades sem precedentes, enquanto reconhecemos os riscos potenciais apresentados pela IA, se usados sem sabedoria e cuidado".
Outras instituições religiosas americanas entraram no debate sobre tecnologia e a ética. Líderes da Universidade Santa Clara - uma escola católica na Califórnia - disseram à RNS em 2018 que os acadêmicos do Centro Markkula de Ética Aplicada da faculdade estão cada vez mais envolvidos no que eles chamam de "conversas de ética" nas empresas de tecnologia do Vale do Silício.
Mas os cristãos não são os únicos discutindo sobre ética e tecnologia.
Guha disse que as implicações globais da IA forçaram sua classe a utilizar outras estruturas éticas religiosas, assim como outras não-religiosas.
"A IA não está restrita apenas ao Ocidente, mas é implementada em todo o mundo", disse ele. "Nós estaríamos realmente nos influenciando se nos focássemos apenas em um tipo particular de estrutura ética".
Guha disse que, ao olhar para as várias aplicações da IA e da ciência de dados, os estudantes analisaram tudo, desde o utilitarismo ocidental - que ações deveriam ter algum tipo de utilidade para si ou para a sociedade – até a “virtude ética” - que algumas coisas valem a pena simplesmente porque são aceitas desde o ponto de vista moral ou porque são corretas.
Ao longo de vários meses, sua turma continuou voltando e refletindo sobre temas familiares.
"Nossos estudantes chegaram a um consenso geral de que o status quo só funciona bem para certos grupos de pessoas", disse ele. "Mas não funciona bem para outros grupos que podem realmente ver as consequências imprevistas desses algoritmos".
Guha apontou algoritmos usados por empresas do Vale do Silício que podem levar a contratar mais homens do que mulheres, ou como os resultados da pesquisa de imagens do Google para "professor" produzem principalmente imagens de homens brancos mais velhos.
"A IA pode ter consequências imprevisíveis que não estamos atualmente considerando", disse ele. Ele observou que professores de outras escolas começaram a falar com ele sobre a possibilidade de replicar uma turma similar em suas próprias universidades e que frequentemente compartilham notas e leituras sobre o tema.
Enquanto isso, de volta ao Vaticano, Mastrofini, da Pontifícia Academia para a Vida, disse que o grupo está buscando ativamente futuras parcerias com outros gigantes da tecnologia, mas que "é muito cedo para falar sobre isso".
"Estas são algumas das novas fronteiras da nossa humanidade", disse ele.
National Catholic Reporter / Tradução: Ramón Lara
Nenhum comentário:
Postar um comentário