Cristina Godoy Bernardo de Oliveira (Prof. Dra. da FDRP/USP),
Evandro Eduardo Seron Ruiz (Prof. Dr. da FFCLRP/USP) e
Isadora Maria Roseiro Ruiz (Pesquisadora IEA-USP)
Pesquisa vinculada ao Instituto de Estudos Avançados da USP (IEA-USP)
Se preferir, veja um vídeo explicativo sobre nossa pesquisa. Clique aqui.
Súmula do projeto
Quem somos
Somos uma equipe de pesquisadores do IEA-USP cujo objetivo neste trabalho é estudar as preocupações éticas relativas à aplicação de Inteligência Artificial (IA) no âmbito das fintech financeiras.
Motivação
Atualmente existem mais de 79 recomendações sobre a aplicação de ética e IA por organizações internacionais e privadas. O congresso nacional já discute, em regime de urgência, a Estratégia Brasileira de IA (EBIA).
E a minha empresa?
Atualmente os conhecimentos sobre negócios e clientes são conhecimentos provenientes de tratamento de dados. É o que chamamos de conhecimento orientado a dados que substitui o conhecimento do especialista. Certamente esse conhecimento é advindo de métodos de Aprendizado de Máquina que é uma sub-área de IA.
Se a sua empresa ainda não usa IA, ou Aprendizado de Máquina, certamente irá usar estas tecnologias no futuro bem próximo.
Como participar:
Participe de nossa pesquisa e nós dividiremos com vocês os resultados de nossos estudos. Não espere para obedecer estratégias e normativas que você não discutiu. Participe ativamente da elaboração de uma crítica construtiva sobre aplicações de IA nas fintech nacionais.
Para mais detalhes, continue lendo o texto abaixo.
Introdução
Tratamento enviesado, uso irregular e falta de transparência. Essas são algumas alegações de eventuais quebras de regras éticas impostas aos sistemas computacionais que usam Inteligência Artificial (IA). Em estudo de 2019 mencionado por Luciano Floridi, foram elaboradas, em dois anos, mais de 70 recomendações sobre a aplicação de ética e IA por organizações internacionais e privadas. Atualmente, mesmo no cenário brasileiro, observa-se a preocupação com as aplicações de IA que possam fixar discriminações sociais, culturais e políticas.
Diante do exposto, a nossa pesquisa buscará compreender o panorama geral no Brasil concernente às preocupações éticas relativas à aplicação de IA no âmbito das fintech financeiras.
Como se sabe, já é realidade o emprego de técnicas e algoritmos de IA para a avaliação de risco para concessão de crédito por fintech financeiras, logo, é necessário compreender se existem princípios e valores éticos que norteiam os resultados obtidos por meio do uso de IA.
Estado Atual
Podemos exemplificar o estado atual de algumas fintechs citando o relatório da PwC de 2019, 45 milhões de brasileiros estão excluídos do sistema bancário, sendo que R$817 bilhões são movimentados por ano por estes indivíduos “desbancarizados”. Assim, este é o cenário que garante o aumento crescente de surgimento de fintechs voltadas à concessão de empréstimos para pessoas físicas e jurídicas.
Atualmente, existem cerca de 800 fintech no Brasil, sendo que 15% são fintech de empréstimo, ou seja, trata-se da terceira maior modalidade de fintech.
Diante do exposto, é preciso analisar se há a existência ou não de preocupação quanto à aplicação de princípios e valores éticos para a aplicação de IA para podermos compreender o grau de preocupação com este segmento de fintech que é importante para o empreendedorismo no Brasil, principalmente, em período de pandemia.
Objetivos
O objetivo geral é identificar o cenário atual concernente à preocupação com questões éticas para o emprego de IA em fintech de investimento no Brasil.
Os objetivos específicos são:
- Se há movimentação para o desenvolvimento de uma IA de confiança por estas fintech. Será analisado o marco temporal de início desta postura voltada a questões éticas;
- Buscar por padrões de comportamento das fintech de empréstimo em relação a preocupações éticas no uso de IA para concessão de empréstimos;
- Investigar o uso de IA na definição de perfis dos clientes;
- Analisar a proteção de dados pessoais (nestas fintech) nas situações de dados inferidos decorrentes do emprego de IA.
Resultados Esperados
Espera-se obter respostas de fintech que concedem empréstimo para podermos analisar o cenário brasileiro quanto à preocupação referente à ética na aplicação de IA. Além disso, visa-se à identificação de uma mudança de conduta nos últimos dois anos quanto à ética nestas fintech.
Como o Brasil possui uma recente Estratégia Brasileira de IA (EBIA), que destaca como uma importante vertente a ética em aplicações de inteligência artificial, acredita-se que as fintech, quando possuírem códigos de ética, seguirão as recomendações nacionais e internacionais, como da União Europeia.
Modo de divulgação
Esperamos produzir um conjunto de dados aferidos estatisticamente para a publicação dos resultados em periódico de divulgação internacional. Todas as respostas serão tratadas de modo a preservar a privacidade e a proteção dos dados de cada empresa. Em nenhuma hipótese, serão divulgados dados que possam revelar a identidade de uma fintech específica. Não haverá ranqueamento de empresas.
Deveremos publicar resultados que mostram um direcionamento do parque de fintechs rumo às eventuais novas diretrizes para aplicação de preceitos de ética no uso dos algoritmos que envolvam IA. O propósito do artigo é elevar o nível de comprometimento das empresas nacionais com as novas regulamentações internacionais e mostrar caminhos que coloquem essas empresas em situação de competitividade internacional quanto ao respeito e compliance a padrões éticos atuais.
O questionário
O questionário pode ser respondido por meio de um Google Forms usando este link
 |
 |
 |