Um sistema de Inteligência Artificial pode conter um ou mais componentes de Aprendizado de Máquina (Machine Learning) capazes de aprender relações entre dados de exemplo, ou dados de entrada, e dados de saída, ou objetivo desejado. Por exemplo, um sistema de aprendizado de máquina para reconhecimento de imagens é capaz de identificar imagens de humanos e diferenciá-las de outros animais se esse sistema for adequadamente treinado para isso.
Mesmo correndo risco de aplicar um lugar-comum, pode-se dizer com confiança que a IA tem potencial para “mudar o mundo”, e já está fazendo isso em muitos aspectos corriqueiros, como por exemplo nos aplicativos que aplicam filtros a fotos no seu celular. A lista de aplicações que se tornarão mais comuns num futuro próximo é grande e cresce a cada dia: atendimento eletrônico (chatbots), processamento de imagens para diagnósticos, previsão de clima e tráfego, avaliação de riscos, carros auto guiados, entre outras. Graças ao poder de computação crescente e com custo mais acessível, às bibliotecas de código aberto e à disponibilidade de enormes volumes de dados coletados no mundo todo, é fácil ver que a adoção de IA no dia-a-dia ocorrerá rapidamente e em larga escala. Uma pergunta que devemos fazer, entre tantas outras, é: temos confiança de que as decisões tomadas por máquinas através da aplicação de IA serão suficientemente justas e não enviesadas a ponto de garantir um tratamento ético a todos os seres humanos?
Antes de definir mais claramente o conceito de ética, vamos trabalhar com alguns exemplos para ilustrar o conceito de viés e como esse conceito pode se fazer notar, explícita ou implicitamente, num sistema de IA. Há algumas décadas, alguns estudos científicos publicados, se interpretados desatentamente, levavam à seguinte falsa conclusão: “Se uma pessoa fuma, sua probabilidade de morrer nos próximos anos é baixa, logo, fumar não é prejudicial”. Isso ocorria pela presença de uma variável de “confusão” na base de dados – idade dos fumantes – que naquele estudo era significativamente mais baixa para os fumantes do que para os não-fumantes. Logo, sem observar a variável idade, podia-se incorretamente chegar à conclusão de que fumar reduz a chance de morrer. Esse é um exemplo simples de correlação espúria que um sistema de IA poderia, potencialmente e sem supervisão humana, usar erroneamente como generalização: “fume que você viverá mais”.
Outro exemplo vem do acesso ao crédito que, em alguns países, é garantido a todo cidadão e regulamentado por força de lei. Para que um credor possa negar um crédito, ele deve explicar ao cidadão o motivo desta negação e deve garantir que os sistemas automáticos de análise, muitos deles baseados em IA, não façam uso de nenhum tipo de discriminação, por exemplo, por classe social. Para evitar o uso direto da renda ou classe social nos sistemas de análise, alguns credores começaram a utilizar variáveis alternativas, como: modelo de aparelho celular ou marca e modelo do carro de propriedade do consumidor. Claramente, o emprego dessas variáveis leva os sistemas de IA ao uso implícito de classe social no momento de avaliação de um crédito, já que uma pessoa de mais alta renda consumirá celulares e carros mais caros.
A definição de ética é complexa e dependente dos valores de uma sociedade. Uma definição frequentemente encontrada é algo como: “Ética é um conjunto de princípios morais que governam o comportamento de uma pessoa ou a condução de uma atividade”. O tema pode se complicar bastante se adentrarmos pela análise do campo da filosofia que se dedica ao estudo da ética. De modo geral, e para não complicar demasiadamente o tema, vamos dizer que a ética se preocupa com o que é “bom” para os indivíduos e a sociedade.
Os conceitos de viés e variáveis de “confusão” apresentados anteriormente, assim como a capacidade de explicar as decisões tomadas pelas máquinas, são aliados fundamentais para a construção de sistemas de IA cuja aplicação prática consiga passar em um teste de definição de ética. Pode-se analisar a aplicação do conceito de ética a um sistema de IA sob vários aspectos, entre eles:
Viés, justiça e igualdade de oportunidade
Transparência e Capacidade de Interpretação
Segurança
Uso Legal ou Ilegal
Privacidade
Vários destes aspectos estão interligados e podem ser programados dentro de um sistema como, por exemplo, o respeito aos limites da lei no uso de informações permitidas e o uso para a tomada de decisões também em acordo com a legislação aplicável. O aspecto da segurança também termina por entrelaçar-se com a questão da privacidade e uso legal. Um caso clássico são os sistemas de detecção de fraude em meios de pagamento: se por um lado o sistema atua protegendo o detentor do cartão, por outro, se este sistema não estiver bem calibrado, poderia prejudicá-lo negando uma transação de cartão muito importante, como num hospital por exemplo.
Já os aspectos relacionados ao Viés, Transparência e Capacidade de Interpretação também estão intrinsicamente conectados. Como nos exemplos mostrados anteriormente, é fundamental poder interpretar o que o sistema de IA faz em certas decisões, o que equivale a abrir a “caixa negra” e desvelar o emaranhado de variáveis e pesos atribuídos a essas variáveis para tomadas de decisão. Muitos sistemas de IA terminam por gerar internamente o que tecnicamente é chamado de variável latente, que nada mais é que uma combinação dos dados de entrada, cuja interpretação é fundamental para gerar uma explicação razoável sobre a decisão tomada. Felizmente existe uma boa quantidade de códigos abertos no campo de IA Explicável e que podem ajudar nessa capacidade de explicação.
Um exemplo recente ilustra bem o perigo da utilização indiscriminada de algoritmos de Aprendizado de Máquina sem uma supervisão ou controle de seus aspectos éticos. A pandemia da COVID-19 está gerando uma sobrecarga sobre o sistema de saúde de muitos países, e é muito provável que isso ocorra no Brasil também. Os sistemas de IA podem ser muito úteis para ajudar os governos em vários aspectos de seu planejamento do sistema de saúde: na previsão de demanda (casos da doença que demandam internação) ou na alocação de recursos (pessoas e equipamentos na hora certa e no lugar certo), isso sem contar usos mais avançados, e que já estão ocorrendo, relacionados ao desenvolvimento de remédios e vacinas.
Outra decisão crítica que algumas autoridades de saúde estão tendo que tomar se refere à priorização do uso de leitos de UTI. Esta priorização deve estar relacionada à probabilidade de recuperação de um indivíduo, ou seja, entre dois pacientes que concorrem por um mesmo leito a prioridade deve ser dada àquele com maior probabilidade de sobrevivência. O dilema ético aqui é claro, porém, além disso existe a dificuldade prática de como calcular essa probabilidade de sobrevivência. É possível garantir a justiça e igualdade de oportunidades nas decisões desse tipo? Um sistema de IA construído com esse objetivo seria capaz de garantir este princípio?
Um desenvolvimento recente traz ainda mais polêmica para esse assunto. Uma análise dos contágios e mortes por COVID-19 nos Estados Unidos mostram que a população negra aparentemente é mais atingida pela doença. Dados da região de Chicago indicam que, apesar dos negros representarem 30% da população, sua participação nas infecções é de 50% e nas mortes chega a 70%. Existem várias possíveis explicações para este fenômeno: a maior participação de negros nas profissões consideradas essenciais, a menor proporção de negros com acesso a seguro de saúde, mas também o fato de uma maior proporção de negros sofrerem de doenças consideradas fatores de risco, como diabetes, obesidade, hipertensão e asma. Um sistema de IA teria que considerar todos os dados disponíveis e garantir que o fator raça não seja erroneamente considerado no cálculo de uma probabilidade de sobrevivência.
O campo da ética aplicada a IA ainda está em desenvolvimento. Muitos avanços foram feitos para evitar o erro do viés e fornecer uma capacidade de explicação razoável para os algoritmos de Aprendizado de Máquina, analisando e isolando as chamadas variáveis latentes. Porém, é importante que a velocidade do desenvolvimento de algoritmos ajustados a princípios éticos esteja alinhada à própria velocidade de avanço da IA e sua regulamentação de uso. Esse é um grande desafio, pois normalmente os avanços tecnológicos acontecem mais rápido do que a resposta das sociedades em forma de legislação. Por isso, de momento cabe aos desenvolvedores de sistemas de IA que estejam atentos à aplicação de princípios éticos no desenvolvimento de suas aplicações.
Por Daniel Arraes, Diretor de Desenvolvimento de Negócios da FICO para a América Latina
