A tomada de decisão com base em dados tem se beneficiado enormemente da automação, dos algoritmos e da IA – inteligência artificial. Os processos se tornam mais assertivos, mais justos, mais produtivos quando trabalhamos com indicadores fornecidos por números exatos, em vez de nos apoiarmos em hipóteses subjetivas.

  No entanto, os sistemas computacionais não surgem do nada, por um truque de mágica. São pensados e construídos por seres humanos, que carregam em suas mentes as suas histórias de vida, as suas crenças, e que estão a serviço de organizações que têm determinados interesses e objetivos.

  Assim, os dados utilizados para elaborar algoritmos e desenvolver modelos de inteligência artificial, por sua própria natureza, carregam um viés. E, como as máquinas aprendem aquilo que lhes é ensinado, elas acabam por refletir os padrões de pensamento daqueles que as programam, reproduzindo seus vieses. É fundamental, portanto, reconhecer quando sistemas tomam decisões automáticas com vieses que geram resultados de forma incorreta, ou injusta, ou racista, ou sexista ou classista.

  Se pensarmos em um sistema de reconhecimento facial, por exemplo, é preciso considerar que, em geral, os desenvolvedores de software para aprendizado de máquina são homens, brancos. Esse padrão tornou-se a referência visual. Para minimizar os impactos dos vieses, pesquisadores da Universidade de Princeton desenvolveram uma ferramenta chamada Revealing Visual Biases (Revise, ou, revelando vieses visuais), que analisa datasets de imagens para identificar potenciais vieses.

  Disponível em formato open-source, o Revise tem como foco três tipos de vieses: objeto, gênero e geografia. Junto com as imagens, a ferramenta considera anotações e medidas como a contagem de objetos, a presença conjunta de pessoas e objetos, e a origem geográfica das imagens, revelando os padrões que destoem das distribuições medianas esperadas em datasets não enviesados.

  Nos EUA, um debate atual questiona o poder dos algoritmos sobre as leis que defendem o direito à habitação justa. Acontece que os proprietários de imóveis se utilizam cada vez mais dos serviços automatizados de triagem para eliminar locatários indesejados. Em Connecticut, um juiz levou a julgamento um processo por discriminação racial contra a empresa de triagem CoreLogic – em vez de acionar o locador. A decisão foi uma vitória para os defensores da habitação justa, para os quais os serviços de triagem de inquilinos são propensos a erros, resultam em discriminação racial e, em grande parte, não respondem ao questionamento feito.

  O caso envolveu Carmen Arroyo, que indagou à administradora de seu apartamento se seu filho, Mikhail, poderia morar com ela após ter sofrido um acidente grave, ficando incapaz de cuidar de si mesmo. Ela teve o pedido negado porque uma verificação de antecedentes descobriu uma acusação de furto no passado de Mikhail.

  Arroyo e seus advogados argumentaram que o algoritmo de triagem usado, o CrimSafe, isola desproporcionalmente candidatos negros e latinos ao se basear em registros criminais, e não dá aos candidatos a chance de explicar seus atenuantes por meio de avaliações individualizadas. De acordo com eles, a CrimSafe relatou um registro de “desqualificação” sem fornecer detalhes, o que teria permitido ao gerente da propriedade liberdade na decisão. O relatório de triagem simplesmente informou que foi encontrada uma “ação judicial criminal”.

  Ficou provado que o sistema de triagem enviesado, no caso, racista, foi o responsável por permitir um ato enviesado, de injustiça.

  Um professor de alfabetização sabe que de nada adianta tentar ensinar as crianças a escreverem mostrando apenas o alfabeto na lousa. É preciso, por vezes, segurar a mão do aluno com o lápis e ensiná-lo a formar cada letra. É necessário propor a experiência de escrever. Creio que, na educação as ferramentas mudam, mas a lógica de integrar o aprendiz à vivência de adquirir conhecimento é a mesma. E isso se aplica ao uso da realidade virtual, uma tecnologia que, aliada à inteligência artificial, tem ganhado espaço entre professores, escolas e universidades.

  É fato que vivemos em um período produtivo na criação de recursos digitais. E, no setor, não falamos mais que eles fazem parte do “futuro”. Afinal, estamos cercados de VR – Virtual Reality e AI – Artificial Intelligence, mesmo sem sabermos. Carros, robôs assistentes pessoais, sistemas de organização de tarefas de uma empresa, equipamentos que são guiados por voz ou por sensores tecnológicos dentro de casa e até a série da Netflix que escolhemos para assistir têm sido pensados ora com realidade virtual, ora com inteligência artificial.

  Não impressiona, portanto, que dispositivos de VR e a criação de potentes recursos de aprendizagem com AI tenham entrado nas salas de aula (ou mesmo durante o processo autônomo do aluno ao absorver conteúdo). Hoje, por exemplo, quem se interessa por História, pode explorar, abrindo o aplicativo King Tut no smartphone, a tumba do faraó Tutancâmon, no Egito.

  Já quem estuda a vida marinha pode se valer de uma experiência de imersão feita pela companhia Hydrous, que “leva o oceano onde quer que a pessoa esteja”, para mostrar os corais de recife e os animais marinhos e, assim, conscientizar a população sobre as mudanças ambientais. “Como podemos nos preocupar com algo que não vemos?”, pergunta a organização em seu site. E esse me parece um argumento perfeito para que a realidade virtual seja cada vez mais usada na Educação: ela rompe barreiras de conhecimento que nunca antes tínhamos rompido.

  Globalmente, há um movimento muito intenso de absorção dessa novidade dentro do segmento do ensino. O mesmo acontece para a inclusão de inteligência artificial. Em 2017, uma análise feita no mercado norte-americano de educação mostrou uma projeção em que, até 2021, o setor cresceria 47,5%.

Como consumidores, estamos mais acostumados a isso. Algoritmos e dados disponíveis em redes indiscutivelmente se tornaram, há algum tempo, as pegadas deixadas por nós para que as informações cheguem de forma conectada e cada vez mais refinadas ao público interessado – assim se dá, como falei, a escolha do que assistirmos no nosso momento de lazer e, ainda, quais amigos são sugeridos para adicionarmos em redes sociais, entre tantos mecanismos.

O que tenho debatido são as reais possibilidades de levarmos a AI com tanta eficiência para o campo educativo. O que nos falta para explorar em nosso cotidiano esse tipo de tecnologia?

É com ela que se eliminam processos repetitivos e gastos com estruturas físicas pouco proveitosas, ganhando espaços em ambientes totalmente virtuais. Robôs inteligentes como tutores – que, cabe dizer, não substituem os professores, mas, podem servir como multiplicadores de conteúdo – tornam o ensino um campo ainda mais enriquecedor, sistematizado e completo tanto para quem ensina quanto para quem aprende. E esses são apenas alguns dos caminhos mostrados para o uso de AI. Cabe a nós promovermos esse ajustamento necessário entre tecnologia e aprendizagem o quanto antes.