Eles não puderam fazer os exames devido ao bloqueio, então o algoritmo usou dados sobre os resultados das escolas nos anos anteriores para determinar as notas.

Isso significa que cerca de 40% dos resultados do nível A deste ano ficaram abaixo do previsto, o que tem um grande impacto sobre o que os alunos são capazes de fazer a seguir. Os resultados do GCSE serão divulgados na quinta-feira.

Existem muitos exemplos de algoritmos que tomam grandes decisões sobre nossas vidas, sem que necessariamente saibamos como ou quando o fazem. Aqui está uma olhada em alguns deles.

Mídia social

De muitas maneiras, as plataformas de mídia social são simplesmente algoritmos gigantes.

No fundo, eles descobrem no que você está interessado e, em seguida, fornecem mais informações – usando o máximo de pontos de dados que conseguirem.

Cada “gosto”, relógio, clique é armazenado. A maioria dos aplicativos também coleta mais dados de seus hábitos de navegação na web ou dados geográficos. A ideia é prever o conteúdo que você deseja e mantê-lo rolando – e funciona.

E esses mesmos algoritmos que sabem que você gosta de um vídeo de gato fofo também são implantados para vender coisas a você.

Todos os dados que as empresas de mídia social coletam sobre você também podem personalizar anúncios para você de uma maneira incrivelmente precisa.

Mas esses algoritmos podem dar muito errado. Provou-se que eles levam as pessoas a conteúdos odiosos e extremistas. Conteúdo extremo simplesmente faz melhor do que nuances nas redes sociais. E os algoritmos sabem disso.

A própria auditoria de direitos civis do Facebook pediu que a empresa fizesse tudo ao seu alcance para evitar que seu algoritmo “levasse as pessoas a câmaras de eco do extremismo que se auto-reforçam”.

E no mês passado relatamos como algoritmos em sites de varejo online – projetados para descobrir o que você quer comprar – estavam promovendo produtos racistas e odiosos .

Seguro

Quer se trate de casa, carro, saúde ou qualquer outra forma de seguro, sua seguradora tem que avaliar de alguma forma as chances de algo realmente dar errado.

De muitas maneiras, o setor de seguros foi pioneiro no uso de dados sobre o passado para determinar resultados futuros – essa é a base de todo o setor, de acordo com Timandra Harkness, autora de Big Data: Does Size Matter.

Fazer com que um computador fizesse isso sempre seria o próximo passo lógico.

“Os algoritmos podem afetar muito a sua vida, mas você, como indivíduo, não recebe necessariamente muitas informações”, diz ela.

“Todos nós sabemos que se você muda para um código postal diferente, seu seguro sobe ou desce.

“Não é por sua causa, é porque outras pessoas têm mais ou menos probabilidade de ter sido vítimas de crimes, ou de sofrerem acidentes, ou algo assim.”

Inovações como a “caixa preta”, que pode ser instalada em um carro para monitorar como um indivíduo dirige, ajudaram a reduzir o custo do seguro do carro para motoristas cuidadosos que se encontram em um grupo de alto risco.

Poderíamos ver cotações de seguro mais personalizadas à medida que os algoritmos aprendem mais sobre nossas próprias circunstâncias?

“Em última análise, o objetivo do seguro é dividir o risco – então todos colocam [dinheiro] e as pessoas que precisam o retiram”, diz Timandra.

“Vivemos em um mundo injusto, então qualquer modelo que você fizer será injusto de uma forma ou de outra.”

Cuidados de saúde

A Inteligência Artificial está dando grandes saltos em ser capaz de diagnosticar várias condições e até sugerir caminhos de tratamento.

Um estudo publicado em janeiro de 2020 sugeriu que um algoritmo teve um desempenho melhor do que os médicos humanos quando se tratou de identificar o câncer de mama em mamografias .

E outros sucessos incluem:

• uma ferramenta que pode prever as taxas de sobrevivência ao câncer de ovário e ajudar a determinar as opções de tratamento
• inteligência artificial da University College de Londres, que identificou pacientes com maior probabilidade de perder consultas e, portanto, precisam de lembretes

No entanto, tudo isso requer uma grande quantidade de dados do paciente para treinar os programas – e isso é, francamente, uma grande lata de vermes.

Em 2017, a Comissão de Informação do Reino Unido determinou que o Royal Free NHS Foundation Trust não fez o suficiente para proteger os dados dos pacientes quando compartilhou 1,6 milhão de registros de pacientes com a divisão de IA do Google, DeepMind.

“Há uma linha tênue entre encontrar novas maneiras empolgantes de melhorar o atendimento e ir além das expectativas dos pacientes”, disse o cofundador da DeepMind, Mustafa Suleyman, na época.

Policiamento

Big data e aprendizado de máquina têm o potencial de revolucionar o policiamento.

Em teoria, os algoritmos têm o poder de cumprir a promessa da ficção científica de “policiamento preditivo” – usando dados, como onde ocorreu o crime no passado, quando e por quem, para prever onde alocar recursos policiais.

Mas esse método pode criar preconceito algorítmico – e até racismo algorítmico.

“É a mesma situação que você tem com as notas dos exames”, disse Areeq Chowdhury, do think tank de tecnologia WebRoots Democracy.

“Por que você está julgando um indivíduo com base no que outras pessoas fizeram historicamente? As mesmas comunidades estão sempre sobre-representadas”.

No início deste ano, o think tank de defesa e segurança RUSI publicou um relatório sobre policiamento algorítmico .

Levantou preocupações sobre a falta de diretrizes nacionais ou avaliações de impacto. Também exigiu mais pesquisas sobre como esses algoritmos podem exacerbar o racismo.

O reconhecimento facial também – usado pelas forças policiais no Reino Unido, incluindo o Met – também foi criticado.

Por exemplo, tem havido preocupações sobre se os dados que vão para a tecnologia de reconhecimento facial podem tornar o algoritmo racista.

O problema é que as câmeras de reconhecimento facial são mais precisas na identificação de rostos brancos – porque possuem mais dados sobre os rostos brancos.

“A questão é: você está testando isso em um grupo demográfico suficientemente diversificado de pessoas?” Areeq diz.

“O que você não quer é uma situação em que alguns grupos sejam erroneamente identificados como criminosos por causa do algoritmo.”

James Clayton e Zoe Kleinman – BBC News