Au Royaume-Uni, les lycéens ont dû protester pour que leur avenir ne dépende pas d’une intelligence artificielle. En effet, le pays comptait utiliser un algorithme pour estimer leurs notes aux examens A-level, l’examen qui détermine où ils seront admis pour leurs études supérieures.

Au Royaume-Uni, les universités font des propositions aux étudiants en fonction de leur notes estimés aux examens A-level. Les étudiants doivent ensuite obtenir les notes en question pour être admis. Il s’agit donc d’un examen d’une importance capitale. Toutefois, il a été annulé en raison de l’épidémie mondiale. C’est pourquoi le ministère de l’éducation du Royaume-Uni a décidé d’utiliser un algorithme pour déterminer la note estimée des élèves en fonction de leurs résultats annuels. Toutefois, cette algorithme s’est avéré être biaisé, poussant le gouvernement à abandonner le projet.

Pour concevoir cet algorithme, l’organisme en charge des examens, « The Office of Qualifications and Examinations Regulation » s’est basé sur deux informations clés : le classement de l’étudiant dans son lycée et les performances historiques de son lycée. L’objectif était de produire des résultats similaires à l’année dernière. Globalement, il y est parvenu puisqu’il n’y a eu qu’une amélioration de 2,4% du nombre d’élèves ayant une note entre A et C par rapport à 2019.

Cependant, des milliers d’étudiants ont vu leurs notes diminuées par rapport aux estimations de leurs professeurs. En effet, 35,6% des notes ont diminué d’un rang (de A à B par exemple), tandis que 3,3% ont diminué de deux rangs et 0,2% ont diminué de trois rangs. Au total, près de 40% des élèves ont donc vu leur note diminuer. Ce changement aurait pu coûter leur place dans des universités sélectives à certains de ses étudiants. C’est pourquoi ces derniers ont protesté devant le Département de l’Éducation. 

Et ils ont eu raison puisque l’algorithme s’avérait être biaisé. En effet, les lycées privés ont vu leurs résultats augmentés significativement grâce à l’algorithme. Ainsi, le nombre d’étudiants y ayant obtenu un “A” a augmenté de 4,7% d’année en année. Dans le même temps, les lycées publics n’ont connu une augmentation que de 0,2%.

Différentes théories cherchent à expliquer ce biais. Selon l’une d’entre elle, l’algorithme note différemment en fonction du nombre d’élèves dans un cours. Hors, les lycées privés ont tendance à avoir moins d’élèves par cours que les lycées publics. Par ailleurs, le système aurait augmenté le nombre d’étudiants échouant aux tests.

De plus, l’algorithme est fondamentalement biaisé puisqu’ils accordent beaucoup d’importance aux performances historiques du lycée. Ainsi, les élèves provenant de lycées avec des résultats plus modestes étaient désavantagés et ne pouvaient pas obtenir une aussi bonne note qu’un élève d’un meilleur lycée ayant de moins bons résultats.

Suite aux manifestations le gouvernement a finalement décidé d’ignorer les notes déterminées par l’algorithme et va simplement conservé les notes estimées des professeurs. Ce nouvel exemple illustre une fois de plus les biais des algorithmes et l’impossibilité de les utiliser dans une décision ayant d’importantes conséquences sur la vie d’un individu.