Nachdem im Vereinigten Königreich Schulabschluss- und A-Level-Prüfungen – vergleichbar mit der hiesigen Matura – aufgrund der Coronavirus-Pandemie abgesagt wurden, sollte ein Algorithmus die Noten der Schüler bestimmen; respektive die Vorhersagen von Lehrern überarbeiten. Die Idee dahinter war zu verhindern, dass die Lehrpersonen ihre Schüler zu optimistisch einstufen.

Mit den Ergebnissen der Algorithmen sei Anteil an Bestnoten zwar höher als je zuvor gewesen, ebenso die Quote der bestandenen Prüfungen. Allerdings seien bei den Privatschulen der Anteil der besten A-Level-Noten im Vergleich zu den staatlichen Gesamtschulen um mehr als das Doppelte gestiegen. Gleichzeitig seien durch den Algorithmus fast 40% der von den Lehrern vorhergesagten A-Level-Noten durch die Berechnungsmethoden herabgestuft worden – wobei Schüler aus ärmeren Verhältnissen am stärksten betroffen gewesen seien, schreibt 'The Guardian'.

Nach Protesten und Vorwürfen wegen möglichen Vorurteilen wurde angekündigt, dass die Jugendlichen doch Noten erhalten sollen, die auf den Einschätzungen ihrer Lehrpersonen basieren.

Der Prozess sei grundlegend fehlerhaft gewesen und der von der Prüfungsaufsicht gewählte Algorithmus im Wesentlichen "gemogelt", wird ein Experte zitiert.

Es seien viele Fehler gemacht worden, darunter auch technische, sagt ein Dozent für Machine Learning gegenüber 'BBC'. Leute, die die Konzepte implementiert hätten, hätten "nicht verstanden, was die von ihnen eingetippte Mathematik bedeutete", so Tom Haines von der University of Bath.

Zu den verwendeten Daten gehörten Informationen, die von den Schulen zur Berechnung der A-Level-Noten Jahr eingereicht wurden, frühere Leistungen der Schülerinnen und Schüler und historische Ergebnisse der Schule, inklusive den Ergebnissen vom Vorjahr.

Das für die Prüfungen zuständige Amt Ofqual habe 11 Algorithmen getestet. Dafür habe man die Algorithmen die Ergebnisse der Prüfungen von 2019 vorhersagen lassen, um dies mit den tatsächlichen Ergebnissen zu vergleichen. Aber "sie machten es falsch und gaben den Algorithmen tatsächlich die Ergebnisse von 2019 – also war der Algorithmus, den sie schliesslich auswählten, derjenige, der im Wesentlichen der beste im 'Schummeln' war", so Haines gegenüber 'BBC'. 

Ein weiteres Problem sei die Hierarchie des Algorithmus und insbesondere die Gewichtung der Bewertung der Schule gewesen – die Leistung der Schule zwischen 2017 und 2019 sei der primäre Faktor bei der Berechnung einer Note gewesen, schreibt 'inews.co.uk'. Zu den weiteren Faktoren gehörten der Rang der Jugendlichen innerhalb ihrer Altersgruppen, die Vorhersage der Lehrpersonen und die Ergebnisse eines Probeexamens, wobei frühere Examensergebnisse der letzte Faktor gewesen sei. 

Der Algorithmus zur Benotung sei zwar keine hochentwickelte KI, aber er sollte ethisch vertretbar sein, schreiben drei AI-Experten im 'Guardian'. Er sollte bestimmte Prinzipien einhalten, fair und erklärbar sein und nicht gegenüber bestimmten Personengruppen voreingenommen sein. "Der Algorithmus, mit dem in diesem Jahr die Noten für Schülerinnen und Schüler festgelegt wurden, die unter extrem schwierigen Umständen hart gearbeitet haben, hält sich an keines dieser Prinzipien."

Der Algorithmus habe im Wesentlichen den in das britische Schulsystem eingebauten wirtschaftlichen und gesellschaftlichen Bias verstärkt, was die KI-Experten im 'Guardian' als "unethisch und schädlich für die Bildung" bezeichneten.