Deloitte betaalt geld terug vanwege rapport dat door AI lijkt te zijn geschreven

Als er één bedrijf is dat vol op de hypetrain van AI stapt, dan is het wel Deloitte. Maar nu heeft het consultancybureau zichzelf in de kunstmatige vingers gesneden, want het moet nu bijna 250.000 euro terugbetalen aan de Australische overheid omdat het een rapport inleverde dat door AI leek te zijn geschreven.

Australische media, waaronder de Australian Financial Review, schrijven dat Deloitte in ieder geval een deel van de 440.000 Australische dollar terugbetaalt aan de overheid van dat land. De overheid, specifiek het ministerie van Werkgelegenheid, liet eerder dit jaar een onderzoek uitvoeren naar geautomatiseerde besluitvorming rondom boetes in het werkloosheidssysteem. Dat rapport werd in juli opgeleverd, maar blijkt achteraf helemaal niet zo nuttig als Deloitte voor deed komen. En het leek de omgerekende 248.000 euro ook niet helemaal waard.

Al snel nadat het rapport uitkwam, bleken daar meerdere voetnoten in te staan naar niet-bestaande bronnen. Het ging onder andere om verwijzingen naar onderzoeken die weliswaar aan echte hoogleraren waren gekoppeld, maar die op zichzelf niet bestonden. Ook stonden er citaten in het rapport van onder andere een federale rechter die zij nooit had uitgesproken.

Inmiddels hebben Deloitte en het ministerie stilletjes een nieuwe versie van het rapport online gezet. Daarin staan veertien referenties niet meer opgenomen die wel in het oude rapport nog stonden. Verder heeft Deloitte ergens midden in het rapport een zin toegevoegd waarin het erkent 'een op Azure OpenAI GPT-4o-gebaseerde toolchain' te hebben gebruikt om bepaalde dingen uit te zoeken.