'Amazons AI-tools haalden door fouten AWS twee keer offline'

Amazon Web Services is afgelopen jaar twee keer getroffen door een storing die werd veroorzaakt door Amazons eigen AI-tools. Dat zeggen anonieme bronnen tegen de Financial Times. Een van de tools besloot bijvoorbeeld een omgeving te verwijderen en opnieuw te bouwen. Amazon spreekt van menselijke fouten.

De Financial Times heeft het over twee storingen in het afgelopen jaar, maar bij de recentste storing in december zijn de meeste details bekend. AWS was toen in China dertien uur onbereikbaar. De bronnen zeggen dat de AI-tool aanraadde om de AWS-omgeving te verwijderen en opnieuw te bouwen. Hierna gebeurde dit.

Amazon ontkent niet dat het incident plaatsvond, maar spreekt van een 'user error'. AWS-ontwikkelaars moeten alle Kiro-acties goedkeuren, maar de ontwikkelaar had 'meer permissies dan verwacht', waardoor het volgens Amazon een 'gebruikerstoegangprobleem was, niet een probleem van autonome AI'. De bronnen zeggen dat normaal twee mensen moeten meekijken als er veranderingen doorgevoerd worden aan AWS, wat in dit geval om onduidelijke redenen niet gebeurde.

Kiro is een AI-agent die zelfstandig handelingen kan uitvoeren. Deze acties moeten dus nog wel goedgekeurd worden. De eerdere storing werd door de AI-chatbot Amazon Q Developer veroorzaakt. Hier zijn niet veel details over bekend. Volgens Amazon merkten klanten niets van deze storing.

De Amazon-werknemers die FT sprak zeggen dat het bedrijf wil dat 80 procent van Amazons ontwikkelaars minstens een keer per week AI gebruiken. 'Sommige' werknemers zijn vanwege de risico's op fouten sceptisch over het gebruik van deze AI-tools. Amazon zegt na het decemberincident verschillende maatregelen te hebben getroffen, zoals verplichte checks door meer dan één collega en werknemerstrainingen. De twee genoemde storingen zijn volgens de FT niet te vergelijken met de AWS-storing in oktober, waardoor verschillende diensten urenlang onbereikbaar waren.

Bron: NurPhoto/Getty Images

Reacties (8)

[FiberSam]

Ik heb mijn twijfels hierbij. AI gaat sowieso nog enorm veel beter worden. Deze techniek is nog maar piepjong, fouten horen erbij. Maar het probleem is vlg mij dat steeds meer engineers hiervan gebruik gaan maken, en dus steeds minder goed begrijpen waar ze akkoord op geven. De productiviteitsdruk zal namelijk per definitie hoog blijven. Als jouw conculega meer AI software regels goed weet te keuren dan jij, lig je eruit. Zie dan maar eens mensen op te leiden die precies weten hoe het zit.

[Stroper]

Dat zal niet direct gebeuren. AI botst stilaan tegen diminishing returns. De huidige modellen verbeteren weliswaar, maar niet meer in dezelfde grote orde als het begin.
Waar je vroeger met dezelfde kosten een model 50 % kon verbeteren, zal dit nu minder dan 5 % zijn.
Als je dan nog rekening houdt dat er nog altijd niemand, exclusief met AI, winst maakt, dan zal het vroeg of laat wel eens keihard op een muur botsen.

[FiberSam]

Dat er een shake-out aan zit te komen, dat is idd wel duidelijk. Maar het wordt nu al heel veel gebruikt, juist in het bedrijfsleven. En die willen wel betalen. Het is niet alleen de techniek, het is ook dat bedrijven moeten ontdekken hoe ze dit productief in kunnen zetten. Die fase is nu volop aan te gang.

Ondertussen komen er reclames tussen AI. Dat gaat ook een hoop geld opleveren. Maar de (mijn) vraag was of AI op termijn fouten in software gaat voorkomen of juist creëren. Wellicht allebei.

[Naavi]

AI gaat echt wel de toekomst zijn, maar zoveel grote tech bedrijven zetten er zo hard op in en het is gewoon duidelijk dat de technologie nog niet ver genoeg is.

[Henk1827]

Met “nog” impliceer je dat dat binnen afzienbare tijd gaat gebeuren. Het lijkt er steeds meer op “of” het gaat gebeuren.

[secretqwerty10]

Amazon spreekt van menselijke fouten.

Een AI de controle geven is inderdaad een menselijke fout.

[Jorah_Newstone]

De actie moet nog wel worden goedgekeurd, maar als je niet de persoon trained zodat hij weet wat hij goedkeurd dan gaat het alsnog fout.
Een advies dat een omgeving opnieuw opgebouwd moet worden, nouja daar gaat bij mij wel alarmlichten af.

[mutsje]

Garbage in garbage out is het nog steeds met heel veel ai modellen, het word steeds beter tuurlijk. Er komt een tijd dat heel veel geautomatiseerd door ai agents uitgevoerd zal worden, maar nog steeds zijn ze niet zo ver en de hype om de beste ai te hebben is wel heel hoog momenteel. Als je ziet hoe er geld rond gepompt word en verlies wordt gedraaid zou je over een tijd toch verwachten dat enkele spelers om gaan vallen. Het is niet zo dat het waardeloze bedrijven zijn als met de grote .com bubble dit toen barste maar ook dit is enorm gehyped naar mijn bescheiden mening.