IBM bouwt zelf-lerende compiler

Tja, dat zou leuk zijn maar dat is niet wat deze compiler doet. Hij gebruikt simpelweg verschillende machine-learning algoritmes om te kijken of hij het programma beter kan optimaliseren. That's it. Niets zelf-lerend of iets dergelijks. De titel is dus ook aardig misleidend.

Nou is het natuurlijk wel een stap voorwaarts, onder andere kan code zo voor multi-cores geoptimaliseerd worden zonder dat je er zelf eigenlijk mee rekening houdt.

@Dajero: Wat ik op de website lees is dat ze de compiler verschillende soorten algoritmes laat testen om te kijken welke uiteindelijk voor het programma het beste presteert. Wat ik in eerste instantie van de website haalde, was dat ze een database aanlegde voor verschillende optimalisatie-algoritmes. Dat op zich kan ik niet echt als zelf-lerend of machine-learning verstaan omdat het zichzelf niet aanpast. Alleen hun uiteindelijke doel is blijkbaar wel om een zelf-aanpassende compiler te maken. En dat is dus wel machine-learning (in ieder geval in mijn ogen). Dus op dit moment nog niet zelf-lerend, in de toekomst hopen ze van wel.

@SuperNull: Het klopt inderdaad dat grote stukken code moeilijk (automatisch) te parallelliseren zijn. Op de website van Milepost zijn onder andere papers te vinden die dit soort dingen proberen te doen. Ik heb ze niet in detail gelezen, maar het is enigszins te verwachten dat hier onderzoek naar gedaan wordt. Veel programma's maken er nog geen gebruik van en toch liggen de cpu-cycles voor het oprapen. Ik neem aan dat je zelf niet in de onderzoek-wereld zit, want als je van te voren al denkt dat zulk onderzoek "extreem onwaarschijnlijk" tot een resultaat komt, dan kom je als onderzoeker natuurlijk nooit een stap verder.

[Reactie gewijzigd door blizzeye op zaterdag 4 juli 2009 11:40]

Neen, je hebt een kans dat het sneller is.

Het principe bestaat al lang. Een zogenaamde 'supercompiler' gaat elke mogelijke sequentie instructies na om er de snelste uit te pikken die het gevraagde implementeerd. Uiteraard is dit niet werkbaar in de praktijk. De zoektijd neemt extreem snel toe bij langere reeksen instructies. Maar in de theorie is dit dus de perfecte compiler.

De compiler van IBM gaat niet zomaar elke sequentie instructies na, maar maakt verschillende afwegingen en onthoudt welke een positief effect hadden om de volgende afweging zo goed mogelijk te kunnen maken. Het zal er doorgaans niet in slagen dé meest optimale code te vinden, maar wel een goede oplossing in redelijke tijd.

Als mensen en bedrijven nou minder belasting hoefden betalen hadden veel meer bedrijven geld over voor dit soort leuk onderzoek omdat het herverdelen behalve dat het heel oneerlijk is ook nog veel geld kost

Zijn reactie verwijst naar: "...in samenwerking met het door de EU gefinancieerde Milepost-consortium ontwikkeld..."

Och, hij kan slechts broncode die door mensen is geschreven beter compileren en leren hoe hij door mensen geschreven broncode beter kan compileren. Dit lijkt niet niets, dit is nog 'niets', al is het wel een leuke doorbraak

[Reactie gewijzigd door graey op zaterdag 4 juli 2009 11:44]

ja zeker combineer je 1 miljoen aan dit soort computers sluit ze aan internet en...
"Skynet is online"

Heerlijk computers die voor ons gaan denken.

Dit denkt helemaal niet voor ons. De titel is nogal misleidend. Het is een lerende compiler, niet een zelf-lerende compiler. Het is een algoritme als een ander. Het gaat simpelweg gedane optimalisaties beoordelen door de verwerkingstijd te meten, en houdt dus bij welke succesvol zijn en herhaald kunnen worden.

Dezelfde methoden worden ook elders gebruikt. Zo kan een GPS aan de hand van de werkelijke tijd over een trip beslissen om de volgende keer een andere route te proberen, of bijhouden dat er op sommige regelmatige tijdstippen fileproblemen zijn op bepaalde wegen.

Je hoeft dus niet paranoia te gaan doen dat zulke algoritmes geheel op zichzelf tot besluiten zouden komen.

Ze hadden het gewoon in hun laboratorium kunnen houden. Om even helemaal tot het uiterste te gaan, ze hadden het in hun lab kunnen houden, en de wereld kunnen zeggen "voor 50 dollar/regel mogen jullie je code op onze computer compilen"

Nog steeds wel, omdat die multipass niet nodig is, wat tijd scheelt.

Overigens is het idee niet zo heel nieuw. Tenminste, ik speelde al met het idee om een GA te gebruiken voor peephole optimization van ARM code, zo'n 15 jaar terug. En ik was vast niet de eerste . Dit zal echter vast wel een stuk geavanceerder zijn.

Dat kijkt vooral naar waar de hotspots zijn, om daar zwaardere optimalisaties door te voeren, ten koste van de grootte van de code en het nodige geheugen. Denk bijvoorbeeld aan inlining. Als je dat te aggresief doet wordt de code veel te groot (wat op zich weer negatief is voor de prestaties doordat de instructiecache overloopt). Je kan het dus beter enkel daar toepassen waar nodig.

De compiler van IBM lijkt nog een grote stap verder te gaan. Het gaat niet éénmaal kijken waar de hotspots zijn, maar bekijkt het gevolg van elke optimalisatiebeslissing en stuurt het keer op keer bij.

Maar enige gelijkenis met 'Profile Guided Optimisations' is er wel.

Het is HAL 9000 van de film 2001. (Nog een plaatje)
Een computer met AI die zich een soort van tegen de mensen keert.

[Reactie gewijzigd door Reason op vrijdag 3 juli 2009 19:45]

Ik denk meer aan de Apple commercial "It was a bug, Dave" _klikbaar

Volgens mij ben je een paar letters uit 'droom scenario' vergeten