Microsoft wil deep learning versnellen met fpga's in Brainwave-project

Microsoft heeft in het kader van de Hot Chips-conferentie een project onder de naam Brainwave aangekondigd. Het bedrijf claimt hiermee deep learning met zeer lage latency te kunnen uitvoeren op fpga's, voor taken als zoekopdrachten en videoanalyse.

Microsoft omschrijft Brainwave als een deep learning acceleration platform. Door de lage latency zegt het bedrijf 'realtime- kunstmatige intelligentie' te kunnen leveren, wat betekent dat binnenkomende verzoeken meteen verwerkt moeten kunnen worden. Daarbij maakt Microsoft geen gebruik van batching. Om dit te bereiken maakt Microsoft gebruik van zijn grote voorraad fpga's in datacenters. Het maakte vorig jaar al bekend dat het de herprogrammeerbare chips wilde inzetten voor deep learning.

Microsoft wil de snelheid van de fpga's op verschillende manieren verhogen. The Register, dat bij de presentatie aanwezig was, schrijft daarover dat de machinelearningmodellen in het geheugen van de fpga worden opgeslagen, waardoor het werkgeheugen ingezet kan worden als buffer voor inkomende en uitgaande gegevens. Daarnaast is het ontwerp van de fpga geoptimaliseerd, zodat een constante stroom data verwerkt kan worden. Ten slotte kunnen de chips geschakeld worden om een soort pijpleiding voor opdrachten te vormen.

Volgens Microsoft is zijn eigen aanpak flexibeler dan het gebruik van 'hardcoded' systemen voor deep learning, die weliswaar hogere prestaties kunnen leveren, maar waarbij van tevoren bepaald moet worden welke datatypes en operators gebruikt zullen worden. Microsoft zegt dat er inmiddels ondersteuning is voor het draaien van zijn eigen Cognitive Toolkit en Googles machinelearningbibliotheek Tensorflow. In de toekomst moeten daar meer opties bijkomen.

Intel meldt dat Microsoft zijn 14nm-Stratix 10-fpga's voor het Brainwave-project heeft gekozen. In de toekomst wil het Redmondse bedrijf Brainwave aanbieden aan Azure-klanten. Daarover wil het in de toekomst meer informatie naar buiten brengen.

Bron: Microsoft-presentatie

Reacties (64)

[batjes]

Lijkt erop dat MS al klaar, of bijna klaar is met het uitrollen van de FPGA's door heel Azure heen. Microsoft is hier in 2012 onder Bing al mee begonnen, en heeft een groepje servers met de Catapult v1 voor een test periode in productie gezet. Vanaf 2015 zijn ze in al hun servers gaan inzetten (dat terwijl de software ervoor nog niet eens klaar was )

Interessante ontwikkeling en MS is de eerste die dit zo grootschalig toepast. Elke server (of naja, node/datacenter) kan straks speciaal ingericht worden voor zijn specifieke taken. Deze FPGA's zijn voor zijn geprogrammeerde taken vele malen sterker dan de CPU's die ze huisvesten. Ze hebben nu hun netwerk stack door de FPGA's lopen en -naar eigen zeggen- de laagste latency (~5x zo lage latency als via CPU's als ARM/X86) en hoogste onderlinge VM bandbreedte van alle cloudproviders. De SQL queries gaan door FPGA's heen (en doen dit tot wel 150 keer sneller dan een CPU). Door wat optimalisaties idled ~75% van de FGPA's, welke MS ingezet heeft voor hun eigen neurale netwerken en nu dus in gaat zetten voor project brainwave. Dat is een immense hoeveelheid beschikbare compute power.

De huidige generatie FPGA's van MS kan tussen servers onderling communiceren zonder dat er ooit een CPU tussen komt. Zo kunnen ze FPGA's gebruiken op de servers waar ze niets doen, en CPU's op de systemen waar ze alleen de FPGA's gebruiken.

Kan is nu aanwezig, dat MS na de uitrol van de FPGA's... 1 van de sterkste, if not de sterkste, supercomputer ter wereld heeft. Heel Azure is technisch 1 systeem. Zou voor het eerst zijn dat een NT based systeem de top 10 binnenkomt. Ik hoop dat er dit jaar of volgend jaar een linpack resultaat uitkomt, maar de kans is vrij klein omdat ze niet heel Azure zo maar even uit kunnen zetten. Maar ze zouden misschien een schatting kunnen doen van "dit is 1-10% van Azure" oid.

https://azure.microsoft.c...based-configurable-cloud/

De video gaat veel dieper in op de details uit dit artikel en vanaf een minuut of 35 ook in op deep learning en de werking/toepassing hiervan.

[Zwarte_os]

Deep Learning is niets meer dan heel verschillende algoritmes op elkaar zetten en het vervolgens laten uitvogelen welke het meest efficient zijn. Het is geen vorm van leven, het heeft geen eigen wil.

Mocht je echt bezorgd zijn om A.I. gone awry denk dan aan Grey Goo of black hat hackers. Maar algoritmes zelf zullen in de huidige staat nooit sentient worden, dat is echt een compleet verzinsel die gefundeerd is op slechte films. En hoe mensen hier reageren op hoe een eventueel werkelijke G.A.I wekt ook niet echt een lekker beeld op.

En wat betreft het bericht over Facebook's A.I. Ga zelf eens met een chatbot aan de gang en je zal zien dat die resultaten heel gewoon zijn, niets aparts en verre van 'een eigen taal'.

[Reactie gewijzigd door Zwarte_os op 24 juli 2024 00:56]

[Dual Infinity]

Deep Learning is niets meer dan heel verschillende algoritmes op elkaar zetten en het vervolgens laten uitvogelen welke het meest efficient zijn.

Onjuist. Deep Learning is voornamelijk het hanteren van gestapelde lagen in neurale netwerken die (unsupervised) getraind worden tot feature detectors. Het 'deep' slaat op de gestapeldheid, de hierarchie in de lagen.

Het is geen vorm van leven, het heeft geen eigen wil.

Wat is je definitie van 'leven' en 'eigen wil'? Weet je zeker dat jij een 'eigen wil' hebt?

Het moeilijkst in deze discussies is om te accepteren dat mensen ook maar veredelde apen zijn. De grootste fout die men (imho) maakt is er van uitgaan dat mensen op de een of andere manier het eindpunt van evolutie zijn. Gezien de vele zwaktes en beperkingen van het menselijk lichaam en organische lichamen in het algemeen is het volgens mij onvermijdelijk dat onze nazaten anorganisch zullen zijn. Non-androide AI is veel minder beperkt dan androide AI of cyborgs en dus een voor de hand liggend nazaat.

[Zwarte_os]

Je zegt in feite hetzelfde als ik alleen gebruikt je de lingo van het wereldje, ik had er bewust voor gekozen om het simplistisch te houden.

Je tweede quote vind ik verder geen discussie om hier te gaan voeren, maar ik deel zeker die vragen.Alleen jouw conclusie stelt weldegelijk dat het menselijk bewustzijn blijkbaar het toppunt is van de evolutie. Immers is het de fundering voor een nieuwe vorm van leven. En hier neem jij ook zelf een paar versimpelde aannames die echt veel te ver gegrepen zijn. Het biologische lichaam is op veel gebieden juist veel sterker en efficienter dan een computer programma, en deze zou je ook nog op een biologische manier kunnen verbeteren. Het zou mij dan ook niets verbazen dat je uiteindelijk full circle gaat wanneer je G.A.I probeert te maken.

[Dual Infinity]

Je zegt in feite hetzelfde als ik alleen gebruikt je de lingo van het wereldje

Onzin. Een typische deep learning trainingssessie bevat in het geheel niet het 'uitvogelen welke algoritmes het meest efficient zijn'. Totaal niet.
Als je er op staat om jouw bewoording toe te passen op de term Deep Learning, dan kun je diezelfde bewoording ook toepassen op menselijk leven. Wij zijn ook de hele dag bezig met 'verschillende algoritmes' toe te passen en 'uit te vogelen' wat het best werkt.

Alleen jouw conclusie stelt weldegelijk dat het menselijk bewustzijn blijkbaar het toppunt is van de evolutie. Immers is het de fundering voor een nieuwe vorm van leven

Dat laatste heb ik nooit gezegd of geïmpliceerd. Daarbij is je redenering is onzinnig: AI wordt niet gebouwd op menselijk bewustzijn, maar (nu nog) door menselijk bewustzijn. Dat is geen 'fundering', net zo min als een bouwbedrijf geen fundering van een huis is.
Verder betekenen 'toppunt' en 'eindpunt' volledig verschillende dingen, zeker in deze context. Een toppunt kan tijdelijk zijn, een eindpunt niet.

Het biologische lichaam is op veel gebieden juist veel sterker en efficienter dan een computer programma, en deze zou je ook nog op een biologische manier kunnen verbeteren.

Aangaande dat eerste: nu nog, en op maar een heel klein aantal gebieden. Eigenlijk alleen op de gebieden zelfreplicatie en efficiënt neuraal rekenen. De beperkingen zijn echter legio: continu zuurstof nodig, heel regelmatig water nodig, inefficiënte energievoorziening, ongeschikt voor langdurig leven in anders dan 1.0G, fataal kwetsbaar voor triviale fysieke schade, nauw verbonden aan specifieke biologische vorm en daarmee nauwelijks uit te breiden, belachelijk lage bandwidth in communicatievaardigheden, etc.

Onze anorganische robotjes hebben geen enkele moeite met ruimtevaart, superdiepzeeduiken, langdurige blootstelling aan temperaturen boven 40 graden, een paar jaar 'uit' staan en weer gereactiveerd worden en talloze andere dingen waar mensen niet bij in de buurt komen. Het is imho triviaal om in te zien dat als je ze van een 50 watt anorganisch brein en uplink naar central intelligence kan voorzien dat organisch leven bij vergelijking kansloos is.

[BeosBeing]

Gezien de vele zwaktes en beperkingen van het menselijk lichaam en organische lichamen in het algemeen is het volgens mij onvermijdelijk dat onze nazaten anorganisch zullen zijn.

De vraag is natuurlijk of we dat wel willen en of we dus niet gewoon overvleugeld zullen worden door deze machines zoals wij ook ooit de Neanderthalers e.a. overvleugeld hebben. Straks zijn wij de huisdieren van de machines, misschien niet zo extreem als in 'the Matrix' maar meer zoals in de 'Planet of the Apes' maar dan met Machines/Robots/Androids in de plaats van de apen.

Non-androide AI is veel minder beperkt dan androide AI of cyborgs en dus een voor de hand liggend nazaat.

Dus jij ziet het wel zitten om zelf (of je kinderen) huisdier te laten worden en mogelijk uitgebuit.

[blackSP]

Je hebt werkelijk geen idee. Ik denk dat je misschien iets hebt gelezen over ensemble modellen, dat komt enigsinds in de buurt van wat je zegt. Deep Learning is toch echt wat anders. Gelukkig is dit al goed toegelicht door andere posters.

[Zwarte_os]

Ik ben zeker nog aan het leren, maar jouw statement slaat gewoon nergens op, je kent mij niet eens. Wees blij dat er nog meer mensen zijn die af willen van het 'Terminator'-narratief. Het misverstand wordt steeds groter.

[blackSP]

Point taken, ik kan het zeker mis hebben.

[WienerBlut]

Misschien een beetje off-topic, maar in AWS kan je voor best weinig per uur een machine aanzetten (F1) instance net Xilinx UltraScale fpga's erin... best mooi spul! En er zijn ide's voor die in Windows draaien (vivado)... ik denk dat voor ook easy entry embedded platformen (zoals de pi) fpga's groot gaan worden, vooral omdat er xilinx SoCs zijn met bijv. 4 A53 kernen en een Mali gpu... en niet duur!

[Reactie gewijzigd door WienerBlut op 24 juli 2024 00:56]

[MeMoRy]

Heb je al wel eens opgezocht wat een xilinx mpsoc kost? Dat is zeker een factor honderd boven de prijscategorie van de RPI.

[wica]

Maar je kan een FPGA niet vergelijken met een RPI.

Op de RPI moet je een O.S. zetten voordat je er iets mee kan doen.
Bij een FPGA moet je de gates programmeren, voordat die iets nuttigs kan doen.
Je kan op een FPGA wel weer een softCPU draaien, welke je geheel naar smaak kan aanpassen en daar vervolgens weer een O.S. op te draaien.

[WienerBlut]

De mpsoc heeft de fpga én arm cores in 1....

[wica]

Klopt, ook intel heeft bepaalde xeons met een fpga, zeer intressant spul.

Ik ben voornamelijk aan het kijken hope wij ze in onze infra kunnen in zetten, wan zie er wel bepaalde voordelen in.

[cdwave]

Wat intel heeft gemaakt lijkt in de verste verte niet op de MPSOC (en zijn voorganger de "gewone" Zynq).

Intel maakt een FPGA en een CPU, apart van elkaar op losse brokken silicium. Vervolgens trekken ze wat draden tussen de twee en stoppen ze in een stuk plastic. Het eindresultaat is zoiets als een PC met een FPGA insteekkaart, met iets betere performance vanwege de kortere draadjes.

De MPSOC, Zynq (en ook Altera's SoC trouwens) bakken de FPGA logica en de CPU op dezelfde plak silicium. Met duizenden verbindingen ertussen. Hierdoor is er niet alleen een enorme bak IO en bandbreedte beschikbaar tussen CPU en logica, maar kan de FPGA bijvoorbeeld data direct uit de L1 cache van de CPU lezen en schrijven.
Nadeel van deze methode is dat de CPU minder efficient wordt omdat het process voor FPGAs geoptimaliseerd is en niet voor CPUs. Vooral interessant voor systemen waar de FPGA belangrijker is dan een beetje meer ARM CPU performance.

[WienerBlut]

Ja absoluut!! Intel heeft altera hiervoor overgenomen. Ze hebben interessante fusies (xeon+fpga) op de Roadmap! We gaan het zien

[wica]

We gaan voornamelijk zien, wat fpga's ons gaan brengen.
Ondanks dat ze al vrij lang bestaan, heb ik het gevoel dat we nog maar aan het begin zijn.

[MeMoRy]

Ik programmeer pas 18 jaar FPGAs en kan je vertellen dat ze ons al heel veel gebracht hebben. Veel apparatuur met kleine oplage, als bijvoorbeeld MRI scanners, zit vol met FPGAs.

[WienerBlut]

Gebruik van FPGA's zijn inderdaad het alternatief op een ASIC, die zijn pas rendabel bij enorme aantallen... tegenwoordig zijn FPGA's ook veel goedkoper en krachtige geworden... Hoe kijken jullie eigenlijk naar de overname van Altera door Intel? Of zaten jullie al 100% op Xilinx?

[MeMoRy]

Emea support voor Intel/altera is al die tijd al slecht, tenzij je voor een bedrijf met miljoenenomzet werkt. Daarom meestal xilinx. Ligt aan de opdrachtgever.

[WienerBlut]

De listprijs voor de chip door 10 van avnet heb je heel mooie boardjes (picozed), supergoedkoop voor wat je krijgt!

Ultrazed: http://zedboard.org/product/ultrazed-EG
Microzed: http://zedboard.org/product/minized

Edit: boardjes toegevoegd

[Reactie gewijzigd door WienerBlut op 24 juli 2024 00:56]

[MeMoRy]

Dat is de oude zynq. Niet de zynq mpsoc...

[WienerBlut]

Neen, dit is weldegelijk de nieuwe http://zedboard.org/product/ultrazed-EG

Picozed is idd de Zynq 7000....

[cdwave]

Voor wie nooit iets met een FPGA gedaan heeft, en eigenlijk alleen software kent, zijn er heel mooie platformen.

Om met FPGA te spelen is een PCIe insteekkaart verreweg het leukst. Je kunt dan op je PC ontwikkelen, testprogramma's schrijven en dan data naar de FPGA sturen en lezen om dingen te testen. Je test machine en debug platform zijn dan een en dezelfde machine. Handig. Net alsof je software maakt.

Je start met een insteekkaart van Nederlandsche bodem. Als student en verbonden aan een universiteit krijg je dikke korting op alles.

Vervolgens installeer je de (gratis) Xilinx Vivado tools, en, tevens van Nederlands fabrikaat, een trial versie van het Dyplo systeem. Ik zou aanraden om Linux op je PC te draaien, maar er is ook een Windows driver beschikbaar.

Dyplo maakt in een paar muisclicks een FPGA ontwerp die het hele PCI deel uit handen neemt, en een soort netwerk-met-gaten in de FPGA achter laat. De gaten ga je straks vullen met je eigen projecten. De link met je systeem worden simpele bestandjes en een paar open-source shell-tools (en C++ libs voor de leukere projecten). Nu kun je met een paar honderd megabytes per seconde data uitwisselen met de FPGA, gewoon door naar een file te schrijven (of lezen natuurlijk).

Voor het vullen van de gaten kun je initieel C code schrijven en die door Dyplo laten omzetten naar FPGA logica. Als het code is van het soort "input->processing->output" werkt dat direct en makkelijk. Een YUV-RGB omzetting bijvoorbeeld, of een 160-taps audio FIR filter zijn in een uurtje of wat gebouwd.

Als je dat onder de knie hebe kun je gaan uitbreiden met een cursusje VHDL-for-dummies en allerhande dingen die in C niet te beschrijven zijn gaan programmeren in de FPGA. En dan verder naar het aansturen van I/O en bijvoorbeeld je eigen radar bouwen...

[wica]

En is er ook een speciale prijs voor hobbyist? Op de site kan ik geen prijs vinden, wat meestal een teken is van heel duur.
Maar in welke prijs klasse moet ik die FLORIDA-PCI zien?

[WienerBlut]

Bij AVNET heb je een System on a Module + Carrier Board voor $895... en dat is best een dikke.. dit zal waarschijnlijk wel in de buurt liggen. @cdwave Het idee van Dyplo is hetzelfde als SDSoc van Xilinx.. ik weet niet of Dyplo moeilijker of makkelijker is, maar het idee is hetzelfde... Je hebt het idee goed verwoord!

[Verwijderd]

Hoe staat het tegenwoordig met de controle op A.I ?
Je hoort wel eens, dat erover gediscusieerd wordt, maar wordt er daadwerkelijk ook wat mee gedaan ?
En in hoeverre wordt de werkende mens beschermt, tegen al die robots en AI die hun werk in gevaar brengen ?

Laat staan, de robots, die de militaire industriele complex in gebruik neemt ?

Edit : Voor mensen, die denken, dat Deep Learning geen toepassing heeft op A.I. en robots
https://www.technologyreview.com/s/513696/deep-learning/

[Reactie gewijzigd door Verwijderd op 24 juli 2024 00:56]

[twmichel]

De controle is hetzelfde als die op graafmachines.

1 persoon met graafmachine vervangt 20 mensen met scheppen. 1 tractor met aardappel oogstmachine vervangt 50 landarbeiders. 1 moderne drukpers maakt net zoveel bijbels als een miljoen kloosterlingen zoudden maken.

Robots zijn al eeuwen hier, en er is nog steeds werk.

[Verwijderd]

Raar dat maar een klein percentage van de wereld bevolking daadwerkelijk werk heeft.
Ja er bestaat nog steeds werk, maar je vertelt er niet bij, wie dat werk heeft

[Verwijderd]

En jij vermeld geen bronnen die je beweringen ondersteunen "knipoog"

[Zwarte_os]

Ja, echt erg dat zomervakanties nu inhouden dat kinderen gewoon vrij zijn in plaats van dat ze moeten meehelpen op het land. Gelukkig laten sommige landen nog zien dat kinderarbeid altijd nog goedkoper kan zijn dan het inzetten van zo'n stomme machine.

[PolarBear]

AI is nogal breed. Machinelearning is wat anders dan robots zeg maar.

[Verwijderd]

Mee eens, maar Deep Learning wordt wel degelijk ook voor ( A.I - robots ) gebruikt.
https://www.technologyreview.com/s/513696/deep-learning/

[Reactie gewijzigd door Verwijderd op 24 juli 2024 00:56]

[418O2]

Precies. Dit is voor dingen als beeld- en spraakherkenning op je telefoon gok ik. Die zapt je niet kapot met zijn phasers als hij zelfbewust wordt.

[Reactie gewijzigd door 418O2 op 24 juli 2024 00:56]

[Niet Henk]

Behalve als het een depressieve Note 7 is, dan ben je er geweest

[wica]

De bescherming is op dit moment op de volgende manier.
Doet de A.I. niet dat wat wij willen, afmaken. Tot dat er een A.I. komt die dit kunstje begrijpt en er wat tegen probeerd te doen.

[DamirB]

Hoe weet je dat die AI zich niet al gekopieerd heeft naar een ander systeem?

[cracking cloud]

Wij is altijd de meerderheid geweest in een democratie. In de landen waar het woord "democratisch" in de naam van het land staat is de Wij vertegenwoordigd door de dictator van dat land.

[Verwijderd]

In een democratie is het mogelijk om raadgevende referendums naast je neer te leggen, als diezelfde regering zijn eigen agenda wilt blijven volgen, dan blijkt, dat de bevolking opeens geen stem meer heeft.

[Verwijderd]

Facebook heeft hun AI een tijdje geleden uitgeschakeld omdat het onderling een eigen taal had ontwikkeld die de onderzoekers niet konden verstaan of begrijpen. Dus eigenlijk zijn in mijn mening de creators de baas en controleren dit.

Edit:

Hoe is dit in godsnaam een -1?

[Reactie gewijzigd door Verwijderd op 24 juli 2024 00:56]

[Tha]

https://www.forbes.com/si...tial-future/#40ec0a87292c

Even een artikel wat ik gevonden heb, naar aanleiding van jouw post.
Als je dan hoort dat Zuckerberg het probleem niet ziet, en Musk daar weer op moet reageren, voorzie ik niets meer dan ellende

https://www.volkskrant.nl...ie-niet-zo-goed~a4508051/

Ik hoop dat wij t allemaal niet mee hoeven te maken, en mijn kinderen ook niet.
Maar Terminator sprookje word gewoon werkelijkheid.

[Reactie gewijzigd door Tha op 24 juli 2024 00:56]

[Timfonie]

Naar mijn idee zit er op de ontwikkelingen van AI geen rem:

Fase 1: inzet van AI levert economisch en militair concurrentievoordeel op, dus heeft de voortdurende ontwikkeling ervan een grote prioriteit

Fase 2: inzet van AI wordt bedreigend voor de mensheid zelf, maar concurrentievoordeel verhindert het pauseren van de ontwikkeling ervan nog altijd

Fase 3: AI domineert de mensheid, maar wordt 'te vriend' gehouden, omdat je beter sterke vrienden kunt hebben dan dat je die overmacht tegen je in het harnas jaagt. En de AI ontwikkelt zichzelf gewoon door.

[dwarfangel]

Onbewust grijpen wij alle science-fiction aan om het werkelijkheid te laten worden. Ooit geinspireerd door de vele uitvindingen die zijn voortgekomen uit star-trek, wilde men vervolgens het Orwell scenario nastreven.. Overigens moet ik erbij zeggen dat schrijver Michael Crighton in de jaren 80 al leuk verhaal heeft geschreven over nano-technologie en de gevaren ervan.
En Terminator ligt inderdaad voor de hand dat we die onderweg ook tegen gaan komen, en vermoedelijk veel sneller dan we met z'n alles hadden gewenst.

Weet alleen even niet meer welke eerder was: Jurassic Park of Terminator. In ieder geval als Jurassic Park uit komt, is er ook weer behoefte aan een Terminator. En je zal net zien, hoe gek het toen was, zo gek als dat het nu klinkt. En hoe gek Orwell en Star-Trek klonk... des te harder we roepen "dat doen we NIET" des te meer lijken we dat gewoon lekker met zn allen (onbewust) na te streven.

[Tha]

Ben nog even verder aan het spitten op dit specifieke verhaal van Facebook.
https://www.fastcodesign....anguages-should-we-let-it

ze snappen er nu al werkelijk helemaal niets meer van, hoe AI bijvoorbeeld "denkt"....
waanzinnig!! gewoon geen controle!
en machtige mensen als zuckerberg aan het roer, die doen maar en doen maar zonder enig ethisch of moreel besef.

kippenvel

[dwarfangel]

Leuk artikel. Wat ze terecht aanhalen, is dat we door de AI veel beter inzicht kunnen krijgen in ons eigen functioneren. In feite zijn de tokens waar zij het over hebben niets anders dan de vocabulaire die wij gebruiken, in combinatie met non-verbale communicatie en intonaties.

Ook halen ze heel terecht aan, dat de daadwerkelijke meerwaarde van een zelf-sprekende AI nog niet heel duidelijk is. Maar een verkeerde inschatting in een complex beloningssyteem, en het gebrek aan controle op hyrarchie, dat samenwerkt met andere bots is in mijn ogen echt gevaarlijk.

Stel je voor dat we zoals in het voorbeeld te maken hebben met een onderhandeling:

Ik kan me een scenario voorstellen, waarin jij bijvoorbeeld, samen met 1 ander persoon 1 laatste model van een koelkast wil kopen. En stel we weten niet dat er in de wereld van Bots ook hyrarchie kan ontstaan. Dat misschien de Bots samen beslissen, dat het rendabeler, of economischer is als jij géén koelkast krijgt. Maar stel jij wil héél graag die koelkast, en doet er extra moeite voor. Wat gebeurd er dan, gaan die Bots jouw proberen te stoppen? Vliegt "jouw" bot dan uit de bocht omdat jij hem niet mocht kopen?

Het is allemaal vage toekomst muziek, maar de redenatie achter de AI - het niet begrijpen van de samenhang is zorgwekkend. Helemaal als wij dan niet achteraf de Bots tot verantwoording kunnen roepen.
Nu, zouden we die mensen voor de rechter dagen als er opzet in het spel is om jouw auto te laten crashen door een verkoper. En dan moeten zij zo goed mogelijk (door een advocaat laten) uitleggen, waarom bepaalde keuzes zijn gemaakt. En eventueel dus levenslang geven - als het risico te groot is om zo iemand in de maatschappij te hebben.

Als we al niet eens begrijpen wat ze zeggen, dan is dat onmogelijk; waar we over mensen zouden zeggen "niet toerekeningsvatbaar"

[Reactie gewijzigd door dwarfangel op 24 juli 2024 00:56]

[Splorky]

Erg interessant,

Nu is het een chatbot, maar het zal me niets verbazen als je IA een eigen programmeer taal, datacommunicatie protocollen laat maken dat gigantisch efficiënte uitkomst krijgt waar "wij mensen" niets van kunnen begrijpen, het zal vast ook zo dynamisch zijn per specifieke toepassing dat het niet overzichtelijk is te krijgen.

Mijn angst is niet dat dit de verkeerde kant op gaat, mijn angst is wel dat mensen slechte input geven vanwege macht of onkunde. een IA maakt het niet uit of een slacht vol met menselijke kadavers hangt of koeien, als input vlees en output winst moet zijn? (even heel extreem, zal naar mijn idee niet gebeuren, maar als voorbeeld van slechte input, en prio op winst)

Denk dat dit wel er naar toe gaat dat het hele proces een black box gaat zijn.
Je geeft de beschikking over oneindig veel data, en je weet niet wat waarom en hoe, maar het resultaat is beter dan je ooit zou durven dromen.
analyse van alle data kan vast gigantisch efficiënte medicijnen creëren, geen bij werkingen, 1 pin ipv velen en persoonlijk ieder persoon zijn eigen pil, aan de andere kant kun je ook analyseren wat het meeste winst op levert, er een persoonlijke prijs aan hangen en zorgen dat er iedere week een
pil nodig is omdat dat meer op levert dan de kuur die het daadwerkelijk verhelpt.

op die zelfde manier kan ook een soort precop opgezet worden op basis van feiten is er een aannemelijke kans dat iemand een strafbaar feit heeft gepleegd en of gaat plegen (waarop dat gebaseerd is kan niet worden gezegt want de computer heeft het brekend op een manier die we simpelweg niet snappen. maar wat als de machtige president van Amerika geflagged wordt, dan moet de output aangepast worden, als belangrijke personen geflagged worden, moet het ook aangepast worden, want ja ook al klopt het, het is on toelaat baar.

Op dit moment is de mensheid te egocentrisch ingesteld voor een goedaardige IA, hopelijk komt het goed (en Mark van Facebook vertrouw ik al helemaal niet op zijn blauwe ogen)

[met het risico alle geloofwaardigheid te verliezen]
Eigenlijk pas op het moment dat we een katten leven hebben of als mensheid willen zijn we toe aan IA (je weet wel al het werk is geautomatiseerd, we hebben geen mood, er is geen werk wat de moeten doen, maar als je wil kun je werken, zoals katten niu leven dus.)

[Reactie gewijzigd door Splorky op 24 juli 2024 00:56]

[BeosBeing]

....
waanzinnig!! gewoon geen controle!
en machtige mensen als zuckerberg aan het roer, die doen maar en doen maar zonder enig ethisch of moreel besef.

Voor winstbejag moet in deze wereld alles wijken.
Dat is van alle goden de grootste. Die stuurt bedrijven, sport- en defensie-organisaties aan.

[Aikon]

Heb je hier ook een bron van?

[Aikon]

Als je geen zin hebt om te antwoorden, doe het dan niet, het was maar een vraag.

[Verwijderd]

Als ze nu eens voor iedere onterechte min 1 10 jaar gevangenis straf zouden geven zou t een stuk beter zijn op tweakers.

[Misha Engel]

De film Ex Machina is volgens mij een goed voorbeeld van real-time A.I. (machine learning).
Dit is volgens mij niet tegen te houden, mede doordat mensen die hier aan werken het in de hand denken te hebben en er geld mee verdienen.

[Niet Henk]

De film Ex Machina was mijns inziens een uitzonderlijk slecht voorbeeld hiervan. Er werd helemaal niet op ingegaan hoe de robot daadwerkelijk leerde, wat de feedbackmechanismen en het doel was, en de robot was vreemd genoeg gemotiveerd te ontsnappen en vrij te zijn.

AI leert altijd binnen een kader, met een doel, en met een feedbackmechanisme (tenminste, tot nu toe, zover ik weet). Ex Machina deed alsof een AI gewoon een slimme psychopaat is, met zijn eigen beweegredenen. Dit is alles behalve waar, en AI denkt zeker niet als een mens, ook niet als een psychopaat. Het blijft een machine, die binnen zijn patroon blijft.

[Tennisbal]

Mag ook wel. Mijn project met face recognision Via ms azure face api werkt supertraag. Duurt 13 seconden voor data terugkomt.

[Verwijderd]

Dit is geweldig!

Ik kan niet wachten tot de mens word vervangen!

[cracking cloud]

Als ze dit gaan gebruiken om cortana te verbeteren dan zeg ik: doen. (Cortana heeft momenteel het IQ van een kikkervisje). Als het de bedoeling is om er uiteindelijk (door derden, ook al is het misschien niet de intentie van microsoft) moordmachines mee mogelijk te maken dan wordt het een heel ander verhaal.

[cracking cloud]

aha, dus "dat niemand kan kopen of verkopen, dan wie het merkteken, de naam van het beest, of het getal van zijn naam heeft. "