×

Help Tweakers weer winnen!

Tweakers is dit jaar weer genomineerd voor beste nieuwssite, beste prijsvergelijker en beste community! Laten we ervoor zorgen dat heel Nederland weet dat Tweakers de beste website is. Stem op Tweakers en maak kans op mooie prijzen!

Cookies op Tweakers

Tweakers maakt gebruik van cookies, onder andere om de website te analyseren, het gebruiksgemak te vergroten en advertenties te tonen. Door gebruik te maken van deze website, of door op 'Ga verder' te klikken, geef je toestemming voor het gebruik van cookies. Wil je meer informatie over cookies en hoe ze worden gebruikt, bekijk dan ons cookiebeleid.

Meer informatie

Facebook richt nieuw ai-onderzoekslab op in Montreal

Door , 49 reacties

Facebook opent een vierde laboratorium voor ai-onderzoek in het Canadese Montreal. De andere drie zijn gevestigd in de VS en in Frankrijk. Joelle Pineau, professor in computer science aan de Canadese McGill-universiteit, wordt hoofd van de instelling.

Dit laboratorium gaat volgens een blogpost van het bedrijf zich specifiek richten op reinforcement learning en dialoogsystemen. Hoeveel wetenschappers er aan de slag zullen gaan, is niet duidelijk. Bij de andere drie laboratoria werken in totaal 100 onderzoekers, staat er wel in de post.

Joelle Pineau heeft in het verleden algoritmen voor plannen en leren ontwikkeld en toegepast in robotica, de gezondheidszorg, gaming en conversaties. De dame is ook mededirecteur van het Reasoning and Learning Lab bij de McGill-universiteit en heeft talloze publicaties binnen het veld op haar naam staan. Pineau blijft ook werken bij de universiteit.

Dit nieuwe Facebook AI Research-laboratorium, of FAIR, moet net als de anderen gaan samenwerken met de onderzoeksgemeenschap. Zo is er het voornemen om onderzoeksresultaten te publiceren, opensourcesoftware vrij te geven, en conferenties te organiseren. Dit in het kader van Facebooks mede-oprichten van het Partnership on Artificial Intelligence.

Door Mark Hendrikman

Freelancer

16-09-2017 • 10:19

49 Linkedin Google+

Reacties (49)

Wijzig sortering
Telkens een artikel verschijnt over AI krijg je snel de discussie over het potentiŽle gevaar ervan, waar de ene groep van oordeel is dat het behoorlijk gevaarlijk is en de andere groep dat het gevaar overschat wordt.

Vorig jaar is een survey gepubliceerd waar men experten in het domein gevraagd heeft naar hun mening over AI: tegen wanneer kunnen we een AI verwachten met mensencapaciteit, wanneer superintelligentie en hoe groot is het potentiŽle gevaar. Dit is de samenvatting:

There is, in some quarters, concern about high–level machine intelligence and superintelligent AI coming up in a few decades, bringing with it significant risks for humanity. In other quarters, these issues are ignored or considered science fiction. We wanted to clarify what the distribution of opinions actually is, what probability the best experts currently assign to high–level machine intelligence coming up within a particular time–frame, which risks they see with that development, and how fast they see these developing. We thus designed a brief questionnaire and distributed it to four groups of experts in 2012/2013. The median estimate of respondents was for a one in two chance that high-level machine intelligence will be developed around 2040–2050, rising to a nine in ten chance by 2075. Experts expect that systems will move on to superintelligence in less than 30 years thereafter. They estimate the chance is about one in three that this development turns out to be ‘bad’ or ‘extremely bad’ for humanity.

Bron: https://link.springer.com...F978-3-319-26485-1_33.pdf

[Reactie gewijzigd door TheBlackbird op 16 september 2017 13:05]

Interessante survey - de uitkomst vind ik zeer slecht verwoord. Het hangt absoluut niet af van kans wanneer er "high-level machine intelligence" zijn, maar van veel onderzoek en doorploeteren. Het gaat niet vanzelf. De verwachtingen van experts wanneer dat gerealiseerd is zijn natuurlijk ook geen kans maar onderbouwd op eigen kennis en ervaring.

Blijft toch altijd goed om in het achterhoofd te houden dat, zoals ons uitvoerig gedemonstreerd is bij de opleiding Kunstmatige Intelligentie, veel experts ook in 1950 al dachten dat het zů hard zou gaan.

Belangrijkste blijft toch om ons te realiseren dat het geen kansspel is, maar dat we het zelf in de hand hebben. In ieder geval tot het moment dat er kunstmatige intelligentie op menselijk niveau mogelijk is.
"Blijft toch altijd goed om in het achterhoofd te houden dat, zoals ons uitvoerig gedemonstreerd is bij de opleiding Kunstmatige Intelligentie, veel experts ook in 1950 al dachten dat het zů hard zou gaan."

Besef wel dat er grote veschillen zijn met de jaren '50 en nu.

1. Destijds de focus lag op predicaat-logica, formele beschrijvingen, oplossingsruimten, etc.
Tegenwoordig ligt de grootste focus terecht op neurale netwerken (al of niet in combinatie met andere benaderingen). Neurale netwerken zijn bijna oneindig flexibel in waar ze voor ingezet kunnen worden en ze hebben parallellen met wat zich in de natuur (als in hersenen) al ruimtschoot bewezen heeft.

2. Door miniaturisering en de functionele omvang van de systemen is tegenwoordig heel veel meer mogelijk.

3. De economische en militaire belangen in de huidige en toekomstige AI-technologie is zo groot, dat er enorme kapitalen worden geinvesteerd in onderzoek en ontwikkeling. Het is een ratrace op zich geworden.

Daarom verwacht ik dat de huidige interesses en verwachtingen m.b.t. A.I. geen hype zijn, maar een voorbode van wat komen gaat.

[Reactie gewijzigd door Timfonie op 16 september 2017 14:39]

Het is een onderzoek op basis van de stand van de techniek nu de kennis die deze mensen hebben en de inschatting die ze over dit onderwerp kunnen maken.

Het hele ai verhaal gaat verder dan we nu denk ik voor mogelijk houden.Voorbeeld van een richting. Je hebt nu al protheses voor mensen waarbij men al bezig is deze aan hersensignalen te koppelen. Ga even verder en denk dan waarom kan een bestaand mens ze niet hebben en op die manier veel sterker door het leven gaan, betere ogen maar nog een stap verder een computer linken aan ons brein voor ondersteunende taken. Laat de mens nou niet het voorbeeld zijn van een vredelievend soort en zie daar wie weet stuur een ai systeem straks ons lichaam en brein wel aan.

Of andersom waarom kan men geen brein kweken met dna modificatie en dat programmeren. Een programmeerbare biocomputer in combinatie met hardware.

Het zijn maar voorbeelden wat er met het sneller worden van techniek allemaal mogelijk kan zijn. Quantum computers zullen die alles ook een gigantische boost kunnen geven. Het heeft uiteindelijk ook weer alles met rekenkracht te maken.

Wat betreft het laatste 1/3 schat dat het slecht voor de mensheid is. Het zal de mensheid vernietigen c.q ondergeschikt maken en grote kans de hele aarde terugwerken naar steentijd in chaos.
Was het Murphy die zei: Alles wat mis kan gaan, gaat een keer mis?
Of wat ik zelf zeg, met oneindig veel tijd zal alles wat kan gebeuren, ook echt gebeuren.

Eigenlijk zijn we nog (naieve) kinderen met veels te krachtig (AI) speelgoed. En kinderen van alle tijden, blijven (vaker voorkomende) fouten maken.

100% 'extremely bad' dus, naar mijn mening :)
[edit]
En de rest van de tijd 'extremely good' waarschijnlijk. Maar de focus ligt vaak op de negatiefste kant. Meeste impact op het leven, en dus heeft men meestal de meeste angst daarvoor.

[Reactie gewijzigd door Flipull op 16 september 2017 19:55]

Moet je nagaan hoeveel er verdient word om even een compleet centrum erbij te bouwen. Dit geld niet alleen voor facebook maar voor meerdere/ vele bedrijven.
AI blijft in mijn ogen een systeem die je leert om iets te gaan doen. Je geeft het de mogelijkheid om beslissingen te nemen die door de mens zijn aangeleerd.


Het is moeilijk te definiŽren wat 'intelligentie' precies is. Het is derhalve ook moeilijk te definiŽren wat artificiŽle intelligentie precies is.

Dingen die aanvankelijk als zeer intelligent werden beschouwd, zoals het winnen van een partij schaak van de wereldkampioen schaken, blijken opeens toch niet zo intelligent te zijn als het doel eenmaal is bereikt (Kasparov-Deep Blue, 1997). Soms wordt weleens half-schertsend gezegd 'Kunstmatige intelligentie is wat we de computer nog niet kunnen laten doen'.

Een vrij algemeen geaccepteerde test voor kunstmatige intelligentie is de turingtest, geformuleerd door de Engelse wiskundige Alan Turing, een van de vaders van de informatica. Deze komt erop neer dat als een computer iemand voor de gek kan houden en deze kan laten geloven dat hij een mens is, de computer intelligent moet zijn.

Deze visie kan tot het 'extreme' doorgevoerd worden, wat leidt tot het idee dat een kunstmatig intelligente entiteit het ultieme model van de mens is. In deze hoedanigheid heeft de AI veel te maken met de psychologie. Een andere visie is om alleen de 'goede' dingen van de mens te gebruiken en waar mogelijk dingen te verbeteren. Computers zijn in verschillende dingen, zoals wiskunde, een stuk beter dan mensen. Een menselijke intelligentie gecombineerd met de rekenkracht en opslagtechnieken van een computer overstijgt de menselijke intelligentie. Bij dergelijke artefacten is de mens als maat overduidelijk minder geschikt. Als dit het doel is dan relateert de AI zich weer meer met de informatica.

Technieken als neurale netwerken en genetische algoritmen laten zien dat de AI ook inspiratie haalt uit de biologie. Zoals te lezen is zijn veel takken van de wetenschap gerelateerd aan de AI. De kunstmatige intelligentie zou dus ook gezien kunnen worden als een brug tussen verschillende disciplines.

bron: https://nl.wikipedia.org/wiki/Kunstmatige_intelligentie

[Reactie gewijzigd door lagefrequentie op 16 september 2017 11:14]

Kunstmatige Intelligentie is heel breed alles wat te maken heeft met electronische systemen en de interactie daartussen. Het is dus inderdaad een brug tussen veel disciplines. Cognitieve ergonomie valt ook gewoon onder kunstmatige intelligentie: het ontwerpen van gebruikersinterfaces die door mensen efficiŽnt gebruikt kunnen worden.

De Turing-test is een interessante insteek maar kent vele haken en ogen. Er zijn veel aanwijzingen dat dolfijnen vrij intelligente dieren zijn, maar voor de Turing-test kunnen ze nooit slagen. De Turing-test test vooral de (subjectieve) perceptie van een of meerdere mensen van een ander mens. Daarvoor slagen is voorlopig nog echt onmogelijk - tenminste, als je de tijd krijgt om een beetje door te vragen. Voor de hand liggende vragen zullen vast goed beantwoord worden, maar zodra je gaat praten over emoties, ethiek en actualiteiten vallen ze sowieso snell door de mand.

Voorlopig blijft KI nog echt een systeem om voorgedefinieerde problemen op te lossen, zoals je aanhaalt. De spookbeelden van Musk lopen echt nog tientallen zo niet honderden jaren voor op de realiteit. Dezelfde discussie werd 70 jaar geleden ook al gevoerd, toen zou het ook niet lang meer duren. Machine learning staat echt nog in de kinderschoenen. Wat ermee gedaan wordt is zeer spectaculair, absoluut, maar altijd tot een zeer specifiek domein gebonden. Algemeen inzetbare "Kunstmatig Intelligente" systemen zijn nog heel ver weg, en ik betwijfel ten zeerste of ik het nog mee ga maken in mijn leven. Maar we gaan wel een hele hoop leuke toepassingen zijn verschijnen, en helaas met dank aan Facebook en Google ook een hele hoop minder leuke.
Cognitieve ergonomie valt ook gewoon onder kunstmatige intelligentie: het ontwerpen van gebruikersinterfaces die door mensen efficiŽnt gebruikt kunnen worden.
Ben wel benieuwd waar jij die kunstmatige intelligentie hebt verstopt dan?

Ergonomie is per definitie gericht op de mens, en diens bewustzijn en handeling in een bepaalde omgeving.
Als je op deze manier gaat redeneren kan je ook stellen dat de tandarts en en supermarkt ook onder kunstmatige intelligentie past? Lijkt me beetje overdreven dat we alles gaan samenvatten onder KI.

Er komt altijd nog techniek bij kijken om het onder de KI-noemer te laten vallen, die redeneert op basis van input.

Ik zou je hooguit kunnen geloven als jij een interface kan bouwen die zich 'on the spot' aanpast aan zijn gebruikersgroep; m.a.w. als hij "ziet" dat een oud vrouwtje inlogt en dus 'zelf' bedenkt wat hij moet laten zien, dan kan ik erin komen. (Maar dus niet stukje snippet "ALS mevrouw 60+ is, gooi dan de font-size omhoog; maar een systeem dat bedenkt: "de succes van de handelingen voor mensen met bepaalde eigenschappen is hoger als ik de font-size omhoog doe). Maar daarmee is cognitieve ergonomie nog geen KI. je hebt alleen een brug geslagen met de KI van informatica.

[Reactie gewijzigd door dwarfangel op 17 september 2017 14:01]

Dan hanteer jij een nauwe definitie van AI. Een goede, intuÔtieve interface, als is het op basis van als-dit-dan-dat regels , kan zeer bijdragen aan de productiviteit van gebruikers.

De grootschalige data mining van Google e.d. wordt vaak ook onder AI geschaard, terwijl je dat ook gewoon als statistiek zou kunnen beschouwen.

Het vakgebied van KI heeft grote raakvlakken met o.a. psychologie, (neuro)biologie, filosofie, ergonomie, wiskunde, statistiek en informatica. Bekijk het curriculums van de diverse AI-opleidingen maar eens.
Er zijn natuurlijk 2 dingen aan de hand.
1. Ja kunstmatige intelligentie is in opkomst. En is zoals bij ieder "nieuw" (wetenschaps)gebied natuurlijk reuze spannend en iedereen heeft de opvatting "the sky is the limit".
2. Zoals bij iedere hype zal natuurlijk blijken, dat opeens de spycholoog om de hoek al jaren KI blijkt toe te passen. En de bakker 3 straten verder natuurlijk ook. Ineens doet iedereen KI, alsof het nooit iets nieuws is geweest.

Je zegt het zelf wel goed "heeft raakvlakken met"... Wiskunde heeft ook raakvlakken met 'schrijven' en 'letters'. Maar daarmee ben je als wiskundige niet ineens een schrijver. Ik denk dat we moeten oppassen met alles onder KI te willen plaatsen.

Intelligentie (zonder kunstmatigheid) is gebaseerd op 7 pilaren. Elk onderscheidend met een cognitieve vaardigheid. Dat kunstmatige intelligentie dus veel raakvlakken heeft is niet zo gek.
Uiteindelijk gaat KI niet om de data, maar de wat je ermee doet. Als jij een computer autonoom een interface kan laten bouwen, ja dan zit je goed. Maar tot dat punt zal het dus ook niet meer dan een raakvlak'je' blijven.
De Turing-test is een interessante insteek maar kent vele haken en ogen. Er zijn veel aanwijzingen dat dolfijnen vrij intelligente dieren zijn, maar voor de Turing-test kunnen ze nooit slagen.
Klopt, maar de Turing test is ook meer een voldoende voorwaarde dan een nodige. Als je er voor slaagt ben je intelligent, maar je kan prima intelligent zijn zonder te slagen.

Dank overigens voor je nuchtere insteek bij de andere reacties ook; gelukkig zijn er nog mensen die niet meteen op de hype-train springen :)
'Dezelfde discussie werd 70 jaar geleden ook al gevoerd, toen zou het ook niet lang meer duren'

Toen was de technologie er niet, nu wel.
Lees 'ns wat artikelen van Ray Kurzweil, dan ga je er misschien anders naar kijken.

https://en.m.wikipedia.org/wiki/Ray_Kurzweil
En dat met een baas aan het hoofd die enkel maar de rooskleurige kant van AI ziet... Noem me een schijtlaars, maar daar word ik echt bang van...
Ik word juist een beetje moe van al die mensen die nu ineens Musk napraten hoe eng en gevaarlijk "ai" is; dit is gewoon een vorm van data mining en analyse. Toen we vroeger correlatie coefficienten uitrekenden riep ook niemand hoe gevaarlijk dat wel niet was.
Het is niet alleen musk, ook oa gates. En juist met een beetje nuchter nadenken kun je niet anders dan tot dezelfde conclusie komen als hun. Vergis je niet hoor, deze heren komen in kringen waar jij nooit zult komen, deze heren krijgen dingen te zien die nog lang niet publiekelijk zijn. En voordat musk publiekelijk zijn gedachte hierover gaf waren er al een hoop mensen die zich er zorgen over maakte.
De mens is ook niets meer dan een biologische computer, en ook wij kunnen ons vaak wel om opgelegde beperkingen heen denken. Een AI kan dat uiteindelijk ook en is in staat om nog veel sneller te denken/leren als wij. We hebben het hier dan niet over simpele chatbots of een 'simpele' ibm watson.
Dat is niet wat AI is en al helemaal niet wat AI gaat zijn. We praten Musk niet na, we hebben zelf ook hersenen om te beredeneren. Hier is mijn redenatie: als we een computer maken die net zo slim is als een normaal mens, dan is die door natuurkunde al superieur. Hoe superieur? Als je zo'n computer een week laat aanstaan zou het gelijk staan aan 20000 jaar denken voor een normaal mens. Dat betekent simpelweg dat een computer vanaf dat moment alles beter doet dan een mens. Het is in principe onze laatste uitvinding. Daar komt dan bij dat wij zo inferieur zijn als mieren voor ons. En zo lang onze belangen hetzelfde zijn is dat geen probleem. Wij doen mieren geen kwaad, maar als we een gebouw moeten bouwen ergens houden we echt geen rekening met ze. AI heeft straks zijn eigen belangen. En omdat het gaat over een hyperintelligent systeem, kunnen wij echt niet voorspellen hoe dat afloopt. En ja dat is zeer angstaanjagend.
Ik denk dat je niet moet overschatten waar AI nu staat; met heel veel moeite kunnen we de (super) computer eindelijk vrij eenvoudige taken aanleren, zoals auto rijden (iets dat mensen bijna op de automatische piloot kunnen). De prestatie om de wereldkampioen Go te verslaan was wel een stuk indrukwekkender, maar nog steeds gaat het dan om een relatief overzichtelijke taak met volledige informatie en een begrensd aantal mogelijkheden. Als je dan kijkt hoeveel moeite het kost, dan zijn mensen eigenlijk verbazingwekkend efficient (en vaak veel goedkoper in te zetten). De neurale netwerken die nu in de praktijk gebruikt worden zijn kleiner dan die van een vlieg qua aantal neuronen. Daarbij kost het ongelooflijk veel energie om deze kleine hersentjes te trainen; de architectuur van een computer is simpelweg niet heel geschikt om hersenen na te bootsen.

Toch heb je gelijk dat er best indrukwekkende dingen gebeuren en zullen gaan gebeuren. Wat dat betreft denk ik ook dat AI (i.c.m. robotica) een revolutie teweeg zal gaan brengen. Veel eenvoudige, repetitieve handelingen kunnen we laten overnemen door machine's. Voor een groot deel zal dit goed nieuws zijn, omdat dit niet taken zijn die je als mens je hele leven wilt doen. Het roept echter ook vragen op hoe we de vrijgevallen werkkrachten dan wel kunnen inzetten en / of hoe we inkomen anders gaan verdelen (basis inkomen wellicht).

Er zijn ook meer duistere kanten aan AI; we begrijpen bijvoorbeeld maar zeer beperkt waarom (complexe) AI bepaalde beslissingen neemt (inherrent aan de complexiteit van het model). Dit is vooral een probleem als AI bepaalde ethische keuzes gaat maken; denk aan zelfrijdende auto's die bij een drijgend ongeval moeten kiezen uit twee kwaden. Bepaalde vooroordelen kunnen bij het trainen van een AI ongemerkt in het systeem sluipen. Als we het oordeel van een AI voor waarheid aannemen, is het gevaar dat deze ingebakken vooroordelen daarmee gelegitimeerd worden.

Nog een duistere kant is dat AI gemilitariseerd kan worden, waarbij ook fouten gemaakt kunnen worden. Denk bijvoorbeeld aan op AI gebaseerde cyberaanvallen / virussen die behoorlijk uit de hand kunnen lopen. Of militaire drones waardoor oorlogen makkelijker begonnen zullen worden en langer zullen duren (ondanks dat er altijd een economische kostenpost zal zijn).

Probleem is echter dat AI en robotica er al zijn en we er dus mee om moeten leren gaan. Een doemscenario als Elon Musk schetst vindt ik niet heel behulpzaam bij het oplossen van de problemen. Wel denk ik dat overheden veel actiever moeten zijn in het signaleren van de mogelijkheden en problemen. Zoals altijd lijkt de overheid ver achter te lopen op de technologische ontwikkelingen die allang in gang zijn gezet.
Ik denk dat je het ook niet moet onderschatten. Ontwikkelingen kunnen ineens heel erg snel gaan. Het maakt ook niet echt uit hoeveel neuronen het zijn. Het ligt er maar net aan wat die neuronen "denken" en "doen". Hoe simpeler hoe gevaarlijker kan je zelfs zeggen. Hoe minder afwegingen er zijn hoe makkelijker de beslissing welke actie er moet plaatsvinden

Zolang we nog geen flauw idee hebben hoe bewustzijn ontstaat etc. is het gewoon ontzettend gevaarlijk om niet van het ergste uit te gaan. Een groepje neuronen hoeft maar net "het licht te zien" en de rapen kunnen zomaar gaar zijn. Uiteraard is dat geen ramp (zou je denken tenminste) als het slechts een hoopje snot in een schaaltje is maar zodra de handel gekoppeld is aan computersystemen (en internet) dan kan het zomaar op een ramp uitdraaien.

Een doomscenario als Terminator wordt al snel belachelijk gemaakt maar hoezo zou dat zo vergezocht zijn (buiten het tijdreisgebeuren e.d. uiteraard)?

In Japan hebben ze al interactieve robots die kunnen rondbanjeren enzo. Het is alleen maar een kwestie van tijd voordat er een neuraal netwerk ingezet gaat worden. Als zoiets een zelfbewustzijn gaat ontwikkelen dan heb je best wel een probleem. Zo'n ding heeft namelijk goed geleerd hoe mensen interactie plegen (inclusief de minder fraaie gedragingen en denkwijzen).

Er zijn genoeg mensen die andere mensen slechts als obstakel zien en deze ook alszodanig behandelen (tot vermoorden aan toe). Hoezo zou dat anders zijn bij een kunstmatige levensvorm die zijn denkwijze heeft geleerd van wezens die daartoe in staat zijn?

Het hoeft ook niet perse al een fysiek ding te zijn. Er zijn genoeg systemen die een hele productielijn besturen en steeds meer in staat zijn om complete producten te vervaardigen zonder inmenging van mensen. Een eigen lichaam in elkaar sleutelen zou zomaar tot de mogelijkheden kunnen gaan horen.

Overigens kan je ook zomaar te maken krijgen met allelei andere ethische kwestisch. In Star Trek TNG hadden ze daar een mooie aflevering over: "The Measure of a Man". Wat is de definitie van leven? Is een android eigendom van iemand? Heeft een android zelfbeschikkingsrecht? Is dat slechts science-fiction of gaan we daar serieus mee te maken krijgen?
Voorlopig hebben we net iets gehad over het "portretrecht van een makaak". Het lijkt me dus niet onwaarschijnlijk dat we tegen dergelijke zaken aan gaan lopen.

Kortom: je kan niet paranoide genoeg zijn als het gaat om kunstmatige intelligentie.
Het meest concrete wat ik Elon Musk hierover heb zien zeggen is "we should be very concerned", geen doemscenario of iets dergelijks.
Verder werd hij niet veel explicieter dan dat hij - in tegenstelling tot de meeste mensen - toegang heeft tot de meest vooraanstaande AI die nu wordt ontwikkeld.
Ik vind het persoonlijk wel angstaanjagend, het idee dat AI gemilitariseerd wordt en vervolgens via machine learning ons voorbij streeft...
We weten niet eens of menselijke intelligentie computable is (zeer waarschijnlijk niet, zie Penrose). Wellicht moeten we eerst volledige nieuwe types "computers" uitvinden. Het scenario dat je schetst zou natuurlijk kunnen, maar zoveel zou kunnen (bijvoorbeeld een zwart gat opwekken bij een toekomstig natuurkunde experiment dat ons opslokt); dat betekent niet dat we nu moeten stoppen met statistische data analyse of natuurkunde experimenten in het klaslokaal (dat is een beetje de staat waar we zijn met AI nu: een zwaartekracht proefje met een veertje en een loodje op de middelbareschool versus het risico een zwart gat op te wekken met dat proefje).

[Reactie gewijzigd door Zoijar op 16 september 2017 11:44]

Leuke filosofische insteek. "ALS we een computer maken die nte zo slim is als een normaal mens". Ja, als. Doe dat dan? ;) Zo ver zijn we echt nog LANG niet.

En dan mist die computer ook nog ons lichaam. Het is niet het sterkste, snelste of flexibelste, maar wel zeer adaptief, flexibel en overal inzetbaar. Die superslimme computer zonder lichaam hoeven we niet bang voor te zijn, want we trekken de stekker er gewoon uit - hij geeft letterlijk geen poot om op te staan.

Mensen kunnen springen, rennen, zwemmen, klimmen en voertuigen en hulpmiddelen gebruiken. Allemaal dingen die deels opgelost zijn in robotica maar altijd extreem duur, lastig te bouwen, kwetsbaar en niet flexibel. Voordat we buiten spel gezet worden, als dat al gaat gebeuren, zijn er nog ontzettend veel hordes te nemen. Goed om in het achterhoofd te houden en over te filosoferen, dat zeker. Maar er angstig van worden is nergens voor nodig.
Dat is echt zeer naÔef. Ten eerste weet je duidelijk niet hoe ver we zijn. En dat kan ook niet want we begrijpen bewustzijn nog niet helemaal. Dus is het we zijn er nog LANG niet een beetje kort door de bocht. En dan zeg ik het nog vriendelijk. Daarnaast denk ik dat de dingen die je noemt ook al een stukje verder zijn dan je zegt.
Het is alleen maar mijn vakgebied, maar ik heb inderdaad geen idee waar ik het over heb... :X

Ik zeg niet dat 'autonome killer robots' niet iets zijn waar we niet bang voor hoeven te zijn - met de huidige stand van de techniek is dat zeker mogelijk. Dat moet zeker in de gaten gehouden en gereguleerd worden. Die robots zijn echter niťt intelligent - ze zijn in staat om een specifieke taak te doen. Als ze 'rogue' gaan en de hele wereldbevolking uitroeien komen ze daarna vrij snel tot stilstand en gebeurt er niets meer.

De kunstmatige intelligentie die vandaag de dag toegepast wordt is echt nog geen enkele match qua algemene vaardigheden voor de menselijke intelligentie. Door hun rekencapaciteit en ontwerp kunnen ze op sommige specifiek vlakken natuurlijk wel mensen verslaan.
Nog lang niet bang voor zijn....

Vergelijk computers eens met die van 30 jaar geleden... ontwikkelingen gaanbijzonder snel en zo ook tijd.

Dat je voor AI niet bang hoeft te zijn zolang het geen lichaam heeft is toch niet een mening die ik deel.

We zijn ontzettend afhankelijk geworden van informatiesystemen. We hebben zo ongeveer alles dat we kunnen aan de cloud gekoppeld, ai heeft geen lichaam nodig om het ons extreem moeilijk te maken of misschien zelfs wel onmogelijk. AI hoeft 'de knop' niet eens in te drukken...

Als het daadwerkelijk ooit zelfbewust wordt en intelligenter is dan ons, zal het snel inzien dat de mens een gevaarlijk wezen is die destructief is voor ieder ecosysteem en iedere andere vorm van leven. Wat zouden wij met een ras als de mens doen? We moorden zelfs onze eigen soort uit zodra we er een belang in zien.
Sorry maar argumenten op basis van autoriteit kan ik weinig mee. Ik snap niet dat je het verschil niet ziet tussen instructies geven en het echt creŽren van een autonoom process. Dat je denkt dat we dat niet gaan kunnen is echt naÔef. Het verbaast me dat je niet begrijpt dat we dat wel gaan kunnen, en sneller dan je misschien denkt.
Ik zeg helemaal niet dat we dat niet gaan kunnen. Ik zeg alleen dat we dat nu niet kunnen, en dat we dat de komende 20 jaar ook niet gaan kunnen. Ik hoop het gedurende mijn leven nog mee te maken, maar zelfs daar heb ik mijn twijfels bij.

De hele filosofische insteek van 'het kan opeens heel hard gaan' of 'stel je nou eens voor dat ...' kan ik gewoon niet zo veel mee. Laat maar zien! Ik weet vrij aardig de huidige stand van de techniek is en ik weet ook hoe zich dat ontwikkelt en wat knelpunten zijn. Daarmee gaat de ontwikkeling die richting op niet 'hard'. Er gebeurt een hoop, en er is vooruitgang, maar er is nog zo'n lange weg te gaan dat het niet meer dan fantaseren blijft om er op korte tot middellange termijn veel van te verwachten.

Niet naÔef, maar realistisch. Ik weet het, in het verleden (niet) behaalde resultaten bieden geen garantie voor de toekomst, maar gezien de ontwikkelingen op het vakgebied in tot nu toe zie ik geen aanleiding om sterke revoluties te verwachten op korte termijn.

Nogmaals: ik zie geen reden waarom het we er op termijn niet in zouden kunnen slagen. Het benodigde onderzoek ťn de benodigde rekencapaciteit om dat allemaal waar te maken is wel een flinke horde die niet zomaar genomen is.
Dat je het hoopt mee te maken is genoeg. Dan gaat werkelijk alles er aan.
HerrArchitect,
'dan is die door natuurkunde al superieur'
Waar heb je het in ai's naam over?

'20000 jaar denken voor een normaal mens'
Leg uit, waarop is je uitspraak gebaseerd?

[Reactie gewijzigd door blackSP op 17 september 2017 10:20]

Ah dit komt doordat onze neuronen minder snel informatie verwerken dan circuit boards. Ik weet even niet meer welke Ted video dit stukje kennis had, maar ik ben het sindsdien wel vaker tegengekomen. Als ik het vind zal ik het delen. Maar het is geen onzin.
Got it: And it's important to recognize that this is true by virtue of speed alone. Right? So imagine if we just built a superintelligent AI that was no smarter than your average team of researchers at Stanford or MIT. Well, electronic circuits function about a million times faster than biochemical ones, so this machine should think about a million times faster than the minds that built it. So you set it running for a week, and it will perform 20,000 years of human-level intellectual work, week after week after week. How could we even understand, much less constrain, a mind making this sort of progress
Nee, phd in computer science, maar weet er verder inderdaad niets van... Nog nooit over gelezen ook. Iemand met een bachelors in natuurkunde en wat gekochte ceo posities zal het een stuk beter weten ;)

Zit ook wel wat in hoor dat als je wat I, Robot boeken leest en de Terminator kijkt je erg goed zicht op het wetenschappelijke vakgebied hebt.

[Reactie gewijzigd door Zoijar op 16 september 2017 11:22]

Dus straks hoef je niet zelf meer op ,,vind ik leuk'' te klikken?

OT: Facebook & AI. Ik vind dat een enge combinatie. Zeker omdat veel facebook gebruikers niet al te intelligent zijn (no offence), maar er is een groep dat echt alles klakkeloos deelt, liked of post zonder over de gevolgen na te denken. (Bijv. dat mensen via FB moeten lezen dat hun dierbare is overleden)
Precies sommige doen trouwerijen, dat ze verhuist zijn enzo alleen nog maar via Facebook, sorry hoor als je goeie vriend niet eens zelf kan vertellen ik heb een nieuw huis.
Dat je er maar via Facebook er achter moet komen vind ik ook belachelijk.

Of iemand huwelijks aanzoek gedaan verloof wordt niks verteld, gewoon alleen foto Facebook bam klaar.
Dat is nu eenmaal de nieuwe werkelijkheid. Blijf niet vastzitten in het verleden toen alles nog per post werd gedaan maar evolueer mee, dat is veel gemakkelijker dan je te verzetten tegen iets wat je niet kan tegenhouden.
Ik blijf niet achter ik heb wel facebook/linkedin maar verder geen snapchat/ instagram ofzo.
Ik zeg ook niet dat ze per post alles moeten sturen.

Als jij je partner ten huwelijk vraagt dan vertel je dit toch aan famillie/ goeie vrienden, dit is wel zo netjes om te doen.
Kijk ik snap dat je het niet iedereen verteld dat is logisch, maar vrienden die je zowat dagelijks ziet eens een whatsappje sturen of de 1ste volgende keer als je ze ziet.
Ik heb (een gerucht?) gehoord dat Facebook een eerder experiment met ai heeft moeten staken omdat de ai iets te slim werd. Kon er toen zo snel niks over terug vinden.
Dat experiment was niets engs aan. Het is volstrekt logisch wat daar gebeurde, dat had ik ze op voorbaat ook kunnen vertellen.

Je kunt het ook geen "eigen taal" noemen want er wordt bijzonder weinig mee uitgedrukt - het was op zijn best een DSL die voor het specifieke onderhandelingsdoel geschikt was.

Je geeft een systeem een vocabulaire en laat ze middels reinforcement learning en wat voorbeelden communiceren. Door de voorbeelden begint het dan als Engels. Reinforcent Learning krijgt een beloning voor het winnen dus gaat het de woorden die leiden tot overwinning versterken. Niet gebonden aan enige vorm van grammatica, want het "echte" Engels zegt het systeem ook bar weinig, is het voor de hand liggend dat het Engels wat als generieke taal gebruikt wordt waar je alles mee uit kunt drukken, snel te omslachtig en redundant blijkt waardoor je gaat focussen op dingen die in deze specifieke situatie het meest doeltreffend zijn.

Dat de onderzoekers het onderzoek stil leggen kan ik me op zich voorstellen - ze hoopten wellicht om te zien hoe ze de taal begrijpelijk gingen toepassen maar daar kom je niets mee met specifieke opgaven als dit. Dat heeft niets met eng-zijn te maken.

Als je een beetje begrijpt wat Reinforcement Learning doet is het voor de hand liggend dat die alle mogelijke zaken uitbuit waar geen negatieve reward aan zit. Zo zag je ook in RL die op games toegepast werd dat de RL al snel bugs en glitches ging uitbuiten omdat dat de snelste weg naar de reward is. Om ze daar vanaf te houden moet je ze een negatieve beloning geven voor het misbruiken van dat soort dingen. Zo zou je in dit geval de onderhandelsystemen van Facebook een negatieve reward kunnen geven voor het gebruiken van niet-grammaticaal correcte zinnen - dan zouden ze zich wel verre houden van de onzin die ze uitkramen.
Dat klopt allemaal, maar "AI ontwikkelt eigen taal, experiment stopgezet" of "AI stopgezet omdat het te slim werd" is zoveel sensationeler voor de pers. Compleet uit de context gerukt, maar dat boeit ze natuurlijk niet. Dit soort louche truken verdienen pas echt de term "fake news", niet de artikelen van wat alternatieve sites die een zaak vanuit een ander perspectief proberen te belichten.

Ik ben het er echter wel mee eens dat Facebook en AI een heel enge combinatie is.
Het is gewoon een feit dat AI in een ratrace is verzeilt geraakt. Land X is bang dat land Y voorop loopt als ze niet alles op alles zetten om voorop te blijven lopen. Dit is een cirkel die niet doorbroken kan worden. Tijdens de koude oorlog was er nog een besef dat Amerika en Rusland beiden totaal vernietigd zouden worden, als een van de landen begon.

AI is anders.

Ten eerste interesseert de ontwikkeling van AI geen kip. Men heeft geen idee wat het precies is, hoe ver men is, waar men naartoe wil en welke gevaren daar mogelijk aan gekoppeld zijn.

Ten tweede kan ik me voorstellen dat politici graag die wetenschappers geloven, die aangeven dat een AGI (mocht het zo ver komen) in toom kan worden gehouden.

Kortom, de vraag is niet of we AGI ontwikkelen, maar wanneer.
Je hebt niets gemist. Een paar alinea's tekst met veel kleurtjes maar weinig informatie en vooral filmpjes die totaal onbeschaamd vanzelf beginnen af te spelen. Brutale mind-bashing noem ik dat.
Nou ik zal nog eens een linkje delen... :p
Lees het dan niet, reageer dan niet. Jij blij en vooral wij ook.

Op dit item kan niet meer gereageerd worden.


Apple iPhone X Google Pixel 2 XL LG W7 Samsung Galaxy S8 Google Pixel 2 Sony Bravia A1 OLED Microsoft Xbox One X Apple iPhone 8

© 1998 - 2017 de Persgroep Online Services B.V. Tweakers vormt samen met o.a. Autotrack en Hardware.Info de Persgroep Online Services B.V. Hosting door True

*