IBM toont debat tussen mens en Project Debater-ai

IBM heeft tijdens een evenement in San Francisco een project onder de naam Project Debater getoond. Het systeem trad in debat met een mens en was in staat zijn eigen argumenten bij een stelling te presenteren.

The Guardian, een van de nieuwsorganisaties die bij het evenement aanwezig waren, schrijft dat IBM zes jaar aan Project Debater heeft gewerkt. Tijdens de demonstratie, die was ingedeeld in verschillende nauwgezet afgebakende onderdelen zoals een inleiding van vier minuten en nog eens vier minuten aan weerlegging, moest de ai bijvoorbeeld de stelling verdedigen dat er meer subsidies voor ruimtevaart nodig zijn. Hoewel de ai niet altijd even duidelijk redeneerde en soms niet natuurlijk sprak, zou het systeem in staat geweest zijn om zijn argumenten te presenteren.

Daarmee wilde IBM aantonen dat het systeem grote datasets met informatie kan verwerken en kan omzetten in gesproken argumenten. Volgens de krant bestonden de datasets onder meer uit miljoenen nieuwsartikelen. The New York Times, eveneens bij het evenement aanwezig, schrijft dat Project Debater in staat is om het debat aan te gaan op honderd onderwerpen. Een IBM-onderzoeker zegt tegen de krant dat het systeem in ongeveer veertig procent van de gevallen een 'betekenisvol' debat over die onderwerpen kan houden.

Op een pagina over het project geeft IBM een overzicht van de verschillende onderzoeksgebieden die voor de ontwikkeling van het systeem van belang zijn, zoals het identificeren van argumenten in een document en het genereren van nieuwe argumenten, maar ook het vaststellen of een argument een bepaalde stelling ondersteunt en het toekennen van een score aan een argument. Het project bouwt voort op Watson, het systeem dat in 2011 in staat was om de eindronde van de Amerikaanse spelshow Jeopardy te winnen.

Reacties (57)

blijft toch weer verbasend wat er allemaal mogenlijk is tegenwoordig.
Als dit zich door ontwikkeld is het in de tweede kamer een kwestie van wie de beste AI heeft.

Die gedachte heb ik een aantal jaren terug ook mee rondgelopen. Politici maken nu keuzes op basis van kennis die ze hebben over hun terrein. Hebben ervaring opgedaan en moeten ook nog eens menselijk overkomen en tegen veel werkdruk kunnen. Een hoop van die factoren zal een AI gegarandeerd beter kunnen in de nabije toekomst, behalve de menselijke verschijning dan. Het zou me dan inderdaad niet verbazen dat je in de toekomst dus discussies krijgt tussen AI's en hierbij is het belangrijk dat je een AI hebt die beter kan beargumenteren dan de tegenstander. Want daar komt het in de politiek toch ook op neer, dat je de sterkste punten hebt om mensen met je mee te krijgen. Als je die kant dus op gaat, komt het er op neer dat de partij met het meeste geld de beste AI kan kopen en dus indirect de macht. En de tegenpartij zal met een betere AI moeten komen willen ze de debatten nog kunnen winnen.

En wat betreft de inhoud van AI-debatten, waar komt een huidige politieke discussie nou feitelijk op neer als je het samenvat? Is dat niet een opsomming van punten waar je een waarde/puntenscore aan kunt hangen en op basis daarvan kunt besluiten of het wordt aangenomen of niet? Maar misschien is dat een heel ander gebied waar niemand nog weet hoe zoiets in zijn werk zou moeten gaan.

Als er inderdaad ooit zoiets als AI-politiek komt die op 'perfecte' feitenkennis heeft en dus een goed politicus kan zijn en men heeft door dat een AI-politicus beter dan een menselijke politicus is (lees: op één of wonderbaarlijke manier gaat de maatschappij naar een hoger niveau door de manier van politiek bedrijven die AI doet), dan zou het me niet verbazen als in een verre toekomst eigenlijk computers de maatschappij gaan leiden en men niet eens meer mensen in de politiek wil hebben.

[Reactie gewijzigd door Tjeerd op 19 juni 2018 09:06]

Maar misschien heb je straks geen debat meer nodig, maar een AI die (wel onderbouwd en gecontroleerd door mensen) de beslissingen neemt.

De beslissingen worden genomen op basis van de input.


En dan heb je twee problemen,
wie controleert de input,

maar net zo belangrijk, ideeën en stellingen zijn vaak concepten en visies die tijdsgebonden zijn en meeveranderen. Hoe waarborg je een dergelijke ontwikkeling. Hoe ga je dat voor mekaar krijgen zodat je niet vast blijft zitten met bepaalde ideeen.

Het zal wss allemaal stap voor stap gebeuren.

De AI wordt geraadpleegd en de uitkomst wordt meegewogen door onze tweede kamer.
Als de AI steeds vaker (of altijd) wel de juiste beslissing neemt volgens het kabinet, krijgt deze steeds meer waarde.

En daarna verwacht ik dat er een soort kabinet is wat de beslissingen van de AI dan controleert of ze niet verkeerde kant opgaan, maar in principe de AI gevolgd wordt.

Het klinkt wel eng, maar ik denk dat een AI misschien een stuk objectiever is dan wij zijn...

Iran heeft een dergelijk concept;
https://nl.wikipedia.org/wiki/Raad_der_Hoeders

Ze gebruiken de Quran als leidraad,
aan de hand daarvan toetsen ze of wetgeving volgens democratisch concept door de beugel kan. Itt wat veel mensen veronderstellen heeft Iran een redelijke democratie.

Probleem is dat die raad van hoeders de maatschappij maar een bepaalde richting instuurt en dat alles wat daar van afwijkt praktisch geen kans heeft.

Ik denk dat dat meer lijkt op de eerste kamer. Maar inderdaad toetsen of iets past binnen grondwet en (huidige ideeën van) democratie kan mogelijk worden overgenomen door ai?

Tot er teveel waarde gehecht word aan de mening van de ai.
Ai, moeten we stoppen met de gaswinning in het noorden?
Ai: nee, dwang verhuizing van bewoners.

Volgens mij heeft MS al aangetoond dat de ideeen vorming van AI gevoed wordt door de input. Iets mat een racistische Tweetbot: trolls stopten er van alles in en vervolgens ging de bot los. Het meebewegen met de tijd lijkt me niet het probleem. De inputs definieren en screenen wel.

Dat klinkt leuk en zal soms zeker werken maar in veel gevallen ook niet.

Neem veel ondernemers die iets begonnen zijn waar de cijfers misschien van zouden zeggen daar is geen vraag of markt voor. Toch geloofden ze er in en werden succesvol. Genoeg ook die niet succesvol werden dat wel.

Het laat echter ook zien dat je beslissingen soms niet kan nemen op basis van gegevens waarover je kan beschikken.

Ook mooi voorbeeld in tv land de luizenmoeder. Eenvoudig gemaakt maar een kijkcijferkanon. Dat had men ook niet kunnen voorspelen.

Idem met muziek, waarom wordt een hit een hit ?
Jaren is men al bezig met analyse daarvan om patronen te herkennen om zo ook hits te schrijven.

AI is mooi maar het deel creativiteit, out of the box denken, daar zit denk ik het grote probleem

Kwestie van genetisch programmeren erbij: af en toe een mutatie/foutje erin laten sluipen en daar is je creativiteit / out of the box denken.

Zou kunnen maar je mutatie en foutje kan natuurlijk alle kanten op gaat de goede en de slechte.

Dat is toch ook wat er in het echt gebeurt: ondernemers met een slecht idee die failliet gaan. Kunstenaars die een schilderij maken waar de honden geen brood van lusten...

Kwestie van genetisch programmeren erbij: af en toe een mutatie/foutje erin laten sluipen en daar is je creativiteit / out of the box denken.

Dat gebeurt nu al volop. Google en vooral Facebook hebben software waar door mutatie/programmeerfoutjes programma's natuurlijk volkomen onbedoeld plotseling veel meer data en informatie kunnen binnenharken dan waarvoor de gebruiker of zelfs de wet toestemming geeft. Het meest opmerkelijke van deze mutatie/programmeerfoutjes is dat ze nooit minder data en informatie binnen harken dan de bedoeling was.

Iets zegt mij dan ook dat als de programmeurs zo'n creativiteit / out of the box functie inbouwen dat dat dan heel toevallig iedere keer net goed uitpakt voor degene die zo'n AI systeem het hardst loopt te promoten....

Daar zit ook het probleem "wel onderbouwd en gecontroleerd door mensen".
Kennis van die AI moet dus ook in de mens zitten. Maar die laatste kan dat nooit bij benen.

Als de AI uitlegd, op basis van deze aantallen ... Moet de mens dan die aantallen gaan controleren?
Ook hier komt een kwestie van vertrouwen aan te pas. Vertrouw je de machine of juist niet.

Net als in de boeken van Asimov, je hebt een robot psycholoog nodig, om de entiteit te kunnen snappen, en te beoordelen.

Want daar komt het in de politiek toch ook op neer, dat je de sterkste punten hebt om mensen met je mee te krijgen.

Daar komt het allang niet meer op neer. Je moet gewoon verkozen worden, wat een mediaspel is anno 2018.

Wie niet overtuigd is daarvan wijs ik graag op NPO live politiek, om zelf te ervaren hoe droevig het gesteld is...

We moeten de ai naast beargumenteren nog een stukje 'showmanship' oftewel populisme bijbrengen en je hebt een poluticus pur sang.

Dan hebben we inderdaad een AI geleerd om te opereren conform de regels van een systeem dat broken is.
Te gek.

</cynisme>

De interessantere vraag is wmb. hoe we de problemen in het systeem fixen, met inachtname van de historische lessen en de technologie die we tot onze beschikking hebben? Zo sprak bijvoorbeeld het idee me wel aan om in plaats van mensen te verkiezen gewoon een aselecte steekproef te nemen uit onze bevolking en deze mensen het probleem (zowel moreel als inhoudelijk) te laten oplossen. Daarbij kan het wellicht best interessant zijn om een AI te gebruiken om de inhoudelijke expertise in een dergelijk proces te faciliteren en op die manier te ondersteunen.

Het voordeel van een dergelijke manier is dat het bijzonder democratisch is en gelijktijdig onwenselijkheden zoals sterke lobby en afhankelijkheden van niet-objectieve expert groepen onmogelijk maakt.

Echter, de vraag blijft dan of we niet stiekem een soort inhoudelijke dictator hebben gefabriceerd (in de vorm van een AI) en in hoeverre deze te beïnvloeden is (door bijv. heel veel 'spam' content te genereren - of omgekeerd door pogingen om hiermee om te gaan). Historisch gezien zijn beiden immers onwenselijk.

Als we goede rekenkundige modellen gebruiken, dan kunnen we bestuurskeuzes wetenschappelijk onderbouwen. Een ai zou kunnen faciliteren door verschillende beleidskeuzes te opperen en uit te zoeken wat daarvan de impact is.

Daarna aan de menselijke bestuurders om daarin een keuze te maken.

Wellicht een idee om meerdere van dergelijke ai's gelijktijdig over hetzelfde probleem te laten 'nadenken'. De ai's kunnen beheerd en getraind worden door verschillende partijen, zodat misbruik wordt bemoeilijkt.

Als tegenargument vanuit de parlementaire democratie ga je dan te horen krijgen dat we niet in een technocratie leven.

Dat is ook een logisch tegenargument: in de praktijk zijn de meeste bestuurders zo intrinsiek aan partijen (e.g. geldschieters, bedrijven, carrière, macht, media/verkiesbaarheid, etc) buiten de parlementaire democratie gelieerd, dat onderbouwde argumenten als minder belangrijk worden ervaren. Kijk een middagje NPO Live politiek en je bent genezen van al je illusies over parlementaire democratie.

Een AI gaat dat niet oplossen, die kan in een dergelijk gremium hooguit als bullshit-versterker functioneren.

Kortom, ik denk dat er een meer fundamentele oplossing nodig is. Meerdere AI's kan daarbij wel een interessant iets zijn om scope creep te voorkomen; tegelijkertijd staat en valt het waarschijnlijk met data en heb je dus sowieso maar een beperkt aantal grote bedrijven die hierin kunnen faciliteren... met daarin direct het gevaar voor andere belangen.

Maar feiten is maar het halve verhaal; moraal is de andere kant. Wat als onze AI overlord op basis van feiten besluit dat door een sterke correlatie tussen misdaad en afkomst een bepaalde bevolkingsgroep preventatief opgesloten moet worden? Of dat de doodstraf de meest efficiente manier van straffen is? (Gebaseerd op het feit dat langdurige opsluiting duurder is dan de doodstraf)

Feiten verzamelen kan iedereen, maar in de politiek gaat het minder om feiten en meer om overtuiging. Ik bedoel het komt niet vaak voor dat een argument gewonnen wordt door feiten, of een politieke beslissing daarover gemaakt wordt.

Maar de AI kan toch ook rekening houden met de rechten van minderheden en de consequenties die zo'n maatregel zou hebben op de maatschappij?
De andere AI in het debat zou gehakt maken van zo'n standpunt! Aan de andere kant zie je dat het bijvoorbeeld met het label 'terrorisme' dan weer anders is, en alweer veel meer maatschappelijk geaccepteerd. Hier zie je dus wel het grijze gebied, waar een AI ook prima rekening mee kan houden.

Wat als onze AI overlord op basis van feiten besluit dat door een sterke correlatie tussen misdaad en afkomst een bepaalde bevolkingsgroep preventatief opgesloten moet worden?

Dan gebeurt er nog niks. Je AI overlord heeft net zoveel macht als dat 'ie gegeven wordt door ons. Dat is problematisch, want als de "optimale" keuze bestaat uit iets wat de huidige (wetgevende) machtshebbers nadelig vinden voor zichzelf, dan kun je er op rekenen dat die conclusie keurig wordt weggestopt en niet wordt geïmplementeerd.

Er zijn trouwens een hoop correlaties bekend - https://en.wikipedia.org/...ons_of_criminal_behaviour - sommige sterker dan anderen. Dus je zult hoogstwaarschijnlijk het advies krijgen van een AI om bepaalde zaken te testen (monoamine oxidase), bepaalde situaties te monitoren (drankmisbruik) en andere te verbieden (roken tijdens zwangerschap) als het doel is om criminaliteit te verminderen. Dat verminderen gaat echter niks helpen als er andere redenen zijn om crimineel gedrag te vertonen; beschaving is maar 3 warme maaltijden dik.

Denk dat je doordraaft.

Een betere AI will niet gelijk betekenen dat die alle debatten wint; de win-percentage zal wat hoger liggen mss.

Daarnaast lijkt het me dat we tegen die tijd al wetten hebben waar het illegaal is om politieke debatten gevoerd te laten worden door 'ongelijke' AI entiteiten omdat het gewoon nadelig is voor de mensheid. Ik denk dat er eerder gewoon een enkele AI is die over 'alle' zaken de voor en nadelen kan 'denken' en met een conclusie/raport kan komen, waarbij de informatie kan worden gebruikt door *alle* menselijke partijen.

Het gaat gelukkig in de politiek helemaal niet om de kracht of kwaliteit van je argumenten en veel meer om lichaamstaal, uiterlijk, en het zoenen van de juiste bekkies.
Die AI's zullen gaan meeschrijven aan de speeches enzo, en dat is hard nodig om de kwaliteit wat op te krikken. Als je nu af en toe ziet hoe ontzettend gemotiveerd die mensen erbij zitten en hoe saai hun praatjes zijn....

Maar het gaat geen groot verschil maken in wat mensen stemmen want mensen stemmen VVD omdat Mark Rutte een showtje opvoert samen met Erdogan, niet vanwege een debat van anderhalf uur over de voor- en nadelen van hun financieel beleid.

Laten we hopen dat daar dan wat zinnigers uitkomt dan nu

I, for one, welcome our Robot Overlords.

Doet mij toch weer denken aan Idiocracy. Aan het fragment waar de computer iedereen ontslaat.

But it has electrolytes!

Een debat is toch gewoon geen antwoord geven op enige vraag, maar met blinders op steeds harder je eigen tegen-vraag stellen die de opponent in diskrediet brengt -- immers als jij gelijk hebt, dan heeft hij het niet, en dus is alles wat hij zegt niet waar.

"Een IBM-onderzoeker zegt tegen te krant dat het systeem in ongeveer veertig procent van de gevallen een 'betekenisvol' debat over die onderwerpen kan houden." Parlement is in zicht!

Zoals je zelf al aangeeft is dat een politiek debat ( van de slechtste soort, jammer genoeg wel prevalent lijkt het ). Debatteren is veel breder, en is zeker niet gelimiteerd tot politiek. Denk dat de wetenschap zonder debat ook niet was wat het nu is

Da's idd de uitdaging met 'debatteren', in de praktijk kun je de andere kant nooit overtuigen - zie bijv. de flat earth society. Ze brengen gewoon hun eigen feiten terug. Deze robot-AI zou zo maar aan hun kant kunnen staan doordat hij zoveel informatie kan vinden.

En hoe controleert de AI of iets dat gepresenteerd wordt als feit dat ook daadwerkelijk is?

immers als jij gelijk hebt, dan heeft hij het niet, en dus is alles wat hij zegt niet waar.

Zo makkelijk is het meestal niet. Je hebt niet helemaal door wat een debat is. Anders is een verwijzing naar encyclopedie of Wikipedia genoeg.

Meestal is een debat wel wat lastiger:
- BTW verlagen en de belasting op winst verhogen
- minder geld naar onderwijs en meer naar defensie.
Wat is het beste?

Dat soort vraagstukken. Dat is niet altijd waar/niet waar.

Vrij salty en op de man gespeeld door de AI.. "You are speaking with 218 words per minute, no need to be hasty."

Deze AI kan vast beter debatteren dan de meeste mensen nu doen. Als de AI echter superslim is of wordt, dan voegt het debat met die 'domme' mens ook niks meer toe.

Precies, dat afleiden van het hoofdonderwerp met een persoonlijke aanval. Slechte manier van debatteren, zou ik als jury punten aftrek voor geven.

Dit kan echt een gevaarlijke ontwikkeling zijn. De “AI” wordt namelijk getraind met nieuwsartikelen en we weten allemaal wat de problemen daarvan zijn. Laat staan dat de makers beslissen welke artikelen worden opgenomen en welke niet. Hopelijk wordt deze technologie voorlopig dus nog niet ingezet voor politieke debatten. Dit zou de publieke opinie kunnen beïnvloeden. Beter wachten we op “echte” AI die mogelijk een positievere bijdrage aan het publieke debat zou kunnen leveren.

Goed punt, daar had ik nog niet eens over nagedacht. De effecten van 'fake news' zijn veel problematischer voor zo'n AI dan voor een mens. Daarnaast wie controleert de input van de AI?

Volgens mij is "fake news" een minder groot probleem voor een AI omdat ALLE berichten gelezen kunnen worden en vergeleken. Ook de bron mee laten wegen is voor een AI geen probleem (staat het op facebook: -1, staat het op de NY Times: +1). Voor een AI zou het ook mogelijk moeten zijn ALLE berichten te noemen die tot een bepaalde conclusie hebben geleid. Iets wat onze huidige minister president als niet lukt als het om 1 rapport gaat over het afschaffen van de dividend belasting.

I'm sorry, Dave, I'm afraid I can't do that.

_{Nu weer in de bioscoop!}

Ik zit (in België) in de gemeentepolitiek, een niveau dat toch dichter tegen de bevolking (zou moeten) staat, dan nationale politiek. Echt zware debatten zijn er op dorpsniveau niet echt, of er moet echt een punt geagendeerd staan dat a) financieel zwaar doorweegt b) invloed heeft op de bevolking.
Op de aankoop van een gemeentevoertuig kan men al eens discussiëren of het elektrische of dieselaandrijving moet hebben, hoeveel zitplaatsen, en welke diensten er gebruik van dienen te maken.
De zwaarste debatten die we de laatste jaren hebben gehad, gaan over de aankoop van gebouwen (hebben we die echt nodig <-> we hebben een mooie prijs kunnen onderhandelen) en de nieuwbouw van een ontmoetingscentrum (hoe groot moet het wezen en wat is er allemaal nodig)

@SteveWoz Een dergelijke AI moet je dus niet trainen met nieuwsartikels, maar met tabellen van gemeentelijke infrastructuur, hoe groot het personeelskader is, wat op dit moment wordt aanzien als een goede werkruimte, de bezettingsgraad van de gemeentelijke infrastructuur, etc. Ik verwacht dan van een dergelijk systeem dat die de plus- en minpunten gaat oplijsten, voor bijvoorbeeld de aankoop van een nieuw pand. Kan best zijn dat die gaat zeggen "pand is te oud en er is minimaal een investering zoveel duizend euro nodig om het tot de huidige norm te brengen" of "koop pand A aan, en verkoop pand B". Nog beter zou zijn dat die AI zegt "voor dat je gaat nadenken om nieuwe bureau's aan te schaffen, zou je niet beter eerst nadenken over je personeelskader"

one step closer to judgement day

De ontwikkeling van AI is niet tegen te houden.

Want waarom niet???

Als jij stopt, dan gaat een andere onderzoeker door... als hij stopt, dan gaat weer een andere onderzoeker door... Als iedereen stopt, dan gaat een andere onderzoeker in het geheim door.
Dus AI ontwikkeling kan inderdaad door niemand gestopt worden.

Wie weet krijgen we een Kara model uit game "Detroit: Become Human". Of humanoid cylon Caprica 6 uit Battlestar Galactica (nieuwe serie)

[Reactie gewijzigd door Dark Angel 58 op 19 juni 2018 09:32]

Technologisch determinisme tegenover technologisch instrumentalisme: https://ari1320.wordpress...ology-control-you-or-not/

[Reactie gewijzigd door FavouriteSongs op 19 juni 2018 09:31]

Datzelfde argument kun je voor nucleaire wapens gebruiken... en dan heb je ook gelijk. Terminator ging ook maar voor een deel over AI, het andere deel was het nucleaire arsenaal.

Of K.I.T.T. als eerste echt slimme pratende auto...

Het is er al. En je hebt geen "atoomagentschap" die kan controleren of iemand AI aan het programmeren is.

Het is onvermijdelijk.

Het is onvermijdelijk.

Totdat je de stekker uittrekt... simpel hè... ;-)

Dat denk je. Trek bijvoorbeeld de stekker maar uit het wereldwijde internet. Dat vergt toch wel iets meer moeite dan thuis even je router uitzetten.

Als je 1 ding is, op 1 plek, ja.

Op een gegeven moment zal van alles zo met elkaar verweven zijn, dat je het niet zomaar laat verdwijnen.

[Reactie gewijzigd door gjmi op 19 juni 2018 12:54]

trek jij is de stekker uit een p2p oplossing zoals het wel bekende bittorrent protocol dat is erg lastig, want je zult alle hosts uit moeten zetten om het delen te stoppen.

zo werkt het ook met dit soort dingen, als de AI in eens op een P2P achtige manier zijn rekenkracht vergaart (denkt aan infectie a-la stuxnet) dan is er geen houden meer aan


(ja stuxnet was gericht op 1 specifiek type PLC controller van siemens, maar wereldwijd zijn miljoenen computers geinfecteerd zonder dat men erachter kwam gezien stuxnet dan verder 0.0 actie ondernam).

Doet mij denken aan Buck Rogers....

Ik hoop alleen dat het zich niet alleen voedt met nieuwsartikelen, want die vind ik nog best wel met een politieke agenda gekleurd in the US.

Doet mij wel een beetje denken dat straks de AI beslissingen maakt en ziet dat wij mensen het grootste probleem zijn...

Ook hier in Nederland zijn de nieuwsartikelen politiek gekleurd.