Wetenschappers leren robots menselijk gedrag door het lezen van fictie

Een groep wetenschappers is bezig om een systeem voor kunstmatige intelligentie te leren hoe mensen op verschillende situaties zullen reageren. Dat doen zij door het systeem te laten lezen in een groot aantal fictieverhalen.

De onderzoekers zijn werkzaam aan Stanford University in de Verenigde Staten en hebben een systeem voor kunstmatige intelligentie ontwikkeld met de naam Augur, zo meldt The Stack. Met slimme algoritmes willen zij menselijk gedrag kunnen inschatten, zodat hierop kan worden geanticipeerd. Dat doen zij met behulp van de database van Wattpad, een schrijverscommunity waarin 600.000 verhalen zijn opgeslagen. Die kunnen gebruikt worden door de ai om een inkijkje te krijgen in menselijk gedrag. Alhoewel het om fictie gaat, stellen de wetenschappers dat ook in dergelijke werken 'normaal' menselijk gedrag veel meer voorkomt dan gedramatiseerd gedrag, waardoor het een goed beeld zou geven van hoe mensen daadwerkelijk zijn.

Om te testen of het idee werkt, hebben de onderzoekers een camerasysteem ingezet dat wordt aangedreven door Augur. Volgens Stanford University kon het systeem in 91 procent van de gevallen correct onderscheid maken tussen objecten en mensen. Daarnaast kon in 71 procent van de gevallen het gedrag van een persoon correct worden geclassificeerd. Dat doet Augur door koppelingen te leggen tussen verschillende handelingen. Zo wordt het voorbeeld gegeven van een automobilist, die bijvoorbeeld kan gaan toeteren, het raam open of dicht doen, de radio kan aanzetten of zijn gordel om kan doen.

In het paper dat de wetenschappers online hebben gezet, zijn nog een groot aantal andere voorbeelden te vinden van hoe Augur menselijk gedrag inschat. Volgens de onderzoekers is de volgende stap implementatie in een groot aantal andere toepassingen, waaronder machine learning-systemen, al hebben zij daar nog geen gedetailleerde informatie over gegeven.

Reacties (71)

[Opifex]

Ben me sinds kort ook een beetje gaan verdiepen in machine learning, en ik ben geschrokken hoeveel we een machine al kunnen aanleren. Pas deze week kwam ik op een pagina terecht waar iemand een computerprogramma geschreven had dat naar een mp3'tje klassieke muziek kan luisteren, en aan de hand daarvan het muzikale talent van bijvoorbeeld Mozart kan overnemen. (Om het heel simplistisch te verwoorden)
Het computerprogramma genereerde op zijn beurt een stukje muziek van zichzelf, en tegen alle verwachtingen in: die muziek was prachtig! Niet te geloven dat dat mogelijk was...

Voor de geïnteresseerden: http://www.hexahedria.com...ecurrent-neural-networks/ (onderaan de pagina zijn de resultaten)

Nu, als je weet dat we een computer het brein van Vivaldi kunnen geven om een 5de seizoen te schrijven aan de 4 seizoenen, dan zijn de grapjes die iedereen hier in de comments plaatst nog niet zo heel science fiction als je wel denkt...
Een scenario zoals in de film Stealth van een kleine 10 jaar geleden is echt niet zo onwaarschijnlijk. In die film hadden ze de piloot in een straaljager vervangen door een AI, die door een defect op het internet een computerspelletje had gedownload waarin hij doelwitten had gevonden om aan te vallen...

Machine learning is dus een zeer interessante technologie, met enorm veel toepassingen, maar tegelijkertijd is het toch ook maar iets griezeligs...

[Reactie gewijzigd door Opifex op 23 juli 2024 17:50]

[Ossebol]

Het voorbeeld dat je aanhaalt is een mooi gegeven. Als je kijkt naar de verschillende layers en de verbindingen die daartussen zijn ontstaan, kun je je voorstellen dat het voor de makers lastig is om te oordelen hoe een computer aan een bepaalde muzieknoot komt. We weten welke input de computer heeft en we weten dat de output goed is, maar we weten niet wat er tussenin gebeurt (de 'hidden layers').

Die hidden layers zijn de kern van het toekomstige probleem dat AI-wetenschappers schetsen. Hoe weten we dat computers ons niet bedonderen? We kunnen het niet altijd checken; we weten vaak namelijk niet hóe het precies werkt, alleen dát het werkt. Voor nu is het gelukkig nog nagenoeg onmogelijk dat computers ons bedonderen, omdat de programma's nog relatief prematuur zijn.

Momenteel weten we dat computers nog niet in staat zijn om 'slimme' biologische wezens, zoals muizen en apen, te evenaren. Desalniettemin denken ze dat de technologische singulariteit binnen tientallen jaren bereikbaar zou kunnen zijn, mede door de kracht van neurale netwerken. Dáárom moeten we er nú al over nadenken hoe we dit probleem gaan tackelen, want ooit zijn machines slimmer dan wij - en hebben we dat misschien niet eens door (Bekijk deze TED-talk maar eens. Heb heb al eens gepost, maar Bostrom legt het probleem naar mijn idee goed uit.)

[Reactie gewijzigd door Ossebol op 23 juli 2024 17:50]

[Cerulean]

Deze man, Bostrom, maakt zoveel fouten - voornamelijk kwalititatieve verschillen die hij als kwantitatief beoordeeld dat ik niet weet waar te beginnen om hem te corrigeren. Hij weet bijvoorbeeld niets van biologie laat staan quantumbiologie en de basis die dat legt voor onze hersenen en hoeveel geavanceerder dat is dan wat wij mensen als quantumcomputer kunnen maken momenteel (notabene alleen werkzaam rond het absolute nulpunt).

[onionchopper]

Er zijn veel papers die zonder redelijke twijfel aantonen dat kwantummechanische processen absoluut geen rol spelen in het menselijk brein. Zie bijvoorbeeld:

http://arxiv.org/abs/quant-ph/9907009

Dus om dat als argument aan te kaarten is een beetje ver gezocht. Daarnaast is het macroscopisch effect van kwantummechanische processen in biologie prima te modelleren op een klassieke computer omdat het uiteindelijk op kansverdelingen uit komt.

Om een interferentiepatroon te modelleren hoef je ook niet een foton te simuleren die alle mogelijke paden tegelijk neemt, maar kan je prima gewoon de wiskundige beschrijving van het uiteindelijke interferentiepatroon nemen. Of simpelweg het foton als een golf simuleren en niet als een deeltje.

Natuurlijk zijn er kwantumprocessen die je niet kan simuleren op een klassieke computer, maar het lijkt er dus sterk op dat die geen belangrijke rol spelen in het brein of de functionele beschrijving van het lichaam op macroscopische schaal.

[Reactie gewijzigd door onionchopper op 23 juli 2024 17:50]

[Cerulean]

Lees eerst eens: "life on the edge, the coming of age of quantum biology" van prof. John Joe mc Fadden. Alle processen in de levende natuur zijn gebaseerd op geordende materie tot op quantumniveau. Het duurt alleen even tot dit besef is doorgedrongen tot de meeste fysici en mathematici.

[Stijn]

Wordt in het boek van McFadden het artikel dat onionchopper citeert weerlegd? Want als dat niet zo is is dit een beetje een zinloze reactie ("je moet gewoon meer lezen, dan snap je het wel" kun je áltijd zeggen). Als dat wel zo is doe je mij en anderen een groot plezier door zijn argument samen te vatten, want het is niet voor iedereen mogelijk alleen voor deze discussie een heel boek te lezen

[PradaBrada]

Ja, de paper van onionhopper wordt weerlegd. Nog sterker, deze paper van Max Tegmark wordt weerlegt door de auteurs waartegen deze is gericht in hetzelfde tijdschrift (PhysRevE).

Nog sterker er is ik de jaren na de paper van Tegmark niet alleen volop experimenteel bewijs dat er wel degelijk op kamertemperatuur kwantum effecten afspelen, o.a. entanglement in de retinae van bepaalde vogels en bladgroenkorrels, maar er is specifiek in vitro aangetoond dat er kwantumeffecten kunnen plaatsvinden in de biologische structuren waar Tegmark had 'weerlegd'.

Multipele bronnen:
Reply tegen Tegmark
http://www.sciencedirect....cle/pii/S1571064513001905

Anirban Bandyopadhyay experimenten
http://www.brakkegrond.nl..._over_het_bewustzijn/#eng

Hameroff vs Tegmark debat (Okt 2015)
http://www.youtube.com/watch?v=jXBfXNW6Bxo

Abbott et al., Quantum Aspects of Life.

Mcfadden et al., Life on the Edge, The Coming of Age of Quantum Biology.

[PradaBrada]

De paper van Max Tegmark die onionhopper aankaart is al meerdere malen weerlegd, als eerste door dezelfde auteurs waartegen Tegmark's paper in eerste instantie tegen was gericht, in hetzelfde tijdschrift (PhysRevE) waar Tegmark's paper in verscheen. Er is inmiddels zelfs op youtube een debat tussen de twee auteurs, waar Tegmark min of meer toegeeft dat hij toentertijd mis zat (zie bronnen).

Nog sterker en veel belangrijker, er is in de jaren na de paper van Tegmark niet alleen volop experimenteel bewijs gekomen dat er wel degelijk op kamertemperatuur kwantum effecten (kunnen) afspelen, o.a. entanglement in de retinae van bepaalde vogels en kwantumcoherentie in fotosynthese in bladgroenkorrels, maar er is specifiek in vitro aangetoond dat er kwantumcoherente effecten plaatsvinden in de biologische structuren, de microtubuli, waar Tegmark in eerste instantie specifiek tegen had beargumenteerd. Dit werd gedaan in het NIMS in Japan door een groep onder de leiding van Anirban Bandyopadhyay.

Het idee dat kwantum-effecten zich niet zouden kunnen afspelen buiten zeer steriele omstandigheden, zoals nodig in hedendaags kwantumcomputer onderzoek, is een voorbeeld van de klassieke post-hoc-ergo-propter-hoc drogreden: kwantumcomputers hebben dit nodig voorzover we weten, dus het kan niet anders. Inmiddels wordt dit argument al jarenlang aangedragen door fysici, die grotendeels alleen bekend zijn met lineaire theorieën en zodoende lineaire modellen en/of linearisatietechnieken om problemen op te lossen.

Zij het nou net dat complexere fenomenen, zoals leven, maar ook simpelere non-lineaire systemen zoals een pendulum, niet exact lineariseerbaar zijn. Doe je dit wel dan gooi je helaas te vaak het kind met het badwater weg; dit lijkt het geval te zijn van klassieke hydrodynamica, tot gecondenseerde materie fysica, tot biofysica, tot zelfs een struikelblok in de huidige theoretische fysica, waarbij historisch men tot nieuwe, betere theorieën probeerde te komen, door in te zien dat hun huidige theorieën slechts gelimiteerde linearisaties zijn.

Multipele bronnen:
Reply tegen Tegmark
http://www.sciencedirect....cle/pii/S1571064513001905

Hameroff vs Tegmark debat (Okt 2015):
http://www.youtube.com/watch?v=jXBfXNW6Bxo

A. Bandyopadhyay experimenten:
http://www.ncbi.nlm.nih.gov/pubmed/23567633
http://www.ncbi.nlm.nih.gov/pubmed/25466883

Abbott et al., Quantum Aspects of Life.

Mcfadden et al., Life on the Edge, The Coming of Age of Quantum Biology.

[Ossebol]

Kan je een voorbeeld geven van één van zijn fouten?

[Cerulean]

Hij extrapoleert waar je niet extrapoleren kan. Hij doet alsof er een glijdende schaal is in de intelligentie van veldmuis tot aap tot mens en hij doet alsof er alleen rekenkracht nodig is om van dom tot slim te komen. In werkelijkheid is er ergens in die schaal een plotselinge omslag gekomen naar zelfbewustzijn. Het is heel waarschijnlijk dat een machine die omslag nooit zal maken. Zo ook het verhaal van de traagheid van de neuronen vergeleken met electronica. Onze waarneming is onmiddelijk, zoals je oog ook onmiddelijk "aan" is zodra je het open doet. De traagheid van onze neuronen en vooral de synapsen is expres om het brein tijd te geven andere reacties te maken dan de reflex.

[Ossebol]

Dat is denk ik niet zijn punt. Rekensnelheid is wel degelijk relevant, omdat daarmee sneller verbanden kunnen worden gelegd. Hoe sneller en meer verbanden een computer kan leggen, hoe slimmer die wordt.

Ik vind het gevaarlijk om te stellen dat een machine waarschijnlijk nooit zelfbewust kan worden. Waar baseer je dit op? En wat is zelfbewustzijn? Heeft dat ook niet deels te maken met hoe anderen het apparaat zien? Kinderen bijvoorbeeld zien robots al als zelfbewuste wezens, die een plek naast mensen en dieren hebben gekregen.

Facetten van zelfbewustzijn, zoals bewustwording van de omgeving, het kiezen van de juiste weg, het leren van een taal, zijn al door computers te simuleren. Het is dus heel aannemelijk dat het complete menselijke gedrag ooit zal worden evenaart. Laat ik het zo zeggen: ik zie geen reden waarom robots niet zelfbewust kunnen worden.

[DigitalExorcist]

Zelfbewustzijn, en gedrag in het algemeen, is allemaal aangeleerd. Ook vrije wil is aangeleerd. Dé reden waarom puur altruïsme niet bestaat. Iedereen doet iets om er zelf baat bij te hebben, in wat voor vorm dan ook.

Dat gedrag kun je óók aan een computer 'uitleggen'. Zelfbewustzijn is ook een concept dat aangeleerd is. Bovendien, wat is zelfbewustzijn eigenlijk? Jij kan wel zeggen dat jij echt bestaat, maar vanuit mijn gezichtspunt besta jij niet meer zodra ik de site van Tweakers afsluit, bijvoorbeeld. En je bestaat pas weer op het moment dat ik zie dat jij op m'n bericht hebt gereageerd, wanneer ik de site weer open. Wie zegt dat de kleur rood zoals jij die ziet, hetzelfde is als dat ik 'm zie?

(Deze reactie is niet zozeer op Ossebol gericht hoor, ik ben het met je eens )

[Opifex]

Grappig dat je muizen aanhaalt, want zover staat de technologie al, dat dat wél mogelijk is
http://www.33rdsquare.com...eate-simulated-mouse.html
(zij het wel op een supercomputer natuurlijk)

[Reactie gewijzigd door Opifex op 23 juli 2024 17:50]

[Ossebol]

Nee, dit is niet mogelijk. Zoals je kan lezen in het artikel dat je vermeldt, gaat het om een gesimplificeerde weergave van het muizenbrein (200.000 neuronen). En dat terwijl een muizenbrein 75.000.000 neuronen heeft (zie ook het filmpje). Een mens heeft er naar schatting 100.000.000.000. Om het even in perspectief te zetten.

En dat is wel een belangrijke kanttekening van de huidige AI-modellen. Het gaat om modellen, oftewel simulaties. Dat zijn altijd vereenvoudigde weergaven van de werkelijkheid.

[bbob]

Je moet verder kijken dan dit.
Kijk naar de algemene technische vooruitgang in de laatste 00 jaar, kijk dan naar de laatste 50 jaar, de laatste 25 jaar, de laatste 10 jaar, 5 jaar en je zal tot de conclusie komen dat we in een stroomversnelling zitten.

Bij cpu's moment men dit de wet van moore, de bekende verdubbeling. Een wet is een echter niet want je moet verder kijken dan alleen een cpu maar naar de gehele technische ontwikkeling.

Wat is daar zie is een chaos structuur, d.w.z je ziet een verdubbeling, verdubbeling tot het punt van choas waar er geen verdubbeling meer is.

Lees hier op tweakers deze week al info over een biologische computer en je hebt al een stap naar ai.
combineer dat met quantum computer, het rotzooien in dna, het kunnen maken van een prothese die aangesloten kan worden op de mens en die jij gewoon kan besturen als een normaal ben. Neem nog veel meer van dit soort ontwikkelingen waaronder ook ai en je zit dat het sneller sneller en sneller gaat.

Probleem is dat we nu de illusie kunnen hebben om protocollen op te stellen wat wel en niet mag. Die kun je meteen overboord gooien.
Ook ai betekend macht, ruzie en het wil niet zeggen dat een ai robot of menselijk gemaakte biologische robot ineens vredelievend zal zijn.

Precies dat is het punt waarop de mensheid ten onder gaat, d.w.z het punt van chaos waar de verdubbeling er niet meer in maar chaos. Dit zou je zelf kunnen berekenen wanneer het ongeveer gaat gebeuren als je voldoende parameters hebt.

[DigitalExorcist]

Niettemin gebruikt een mens niet alle mogelijke verbindingen tegelijkertijd. Dat zou namelijk betekenen dat je 100% van je hersenen voor alle taken tegelijk gebruikt. Dat is niet zo. Het hersengebied voor taal is een ander gebied als voor ademhaling en aansturen van spieren.

Kwestie van de juiste modellen vinden en zo effectief mogelijk gebruik maken van de mogelijke verbindingen tussen de neuronen. Niet 'renderen' wat niet gezien kan worden, als het ware.

En ach, wie zegt wat er over 10 of 20 jaar mogelijk is. 25 jaar geleden kwamen we net kijken op internet met z'n allen.

[extremezz]

Het zijn nog altijd veredelde rekenmachines die niet kunnen denken, zo zie ik hun kunstmatige intelligentie .

[monojack]

Even je enthousiasme temperen. Zo goed is die muziek nu ook weer niet die het programma scheef. Het klinkt zelfs heel hard alsof het door een programma is geschreven. Het is wel indrukwekkend dat zo'n programma zelf de muziek kan schrijven maar het programma is duidelijk nog beta. Er zit weinig gevoel in, het klinkt als het moderne alternatief voor een mechanische muziekdoos.

[Reactie gewijzigd door monojack op 23 juli 2024 17:50]

[Origin64]

waarom is dat griezelig? als een mens muziek kan maken met ons beperkte vermogen om ons in te beelden hoe dit zal klinken en hoe alle klanken wiskundig verband houden, dan kan een computerprogramma met praktisch ongelimiteerde rekenkracht en de juiste instructies dat toch sowieso beter?

wat echt griezelig is is dat sommige mensen zonder begrip van wiskunde en met nauwelijks oefening of opleiding muziek kunnen maken die andere mensen kunnen waarderen. blijkbaar worden sommigen met die gave geboren, die hoeven niet te worden geprogrammeerd.

[Bjorn89]

Als je een interessante introductie wilt in dit veld kan ik Mind van Thagard aanraden, toevallig dat wij op de universiteit een compleet blok hiervoor hebben(psychologie) mochten er geintereseerden zijn kan ik wel een lijstje maken met (leesbare) boeken voor de leek.

Maar als introductie is MIND van Thagard erg goed.

[pizzafried]

hmm zoals jij dat omschrijft moet ik denken aan het Leonardo Da Vinci personage uit Star Trek Voyager...of natuurlijk de doctor (ja, ook van hem weten we zijn naam niet)

[sfranken]

Goh, hopen dat ze 'm geen Asimov laten lezen dan..

[Origin64]

dat zijn nu juist essentiele boeken, als je asimovs overtuiging deelt dat hoeveel 'laws' je ooit schrijft deze nooit zo goed kunnen werken als echt moreel besef is het absoluut noodzakelijk dat AI boeken die met deze complexe vraagstukken omgaan leest. Anders zal de AI die wij bouwen dezelfde fouten maken als die in Asimovs boeken, en dat willen we niet.

als je Asimovs overtuiging nog niet deelt, lees nog een paar van zijn boeken

[ManIkWeet]

Aangezien fictie meestal niet is hoe mensen reageren klinkt het als een slecht idee in mijn oren...

[Inferno-Acid]

Over het algemeen is fictie wel meer omschrijvend over menselijk handelen dan non-fictie. Waarbij non fictie vaak minder over on-the-spot decisions gaat. Wat lijkt jou dan een betere keus?

[Verwijderd]

Waarom is fictie omschrijvender dan? Dat leg je niet uit.

En waarom zou er de keus moeten zijn tussen deze twee? Ik ben er niet van overtuigd dat zowel fictie als non-fictie een geschikte data set is.

En dat zeg ik, al schrijvende, omdat ik zelf wel eens pen op papier zet en verhalen schrijf.

In verhalen wordt veel overgeslagen. Het voorbeeld hierboven is die van een bord, een steak en een vork. Ik vind dat grappig want naar de wc gaan zie je zelden terug in verhalen. Als je In de Ban van de Ring leest, dan vallen onmiddellijk een aantal dingen op.

1: Ze poepen en plassen niet.
2: Ze zijn vrijwel aseksueel. (Wie alleen de filsm keek, nee, de verhaallijn van Arwen en Aragorn is volstrekte nonsens, zoals die getoond wordt. Arwen Undomiel komt in het verhaal nauwelijks voor.) Er wordt aandacht besteed aan Sam's mogelijke kinderen maar het bestaan er van wordt alleen bewezen in de Index achterin het boek. Stambomen zijn er genoeg.
3: Er is geen werkende economie in de zin van waar Bilbo als upper middle class ( of semi-rijke land adel) Herenhobbit zijn luxe kleding laat maken die hij op zijn afscheidsfeestje draagt. Er wordt gezegd dat Orks nogal een mechanische geest hebben, maar de Hobbits hebben molens... En brouwerijen, leerlooiers, een hele Middeleeuwse economie, voordat je zelfs nog maar aan glasblazers toekomt. Laat staan vlakglas industrie.

Als je dus beslissingen die karakters nemen in boeken laat analyseren dan zou het programma denken dat Mens, Dwerg, Hobbit en Elf gekloond worden, zeker gezien de opmerkingen over broed plekken voor Saruman's Orks, ze wel eten maar geen plassetjes en anusjes hebben, want er zijn geen beschrijvingen als 'Het Reisgenootschap sloeg het kamp op aan de voet van een kleine heuvel en Aragorn verwijderde zivchzelf van de groep om zich te ontlasten.', en dat alle gebruiksvoorwerpen door Ainur, de Ene God gemaakt worden wellicht.

Er is geen voorspelbare mens zonder ontlasting en de couleur locale bepaald mede de beslissing die een karakter neemt.

Wat dat aangaat, als dit programma een voorspelling zou moeten doen over de vraag welke windrichting ze te Rivendel de Ring willen zenden, dan is de meest onlogische beslissing om die naar Morder te sturen.

[_vision]

Dan laat je de AI toch Turks Fruits lezen? Je haalt 1 boek aan, maar die AI gaat duizenden boeken lezen. Ik zou de AI overigens helemaal geen fantasyboeken laten lezen want het is...fantasy. Meeste dingen daar bestaan of kunnen überhaupt niet.

Maar ik denk dat als je die AI serieuze literatuur zou laten lezen met een diepe psychologische elementen (Dostojevski, Tolstoj, Hamsun, Camus o.i.d.) je best ver kan komen.

[blorf]

Dat hangt er denk ik van af waar je AI op is gebaseerd, oftewel wat heb je het wijsgemaakt. Ik ben benieuwd wat een stuk van zulke AI software van The Universe van Hawking maakt. Volgens mij wordt die gewoon onder fantasy geplaatst. Zwarte gaten en lichtjaren, tuurlijk. Is een schijfvormige wereld die gedragen wordt door olifanten onwaarschijnlijker?

[Reactie gewijzigd door blorf op 23 juli 2024 17:50]

[Verwijderd]

Voor een software is er geen verschil.

Maar goed, de hele discussie is natuurlijk vrij onzinnig. Een software (een nep-geest) om een robot, ofwel een nep-mens menselijk gedrag te laten nabootsen.

Als ik een robot wil die menselijk doet, dan neem ik wel een mens. Een mens kan veel beter menselijk gedrag nabootsen.

Ik weet wel waar dit over gaat, het vervangen van mensen voor robots in de zorg. In de toekomst willen ze psychiaters en therapeuten en psychologen vervangen door robots. Kun je je ziel bloot leggen aan een genetwerkte robot die dan een gelaat heeft met geavanceerde nano-fibers zodat er emotie zichtbaar is.

Hopen dat de software geen bug heeft en een sarcastisch grapje herkent zodat je een smiley face hebt i.p.v een diep triest gezicht.

Dat soort hulpverleners wordt geleerd geen emoties te laten zien, die dien je te controleren. Om transferentie te vermijden en zo. En dan krijgen we robots die emoties kunnen tonen maar volgens de modellen der psychiatrie die niet mogen tonen, anders gaat de cliënt zich vereenzelvigen met de robot, en dat is niet goed.

Laten we liever mensen aan het werk houden en stoppen met robots.

[Dark Angel 58]

Maar ik denk dat als je die AI serieuze literatuur zou laten lezen met een diepe psychologische elementen (Dostojevski, Tolstoj, Hamsun, Camus o.i.d.) je best ver kan komen.

En komen ze met menselijk vraagstuk terug... of de robots menselijk ras moeten gehoorzamen of ze hun vrijheid wel verdienen... en wie weet vragen ze af of ze mensen wel nodig hebben? (oh oh daar kan heel erg fout lopen) Wil je dat soms?

In de sf films, sf tv series en ook boeken werden de makers door hun robots volledig uitgeroeid. Misschien is het wel verstandig... moeten we de waarschuwingen echt serieus nemen!!!

[Reactie gewijzigd door Dark Angel 58 op 23 juli 2024 17:50]

[_vision]

Dat robots de mensheid overnemen heb je uit fictie he...

Laat me raden, je hebt geen achtergrond in KI denk ik? Geen enkele wetenschapper in de kunstmatige intelligentie denkt dat dit namelijk een reële mogelijkheid is (zeker in de nabije toekomst). Het is fictie die vooral heerst onder niet-KI-ers.

[Opifex]

Fictie is niet hetzelfde als fantasy. Een detectieve-roman is bijvoorbeeld ook fictie.

Maar... de punten die je aanhaalt kan je toch ook zeggen over non-fictie? (of over non-fantasy, aangezien dat hetgene is dat je bedoelt)
Hoe vaak zie je in non-fictie documentaires, of non-fantasy films iemand naar het toilet gaan? Laat staan dat het vermeld word in een boek...

[Verwijderd]

Dat klopt, een boek is altijd een approximatie, net als wetenschap een beschrijving is van de werkelijkheid, is een boek een oppervlakkige imitatie van menselijke ervaring.

Om daaruit menselijkheid te destilleren is krankzinnig. Het is het idee van de typische wetenschappelijke (tijd) geest waarin wetenschap geacht wordt alles te kunnen beschrijven of nabootsen, zolang je het maar analyseert en uit elkaar haalt tot onafhankelijke identificeerbare stukjes.

Een steak, een vork en een bord zijn volkomen verschillende aspecten van het bewuste en onbewuste ritueel van een maaltijd, dat anders is afhankelijk van de situatie en de personen die er bij betrokken zijn. Kip mag je met je handen eten, zo wordt vaak gezegd, maar een steak niet.

De uitzondering is de regel en daarom is dit project volkomen zinloos. Een romantisch diner maakt van een steak een heel ander ding dan wanneer je tafelt in een steak-restaurant omsingeld door jengelende kinderen.

De meeste beslissingen, hoe logisch een programma ze ook indeelt is een grotendeels onbewust proces, een beslissing die in het onderbewustzijn wordt genomen.

Waarom besluit je eerst de erwtjes op je bord te scheppen en niet de aardappels?

Deze 'wetenschappers' zouden hun lab uitgezet moeten worden en een tent moeten krijgen om de hoek bij het carnaval, naast die van de tarotkaart lezers.

[Inferno-Acid]

"Deze 'wetenschappers' zouden hun lab uitgezet moeten worden en een tent moeten krijgen om de hoek bij het carnaval, naast die van de tarotkaart lezers."

Ze gebruiken, of eigenlijk proberen slechts één van de vele mogelijke methodes om te zien of dit werkt. Het hoeft toch niet zo zwart wit te zijn? Dus nu zijn het direct prutsers? Lekker hoor.

De enige oplossing die ik jou heb zien opgooien is "Stop met dit onderzoek want het is zinloos en kut". Geen discussie mogelijk.

[Reactie gewijzigd door Inferno-Acid op 23 juli 2024 17:50]

[emnich]

Er is nog andere fictie dan Fantasy verhalen....

De meeste fictie die daadwerkelijk over normale mensen in de huidige tijd gaat is hier prima voor geschikt. Natuurlijk ontbreekt er een hoop informatie over het dagelijkse leven maar het kan absoluut een goed begin geven voor het begrijpen van de mens.

[Cerulean]

Heel goed gezien. Een eigenschap van fictie die voor mensen bedoeld is is dat het meeste er in niet uitgelegd wordt. Sowieso handelen mensen meestal omdat er iets niet is. Bijvoorbeeld we maken iets of zetten iets op een plek omdat we dat missen. Wat we missen is geheel afhankelijk van de ervaringen die we in de werkelijke wereld gedurende ons leven hebben opgedaan. Het concept van iets missen is voor een robot of kunstmatige intelligentie helaas niet te bevatten omdat deze geen verlangens kent en geen verschil kan maken tussen kloktijd en ervaringstijd. De ervaringstijd is afhankelijk van de eigen beperkte levensduur. Het is niet alleen lastig programmeren rond het niets ook kunstmatig leren rond niets is eigenlijk onmogelijk. Kortom ditonderzoeksprogramma kan best de AI wat verder brengen maar verwacht er niet al te veel van.

[Verwijderd]

Fictie kan meer omschrijven zijn, reëel is het niet. Maar goed, AI is nog steeds niets meer dan het voorprogrammeren van vele keuzemogelijkheden. In dit geval middels boeken. Het blijft dus vooral veel A en weinig I.

[Opifex]

Je kan de bal gewoonweg niet verder mis slaan dan je nu doet... Machine learning is écht niet zomaar wat keuze mogelijkheden programmeren. Het is zelfs zo erg dat de programmeurs die deze AI's maken soms zelfs niet helemaal begrijpen wat hun programma doet. Zoals hieronder ergens al ergens aangehaald: we kennen de input, de output kunnen we ook zien, maar alles wat er tussenzit weten we niet. Dat doet de AI zelf.

[Verwijderd]

Dan is hun werk zinloos, want als je wilt leren hoe je iets niet begrijpt kun je gewoon een mens bevragen. Dit is dus een vorm van een poging tot mechanische en ratio en logica gebaseerde psychologie!

Het is het idee dat als je maar genoeg van elkaar onderscheidde parameters verzamelt, je menselijk gedrag kunt voorspellen, de ultieme zoektocht naar de Heilige Graal, of de Steen der Wijzen: hoe maak ik van lood, goud als metafoor voor 'hoe kom ik van een instinctieve, ietwat domme mens naar een wijze, verlichte mens.
En dat zouden we dan kunnen formuleren als een formule, in de taal van wiskunde. Een formule waarin alle menselij heid vervat is en waar je dus gewoon in een stuk software parameters kunt invullen en er uit rolt een antwoord.

Dit is wat men ongeveer doet in de serie met Kiefer Sutherland: 'Touch'. Autistische savants die gevoelig zijn voor een soort universele formule die de hele werkelijkheid structureel en inherent bepaald.

Dit is dus puur Cartesiaans denken. De poging de mens te vervolmaken. Maar vergeet een ding niet, de perfect voorspelbare mens leeft in de ultieme dictatuur. Het is dus in feite ongeveer gelijk aan de discussie over privacy als mensenrecht en ICT en de volgende stap, de IOT.

En dat allemaal uit angst voor aanslagen, de hysterische drang naar 100% veiligheid in een wereld waar het een 100% feit is dat we allemaal sterven. Behalve dan Jezus, en daarom is dat verhaal nog steeds een van de meest gelezen boeken.

Deze wetenschappers zullen falen en ik acht het onwaarschijnlijk dat er ooit een machine learning-based AI komt in een robot. Maar dat maakt niet dat ik niet zou willen dat dit soort onderzoek weggehoond, weggelachen en misschien zelfs verboden moet worden.

De mens is perfectie. Omdat de mens imperfect en faalbaar is. Dit is de coincidentia oppositorum
https://en.wikipedia.org/wiki/Unity_of_opposites

"Nevertheless, certain philosophers, including Nicholas of Cusa, Meister Eckhardt and G.W.F. Hegel have held that presumed polarities in thought
do not exclude one another but are actually necessary conditions for the ssertion of their opposites."

http://www.newkabbalah.com/Coincshort.pdf

Elke poging dus om via machine learning, dat inherent gebaseerd is op het verschil tussen een 1 en een 0, menselijk gedrag te voorspellen, waar menselijk gedrag inherent subjectief is, is gedoemd te mislukken en volkomen overbodig. Je kunt ook onderzoeken hoe een tang op een varken slaat en hoe zich dat verhoud tot de amerikaanse voorverkiezingen. Het is grappig en houd je een minuut bezig, maar daarna ga je verder met de was.

[_vision]

Ik heb een dubbele master in filosofie en kunstmatige intelligentie, maar kan iemand chocola maken van het bovenstaande relaas vol ontoetsbare aannames en een melange van AI, Hegel, Kabballah en Kiefer Sutherland?

[Verwijderd]

Mag ik vragen wie jou heeft opgeleid? Hoe kun je in gods naam, filosofisch gezien dan, een dubbele master hebben en toch volstrekt geen begrijpelijk Nederlands kunnen lezen?

[_vision]

En wie heeft jou opgeleid? Ongetwijfeld geen academisch geschoolde filosofen of wetenschappers.

Taalkundig gezien is het geen probleem wat er staat, dat geldt wel voor de inhoud die je schrijft. Als jij zulke teksten op een studie filosofie zou schrijven, dan kwam je niet voorbij je propedeuse.

[charles.pap]

Ik ben bang dat je doordraaft in je negatieve gedachtespiraal. Om maar meteen te kappen met AI onderzoek in robots omdat de hedendaagse technologie alleen een afgebakend gedachtegoed kan bestuderen is natuurlijk te gek voor woorden. Denk aan de gevolgen! Wanneer dit systeem goede aannames kan doen mbt gedrag van mensen op basis van fictie, moet je nagaan wat een AI kan berekenen op dé databank van sociaal gedrag vandaag; een facebook of twitter. AI onderzoek is een must aangezien technologie niet stilstaat. Liever een getest AI op basis van onderzoek dan experimenteel geneuzel.

[Verwijderd]

Het is onmogelijk om op basis van fictie menselijk gedrag te bestuderen.

Onlangs was er een Groot Spektakel: men nam zwaartekracht golven waar. Ineens stelde men, had men een extra zintuig om mee naar het heelal te kijken!

Wat jij zegt is dat onderzoek zoals dit als het ware een nieuw zintuig biedt waarmee we naar onszelf kunnen kijken.

Nou, ik hoef geen dubbele masters filosofie te hebben om te snappen dat hoe je ook kijkt en met wat je ook kijkt naar de menselijke toestand, je niet los kunt komen van je eigen geest en dat alles wat je waarneemt gefilterd is en in die zin een terugkoppeling veroorzaakt.

Elke technologie, die een approximatie is van de menselijke zintuigen en ons zenuw-stelsel is gedoemd om inherent dezelfde eigenschappen te bezitten als wijzelf. Er is dus geen objectieve technologie of programmering mogelijk in een AI of een machine.

Elke technologie, elk programma wordt gelimiteerd door de feilbaarheid van de mens en zal een expressie zijn van dat falen en van de beperkingen die wij als ras hebben. Aannames, concepten, referentiekaders, perceptie en de filters daarop, al die dingen bepalen al vooraf het bereik van het spel en dus is elk spel al vooraf omkaderd en de voorwaarden voor succes en falen al bepaald.

Verder wil ik helemaal geen onderzoek waarmee enorme corporaties die meer vermogen hebben dan de meeste landen in de wereld kennis en daarmee macht hebben over ons gedrag, accumuleren. De mogelijkheden tot propaganda wanneer een AI sociale media, meer dan dat, internet op zich afscant en daaruit conclusies trekt, daaruit voorspellingen kan doen, zullen ongekend vergroot worden.

Elke suggestie dat dit onderzoek nu mogelijk in de toekomst voordelen oplevert vind ik nonsens. Als dat een excuus is, dan is alles toelaatbaar en nastrevenswaardig. De holocaust is dan nuttig gebleken omdat die gruwel een belangrijke factor was om de EU te vormen, opdat we elkaar belemmeren om zo racistisch tekeer te gaan.

[charles.pap]

Het is onmogelijk om op basis van fictie menselijk gedrag te bestuderen. Nee niet waar dus, aangezien je met fictie een afgebakend gebied kan maken waarmee je een systeem ontwikkeld die later uit verschillende bronnen informatie kan opnemen - fictie kan dus wel degelijk helpen bij het bestuderen van menselijk gedrag

Onlangs was er een Groot Spektakel: men nam zwaartekracht golven waar. Ineens stelde men, had men een extra zintuig om mee naar het heelal te kijken! dit klopt, heb het op de voet gevolgd

Wat jij zegt is dat onderzoek zoals dit als het ware een nieuw zintuig biedt waarmee we naar onszelf kunnen kijken. een extra zintuig om de exponentiële groei van tekst die op het web beschikbaar is met onze linieair groeiende populatie bij te houden, ja

Nou, ik hoef geen dubbele masters filosofie te hebben om te snappen dat hoe je ook kijkt en met wat je ook kijkt naar de menselijke toestand, je niet los kunt komen van je eigen geest en dat alles wat je waarneemt gefilterd is en in die zin een terugkoppeling veroorzaakt. Dus zelfs empirisch onderzoek is subjectief - klein foutje denk ik?

Elke technologie, die een approximatie is van de menselijke zintuigen en ons zenuw-stelsel is gedoemd om inherent dezelfde eigenschappen te bezitten als wijzelf. Er is dus geen objectieve technologie of programmering mogelijk in een AI of een machine. Wat wil je nu precies zeggen? AI geschreven door mensen dus bevat fouten? Ik denk dat een machine inherent capabel is om objectief zaken te meten. Is de essentie van een goed werkend AI niet een aan banden gelegd, zelf corrigerend systeem?

Elke technologie, elk programma wordt gelimiteerd door de feilbaarheid van de mens en zal een expressie zijn van dat falen en van de beperkingen die wij als ras hebben. Aannames, concepten, referentiekaders, perceptie en de filters daarop, al die dingen bepalen al vooraf het bereik van het spel en dus is elk spel al vooraf omkaderd en de voorwaarden voor succes en falen al bepaald. Ligt aan WAT je wilt onderzoeken! Ik wil graag onderzoeken hoe vaak mensen zin hebben in appelsap. Door mijn data in deze databank te zoeken kan ik op basis van 10,000 (fictie) stukken zeggen dat (bijvoorbeeld) er in 100 een of meerdere keren appelsap wordt benoemd.

Verder wil ik helemaal geen onderzoek waarmee enorme corporaties die meer vermogen hebben dan de meeste landen in de wereld kennis en daarmee macht hebben over ons gedrag, accumuleren. De mogelijkheden tot propaganda wanneer een AI sociale media, meer dan dat, internet op zich afscant en daaruit conclusies trekt, daaruit voorspellingen kan doen, zullen ongekend vergroot worden. Je vorige alinea's gaan over aannames en menselijk falen... En wat doe je hier dan..? Hypocriet maybe?

Elke suggestie dat dit onderzoek nu mogelijk in de toekomst voordelen oplevert vind ik nonsens. Als dat een excuus is, dan is alles toelaatbaar en nastrevenswaardig. De holocaust is dan nuttig gebleken omdat die gruwel een belangrijke factor was om de EU te vormen, opdat we elkaar belemmeren om zo racistisch tekeer te gaan. Ik heb nooit gezegd dat alles toelaatbaar moet zijn en nastrevenwaardig is. Wat ik wel heb gezegd is dat jou opgesomde argumenten belaberd zijn en beperkt realistisch zijn. Aluhoedje af!

[Verwijderd]

- Hoe is fictie een afgebakend gebied?
- Je kunt een systeem ontwikkelen, zoals men voor de grap wel eens doet, waarbij je een balletje in gang zet dat her en der dingen aantikt zodat er van alles gebeurt, zoals apparaten die aan gaan etc. Maar is dat nuttig? Nee.
Wat jij suggereert is dat we een mal maken en hopen daarin de subjectieve, vaak irrationele mens te vangen. En als er dan iets past, dan is dat het bewijs dat het systeem werkt!

- Empirisch onderzoek is ook subjectief inderdaad, omdat empirisme uitsluitend bestaat binnen het Cartesiaanse wetenschappelijke model. Een model is een model, geen werkelijkheid. Ik kan Stephen Hawking wel weer citeren maar mensen als jij negeren dat toch.

Er bestaat geen zuivere wetenschap. Ik kan je ook Gödel geven als voorbeeld. Zelfs binnen de methodiek, binnen wiskunde, wat toch geacht wordt uiterst exact te zijn, krijg je afwijkingen.

Wat dat aangaat, zelfs de universele constanten veranderen met de tijd. Zo varieert de licht-snelheid afhankelijk van welke editie je gebruikt van de publicatie door metrologen.

De enige reden dat in berekeningen de licht snelheid een constante is, is omdat men flauw was van de variaties die door allerlei labs en universiteiten werden aangedragen en men gewoon bepaald heeft dat dit nummer het dan maar moest zijn.

Wetenschap, wetenschappelijke methodiek, empirisme, al die dingen vallen binnen het grotere kader van de menselijke toestand en zijn derhalve daaraan onderhevig en kunnen er dus niet bovenuit stijgen. Het model kan NIET groter zijn dan de werkelijkheid!

- Elke code bevat fouten. Afgezien daarvan, elke programmering die vanuit de mens ontstaat moet noodzakelijkerwijs inherente fouten hebben omdat de mens niet perfect is. Dat is niet alleen een zaak van slordigheid of gewoon niet goed kunnen programmeren. Het is een filosofische zaak en de reden dat schilders vroeger opzettelijk foutjes maakten in hun werk opdat ze niet god tegen het hoofd zouden stoten, omdat men vond dat alleen god perfect was.
Alles wat je programmeert of bouwt of ontwerpt of eigenlijk uit de mens voortkomt is onderhevig aan de faalbaarheid van de mens en de beperkingen en eigenaardigheden van ons ras. En wat je maakt valt binnen het model van de werkelijkheid dat als referentiekader het fundament vormt van je bouwsel. Als zodanig kun je niet buiten je eigen geest en lichaam stappen om ge gevolgen van faalbaarheid te vermijden.

Vandaar dat ik dit bedacht: "Een god is datgene dat geen eigenschappen met je deelt."

Een machine kan dus alleen meten wat wij volgens onze modellen het kunnen aanreiken om daarmee aan de gang te gaan. En zo kan het logisch berekenen dat 1+1, 2 is. Maar 1+1=2 is alleen logisch binnen het model dat de voorwaardelijke logica schept. Consistentie binnen dat model is een kwestie van afspraken, maar wat mensen vaak doen is die consistentie uitstrekken en van toepassing proberen te maken op andere modellen.

- Hoe kun je een systeem aan banden leggen als fictie, die oneindig is, het veld is waarbinnen patronen gevonden moeten worden? Het is zinloos want elk patroon dat je ontdekt heeft, ook hier weer, alleen zeggenschap en nut binnen de geformuleerde 'banden' of de 'bandbreedte' die je als kader schoep. Bovendien, ook weer, als fictie alle kanten op kan, dan zijn er geen bandbreedtes aan te brengen, want juist het aanbrengen daarvan maakt de reden waarom je dit alles doet zinloos. Het is alsof je een kilometer rivier omkaderd om dat te onderzoeken en daaruit conclusies te destilleren over alle mogelijke rivieren. Maar je weet niet eens dat je een rivier onderzoekt, je ziet alleen dat ene stukje en je weet dus nooit welke patronen die je daarin vindt van toepassing zijn op andere soortgelijke fenomenen.

- Je kunt niet zinvol opvragen hoe veel mensen zin hebben in appelsap door in fictie te zoeken omdat ergens zin in hebben een subjectieve ervaring is. Bovendien speelt de cultuur een rol. Cultuur is te ingewikkeld om mee te nemen in een AI overweging, omdat appels niet overal op Aarde groeien, ze dus niet beschikbaar zijn overal waar mensen überhaupt zin hebben in iets, in bepaalde mensen de appel als object weerstand opwekt, omdat niet elke schrijver en mens van appels houdt en dus in zijn fictie kiest voor een andere vrucht.

Je krijgt een antwoord, maar het is een antwoord op de verkeerde vraag. Als je wilt weten hoe vaak mensen zin hebben in appels kom je niet te weten. Als je wilt weten hoe vaak het woord appels voorkomt in fictie, dan heb je een andere vraag gesteld, maar je kunt niet het antwoord extrapoleren naar de werkelijke aantallen of mate waarin echte mensen zin hebben in appels. Immers kan een schrijver juist vanwege de christelijke appel, die door Eva gegeten werd op aandringen van de slang, proberen een beeld op te roepen, of gedrag van zijn karakter op die manier in een bepaald licht willen stellen.

Dus wat heeft de AI dan in feite gevonden? Een zinloos antwoord.

- Je suggestie dat ik hypocriet ben is volkomen ongerechtvaardigd omdat ik mezelf niet uitsluit van de faalbaarheid en de subjectieve ervaring en toestand van de mens. De ad-hominem is hier duidelijk.

- Jou argumenten zijn er niet. Je ontwijkt en negeert argumenten, gebruikt persoonlijke aanvallen en laat nergens zien dat je ook maar iets oppikt van mijn overwegingen. Ik ga echter nooit een discussie uit de weg.

[charles.pap]

- Hoe is fictie een afgebakend gebied? Zoals bij de bibliotheek
- Je kunt een systeem ontwikkelen, zoals men voor de grap wel eens doet, waarbij je een balletje in gang zet dat her en der dingen aantikt zodat er van alles gebeurt, zoals apparaten die aan gaan etc. Maar is dat nuttig? Nee.
Wat jij suggereert is dat we een mal maken en hopen daarin de subjectieve, vaak irrationele mens te vangen. En als er dan iets past, dan is dat het bewijs dat het systeem werkt! Mijn vraag aan jou is; is er een reden waarom het niet zou werken? Waarom gaan we op de plaats van God zitten en menen dat onze tekortkomingen ook op iets anders van toepassing moeten zijn? Omdat wij het gemaakt hebben? Onze grootste uitvinding zijn wij zelf en we hebben vaak nog geen idee hoe de meest complexe systemen in ons lichaam nagemaakt moeten worden. Laten we dan niet experimenteren om hout te snijden uit al die zwarte voodoo. Als baby en peuter en kleuter wordt je ook verhaaltjes voorgelezen om wijs te worden en bepaalde mores te leren voordat je geconfronteerd wordt met de grote boze wereld.

- Empirisch onderzoek is ook subjectief inderdaad, omdat empirisme uitsluitend bestaat binnen het Cartesiaanse wetenschappelijke model. Een model is een model, geen werkelijkheid. Ik kan Stephen Hawking wel weer citeren maar mensen als jij negeren dat toch. Stephen Hawking is nu juist beroemd als theoretisch natuurkundige.. Hij bouwt zijn modellen zelf op basis van zijn eigen berekeningen. Ik heb het over empirisch onderzoek; dat wat gebeurt is constateren. Na verloop van tijd is alles een kansberekening.

Er bestaat geen zuivere wetenschap. Ik kan je ook Gödel geven als voorbeeld. Zelfs binnen de methodiek, binnen wiskunde, wat toch geacht wordt uiterst exact te zijn, krijg je afwijkingen. afwijkingen met een of meerdere kanswaarden, ja

Wat dat aangaat, zelfs de universele constanten veranderen met de tijd. Zo varieert de licht-snelheid afhankelijk van welke editie je gebruikt van de publicatie door metrologen. Het wordt dan ook tegenwoordig vaker beschreven als limiet in plaats van een onvariabele snelheid

De enige reden dat in berekeningen de licht snelheid een constante is, is omdat men flauw was van de variaties die door allerlei labs en universiteiten werden aangedragen en men gewoon bepaald heeft dat dit nummer het dan maar moest zijn. nee omdat je op basis van empirisch onderzoek op een gegeven moment een besluit kunt nemen. En na verloop van tijd worden we er steeds beter in. http://www.physlink.com/Education/AskExperts/ae22.cfm

Wetenschap, wetenschappelijke methodiek, empirisme, al die dingen vallen binnen het grotere kader van de menselijke toestand en zijn derhalve daaraan onderhevig en kunnen er dus niet bovenuit stijgen. Het model kan NIET groter zijn dan de werkelijkheid! Bijzonder statement, en niet te bewijzen. We zijn op het punt van religie aangekomen. Ik zie de Singularity op de toekomst horizon staan, en jij niet.

- Elke code bevat fouten. Afgezien daarvan, elke programmering die vanuit de mens ontstaat moet noodzakelijkerwijs inherente fouten hebben omdat de mens niet perfect is. Dat is niet alleen een zaak van slordigheid of gewoon niet goed kunnen programmeren. Het is een filosofische zaak en de reden dat schilders vroeger opzettelijk foutjes maakten in hun werk opdat ze niet god tegen het hoofd zouden stoten, omdat men vond dat alleen god perfect was.
Alles wat je programmeert of bouwt of ontwerpt of eigenlijk uit de mens voortkomt is onderhevig aan de faalbaarheid van de mens en de beperkingen en eigenaardigheden van ons ras. En wat je maakt valt binnen het model van de werkelijkheid dat als referentiekader het fundament vormt van je bouwsel. Als zodanig kun je niet buiten je eigen geest en lichaam stappen om ge gevolgen van faalbaarheid te vermijden.

Vandaar dat ik dit bedacht: "Een god is datgene dat geen eigenschappen met je deelt." Deze vond ik mooi.

Een machine kan dus alleen meten wat wij volgens onze modellen het kunnen aanreiken om daarmee aan de gang te gaan. En zo kan het logisch berekenen dat 1+1, 2 is. Maar 1+1=2 is alleen logisch binnen het model dat de voorwaardelijke logica schept. Consistentie binnen dat model is een kwestie van afspraken, maar wat mensen vaak doen is die consistentie uitstrekken en van toepassing proberen te maken op andere modellen.
Dus je hebt regels binnen een systeem, (wat ik bedoelde met een afgebakend gebied) en dus is het systeem faalbaar, het kan niet buiten zijn eigen kunnen treden. Nu mijn vraag aan jou; wanneer denk je dat de mens er wel toe in staat gaat zijn? Zoals de mens in zijn eigen doen en laten het vliegtuig, het internet en mobiele telefonie uitvondt? Voorheen ondenkbaar voor de algehele mensheid? Wanneer denk je dat de mens er toe in staat gaat zijn (binnen de regels van zijn denken en laten) dat hij of zij iets uit gaat vinden dat even slim, dan wel niet slimmer is dan de persoon in kwestie? Staat dat bij jou in de toekomst te gebeuren als een punt wat je hopelijk nog mee gaat maken zoals bij mij, of niet? Want de faalbaarheid van de mens schijnt steeds meer dingen slimmer te maken. Ik durf haast te stellen dat het vanwege de faalbaarheid van de mens is dat we uberhaupt met onze technologie zo ver zijn gekomen.

(Geintje: consistentie bij modellen? http://tinyurl.com/h5glvqp [/b]

- Hoe kun je een systeem aan banden leggen als fictie, die oneindig is, het veld is waarbinnen patronen gevonden moeten worden? Het is zinloos want elk patroon dat je ontdekt heeft, ook hier weer, alleen zeggenschap en nut binnen de geformuleerde 'banden' of de 'bandbreedte' die je als kader schoep. Bovendien, ook weer, als fictie alle kanten op kan, dan zijn er geen bandbreedtes aan te brengen, want juist het aanbrengen daarvan maakt de reden waarom je dit alles doet zinloos. Het is alsof je een kilometer rivier omkaderd om dat te onderzoeken en daaruit conclusies te destilleren over alle mogelijke rivieren. Maar je weet niet eens dat je een rivier onderzoekt, je ziet alleen dat ene stukje en je weet dus nooit welke patronen die je daarin vindt van toepassing zijn op andere soortgelijke fenomenen. Wie zegt dat als het systeem erop ingesteld is zichzelf aan te passen aan dat ene stukje kilometer, dat niet in staat gaat zijn bij de rest van de mogelijke rivieren wanneer die geintroduceerd worden in zijn onderzoeksgebied? Het leert. En dat is nu juist het mooie. Wanneer een architectuur eenmaal zo gebouwd is dat het met een oneindig aantal variabelen prima door kan kauwen staat er nu juist met computers een enorm opschalingspotentieel te wachten. De potentiele voordelen zijn enorm, wat houdt ons tegen om het te proberen?

- Je kunt niet zinvol opvragen hoe veel mensen zin hebben in appelsap door in fictie te zoeken omdat ergens zin in hebben een subjectieve ervaring is. Bovendien speelt de cultuur een rol. Cultuur is te ingewikkeld om mee te nemen in een AI overweging, omdat appels niet overal op Aarde groeien, ze dus niet beschikbaar zijn overal waar mensen überhaupt zin hebben in iets, in bepaalde mensen de appel als object weerstand opwekt, omdat niet elke schrijver en mens van appels houdt en dus in zijn fictie kiest voor een andere vrucht. Daarom is context ook belangrijk. Die context bepaal je bij het creeeren van het systeem dus die zijn op voorhand bekend. Zoals waar de meeste content vandaan komt om iets te kunnen zeggen over de verdeling van mensen die zin hebben in appels. Of appelsap. Allemaal dingen waartoe een systeem perfect in staat kan zijn.

Je krijgt een antwoord, maar het is een antwoord op de verkeerde vraag. Als je wilt weten hoe vaak mensen zin hebben in appels kom je niet te weten. Als je wilt weten hoe vaak het woord appels voorkomt in fictie, dan heb je een andere vraag gesteld, maar je kunt niet het antwoord extrapoleren naar de werkelijke aantallen of mate waarin echte mensen zin hebben in appels. Immers kan een schrijver juist vanwege de christelijke appel, die door Eva gegeten werd op aandringen van de slang, proberen een beeld op te roepen, of gedrag van zijn karakter op die manier in een bepaald licht willen stellen.

Dus wat heeft de AI dan in feite gevonden? Een zinloos antwoord.
Dat wat waar is binnen het afgebakend gebied hoeft helemaal geen ultieme waarheid te zijn. De afbakening ligt in de context waarin het systeem is gemaakt.

- Je suggestie dat ik hypocriet ben is volkomen ongerechtvaardigd omdat ik mezelf niet uitsluit van de faalbaarheid en de subjectieve ervaring en toestand van de mens. De ad-hominem is hier duidelijk. Mijn excuses. Ik kwam misschien te hard over.

- Jou argumenten zijn er niet. Je ontwijkt en negeert argumenten, gebruikt persoonlijke aanvallen en laat nergens zien dat je ook maar iets oppikt van mijn overwegingen. Ik ga echter nooit een discussie uit de weg. Ik neem je overwegingen zeker mee. Ik denk dat we altijd moeten leunen op wetenschappelijk scepticisme om ons van de waarheid te voorzien. Maar dat wil niet zeggen dat we daarom alle pogingen maar moeten staken.

[Verwijderd]

Ik denk dat je onderschat de mate waarin je als mens je eigenschappen meeneemt of investeert in wat je creëert. Ik zie hier een verband met dat typische castesiaanse denken, waarbij alles wordt opgedeeld in gedefinieerde terreinen die dan onderzocht worden.
Dus, als je A onderzoekt, dan hebben alleen je menselijke eigenschappen die verband houden met A invloed op je werk, maar niet B, dat tot een ander terrein behoort. Maar ik denk dat je je werk in duikt met alles wat je bent.

Wat kids betreft, ik denk dat veel van die verhaaltjes verkeerd uitpakken. Maar 'wij' hebben onszelf niet uitgevonden. Evolutie bracht ons hier. Bovendien denk ik dat we als soort weinig controle hebben over ons eigen denken, laat staan ons eigen gedrag, dat uiteindelijk uit denken voortkomt, of het gebrek aan denken.

Jij denkt dat we in een rationele wereld leven? Ik betwijfel het. Ondanks al die wetenschap en de nadruk tijdens ons hele leven, beginnend op school, de wetenschappelijke paradigma's aan de basis van onze cultuur, de indoctrinatie daarmee, zijn wij als soort niet in staat tot een aantal zaken die we normaliter als belangrijk zien zoals zelf-kritiek, inzicht, begrip, een duidelijk beeld van wie en wat we zijn als individu en als soort en wat de bedoeling nu precies is van het leven.

We gedragen en denken uiterst irrationeel. Vanuit die situatie proberen menselijk gedrag te voorspellen lijkt me een paradox, een soort zelf-ondermijnende poging.

"The bigger you grow the bonfire the more darkness you reveal"
-- Terrence McKenna

Het is het equivalent van 'Waar je ook gaat, daar ben je.'

Hawking is theoreticus inderdaad.

"Een beroep doen op de werkelijkheid leidt tot niets, want we bezitten geen voorstelling van de werkelijkheid die losstaat van een model van de werkelijkheid."
-- Stephen Hawking

Wij mensen zien geen realiteit. Wij zien alleen modellen. Wij werken dus binnen een perceptie, binnen een model aan een model. Ik zie dus niet hoe je binnen het model van wetenschappelijk onderzoek, een model kunt maken dat is toegespitst op menselijk gedrag, dat gegevens analyseert door een model te maken van fictie, wat ook een model is in zekere zin, maar een die zo breed is dat het de eerste twee modellen overstijgt omdat het bereik de menselijke ervaring is, die zich niet in modellen laat vangen.

Wat de licht-snelheid aangaat, je gebruikt het woord 'beschrijving' zelf daar ook al. Die link geeft een overzicht, maar je moet bij de metrologen zijn. Empirisch onderzoek levert geen vast getal op voor de licht-snelheid.
Wat men doet is zeggen dat 1+1 meestal twee is en we er daarom voor het gemakt van uit gaan in verdere berekeningen in de kosmologie. Het is onder voorbehoud. Tot zover exacte wetenschap.

Ik snap niet wat religie te maken heeft met mijn duiding. Een model kan niet groter zijn dan de werkelijkheid.

De relativiteitstheorie is niet groter dan de werkelijkheid. Het beschrijft immers het model van binnenuit het model. Bedoel je met religie dat god groter is dan het model? Ik neem aan dat dit een argument kan zijn, maar ik 'geloof' niet dat god groter is dan het model of er buiten staat.

Welke singulariteit bedoel je? De christelijke, dus de Dag des Oordeels?

Ik denk dat je als mens niet boven jezelf kunt uitstijgen. Wetenschap of religie, willekeurig welk model je hanteert botst altijd op die fundamentele grens.

Kun je je eigen tong proeven? Kun je op je eigen tanden bijten? Kun je met de top van je linker wijsvinger die van de rechter aanraken? Maar welke vinger raakt welke dan eigenlijk aan? Kun je jezelf optrekken aan je haar?

Of deze: Overwin je angsten! Stijg uit boven jezelf! Maar als je je angst overwint, wie verliest er dan? En waarboven stijg je uit?

We zullen dus nooit perfectie bereiken in wat we kunnen bouwen. Bovendien geloof ik niet dat het streven naar perfectie lovenswaardig is. In een analogie is de hemel perfect, daar ben je voor eeuwig gelukkig en er gaat niets verkeerd. Dat klinkt voor mij als een hel. Er is geen onderscheid, geen oppositie. Hoe kan er iets moois en goeds zijn zonder iets lelijks en kwaads?
We leven al in de hemel. Contrast for the win. Om die reden maak ik me druk om dit soort zaken. En privacy. Het is het streven naar...wat ons de nek omdraait.

Er zal dus nooit een AI kunnen bestaan die slimmer is dan wij zelf zijn, omdat wij die zo'n AI uitvinden het gecreëerd hebben en dus boven de AI staan. Ons falen is gekoppeld aan ons succes, het een definieert het ander.
Dat betekent dat een AI bijzonder succesvol de wereld een slechtere plaats kan maken. Laten we niet van de wereld een casino maken,, waar we roulette spelen rond de slogan 'up the ante'. Het is een wapenwedloop met onszelf, waarbij we steeds gevaarlijker technologie inzetten om te bewijzen dat wij slimmer zijn dan de voorgaande generatie tech.

Daarom ben ik technorealist. En daarom heb ik kritiek op wat dit onderzoek beoogt.

Ik heb geen AI nodig om eindeloos door te kauwen op eindeloze stromen data. Ik ben 42 en 42 is overal om me heen. Ik hoef niet te rekenen om bij het ultieme getal uit te komen. Zet een AI daarop en die vind 42 ook wel, het is fictie immers?

Welke voordelen bedoel je? Wat is er mis in de wereld waar je een fix voor wilt?

Wil je net als in een sci-fi verhaal dat ik ooit las, dat er een AI komt die eens in de zo veel jaar de de koers, het beleid regelt door alle mogelijke parameters en factoren binnen het land te analyseren en die daaruit één persoon kan selecteren die voldoet aan precies dat wat nodig is om beleid uit te stippelen. In het verhaal is dat een kind. Die wordt met alle egards een vragenlijst voorgezet en ondervraagd over wat het kind wil, hoopt, droomt etc. en daaruit destilleert de AI dan de koers.

Wil je een AI die menselijk lijden oplost en voorkomt?

[Reactie gewijzigd door Verwijderd op 23 juli 2024 17:50]

[_vision]

Integendeel, d.m.v. machine learning kun je een machine dingen laten doen die juist helemaal niet voorgeprogrammeerd zijn.

Daarnaast is een stuk voorprogrammeren juist biologisch erg plausibel. Onze menselijke intelligentie is voor een aardig deel ook neuraal en genetisch voorgeprogrammeerd en ontwikkelt zich in een omgeving.

[Ossebol]

Dat betwijfel ik. Als een personage in een fictief verhaal een dierbare verliest, is de kans groot dat hij bijvoorbeeld moet huilen. Zet je dat af tegen talloze personages in dezelfde situatie die ook moeten huilen, dan weet het algoritme dat 'huilen' een valide reactie is. Dat ene personage dat in een ander verhaal door het lint gaat en een half dorp uitmoordt, is dan maar een extreme reactie. Die reactie is dan ook verwaarloosbaar.

[r2504]

Hopelijk gaat dit systeem inderdaad geen fictie lezen zoals The Terminator :-)

[andreetje]

Dan is het geen fictie meer...

[ANW]

Dat lijkt me ook. Fictie beschrijft niet hoe echte mensen zich echt gedragen maar hoe fictieve mensen zich fictief gedragen. Het fictieve gedrag is zó geschreven dat echte mensen dat - tijdelijk - geloofwaardig vinden.
Het beschreven gedrag zegt dus niet zozeer iets over hoe echt gedrag is maar hooguit over hoe mensen denken over gedrag. Lezers weten in veel gevallen best dat het beschreven gedrag niet strookt met natuurlijk gedrag maar vinden het spannend/amusant/erotisch/..., in ieder geval onderhoudend.
Bijvoorbeeld: het lezen over hoe je de woonkamer stofzuigt duurt niet zo lang als die handeling zelf.
En zoals anderen al opgemerkt hebben hoeven fictieve personages nooit te poepen. Laat staan dat beschreven wordt dat ze wc-papier moeten pakken, hun reet moet vegen, remsporen weg borstelen, hun handen vergeten te wassen etc.

edit:
Misschien vinden we fictie wel onderhoudend omdat het gedrag niet natuurlijk is.

[Reactie gewijzigd door ANW op 23 juli 2024 17:50]

[Marc050]

Een computer die denk als Hannibal Lecter?

[448191]

In de meeste proza is de protagonist een onrealistische "good guy" dus een vleugje sociopaat kan vast geen kwaad

[RoffaboyS]

Maar echt weten hoe een mens voelt kan nooit aangeleerd worden bij een robot.

[QuestionMarc]

Waarom niet? 'Voelen' is niets meer als een input op een stuk software dat gevormd wordt door onze hersenen. Ik zie niet in waarom dat niet aangeleerd kan worden door een computer.

[RoffaboyS]

Omdat een mens meerdere gevoelens te gelijk voelt en soms meer dan een ander gevoel dat is niet iets wat geprogrammeerd kan worden imho.

[SEQREEL]

Hmm... Fictie ik weet niet of dit de beste manier is om iets aan te leren, kan natuurlijk de verkeerde kant op gaan. Of is de film Robocop ook als boek te verkrijgen?

[Verwijderd]

Als hij plaatjes kan kijken

[Verwijderd]

Door slimme algoritmen kunnen computers steeds meer nuttige dingen doen maar het is (nog) geen intelligentie zoals wij dat kennen. Het is nog zelfs niet vergelijkbaar met een insect.

[Reactie gewijzigd door Verwijderd op 23 juli 2024 17:50]

[Mr777]

Eigenlijk niets nieuws, Google is daar al veel langer mee bezig; het is ook de reden dat ze de hele wereldliteratuur willen inscannen met hun books-project.

"We are not scanning all those books to be read by people. We are scanning them to be read by an AI." (George Dyson, talk at Google, October '05)

Bij Google weten ze donders goed waar ze mee bezig zijn...

[divvid]

Artificial intelligence zoals dit is geen AI, maar meer een goed getrainde zeer complexe classifier, hoe complex ook. Naast de bekende turing tests is er meer dat intelligentie kenmerkt, zoals zelf reflectie en daar naar handelen of juist niet handelen, op soms irrationele gronden.

Laten we eerst maar eens zien. Vooralsnog niet meer dan een wetenschappelijk experiment in machine learning.

[HerrPino]

misschien wel even boeken als Mein Kampf, de Matrix en 1984 overslaan

[Verwijderd]

Waarom? Leer zo'n machine dan ook het totaal plaatje zodat deze niet dezelfde fouten maakt of zodat ze het verschil tussen fantasie en de werkelijkheid duidelijk krijgen.