Watson-ai van IBM komt tot kankerdiagnose terwijl artsen onzeker waren

In Japan heeft IBM's Watson-ai bij een zestigjarige vrouw een zeer zeldzame vorm van leukemie vastgesteld. Artsen hadden eerder de verkeerde vorm van kanker vastgesteld bij de dame en de behandeling daarvoor sloeg dan ook niet aan.

Dat meldt onder andere de Japanse publieke omroep NHK. De vrouw is in behandeling bij het medisch instituut van de Universiteit van Tokyo. Het zou gaan om het eerste Japanse geval van een kunstmatige intelligentie die de doorbraak geeft in een dergelijke situatie.

Watson was in staat om de genetische opmaak van de gezonde en de kankercellen met elkaar te vergelijken en stelde vast dat er op 1500 punten een verandering plaats had gevonden. Daaropvolgend kon de ai zijn database met 20 miljoen onderzoeksrapporten raadplegen om overeenkomsten met andere gevallen te vinden. De vrouw bleek acute myeloïde leukemie te hebben, een zeldzame vorm van kanker. Het zou Watson tien minuten gekost hebben om tot de diagnose te komen. De aanbevolen behandeling sloeg aan.

De artsen zeggen dat Watson tot nu toe bij 41 verschillende patiënten heeft kunnen helpen. Bij in totaal twee daarvan heeft het zeldzame vormen van leukemie vastgesteld. Watson is al langer bezig met training in kankerdiagnoses. In 2011 zou de ai bijvoorbeeld al evenveel weten als een tweedejaars student geneeskunde. In 2013 begon de kunstmatige intelligentie van IBM daadwerkelijk ingezet te worden voor medische doeleinden. Het is onduidelijk hoeveel ziekenhuizen wereldwijd gebruikmaken van de ai. De database waar Watson mee werkt, wordt ingevoerd door het Memorial Sloan Kettering Cancer Center in New York. Watsons bekendste prestatie is mogelijk het in 2011 winnen van de Amerikaanse spelshow Jeopardy.

Reacties (186)

[kwakzalver]

Watson is toch iets meer dan alleen doorzoeken van een database.

Hoewel een paradepaardje van IBM is het een voorbeeld van de ontwikkeling van 'cognitive computing'. Vergeleken met het rekenwonder Deep Blue is Watson iets meer dan dat. Watson is (beperkt) zelflerend.

Met beperkt geef ik aan dat zijn mogelijkheden nog steeds verbeterd/uitgebreid/gewijzigd worden door de programmeurs -en- dat Watson zichzelf in beperkte mate kan verbeteren.

Watson kan (en wordt) regelmatig geraadpleegd voor complexe medische gevallen waarbij het onder meer gebruik maakt van (in dit geval de data van het Memorial Sloan Kettering Cancer Center, de data op het WWW en de patientdata zoals door de behandelende arts aangeleverd.

Aan de hand van de beschikbare gegevens geeft Watson een diagnose of mogelijke diagnose.
Het grote verschil is dat Watson snel data kan vergelijken en daarnaast door rekenkracht en 'cognitive computing' een (mogelijke) diagnose kan geven.
Watson is staat in dit geval voor de samengebalde kennis van wetenschappers en medici en geeft op basis hiervan een voorspellende antwoord. Het is nog steeds aan de Arts/wetenschapper die Watson raadtpleegt te controleren of dit antwoord ook juist is.

Zeker met deze extreme gevallen is Watson erg behulpzaam gebleken.

Dat mensen sceptisch zijn bij de ontwikkelingen is alleen maar goed. Zoals altijd zijn ontwikkelingen voor goed maar ook voor slecht doeleinden toepasbaar. Derhalve is een continue toetsing een randvoorwaarde.

Zelf Watson uitproberen?
https://watson.analytics.ibmcloud.com/product

Watson
http://www.ibm.com/cognitive/de-de/outthink/index.html

Voorganger: Deep Blue
https://futureblue.wordpr...blue-watsons-predecessor/

[J_Gonggrijp]

Dank voor deze aanvulling!

Voor de mensen die zich afvragen in hoeverre Watson nu een AI genoemd kan worden: er is een onderscheid tussen weak AI en strong AI. Veel mensen zijn geneigd om alleen strong AI als AI te beschouwen, maar dat bestaat op het moment alleen nog maar in verhalen. Alle bestaande AI is weak AI. Dat geldt ook voor Watson, maar zoals kwakzalver mooi heeft uitgelegd, neemt dat niet weg dat het een mooi systeem is.

Zie ook mijn andere reactie over dit onderwerp.

[MrMonkE]

Hoewel sommige verlichte zielen soms anders doen voorkomen is geneeskunde gewoon een wetenschap. En op het moment dat de statistieken voor AI continu die van menselijke artsen ontstijgen gaan we blind op de AI vertrouwen. En terecht.

[Speedpete]

Wil een systeem als Watson effectief blijven dan zal de basis - rapportages en patiënt-data - up-to-date moeten blijven. Nieuwe ontwikkelingen - zowel ziekten als behandelingen - moeten gevonden, onderzocht en gepubliceerd worden zodat Watson deze kan gebruiken. Dat is op dit moment nog altijd werk van artsen en onderzoekers, niet van een AI.

Daarnaast zijn de kwaliteit van de brondata ook van belang, evenals het beslissingsalgoritme. Concreet voorbeeld: er zijn goede resultaten wanneer virussen toegepast worden bij de behandeling van Alvleesklierkanker. Deze behandeling is echter nog niet uitgebreid onderzocht en wordt amper onderzocht omdat er op dit moment geen belang is: medicijnfabrikanten doen/willen ander onderzoek en specialisten hebben de financiën niet.

Stel dat dit wel onderzocht wordt, de resultaten zijn bekend en het geheel wordt gepubliceerd en opgenomen in Watson. Wat doet Watson daar dan vervolgens mee? Hoe weegt dit systeem de honderden publicaties met redelijk resultaat met die ene publicatie met geweldig resultaat? Wat als Watson voor de kwantiteit gaat en de AI vervolgens zegt: 'standaard behandeling'? Wat als Watson kiest voor de nieuwe behandeling en de patiënt gaat alsnog dood?

Die afweging maakt Watson niet, maar de fabrikant van Watson / de gebruiker van Watson. Zolang die afweging niet bij het systeem ligt moet je nooit blind op een AI vertrouwen. Je lijkt dan namelijk de AI te vertrouwen, maar in de praktijk vertrouw je heel iemand anders.

[Reactie gewijzigd door Speedpete op 22 juli 2024 15:58]

[TheGhostInc]

Nieuwe ontwikkelingen - zowel ziekten als behandelingen - moeten gevonden, onderzocht en gepubliceerd worden zodat Watson deze kan gebruiken. Dat is op dit moment nog altijd werk van artsen en onderzoekers, niet van een AI.

Een groot aantal medische onderzoeken zijn literatuur studies of statistische onderzoeken. Dus niet 'veel meer' dan het herorganiseren van al bekende data.
Juist daarbij zie je dat AI een steeds grotere rol gaat spelen. Als onderzoeker kun je misschien een dozijn 'variabelen' in de gaten houden, maar een systeem als Watson kan letterlijk de speld in de hooiberg vinden. Niet alleen binnen een 'homogene' groep van zieken, maar juist ook tussen ziektebeelden die misschien wel helemaal niet gerelateerd lijken.

Jouw 'wantrouwen' tegen AI is op zich begrijpelijk, maar heb je dat wantrouwen ook tegen de normale 'I'. Een arts maakt ook een afweging, als hij/zij liever een rondje golf speelt dan de nieuwe publicaties te lezen heb je een net zo groot of zelfs groter probleem.
Het voordeel van Watson is dat hij? een duidelijk doel heeft en dat het (in de toekomst) voordelig is om ook AI weer te gebruiken bij AI.
Dus een farmaceut kan AI aanbieden, maar als bijvoorbeeld 4 farmaceuten dat doen in 'hun voordeel' kun je natuurlijk daarover heen gewoon je eigen logica laten lopen. Uiteindelijk is geneeskunde vaak een combinatie van mogelijkheden bedenken en elimineren. Een AI systeem dat een paar mogelijkheden benoemt c.q. onderbouwd uitsluit kan lastig 'evil' genoemd worden. Er zijn genoeg artsen die ook gewoon maar gaan Googlen (of de medische variant daarvan ) of door een boek gaan zitten bladeren om wat inspiratie te krijgen bij een lastige zaak. Juist 'het vaste patroon' nekt innovatie/vernieuwing. AI kan alvast af en toe met een verrassende optie komen (zoals nu ook blijkt).

[Speedpete]

Gepubliceerde wetenschappelijke- en statistische onderzoeken zijn - zeker wanneer het van verschillende onderzoekers afkomstig is - over het algemeen gestoeld op eigen data of niet eerder gebruikte data. Het delen van data in de wetenschap is eerder uitzondering dan regel omdat onderzoekers bang zijn de 'eigen' data uit handen te geven en daardoor niet meer te kunnen publiceren, en dat gaat alleen op voor de gevallen waar het mag omdat de privacy-wetgeving van kracht is op het delen van data. Dat een 'groot aantal' medische onderzoeken bestaande data gebruikt durf ik dus te betwijfelen, zeker wanneer het om onderzoeken van verschillende personen / teams gaat.

Maar het is goed dat je 'wantrouwen' tussen aanhalingstekens zet. Ik vertrouw AI-systemen namelijk wel, ik heb ze zelf ook gebouwd (zeer eenvoudige systemen, maar toch) en in de praktijk doen deze systemen netjes wat je ze opdraagt, mits gedegen ontwikkeld en met juiste informatie gevoed. En daar zit juist het probleem - wat mij betreft - met het blind vertrouwen op een AI-systeem. Deze systemen worden (op dit moment!) ontwikkeld door mensen, getest door mensen en gevoed door mensen met informatie die mensen hebben opgesteld om vervolgens gebruikt te worden door mensen.

De systemen zijn - zeker op dit moment - nog dusdanig afhankelijk van de mens dat een blind vertrouwen totaal niet terecht is.

[TheGhostInc]

De database waar Watson mee werkt, wordt ingevoerd door het Memorial Sloan Kettering Cancer Center in New York.

Daarmee heeft Watson dus daadwerkelijk de rauwe data en niet de samenvatting. De conclusies van de onderzoeken kunnen uiteraard ook weer gebruikt worden.

Maar we zitten duidelijk op dezelfde pagina

[Speedpete]

Yep, dat zitten we

Ik ben even gaan zoeken naar met Memorial Sloan Kettering Cancer Center in combi met Watson en op hun site staat:

MSKCC’s world-renowned oncologists will assist in developing IBM Watson to use a patient’s medical information and synthesize a vast array of continuously updated and vetted treatment guidelines, published research and insights gleaned from the deep experience of MSKCC clinicians to provide an individualized recommendation to physicians. The tool will also provide users with a detailed record of the data and evidence used to reach the recommendations.

Veel bronnen en belangrijker in mijn ogen: uitgebreide info over hoe de aanbeveling tot stand is gekomen. Dat vind ik positief.

[Verwijderd]

Hoe vereenzelvig jij "...liever een rondje golf speelt ..." met "...ook gewoon maar gaan Googlen..." en "...door een boek gaan zitten bladeren..."?

Als je argument is dat iemand een AI niet hoeft te wantrouwen en je geeft tegenstrijdig aan dat een arts kan golfen (en in zijn onderbewustzijn mogelijk nog bezig is met de patiënt) maar ook gericht naar oplossingen kan zoeken, op welke manier is dat een argument om een AI wel te vertrouwen? Als iemand vergeet de AI aan te zetten, dan 'golft' de AI ook en doet niets.

Overigens mag een arts best af en toe ontspannen. Toch?

Ik vraag me af welke rol een AI kan spelen in diagnostiek als het gaat om spectrum stoornissen. Ofwel stoornissen waar de symptomen per individu variëren.

Het wordt steeds duidelijker dat bijvoorbeeld ADHD en ASS (Autisme Spectrum Stoornis) een overlap hebben. Op welk moment is een symptoom toe te schrijven aan ADHD en wanneer aan ASS?

Kun je daar statistische analyse op zetten? En hoe kun je controleren dat de AI het juist heeft? Immers weten de neurologen en genetici niet precies hoe die symptomen ontstaan. Voor autisme zijn er 65 genen bekend die een rol spelen. Maar recent onderzoek m.b.v. een computer toont dat er mogelijk 2600 genen ook een rol spelen.

Als je bij ADHD een groep symptomen vangt onder de noemer 'concentratie problemen' en in ADHD uit zich dat als te weinig aandacht in het moment voor een taak, hoe onderscheid de AI dat dan van het autistische equivalent waarbij er juist te veel concentratie is, waardoor het brein overprikkeld raakt.

Beide zijn een vorm van concentratie regulatie problematiek. Maar als er een serie aan symptomen is, die zowel ADHD als autisme kunnen zijn, wat kan een AI dan nog doen?

[TheGhostInc]

Wat ik aangeef is dat een 'onbeperkt' vertrouwen in een arts ook niet verantwoord is, net zo goed dat je kritisch moet blijven kijken naar AI.

Een arts of AI hoeven het beiden ook helemaal niet juist te hebben. Als een van beiden de juiste diagnose kan voorstellen (eventueel met hulp van de ander), dan ben je er al. Ook AI zal (net als een arts) een diagnose voorstellen met een bepaalde foutmarge. Soms is de behandeling zo ongevaarlijk dat je het kunt proberen, andere keren moet je mogelijk extra onderzoek/testen doen om te zien of een dergelijke diagnose inderdaad klopt.
Het is niet alsof AI zegt: 'Amputeer' en dat daarna de arts met de zaag de kamer inloopt en gaat zagen. Een second (of third) opinion zal bijna altijd nodig zijn.

Jouw benadering/voorbeeld is trouwens redelijk 1 dimensionaal. Het is AI, geen 'standaard' statistische analyse. Hokjes e.d. zijn veel minder van belang voor AI. Bijvoorbeeld het onderscheid tussen ADHD en autisme is voor AI niet relevant, aangezien dat vooral een definitie kwestie is. De AI zal, als dat nodig is, zelf een dergelijk onderscheid maken, of juist niet, afhankelijk van 'waar' het naar kijkt.
Daarmee kan AI over 'hokjes' heen kijken, misschien dat kankerpatiënten met autisme of ADHD door bepaalde medicatie beter of slechter reageren op andere medicatie, terwijl nog niemand anders dat verband überhaupt had gezien of bedacht. Bijvoorbeeld de bijwerking 'concentratiestoornis' kan ineens heel relevant zijn, terwijl een oncoloog dat vooral als bijzaak ziet.

[i-chat]

dus wat je zegt is dat er een samengang van mens en machine nodig is, AI om uit al die data iets nuttigs te halen en de mens om om zo nodig bij te sturen, etische belangen in te brengen, of om inventief bezig te gaan als de ai op een bepaald moment dood spoor treft.

eigenlijk precies het zelfde wat de meeste mensen met auto's willen, niet alles uit handen geven, maar wel lekker comfortabel de cruse-control en lane assist aan.

ik gok dat dit ook de toekomst zou moeten worden, waarin machines altijd samenwerken met mensen, en waarbij er op een bepaald moment geen sprake meer is van master/slave operator/machine maar gewoon van gelijkwaardige teamgenoten die elkaars prestaties stimuleren

[Verwijderd]

Maar die definitie van wat ADHD is of ASS zal voor de benadeling wel degelijk verschil maken. Het gaat verder dan definities. Een diagnose wil je als arts hebben omdat daaraan een behandel traject gekoppeld kan worden.

Zo zal je iemand met autisme niet 100 keer iets laten doen om een angst te overwinnen door gewenning. Dat zal niet werken. Bij een ADHD'er die een angst had omdat hij/zij in het leven constant verkeerd werd bejegend wel.

En AI kan zoals je het beschrijft niets wat een mens ook niet kan. Artsen werken altijd in team verband. Ik denk dat een AI altijd maximaal een hulpmiddel is en moet blijven. Desondanks denk ik dat als een Ai het te vaak bij het juiste eind heeft, ook artsen, zijnde mensen, er te veel op gaan vertrouwen.

Dat is een reëel gevaar, als je kijkt naar hoe mensen met een navigatiesysteem pardoes de vaart inrijden en hoe het soms onmogelijk blijkt voor mensen om iets wat fout in de pc staat, te verwijderen.

Bij het gebruik van een AI of andere computersysteem zou een soort dubbel blind onderzoek gehanteerd moeten worden. De arts (?en team) en de AI mogen elkaars conclusies niet kennen. Alleen een 2e arts mag ze beiden zien maar niet weten wel advies van mens of machine komt. Hij mag dan een oordeel geven over de conclusies in teamverband.

De menselijke hersens kunnen geen miljoenen dossiers doorspitten. Prima. Dat is ook niet nodig, omdat wij andere vormen van rekenkracht hanteren. Maar een AI zal ook inherente nadelen kennen.

[tweakersid]

Wat jij benoemt is de kern waar veel mensen met autisme/ adhd last van hebben.
Ik denk dat er meer succes geboekt moet worden binnen de reguliere geneeskunde zodat de AI een grotere database heeft.

[hassanjassan]

Ik ben een gaaf project bezig op dit gebied, de zoeg, waarbij we de feedback van de patienten meenemen in de formule. Ik kan me zo voorstellen dat tezamen met alle andere concrete info over de patient zoals voorgeschiedenis, de trackrecords van de artsen, ziekenhuizen, en bijv ook dit soort info nuttig kan zijn in het helpen tot het komen van een conclusie, diagnose en behandeling. Ik bedoel, als je weet wat een patient goed vind, gegeven zn wensen, profiel etc, dan heb je toch als arts een hele goede leidraad, van ik zit op het goede spoor? En dat betekent dan soms geeneens genezing maar kwaliteit van leven.

[field33P]

Dat neemt nog steeds niet weg dat Watson een goed hulpmiddel is, zeker om te laten zien waar je moet zoeken.

[Speedpete]

Dat zal ik zeker niet ontkennen

[Nibbz]

Volgens Jeremy Howard, is er een algoritme ontwikkeld dat bij het analyseren van weefsel, nauwkeuriger is dan doctoren.

https://www.ted.com/talks...earn?language=nl#t-621786

(zo rond 10:33)

Natuurlijk is al het voorwerk nodig (wat jij ook aangeeft, alles rapporteren, informatie bundelen en publiceren voor mede collega's) waar het algoritme gebruik van maakt. Maar het geeft wel aan, dat bepaalde tools beter dan mensen zijn in het opsporen van X of Y.

Verder in het filmpje geeft hij ook aan, dat deze trend zich exponentieel gaat groeien en hij verwacht dat over 20 jaar, artsen zich veel meer op de behandeling kunnen richten dan op het opsporen van ziekten.
En rond die tijd, zullen algoritmes, naast het analyseren van data, ook zelf rapporten gaan cree"eren van mogelijk nieuwe gevaren voor de mens.

Hiervaan hebben ze nu al een voorbeeld, dat bij het algoritme van Standford University

Proctologen hebben al jaren geleerd, dat cellen buiten om de kanker cellen 'minder' belangrijk zijn dan de kankercellen zelf.
Het algoritme toonde echter aan, dat bij een overlevingskans, deze buitenste cellen weldegelijk belangrijk zin bij het maken van deze diagnose.

[Reactie gewijzigd door Nibbz op 22 juli 2024 15:58]

[Titusvh]

Kleine correctie: de proctoloog die je noemt is een kontendokter, je bedoelt een oncoloog, een kankerdokter.

[Infor40]

Dat zou simpelweg ondervangen kunnen worden door het algoritme (ook) naar effectsizes te laten kijken. Daarmee zijn 'bijzondere resultaten' ook inzichtelijk voor het algoritme.

Daarbij denk ik dat je het of een systeem niet de beslissing moet willen laten nemen. Het systeem zou de mogelijke behandelopties en argumenten voor en tegen moeten presenteren op basis van wetenschappelijke onderbouwing. De beslissing moet veeleer een afweging worden (en zijn) van de patiënt samen met de arts.

[MadEgg]

Blind? Ik mag hopen van niet. Watson doet hier iets waar computers immens efficiënt in zijn: veel data vergelijken. Uit de 20 miljoen dossiers wordt het meest overeenkomende dossier gevonden. Daarna is het aan de arts om dat dossier te vergelijken met het dossier van de patiënt in kwestie om te zien of er voldoende raakvlak is om als diagnose gesteld te kunnen worden.

De artsen hadden zelf nooit 20 miljoen dossiers kunnen doornemen, dus is het een zeer waardevol hulpmiddel. Herkent Watson echter nieuwe ziektes? Kan het op basis van ervaring en dossiers een behandeling extrapoleren voor onbekende ziektes? Blind vertrouwen is onterecht. Inzetten als hulpmiddel lijkt me juist heel goed.

[Reactie gewijzigd door MadEgg op 22 juli 2024 15:58]

[PuzzleSolver]

Ik zie hier maar 1 geval genoemd worden en er zijn in totaal 41 mensen geholpen. Hoeveel mensen deden er mee?

Dat lijkt me nogal belangrijk om te weten. Het is inderdaad een goed aanvullend middel, maar deze case zegt nog niet veel over het goed kunnen stellen van een diagnose in elke situatie. Misschien hebben ze Watson hier juist ingezet om de database te doorzoeken op edge-cases waar de doktoren de diagnose van een zeldzame ziekte gemist kunnen hebben. Dat is zeker heel waardevol, maar niet een reden om een blind op een AI te gaan vertrouwen zoals MrMonkE hierboven meld. Een AI kan namelijk hele andere edge-cases missen en weer naar huis sturen met "niets aan de hand".

[Harry_Sack]

Ontmenselijking is al langer gaande, doordat technologie -in de naam van het goede- een hoop heeft overgenomen. Als je het mij zou vragen, dan leg ik mijn vertrouwen graag meer in ervaring van iemand die er voor gestudeerd heeft, met al zijn/haar ervaring, dan dat ik een AI model zou vertrouwen. Er hoeft maar één parameter verkeerd te zijn, of je bereikt precies datgene wat je niet nastreeft. Er is al langer bekend dat kanker tè complex is om te verslaan. Wie gaat dat uitbouwen, zonder ervaring?
De techniek zal altijd een hulpmiddel blijven. Ik ben met je eens dat technologie een goede aanvullig is, maar het zou ondergeschikt moeten zijn aan expertise. Menselijke controle zou de doorslag moeten geven.

[teacup]

Een volgende stap wordt dan ook dat AI met een eigen set aan sensoren zal worden uitgerust om zelf diagnostiek te gaan plegen. Dan wordt de indirectheid die je nu als argument gebruikt deels ondervangen. De dialoog met de patiënt blijft een factor waarin ruis aanwezig blijft. Op dit punt hebben AI en menselijke behandelaar gelijke kaarten.

Je ervaringsargument is nu precies dat argument waarom gebruik van AI de enige logische weg tot een doorbraak kan zijn in de bestrijding van een ziekte als kanker. De gigantische hoeveelheid gegevens is voor een mens met de ervaring die in een mensenleven kan worden opgedaan veel te veel om te pareren. Onze samenleving loopt hierdoor in de valkuil van overspecialisatie. Ieder mens weet maar een klein brokje informatie en kent, als je geluk hebt, ook de kennisdragers van de naastgelegen brokjes.

Je argument zou nog zijn te verdedigen zijn als wij onszelf als mensen als een soort gedistribueerde intelligentie zouden kunnen beschouwen, een hyve. Het internet heeft in de informatieuitwisseling veel verbetering gebracht, en is deels verantwoordelijk voor de versnelling in kennisopbouw waar we nu mee te maken hebben. De limiet hierin zijn wijzelf, de mensen, de nodes in de vernetting. Ten eerste is onze verwerkingssnelheid laag en is ons geheugen beperkt, onze communicatieinterface is ook beperkt met gesproken en geschreven taal. Als we telepathisch zouden zijn geweest dan hadden we misschien een hele andere situatie gehad.

Maar we zijn niet telepathisch, integendeel bijna, zou ik zeggen. Onze edge als mensen is wel is dat wij goed (kunnen) zijn in het interpreteren van non-verbale signalen die andere mensen afgeven. Hierin zouden we ook geoptimaliseerd moeten zijn[...].

Niet alleen in de medische wetenschap, maar ook op andere vlakken is onze samenleving zo complex geworden dat we AI's in niet al te lange tijd op meer plaatsen zullen zien opduiken. Onze maatschappij groeit ons letterlijk boven het hoofd.

[Harry_Sack]

Ik kan het redelijk volgen, maar je raakt een punt wat me interesseert. Als mensen brokjes informatie hebben, en je afhankelijk bent van een geluksfactor dat je de juiste kennis bij de juiste specialist treft, hoe zit dat dan met AI ? AI zal een standaardiseringsproces kennen, en is daardoor per definitie ondergeschikt aan keuzes (van allerlei ruisgevoelige specialisten) en zal daardoor altijd uitlopen op een compromisbeleid. Dat is tot zekere hoogte acceptabel voor empirisch onderzoek, maar het is niet de hele oplossing.

Waar ik tegen ben, is het idee dat de mens zichzelf kan verbeteren door een grote machine voor in de plaats te zetten, dat de gevraagde kennis overneemt. Is het bijvoorbeeld wenselijk dat AI onbegrijpelijke data produceert, zodat een behandeling alsnog een gok blijft? En willen we een competitie tussen menskennis en machinekennis?

Het is een onvermijdelijk proces dat techniek een steeds belangrijkere plaats inneemt in ons leven, op allerlei lagen. Het is m.i. belangrijk dat er ethische vragen gesteld blijven worden over het haalbare.

[teacup]

In de manier waarop een AI wordt ingezet zijn valkuilen te vinden. Wat is de scoop van de AI, welk werkveld moet ze afdekken? Hoe consequent en nauwkeurig wordt ze gevoed met informatie? Hoe precies zijn de vragen? Wordt de AI gehost vanuit de overheid, VN of een Universiteit, of een bedrijf? Kan het een intelligentie zijn verdeeld over meerdere knooppunten, als het internet zelf dat is? Kan onze mensheid de kracht van een AI organisatorisch wel beteugelen? Is er een organisatie te noemen die kan waarborgen dat een AI altijd in het belang van de mensheid en haar natuurlijke omgeving wordt ingezet?

Genoemde AI is bijvoorbeeld een kankerspecialist. Wordt aan deze AI een aandoening voorgelegd die grenst aan dat kankerdomein, dan is de AI te beperkt. Een AI staat dus nooit op zichzelf. Mensen zijn betrokken bij de doelstelling, vraagstelling, ontwerp, datatoevoer en gebruik. Mensen zijn dus op alle vlakken betrokken. Een AI kan menselijk falen niet voorkomen. Wel verwacht ik dat een AI met zijn antwoorden mensen kan helpen hun oordeel te nuanceren.

Ja, een AI is heel slim en snel, maar blijft ook reactief. Mensen vragen, AI antwoordt. Dat een AI superieur is in het verwerken van gegevens moet dat de mens in het defensief dringen? We hebben al computers die sneller rekenen dan wij, bouwen voertuigen die sneller gaan dan wijzelf kunnen. We bouwen fysische machines die dingen doen die we met onze zintuigen niet eens kunnen waarnemen. We zijn al heel ver dat pad afgelopen een technologisch wezen te zijn.

Een AI is een totaal andere intelligentie dan de menselijke intelligentie. Ik zie haar daarom niet zozeer als een concurrent. Ik hoop dat ze in staat zal zijn onze complexe samenleving te helpen managen en ons kan ondersteunen.

[J_Gonggrijp]

Ik vind het een hele terechte vraag. Volgens mij is de toegevoegde waarde in dit geval dat Watson minder over het hoofd ziet dan een arts. Als dat het enige verschil zou zijn tussen Watson en een arts, zou dat voldoende reden zijn om artsen te vervangen door Watson, maar dat is duidelijk niet het geval.

[Harry_Sack]

Dank voor het samenvatten, het onderwerp dreigt nu al te groot te worden om iets zinnigs over Watson te zeggen. Ik denk dat je de centrale vraag wel hebt neergelegd. Op welke vlakken willen (kunnen) we AI als vergelijkingsinstrument toelaten?

[J_Gonggrijp]

Wat bedoel je met die vraag?

[Harry_Sack]

dat de scheidingslijn tussen machinekennis en mensenkennis een duidelijker profiel zou moeten hebben.

[Verwijderd]

Ik denk dat je te weinig op mensen vertrouwt. Dat zit in de westerse cultuur helaas heel diep.

Het is een feit dat in de computer wereld men hard werkt om computers meer als mensen te laten 'denken'. Omdat een mens op basis van weinig informatie bijzonder gedachtesprongen kan maken om tot een oplossing te komen, terwijl een PC lineair werkt.

Mensen zijn niet lineair. Als suggereert de wetenschap dat we dat wel zijn en daarom is het zo logisch voor de meesten hier om een mens te vervangen door een PC.

Een AI die diagnostiek doet, kill me now! Er zal altijd een menselijke geest aan te pas moeten komen die controleert en interpreteert omdat een computer, AI of niet, gewoon een domme schakelmachine is. Deze groep symptomen komt meer overeen, dan vallen die groep diagnoses af. Klik en klaar. En toch kan het zijn dat niet alle parameters van de patiënt ingevoerd zijn.

De AI heeft geen gelijke kaart bij communicatie ruis. Want een AI kan geen gezichten interpreteren. Heeft geen instinct, wat een dokter wel heeft waardoor die een onbestemd gevoel krijgt dat er nog iets meer aan de hand is.

Dus als een mens iets mist en de patiënt krijgt niet de perfecte behandeling of een AI komt tot conclusies die niet kloppen, het is om het even.

Maar zelfs dat is niet waar. Want een AI voelt geen verantwoordelijkheid, die spuugt gewoon een DX uit. Een AI kan niet ter verantwoording geroepen worden. Wat kun je doen? 50 zweepslagen tegen de case?

Ik vind het een schrikbeeld dat mensen zich overgeven aan de kille statistiek van de machine in de illusie dat die geen fouten maakt. Er is geen situatie in de realiteit waar alle parameters gekend zijn.

Een pc mag een hulpmiddel blijven. Maar nooit meer dan dat. De menselijke factor moet de belangrijkste blijven. Dat is humaniteit.

[teacup]

Het is wat mij betreft geen of of verhaal. Gebruik van AI diskwalificeert de betrokkenheid van mensen niet, maar andersom moet het geloof in eigen kunnen nooit het ontstaan van andere intelligenties in de weg staan, of in gijzeling houden. Dat laatste staat voor mij gelijk aan dogmatiek.

We zijn nu in een tijdperk aangeland dat we in staat zijn om de grenzen aan het menselijke in kaart te krijgen. Misschien geeft het kunnen vaststellen van die grenzen nog alleen maar meer respect en ontzag voor waartoe natuur in staat is. Gisteren zat ik in de tuin en zag een een piepklein vliegje met de lengte van 1-1.5 mm. Het dingetje besloot verder te vliegen. Wij mensen maken deel uit van diezelfde natuur en bouwregels. Leer mij geen ontzag over natuurlijke werkelijkheid.

Een belangrijke grens voor ons mensen is dat we moeite hebben met complexe organisatiestructuren die voorbij het niveau van groep of kleine gemeenschap gaan. Om aan de wedijver tussen deze groepen, ook aanwezig in de wetenschappelijke wereld, een neutraal referentiekader te geven kan een AI een goede bijdrage leveren.

Over observatie gesproken. Met de huidige sensor techniek kan een AI meer zien dan wijzelf met onze menselijke zintuigen. De nonverbale communicatie maakt (vooralsnog..) mensen noodzakelijk voor enige subjectieve connotatie.

edit: taal

[Reactie gewijzigd door teacup op 22 juli 2024 15:58]

[J_Gonggrijp]

Ik ben het grotendeels eens met wat je schrijft, maar je zou het nog wat kernachtiger kunnen formuleren. Een AI zoals Watson wint het van een mens op het vlak van opleiding en ervaring, omdat de machine veel makkelijker nieuwe kennis kan opdoen zonder dat oude kennis ondergesneeuwd raakt en omdat de machine haar kennis veel sneller en systematischer kan doorzoeken. De AI kan daardoor, vergeleken met een mens, veel sneller leren en veel langer doorgaan met leren, zolang je binnen een bepaalde vaardigheid blijft (in dit geval het stellen van een diagnose). Dit is ook precies de manier waarop AlphaGo van Lee Sedol kon winnen.

Tegelijkertijd hebben mensen nog steeds een enorm voordeel ten opzichte van computers wat betreft zelfstandigheid en zelfredzaamheid. Dat is voor het stellen van een diagnose echter niet zo essentieel, dus ik denk dat we diagnoses inderdaad steeds meer aan machines zullen gaan overlaten.

Ik ben trouwens afgestudeerd in AI.

[Verwijderd]

Maar een AI kan zogenaamde irrelevante informatie ook makkelijker verwijderen. En dat is ook gevaarlijk.

Want wetenschap is een proces, geen eindpunt. Wat men ooit voor absoluut waar aanhaalde blijkt later niet te kloppen. In wetenschap zouden er geen conclusies getrokken mogen worden omdat een conclusie vaak het punt is waar mensen niet langer nadenken.

Je moet er niet aan denken wat het heeft betekent toen iemand de komma verkeerd plaatste in een onderzoek naar ijzergehalte in spinazie. Althans, waar dat ook gemeten werd. Nog steeds denken hele volksstammen dat er in spinazie heel veel ijzer zit.

Een mens kan zich oude informatie herinneren en dat is belangrijk omdat nieuwe kennis misschien toch niet juister blijkt dan de voorafgaande kennis. Een AI die een nieuwe onderzoek naar dit of dat als hoger inschat dan het oude, het oude delete, dan kun je alsnog fouten krijgen in diagnose.

Het zou te gefragmenteerd zijn. Een AI die alleen de meest relevante en nieuwste data bezit wordt minder nuttig.

Verder kan een AI geen ervaring opdoen. Dat is onmogelijk. Een mens doet ervaring op, een computer, AI of niet, kan alleen datasets in het geheugen oproepen. Wat je doet is simpelweg antropomorfiseren.

Tijdens een opleiding kan een hoogopgeleide, zoals een professor ervaring overbrengen en een bepaalde mentaliteit die nuttig is bij diagnostiek. Maar ook menselijke waarden. Een AI kan dat niet. Dat heeft nadelen, want een mens kan 'beyond the call of duty' bezig blijven het alleruiterste voor een patiënt te doen, terwijl een AI na nog een rondje statistiek hoogst waarschijnlijk met dezelfde diagnose komt. En als dat niet zo is, wat is dan het nut van de AI überhaupt?

[Proxx]

Er is al langer bekend dat kanker tè complex is om te verslaan.

ik snap niet dat je die uitspraak durft te doen.

elke keer worden dingen die onmogelijk leken werkelijkheid zoals:
vliegen
Ruimte vaart
draadloze communicatie,
draadloze stroom
autonome auto's
en zo nog miljoenen andere voorbeelden

met de kennis van nu misschien, maar je weet nooit welke mogelijkheden er over 10 jaar zijn.

misschien dat quantum computers het hele proces nog eens in een stroomversnelling krijgt. wie weet, zeg nooit nooit.

[Harry_Sack]

Durf te dromen en uit te zoeken. Het zou een grote aanwinst zijn als kanker betaalbaar en met zo min mogelijk schadelijke bij-effecten te behandelen was. Ik ben wat pessimistischer van aard.

[Rabb]

Ik denk dat je de plank goed misslaat, er is altijd een menselijke factor aanwezig, namelijk de patient. En als die niet de juiste informatie geeft aan Watson wordt het stellen van een diagnose behoorlijk lastig.

Samenspraak met Watson is dan wel weer een erg goed idee, wat ze nu dus ook al toepassen.

"Magic's just sience we don't understand yet." Blind vertrouwen op verlichte zielen of op wetenschap vind ik geen goed idee, de kunst is om de zaken te combineren en tot een gegronde conclusie te komen.

[Night-Reveller]

Dan moet je meer Dr. House kijken: "Everybody lies!". 😄

Het mooie van Watson is juíst dat hij meetpunten vergelijkt en objectief tot een antwoord komt. De diagnose wordt gesteld mbv bloedproeven, niet met informatie vd patient.

[Thekilldevilhil]

En dat is niet per se volledig. Niet alles komt op dezelfde manier tot uiting bij een andere patiënt. Als dat niet zo zou zijn had je de perfecte biomarkers gevonden. Dat zal je een Nobelprijs opleveren.

Een hoop is nog steeds op basis van de klachten van een patiënt.

[Reactie gewijzigd door Thekilldevilhil op 22 juli 2024 15:58]

[dasiro]

de vraag is hoe hij zal reageren op een onbekende vorm waar geen of enkel foute diagnoses voor in de database zitten

[JohnKarma]

Hier is het nog "makkelijk"er zijn op 1500 punten veranderingen in het DNA gevonden. Zoveel data doorploegen is voor een mens bijna niet te doen, daar is een machine dus een goed hulpmiddel. Bij symptomen waar het vaag en onduidelijk is, laten we zeggen vage hoofdpijn en een slecht gevoel , en een patient plotseling omdonderd heb je aan een machine niet heel veel. Maar A.I. gaat de brug van zoeken naar de speld in de hooiberg van gegevens waar een arts 10 mogelijkheden heeft voor een diagnose, naar een meest waarschijnlijke diagnose gesteld door A.I. wel slechten. En dat is ook voor artsen waarschijnlijk heel erg prettitg. Het belang van een goede amnese blijft dan nog net zo groot of zelfs groter.

[Verwijderd]

Maar het artikel vermeld niet hoeveel foute diagnoses Watson heeft gemaakt en wat het succes percentage is.

Ik denk wel overigens dat dit soort dingen beter door AI kan worden gedaan omdat het gaat om grasduinen in enorme hoeveelheden gegevens. In de toekomst zal diagnose en behandeling op basis van DNA afwijkingen de standaard zijn.

[Reactie gewijzigd door Verwijderd op 22 juli 2024 15:58]

[AriGold]

...

[Reactie gewijzigd door AriGold op 22 juli 2024 15:58]

[yvez]

Ik hoop jou niet als dokter te krijgen ooit. En deze opmerking is mij alle minnetjes die ik verdien waard.

Wat een pannenkoek opmerking zeg. Ik snap niet eens wat je nou precies wilt zeggen. Soms denk ik nog van 'ok, hij zegt het een beetje ongelukkig maar ik snap wat hij probeert te zeggen'.

[AriGold]

Wat is wil zeggen is dat er geen twee identieke situaties zijn. Geneeskunde is echt geen exacte wetenschap zoals wiskunde of fysica dat wel zijn.

[Verwijderd]

Blind vertrouwen is nooit slim, ongeacht de omstandigheden. Het is onnatuurlijk. Het zorgt voor de ellende die Ron Kowsoleea overkwam en iedereen die ooit iets bestelde online maar het niet kreeg, terwijl de klantenservice volhoud dat 'het niet (of juist wel) in de pc staat'.

Wie niet wantrouwt kan niet overleven. Elke soort in de natuur moet zich afvragen of een situatie veilig is of niet, of er een voordeel te behalen valt met een plan van aanpak.

Kijk naar Turkije. Kritiekloos volgen ze de leider. Vraag een Jood iets over vertrouwen in de mensheid.

Mensen vertrouwen al te veel op wetenschap.

[arnovos]

En zonder de database van 20 miljoen onderzoeksrapporten was Watson niet nuttiger geweest dan ik bij het stellen van de diagnose. Nog los van het feit dat Watson de anamnese, de communicatie met de patiënt en de selectie + toediening van de medicatie niet kan.

[Jeroenneman]

Maar mét die database is Watson dus een heel stuk nuttiger.

Zodat de dokter zich inderdaad beter kan focusen op anamnese, communicatie en toediening. Dan kan Watson de diagnose stellen.

[bbob]

Er wordt hier AI geroepen maar is het wel AI. Ik krijg de indruk dat het meer zoeken in een database is op basis van informatie die voorhanden is.

[J_Gonggrijp]

Een goede vraag. De grens tussen AI en geen AI is vaag en verschuift met onze perceptie van wat "bijzonder" is voor een machine om te kunnen. AI kun je niet alleen maar definiëren op basis van de gebruikte technologie; er is een groot assortiment van algoritmes die ontstaan zijn uit het wetenschappelijk onderzoeksgebied dat zich ook AI noemt, maar veel daarvan zijn inmiddels zo gemeengoed geworden dat het gebruik ervan niet meer als typisch voor AI wordt beschouwd. OCR bijvoorbeeld (het laten lezen van tekst uit een plaatje door een computer) is zo algemeen dat de meeste mensen het niet meer als AI beschouwen. Toch was het lezen van tekst uit een pixelplaatje voorheen strikt voorbehouden aan menselijke intelligentie.

Dat we Watson een AI noemen komt dus vooral door de toepassing: het voert een intellectuele taak uit die we (nu nog) als typisch menselijk beschouwen. Het komt ook een beetje doordat IBM het als AI promoot, want dat staat natuurlijk deftig. De gebruikte technieken zullen waarschijnlijk grotendeels al heel lang bestaan en op zichzelf niet meer zo bijzonder zijn ("off the shelf"); dat is zelfs noodzakelijk omdat het anders voor de ontwikkelaars van IBM veel te moeilijk zou zijn om zo'n systeem te bouwen. Overigens is de manier en de schaal waarop die technieken aan elkaar hangen volgens mij wel uniek voor Watson.

Er is vaak ook verwarring over weak vs strong AI. Mensen zijn vaak geneigd om bij AI meteen aan het laatste te denken, maar dat bestaat nog helemaal niet. Watson is een krachtige, niet-triviale weak AI.

Bron: afgestudeerd master in AI.

[Relief2009]

Je denkt toch niet dat hij in de database alleen maar even zoekt en iets vindt. Het is AI omdat Watson conclusies moet trekken uit zijn gevonden data.

[Verwijderd]

Maar wat doet de PC hier? Is dit niet gewoon een programmastroomschema?

Is het X, ga naar 3. Is het Y, ga naar 4. Weet niet, ga naar 5. Zo kun je zien of je recht hebt op een subsidie of tot een dx komen. Dat is nog geen AI. Dat is gewoon mogelijkheden aftikken.

En waar het niet 1 of 0 is, dan laat je er wat statistiek op los. En statistiek is een gevaarlijk spelletje.

[J_Gonggrijp]

Nee, dit is waarschijnlijk niet zomaar een stroomschema. Watson heeft een flexibele database (herzienbaar en uitbreidbaar) van symptomen, onderliggende aandoeningen en behandelwijzen. Daarin zijn de behandelwijzen waarschijnlijk weer mede afhankelijk van symptoomvariaties, eigenschappen van de patiënt, bestaande medicatie etcetera. Over die database ligt een algoritme dat op basis van symptomen en patiënteigenschappen een diagnose en een behandeling kan voorstellen, door de database op een bepaalde manier te raadplegen. Je kunt geen zinnige uitspraken doen over hoe dat algoritme werkt als je niet bij de Watson-afdeling van IBM werkt, maar een stroomschema lijkt me hiervoor te rigide.

Daarnaast moet je het verschil tussen weak AI en strong AI in de gaten houden, zoals ik in een andere reactie heb uitgelegd.

[Verwijderd]

Okay, dus Watson is een weak AI. In dat geval ben ik ook een weak AI, als ik soms iets zoek op internet.

Soms gebruik ik de meest voor de hand liggende zoekterm. Bijvoorbeeld bloembollen. Dan krijg ik een zooi aan informatie. Maar het is te veel. Dus gebruik ik 'Nederlandse bloembollen'.

Dat is een kleinere selectie. Mijn voorkeur is een rode tulp. 'Bloembollen rode tulp'. Daar kom ik al bij bedrijven met voorraad.

Ik kan dus verschillende ingangen vinden om te vinden wat ik zoek. Ik zou ook kunnen zoeken op bloemenwinkels, lokale bloemenwinkels, postcodes van bloemenzaken, kwekerijen etc.

Dit is wat Watson dus doet. Hij doet het heel snel, maar dit is nog steeds een systematiek van systematisch zoek opties verkennen.

Kan Watson, als ie op zoek is naar iets, de mentale sprong maken van 'Ik zoek luidsprekers die goed klassieke muziek kunnen weergeven' naar 'Klassieke muziek heeft een goede mid-range dynamiek nodig.'? En dan zoeken op speakers met die eigenschappen?

Niet als ie dat niet ingeprogrammeerd krijgt. Tenzij Watson aan machine learning doet. En dat is toch weer een form van statistiek.

Hoe weet een weak AI dat de stijfheid van de kast de klankleur beinvloed? En dat dit dan als parameter meegenomen zou moeten worden?

Hoe zit het met de zwaarte van verschillende parameters? Iemand kan de meeste kenmerken hebben van een bepaalde ziekte, maar één van de symptomen past niet in het beeld. Maar het is niet uitgesloten dat de patiënt er nog iets anders bij heeft. Zou der AI dat snappen?

Ik zie eigenlijk niet hoe een weak AI een voordeel heeft boven de mens.

[J_Gonggrijp]

Nee, jij bent een natural intelligence (NI). Daarnaast kun je veel meer dan alleen maar zoekopdrachten invoeren op internet. Je kunt bijvoorbeeld boterhammen smeren, deelnemen aan het verkeer, leren boogschieten en reflecteren op de vraag waarom je rode tulpenbollen zou opzoeken op internet. Dat maakt je tot een general intelligence. Je bent dus een strong NI.

Watson heeft al die mogelijkheden niet, en heeft in die zin inderdaad geen voordeel ten opzichte van een mens. Het kan echter één ding heel goed en potentieel veel beter dan een mens: kennis over ziektebeelden verwerven en toepassen. Dat maakt Watson alsnog nuttig. Misschien zijn er beperkingen (ik weet het fijne niet van wat Watson precies wel en niet kan), maar die zijn waarschijnlijk te verhelpen met software-updates.

Het is te vergelijken met rekenen. Computers kunnen dat veel beter dan mensen. Ze zouden hun eigen veters niet kunnen strikken als ze die zouden hebben, maar dat neemt niet weg dat computers nuttig zijn omdat ze zo goed kunnen rekenen.

Bij rekenen vinden we het al lang heel normaal dat computers dat goed kunnen, dus dat beschouwen we niet als AI maar gewoon als een gereedschap. Watson doet eigenlijk precies hetzelfde met medische diagnoses, maar omdat we dat nu nog heel speciaal vinden, noemen we het (weak) AI.

[Verwijderd]

Is er dan een glijdende schaal tussen weak en strong AI?

[J_Gonggrijp]

Goede vraag. Meestal wordt er niet zo over gedacht, maar ik kan me eigenlijk wel een grijs tussengebied voorstellen. Een AI is overduidelijk weak als die maar één taak kan uitvoeren. Een AI is overduidelijk strong als die elke nieuwe taak kan leren en bewustzijn heeft, creatief is, emoties en humor begrijpt, enzovoorts. Een soort kunstmatig mens dus, hoewel mogelijk met verschillende verhoudingen tussen de intellectuele vermogens.

Bij een tussengeval stel ik me een AI voor, die ook veel nieuwe taken kan leren maar die een fundamenteel onvermogen heeft om bepaalde categorieën van taken te leren. Eentje die bijvoorbeeld wel creatief is en emoties begrijpt maar geen bewustzijn heeft en geen humor snapt. Een soort kunstmatige algemene intelligentie met een verstandelijke beperking dus.

[Verwijderd]

Ik denk niet dat een AI ooit zelfbewustzijn kan ontwikkelen. Het maximale wat van een AI gezegd kan worden is dat het mechanisch associatief kan reageren, doordat het toegang heeft tot enorme rekenkracht, snelle algoritmen en veel databases. Emoties en gevoelens kan het emuleren zoals een autist kan leren hoe tre reageren op mensen en welke gezichtsuitdrukkingen en lichaamstaal bij welke emotie horen en wat dat uitdrukt.

Het zal geen inspiratie kennen, alleen met iets nieuws komen omdat het gewoon veel processor vermogen heeft.

Het hele probleem van AI en hoe men er over denkt is simpelweg een denkfout. Een simpel geval van het toekennen van menselijke eigenschappen aan iets artificieels. Misschien is dat omdat we ons collectief eenzaam voelen als enige ras met zelfreflecterend zelf-bewustzijn. Om die reden wil men zo graag robots bouwen, en ze vooral laten lijken op mensen.

Je laat alleen iets lijken op een mens als je je eenzaam voelt. Het is het gevolg van doorgeslagen wetenschappelijk denken. We zijn niet alleen immers. We zijn omgeven door de natuur, vol leven en met miljoenen soorten. Wetenschap heeft god er uit getrapt, spiritualiteit getackled en de natuur is slechts een grondstof om te ontginnen. Andere soorten hebben geen wetenschap en geen bewustzijn en zijn dus niet echt. Niet zo echt als wijzelf.

En dus voelt Mens zich eenzaam. En om dat te repareren maken we machines... En daarin wil men een AI plaatsen. En dan hopen we dat we op een dag met een intelligente robot kunnen praten...of paren...als je Cherry 2000 moet geloven.

We zijn zelfs van elkaar zo vervreemd dat we wanhopig sociale media afstruinen op zoek naar authenticiteit in een wereld waar je niets anders bent dan een kosmisch ongelukje dat uit een oerslijm het land op kroop. Je bent simpelweg een selfish gene, een bio-robot...en dus zal een mechanische robot ongeveer evenveel waard zijn.

AI als concept is een hopeloze zaak als men niet technorealistisch is. Het is een onzinnig idee dat we dat als oplossing zien voor eenzaamheid en vandaar dat het idee er ook al gauw kwam dat robots ouderen in tehuizen moeten helpen. Een krankzinnige schijn oplossing. De mens dient de mens te verzorgen, anders velies je je menselijkheid. Het is logisch dat er lui zijn die het een goed idee vinden, want wetenschappelijke paradigma's maken ons zo.

Een echte oplossing tegen eenzaamheid is om opnieuw verbinding te maken met de Moeder Aarde waaruit we voortkomen. En het idee omarmen dat de mens een doel heeft. Dat wij als naakte aap gekozen zijn door de Aarde om een functie uit te voeren. Dat ieder van ons een taak heeft om de Aarde te behoeden en beschermen.

De constante domheid om met een nieuwe technologie te proberen ons bestaan te legitimeren is de erfenis van de veel te sterke aanwezigheid van wetenschap in ons leven, dat we verheerlijken als zijnde het summum van menselijkheid. Dat is het overduidelijk niet.

Een AI kan de mens niet vervangen en ik denk dat het werk in dat veld gedoemd is te falen als ze aspireert een nieuw soort mens te bouwen dat even slim is als wij zijn op dezelfde manier of zelfs op een vergelijkbare manier. We hoeven onszelf niet als model te nemen om een model te maken.

We zijn al goed zoals we zijn. Een beter mens maken begint in jezelf en je relatie met Aarde. Het bevolken van deze planeet met nog eens een lading robots die van zichzelf verlangens hebben en eisen stellen aan de omgeving is krankzinnig. De Aarde is een bol met maximale capaciteit op de buitenkant en de grondstoffen er in.

[J_Gonggrijp]

Wat een poëtische post. Ik zie dat het onderwerp je erg interesseert. Als je wilt, kan ik je wel een paar goede boeken over (de filosofie van AI) aanbevelen.

[Verwijderd]

Ja dat zou ik wel op prijs stellen.

[J_Gonggrijp]

• Jack Copeland, 1993 (1st ed). Artificial Intelligence: A Philosophical Introduction
• Tim Crane, 2016 (3rd ed). The Mechanical Mind: A Philosophical Introduction to Minds, Machines and Mental Representation
• Russell and Norvig, 2009 (3rd ed). Artificial Intelligence: A Modern Approach

Die laatste is eigenlijk vooral bedoeld voor mensen die de technieken willen leren, maar aan het begin en aan het einde staan ook wat hoofdstukken die met de filosofie te maken hebben, waaronder gevaren.

[Reactie gewijzigd door J_Gonggrijp op 22 juli 2024 15:58]

[bbob]

die conclusies moeten ergens hun basis hebben en nu heeft hij een goede conclusie getrokken waarbij de artsen twijfelden. hoe vaak zijn er door watson verkeerde conclusies getrokken, horen we dat ook ? Of toch liever niet ?

[arnovos]

Wie vult de database? Heeft Watson al dat wetenschappelijk onderzoek gedaan, artikelen geschreven, ruwe data vergeleken. Nee, het is een handige UI met een algoritme dat op basis van statistiek research doorploegt.

Watson staat op de schouders van mannen (en vrouwen!) die op de schouders van reuzen staan. Indrukwekkend? Mwoah.

[Jeroenneman]

Juist, dus wat hebben we nodig?

Minder dokters, méér onderzoekers!

[arnovos]

Juist, dus wat hebben we nodig?

Minder dokters, méér onderzoekers!

Je vergeet (weer) de anamnese,de communicatie met de patiënt en de medicatiebeslissing. Daar blijven we dokters voor nodig hebben. De introductie van een hulpmiddel leidt niet tot minder behoefte aan dokters. Al is het maar omdat menselijke dokters ook kunnen werken zonder electriciteit en/of internet. Succes met een Watson zonder internet of met de stekker eruit.

[Jeroenneman]

Juist, maar aangezien we nu een stuk minder tijd zijn aan diagnosticeren, kunnen we met minder artsen, méér mensen behandelen.

Mooi toch? Vooral in een wereld waarin zorgkosten steeds verder oplopen.

[arnovos]

Dat is dus de vraag. Als je diagnosticeren versmalt tot "labelen van ziekte" dan sparen we tijd. Hoeveel? Geen idee, dus ontsla nog maar geen artsen.

Is diagnosticeren meer dan labelen, dan hebben we nog steeds die artsen nodig. Sterker, we zijn meer tijd kwijt aan overleg tussen Watson en de diverse artsen die bij de ingewikkelde patiënt betrokken zijn. En vergere niet: de inzet van Watson kost ook tijd en dus geld. Plus dat je het effect krijgt "gooi maar even door Watson, voor de zekerheid." Dat kost de zorg meer dan een hardwerkende dokter.

[LopendeVogel]

Ja maar niemand zit op een arts te wachten die zegt dat er niks is omdat hij het toevallig even niet weet...
Dit systeem kan dus alles sneller en veel beter achterhalen dan welke arts dan ook..

Oftewel je hebt meer onderzoekers nodig om het systeem up to date te houden, minder doktoren. Doktoren die kunnen aan de slag nadat het systeem binnen enkele minuten even verteld wat er aan de hand is.
In plaats van 4 doktoren dagen, weken, maandenlang vergaderen en klungelen en zeggen: ik niet weten niet...

Nee liever nu dan morgen, uiteraard moet het veilig zijn en etc.

[Verwijderd]

Is dat wat je denkt dat dokters doen? Maandenlang vergaderen?

[LopendeVogel]

Nou wat ik denk, is dat dit systeem sneller tot een conclusie komt dan een dokter ja.

De verhalen over verkeerde diagnoses heb ik het wel mee gehad, persoonlijk binnen mijn familie vind ik het na 3x meegemaakt te hebben ook wel voldoende.

Ook bij deze vrouw in het artikel, verkeerde behandeling want de dokter had een verkeerde diagnose gesteld..
Computer wist binnen no-time wat er WEL aan de hand was, en dan mag de dokter de juiste oplossing aanbieden, die wel functioneel is.

Ik zelf al 2 familieleden verloren dankzij een verkeerde diagnose 1 had blaaskanker, maar ze dachten dat bloedpissen bij het ouderdom hoorde. Het is dat wij (familie) doordrongen op verder onderzoek die pas veel te laat plaats vond.
Ander had ook een vorm van kanker, welke was onbekend, verkeerde operatie en behandeling. Uiteindelijk was het darm kanker en een maand later overleden
3e familielid bijna overleden wegens verkeerde diagnoses. Het is dat weer wij (familie) ervoor moesten zorgen dat de doktoren hun werk juist deden, anders waren we hem ook kwijt.

Dan zal ik maar niet over alle verhalen beginnen buiten mijn familie.

Onjuiste en langdurige diagnoses kosten teveel levens laten we het daarop houden. De kans is in ieder geval groot dat dit computertje mijn opa en oma gered hadden. Dus laten we hopen dat dit systeem andermans familieleden zal redden, en dat deze familieleden niet in de handen van doktoren vallen die onjuiste diagnoses en behandelingen toepassen.

[andreetje]

De zorgkosten exploderen omdat wij hier het financieringssysteem van de VS, dat de duurste zorg ter wereld heeft, hebben overgenomen.

Ik ben met je eens dat wij straks met minder artsen toe kunnen. Het vak is zo dichtgetimmerd dat artsen niet méér mogen dan protocollen volgen. Dat kun je ook met computers bereiken.
En zo is ook de arts slachtoffer van de robotisering.

[latka]

Dus de doktervervangen met een goedkope kracht 😀

[Pietervs]

Zelfs al had jij die database tot je beschikking (en uitgebreide medische kennis): het had je misschien een jaar gekost om alle relevante informatie naast elkaar te kunnen leggen en tot dezelfde conclusie te komen. Gevolg: goede diagnose, patiënt overleden...
Dus ik zie Watson als een goede aanvulling, vergelijkbaar met email of telefoon: ze kunnen het werk van de arts niet overnemen, maar het wel een stuk makkelijker en beter maken

[Zezura]

Totdat artsen er teveel op gaan vertrouwen..
Dan hebben we als mensheid een probleem.

Dat hebben we dus eigenlijk al.

[DutchKevv]

Leg uit. Want we wanneer hebben 'wij' als gene die kennis raadplegen, niet 'vetrouwd' op iets of iemand, vanwaar jij en ik de kennis zelf niet vast konden stellen.

Kortom, er veranderd dus niks, behalve dat er wederom een nieuwe tool is die met juiste antwoorden komt

[arnovos]

En hoe filter, weeg en prioritiseer je de uitkomsten die verschillende tools geven? Altijd vertrouwen op Watson?

[DutchKevv]

@Grrrrrene
@de rest

Uiteraard moeten 'berekeningen' een second opinion krijgen, maar dat is nu ook al zo.

Wanneer een doktor leert uit boeken, dat een bepaalde opvolging van symptomen een uitkomst van ziekte A heeft.. Dan 'weet' die doktor feitelijk gezien nog niks.. Behalve dat wat hem verteld word, waarschijnlijk waar is.

Immers, heeft die doktor wel eens handmatig alle symptomen opgewekt, om vervolgens te zien dat de uitkomst die ziekte was..?

Het antwoord: Nee

Hij neemt het aan, en waarom? Omdat de gene die ooit die 'oplossing beschreef' meermaals gelijk bleek te hebben. Net als dat AI het zal moeten doen..

Zoals ook in het artikel aangegeven, sloeg de behandeling ditmaal wel aan.. Zou Watson of elk ander AI het steeds fout hebben, terwijl een mens het wel goed heeft, dan werd ie niet ingezet.

De doktor hoopt net zo goed op een goed vervolg die (voor hem eveneens praktisch vage) medicijnen gaan opleveren.

Er is dus eigenlijk niks veranderd.

Wel ben ik van mening dat computers gevaarlijk kunnen zijn, in de zin dat we alles blind aannemen.. Maar helaas doen mensen dat al.. Kijk naar het nieuws, kijk naar social media, kijk naar 'geroddel' onderling, kijk naar religie..

We moeten als mens beter leren nadenken over wie wij als mens zijn en hoe makkelijk we 'om te kopen' zijn.

Maar dat is een ander onderwerp..

[Reactie gewijzigd door DutchKevv op 22 juli 2024 15:58]

[Zezura]

Doordat men computers heeft die calculaties uitrekenen, kan men zelf niet meer handmatig de berekening uitrekenen.

Doordat men informatie (op internet heeft staan) in de vorm van wikipedia (of andere bronnen), onthouden wij minder, want we zoeken het nog wel een keer op.

Als een rekenmachine een uitkomst geeft, zullen veel mensen het direct invullen en het aanzien als waar, in plaats van dat ze zelf de moeite doen om te snappen en te controleren of het ook daadwerkelijk klopt.

Stoplichten, men vertrouwt erop dat als het bij jou op groen staat, dat het bij een ander rood is.

Dit zijn maar kleine simpele voorbeelden, maar het komt overeen met het artikel namelijk.
Men geeft waardes op aan AI en deze zal met een uitkomst komen, als deze een laag fout negatief heeft, zal men er waarschijnlijk niet meer de moeite nemen om het manueel te testen. Dit ook ivm kosten en tijd.

[Grrrrrene]

Ik mis nog steeds het probleem waar je het over had. Je zult moeten erkennen dat de kennis die de mensheid heeft te groot is om allemaal uit het hoofd te leren. En juist omdat kennis in boeken opgeslagen wordt, hoeft iedere nieuwe generatie de kennis niet opnieuw te vergaren, je leert immers eerst wat anderen al hebben uitgevonden en gaat dan zelf aan de slag. En dan nog is misschien eens 1% van de bevolking actief bezig nieuwe kennis te vergaren voor de mensheid, de rest doet routinematig werk op bais van wat anderen hebben bedacht.

In mijn werkterrein (werktuigbouwkunde) is de FEA (finite element analysis) methode van berekenen erg populair omdat je er complexe constructies mee kunt doorrekenen zonder dat je daarvoor een extreem complex model hoeft uit te rekenen. Voor balken en hun doorbuiging zijn zeer nauwkeurige handberekeningen mogelijk, maar een complexe vorm is niet door een mens uit te rekenen.

Daar vertrouw je op een gegeven moment op je eigen ervaring, een versimpelde handberekening die als het goed is in de zelfde orde van grootte uitkomt en uiteraard testen om te zien of het computermodel en zijn antwoord kloppen met de werkelijkheid.

We zien dat in ons werkgebied zeker niet als probleem, maar als tool om dingen te kunnen die voorheen gewoon onmogelijk waren. Op dezelfde manier kan ik me voorstellen dat artsen een AI als Watson altijd zullen moeten controleren. Ze twijfelden zelf al over deze Leukemie-diagnose, Watson zegt dat het 100% Leukemie is. Dat is niet raar dus. Maar zouden ze zelf aan een andere vorm van kanker denken en Watson komt met Leukemie, dan zullen ze verifieren of het Leukemie is. Het is hoogstwaarschijnlijk oneindig veel makkelijker om te zoeken of een specifieke vorm van kanker aanwezig is dan uitzoeken welke vorm van kanker aanwezig is.

[Reactie gewijzigd door Grrrrrene op 22 juli 2024 15:58]

[bbob]

Leuk voorbeeld maar wat ik lees is dat watson zaken sneller kan opzoeken in een database. Watson kan dan met een naar zijn mening diagnose komen en deze wordt dan toch gecontroleerd door een arts.

Maar je hebt wel gelijk dat we te veel vertrouwen op techniek en dat techniek het niet altijd juist heeft. Heel eenvoudig de automonteur van vroeger (er lopen er gelukkig nog een paar rond) had geen computer en diagnose computer nodig om te weten wat er verkeerd was. De moderne monteur in een garage lees de computer ruit, die verteld wat er kapot moet zijn en hij vervangt het. Probleem is dat dat dus niet altijd de juist diagnose is.

Je zal dus altijd nog iemand nodig hebben met ervaring die een computer als ondersteuning kan gebruiken. Die ervaring dreigen we echter wel te verliezen.

[andreetje]

De traditionele monteur heeft niets meer te zoeken bij een auto anno nu. De motoren zijn veel beter dan vroeger. De uitlaat slijt nauwelijks nog. De contactpuntjes zijn uitgebannen. Veel onderhoud vergt computergebruik.

Voor eenvoudige zaken kunnen we artsen inzetten. Wordt het ingewikkeld, dan heb ik meer vertrouwen in AI.

[bbob]

En daar vergis je je dus, er is juist behoefte aan een traditionele monteur, mede omdat men te veel op de computer vertrouwd. Naast uitlaat, demper zijn er genoeg andere zaken die kapot kunnen gaan die de computer niet aangeeft of niet duidelijk aangeeft.

Meer vertrouwen in AI. We hebben het hier niet eens over AI maar puur over een database die zoekt. Ook hiervoor heb je altijd handmatig weer een arts nodig die het ziektebeeld kan controleren bij de patiënt.

Ter info het faken van een ziektebeeld gebeurt ook bij sommige patiënten, en laten we het dan niet over psychische problemen hebben, dat los je met een database niet op.

[andreetje]

En daar vergis je je dus, er is juist behoefte aan een traditionele monteur, mede omdat men te veel op de computer vertrouwd. Naast uitlaat, demper zijn er genoeg andere zaken die kapot kunnen gaan die de computer niet aangeeft of niet duidelijk aangeeft.

Ter info: de auto anno nu is een aaneenschakeling van computersystemen die mechanica aansturen.

Zoals de monteur anno nu niks bij een 2CV te zoeken heeft, heeft een traditionele monteur niks te zoeken bij een computergestuurde auto. Bij Mercedes kun je niet eens zonder computer de remblokken vervangen.

Leuk dat een traditionele monteur aan het geluid van de motor kan herkennen wat er mechanisch mis is, maar tegenwoordig gaan motoren (die van VAG uitgezonderd) vrijwel niet meer kapot.

Meer vertrouwen in AI. We hebben het hier niet eens over AI maar puur over een database die zoekt. Ook hiervoor heb je altijd handmatig weer een arts nodig die het ziektebeeld kan controleren bij de patiënt.

Weet jij waarom Wikipedia er is? Omdat niemand alle kennis paraat in zijn hoofd heeft. En zo is het ook met artsen. Ze krijgen input (anamnese) en genereren output (diagnose, behandeling). Intussen brabbelen ze wat Latijnse woorden en daar zijn we dan van onder de indruk.

De arts is handig voor begeleiding van het proces, maar voor het resultaat heb ik meer vertrouwen in een computer. Er is ook geen "de arts". Elke arts is verschillend qua kennis en ervaring. Alleen al daarom is Watson geweldig.

Ter info het faken van een ziektebeeld gebeurt ook bij sommige patiënten, en laten we het dan niet over psychische problemen hebben, dat los je met een database niet op.

Juist een arts tuint in het faken van een patiënt, omdat een arts nooit 100% rationeel is. Een computersysteem daarentegen wel.

[bbob]

Bovenstaand verhaal is dus de typische kortzichtigheid die bedoeld wordt.

In die motor van jou zitten kleppen en als daar iets mee mis is kan een monteur dat horen. Een gesleten lager hoor je en dat geeft de computer niet aan. Zoals je al zegt de computer stuur mechanische componenten aan en laat de monteur van tegenwoordig van mechanica veel minder verstand hebben.
Zoals ik al schreef de computer geeft vaak iets aan maar dat is niet altijd het probleem. soms is het eenvoudiger maar nee tegenwoordig hup hele unit vervangen, dikke kosten en dan hopen dat het werkt.

Watson is leuk als ondersteuning maar zoals ik al aangaf het werk puur op input en kan geen rekening houden met menselijke emotie. Daarnaast jij zegt ik voel daar en daar pijn. Een arts moet controleren of het daar ook echt zit, soms kan het ergens anders vandaan komen.

Dan hebben we nog het probleem, de ene aanpak werkt soms bij de ene patiënt de ander soms bij de andere. Een computer geeft een aanpak op basis van gemiddelde informatie of eerdere informatie. Dat kan in jou geval misschien wel niet de beste keuze zijn.
Een patiënt lezen kan een computer nog niet en dat zal nog even duren. tot die tijd vertrouw ik liever op de combinatie.

[andreetje]

In die motor van jou zitten kleppen en als daar iets mee mis is kan een monteur dat horen. Een gesleten lager hoor je en dat geeft de computer niet aan. Zoals je al zegt de computer stuur mechanische componenten aan en laat de monteur van tegenwoordig van mechanica veel minder verstand hebben.

De mechanica gaat anno nu veel minder vaak kapot dan vroeger. Computers, sensoren, bedrading etc. gaat veel vaker kapot. Wat heb je dan aan een ouderwetse fietsenmaker? Inderdaad, niks.
Het is juist de moderne monteur met electronicakennis die kan voorkomen dat ten onrechte een computerunit vervangen wordt.

Verder kan juist een AI systeem rekening houden met zaken als leeftijd, ras, geslacht, voorgeschiedenis etc omdat Watson oneindig meer informatie heeft dan een simpele dokter die ook af en toe eens in de boeken duikt.

Wat mij betreft kloppen je redeneringen niet.

[bbob]

Verlies van kennis komt als we te veel vertrouwen op computers.

[andreetje]

Sinds we internet hebben kunnen we alles wat we willen weten direct opzoeken.

De computer zorgt voor kennisdeling op ongekende schaal.

[GeeMoney]

Ik neem aan dat jij je kachel thuis nog aansteekt met een vuursteen?
Al is dat al een vorm van vastgelegde kennis gebruiken.
Met een dergelijke houding kom je natuurlijk geen steek verder.
Watson is hier niet ingezet om als arts te spelen, hij is ingezet als extra hulpmiddel bij het maken van een juiste diagnose en dit doet hij verdomde goed.

[kristofv]

Inderdaad, 99, 9999 % van alle mensen baseren zich louter op kennis die vanuit een (door hun niet geverifieerde) bron op zich afkomt.

Die 0.0001% dat zijn dan de researchers/uitvinders, mensen zoals Einstein, Tesla.

Je gemiddelde huisdokter doet niet veel meer dan het uit het geheugen opdiepen van tijdens de studie gememoriseerde kennis.

[AriGold]

..

[Reactie gewijzigd door AriGold op 22 juli 2024 15:58]

[andreetje]

Lieve help, we zijn afhankelijk van de gutfeeling van een arts.

Als ik een eurocent zou krijgen voor elke foute diagnose van alle artsen, was ik nu multimiljonair geweest.

En dan heb ik het niet alleen over een ingewikkelde kanker, maar ook over al die keren dat de arts bijvoorbeeld een antibioticakuur uitschrijft bij een allergie of een gebroken voet aanziet voor een verstuiking.

[StefanJanssen]

En de gemiddelde electriciën, brandweerman, gamedeveloper en muzikant doet ook niet veel meer dan iets uit het geheugen opdiepen. Zelfs einstein haalde dingen uit zijn geheugen die hij eerder geleerd had van iemand anders.
Je kan nou eenmaal niet alles leren. Sommige dingen mag je aannemen omdat er door andere experts onderzoek naar gedaan is. Daarna kun je zelf je aanvulling daarop geven door ervaring of eigen onderzoek te doen.

[kristofv]

Klopt, we wilden hier enkel aantonen dat Zezura fout zat ;-) Voor de rest is iedereen met elkaar akkoord denk ik.

[andreetje]

Of laat zich leiden door de artsenbezoeker.

[arnovos]

Je maakt hetzelfde punt als ik, maar schrijft het ongekeerd op. Ik zeg dat Watson het niet zonder een menselijke arts kan, jij zegt dat de arts het niet zonder Watson kan.

Ergo, we vinden beide Watson een nuttig hulpmiddel.

[Pietervs]

Ben ik niet helemaal met je eens: een arts kan wel zonder Watson, gezien de vele miljarden diagnoses die de afgelopen decennia gesteld zijn zonder computer

Maar het is een nuttig hulpmiddel, dat was inderdaad (ook) mijn punt

[Verwijderd]

Zoals ik al eerder zei, een mens kan unieke associatieve sprongen maken om tot een oplossing te komen. Wat jij doet is de AI op een lijn zetten met de mens in een number crunching race.

Maar een mens hoeft niet alle data door te spitten. Onze hersens werken superieur en om die reden proberen computer designers om die eigenschap in een pc te proppen.

[Pietervs]

Ik geloof dat je de laatste zin van mijn post gemist hebt: Dus ik zie Watson als een goede aanvulling, vergelijkbaar met email of telefoon: ze kunnen het werk van de arts niet overnemen, maar het wel een stuk makkelijker en beter maken

Ik zeg dus nergens dat ik verwacht, hoop of wil dat computers de diagnoses van mensen over gaan nemen.

[Verwijderd]

Ik gaf vooral een aanvulling op het idee dat mensen hier nogal lijken te hebben, dat een AI superieur is aan de mens omdat ie meer rekenkracht heeft om dossiers te vergelijken.

[kristofv]

Nog niet nee.

Maar je comment klinkt mij alsof je zelf in de sector zit en je ietwat zorgen begint te maken over je jobveiligheid.

Als Watson dan toch geen toegevoegde waarde is, zoals je dus wel ietwat insinueert in je comment, dan hoef je ook helemaal niet te vrezen.

Mijn inziens spreek je jezelf hier dan ook tegen.

[arnovos]

Lees de kop van het artikel eens. Watson krijgt daarin het krediet voor de diagnose, terwijl ook hij in de richting van kanker gestuurd moest worden voordat hij wist welke zeldzame kanker het was. Had de arts hem verteld: schildklierprobleem, dan had Watson daar de beste passende diagnose bij gezocht. Diagnosticeren is iets meer dan eerst een hint krijgen: "zoek bij de diverse kankersoorten."

Het punt is: Watson is pas bruikbaar wanneer hij weet welke soort ziekte hij moet zoeken. Vervolgens verwerkt hij heel snel data. Poeh hey, dat is nu juist het sterke punt van elke computer, ongeacht of die in een ziekenhuis staat of op mijn bureau.

Daarom ben ik, overigens geen dokter of medicus, niet zo onder de indruk als rest.

[GeeMoney]

Volgens mij is het toch even iets gecompliceerder als dat je denkt.
Watson is niet "gestuurd" zoals je suggereert, hij heeft alleen maar data die toevallig kanker dossiers bevat.
Hem is niet verteld: het is waarschijnlijk kanker, ga eens op zoek.
Hij kreeg een bloed/dna monster te analyseren en kon die matchen in zijn dataset.
De prestatie is knap omdat hij maar liefst 20 miljoen dossiers door kon worstelen in slechts 10 minuten en na controle bleek ook nog eens dat hij het bij het goede eind had.
En een dossier van een kanker patiënt bestaat niet uit maar vier a4-tjes kan ik je verklappen.

We gaan er niet op vertrouwen maar we zetten hem in als extra hulpmiddel en tot nu toe blijkt dat zeer waardevol.

[Reactie gewijzigd door GeeMoney op 22 juli 2024 15:58]

[AriGold]

Medicatie voorstellen kan dan wel perfect via algoritmes obv diagnose en dosisaanpassing aan de patientvariabiliteit (vb leeftijd, gewicht, geslacht, comorbiditeit, medicatie, mogelijke resistentie,...).
Dit kan perfect gecodeerd worden en vervolgens aangeboden aan arts ter validatie en toediening door verpleging.

[Mania-92]

Zijn er, behalve IBM marketing, ook objectieve cijfers bekend hoe dit systeem presteert?

[kwakzalver]

Er zijn 4 soortgelijke projecten. Met het verschil dat Watson (net zoals Deep Blue) in core totaal niet gericht is op commerciele toepassingen en de andere oplossingen wel/ook.
De afdeling/team rond IBM Watson is een zelfstandig (onderzoeks-)tak binnen IBM. Dat de spin-off van de resultaten kan leiden tot commerciele toepassingen door IBM natuurlijk is een van de doelstellingen.

Dus (gelook ik) hebben we momenteel 4 grote AI platformen:
IBM Watson vs Microsoft Azure - Cortana vs Amazon vs Metamind

een aantal (oude) AI artikels zijn op KDnugget te lezen mocht je wat meer willen vinden.

[Tk55]

Erg knap dat Watson zo effectief is in het stellen van correcte diagnoses. Een echte arts zal het (op de korte termijn) zeker niet vervangen, maar als hulpmiddel is het geweldig!

[Jeroenneman]

Watson is nu al beter dan de gemiddelde arts.

Zijn ook maar mensen, en mensen maken nu eenmaal fouten. Combineer dat met hoge werkdruk, een cultuur waar fouten liever worden weggemoffeld en een werkveld waar je altijd bezig bent met kennis bijspijkeren, en je kunt niet verwachten dat artsen niet keihard worden ingehaald door de techniek.

Ik ben zeker voorstander van meer gebruik van technologie zoals Watson. Altijd up to date, altijd "wakker" , geen slechte dagen, bezwijkt niet onder de werkdruk en blijft altijd objectief.

[Niet Henk]

Watson is totaal niet te vergelijken met welke arts dan ook. Watson is geprogrammeerd om gegevens te analyseren en tot een conclusie te komen, en doet dat zeer goed. Maar een arts moet, als hij/zij de patiënt ziet, op effectieve wijze gericht alle relevante gegevens verzamelen, een goed en grondig onderzoek van de patiënt doen, beslissen welke aanvullende gegevens nodig zijn voor een goede diagnose, deze ook verzamelen, dan alles analyseren, en tot een conclusie komen.

Dan moet een arts nog op basis van de conclusie samen met de patiënt beslissen welke therapie er mogelijk moet worden toegepast, en goed inspelen op de behoeften van de patiënt in deze. En afhankelijk van de therapie moet de arts nog kunnen opereren/injecteren/andere vaardigheden hebben.

Watson kan zeker niet meer dan 5% van het werk van een arts doen. Ik geloof zeker dat Watson dat stukje mogelijk beter kan dan de gemiddelde arts, en daarom zal het een goed hulpmiddel worden. Maar het zal niet snel meer dan een hulpmiddel zijn.

[Montaner]

Totdat er straks bv. een standaard komt in afnames die gedaan worden bij patiënten. Als je 99% van de ziektes kan ontdekken met bv. bloedprikken, een huidsample en noem nog eens wat, dan wordt de arts echt grotendeels overbodig. Het afstemmen van de behandeling na behoefte van de patiënt moet natuurlijk gedaan worden door een persoon..maar de manier van informatie verzamelen wijzigen is voldoende.

[Iblies]

De kans is groter dat een groot deel van de therapien en medicijnen door de mand vallen omdat die helemaal niet effectief blijken/nodig zijn.

Er zal daarbij veel dure machinerie minder nodig zijn

Dat daarbij een deel van het werk overbodig word kan goed zijn, maar het is maar een klein deel van het geheel. Het gros van de werkzaamheden in de zorg heeft meer te maken met ouderen, weekendongevallen, etc.

Het is zeker geen House MD waarbij een narcistische arts met een glaasje drank probeert een ziekte te analyseren.

[DigitalExorcist]

House had vooral last van een Vicodin verslaving

Maar juist het analyseren van een ziekte is toch waar Watson goed in is. Je geeft bij wijze van spreken de symptomen, de reeds uitgevoerde behandelingen, de testresultaten, evt. de CT-scan erbij, en je kunt binnen een paar minuten een mega database uit laten pluizen naar overeenkomsten.

Ik denk juist dat Watson op z'n plek is bij de diagnostiek. Pillen geven en gebroken ledematen zetten is niet de sterkste kant van een computersysteem

[KopjeThee]

Ik denk ook dat het vooral als hulpmiddel moet worden gezien. Hopelijk en waarschijnlijk gaat het zich verbeteren door: 1) meer domeinen te "leren" en 2) beter te worden in ieder domein. Maar dat zal (veel) tijd kosten. Wel een goede ontwikkeling!

Een ontwikkeling die misschien vergelijkbaar is met zelf rijdende auto's. Steeds meer taken uit handen van de chauffeur, of ondersteuning bieden aan de chauffeur.

De vraag is natuurlijk wie verantwoordelijk is voor de besluiten. Dat zal voorlopig wel de arts zijn, mag ik hopen. Maar in een (ver) toekomst beeld zou ik me kunnen voorstellen dat mensen het (wetenschappelijke) onderzoek doen, en dat computers de resultaten daarvan toepassen (diagnose en behandeling bepalen).

Ook kan ik mij voorstellen dat er nog een schat aan klinische gegevens is waar veel meer van geleerd kan worden dan nu het geval is. Als een behandeling is gestart, dan vinden er periodiek allerlei metingen plaats. Ik vraag mij af in hoeverre deze gegevens gebruikt kunnen worden in een feedback loop voor een lerend systeem. Valt bijvoorbeeld automatisch te ontdekken in welke situaties een bepaalde behandeling beter/minder aanslaat? Niet uit een gerichte studie, maar op basis van alle beschikbare metingen (anoniem uiteraard) van vergelijkbare patienten.

[Golodh]

@Niet Henk

Mee eens dat diagnostische programma's zoals Watsom een hulpmiddel blijven. Niet mee eens dat het "maar een hulpmiddel" blijft. Ik denk dat het tot standaardgereedschap van een arts wordt (net zoals de stethoscoop en de bloeddruk meter).

Net zoals een arts met stethoscoop, weegschaal, bloeddrukmeter, microscoop, en bloedlab veel betere zorg kan bieden dan een zonder, zo kan een arts die standaard de diagnoses van Watson meeneemt in zijn eindoordeel veel betere zorg bieden.

Natuurlijk is dat diagnostische programma maar op een beperkt deelgebied inzetbaar. Maar op dat deelgebied (kankerdiagnostiek) kan het dingen die een menselijke arts niet kan. Zoals de literatuur bijhouden, en uit duizenden artikelen en eerdere diagnoses de statistisch best passende diagnose eruit zeven. En bovendien wordt een programma niet moe.

[smiiiff]

Dit klinkt enig sinds naïef. Het gebeurt gewoon vaker dat dure en lange activiteiten, wat diagnose toch echt is, geautomatiseerd worden.

Alleen als het veel geld bespaart zijn er manager en politici die de nadelen hiervan niet goed begrijpen.

Voorbeeld;
Uwv moet voor iedere cliënt een vervangende baan zoeken die past bij beperking/aandoening. Dat kost bakken met geld en tijd. Programma wordt gemaakt om het te ondersteunen. Hoop mensen er uit en nu mag je het doen met de lijst beroepen die de computer uitspuwt. Zelfs als je bewijs hebt dat het fout is. Met vele slachtoffers als gevolg

Tools worden gebruikt door mensen. Maar dat zijn niet diegene die keuzes maken over werkwijze en vergoeding. Een doctor probeerde iedereen te helpen. Een politici en managers denken meer aan fout percentages en acceptabele risico's. Maar vooral aan geld.

Ik denk persoonlijk dat Watson op dit moment een prima hulp is na 3 tot 5 jaar zoeken. Maar de vraag zou moeten zijn, als Watson 10 of 15 wordt, is die dan nog optioneel?
En wat is acceptabel als het delen van een doctor zijn taken gaat vervangen als er 2 week gezocht is?

Uit ervaring kan ik zeggen dat 5 jaar zoeken heel duur is. En hoewel Watson nuttig zou kunnen zijn, Is de vraag of je dit moet willen. Een grens verleggen gebeurt nooit 1 maal

[Reactie gewijzigd door smiiiff op 22 juli 2024 15:58]

[Golodh]

@Smiff

Om een lang verhaal kort te maken: jij wilt nieuw en heel krachtig gereedschap {zoals Watson} in een ongunstig daglicht plaatsen :{"de vraag of je dit moet willen"} omdat er een hoop mensen en organisaties te stom zijn om het verstandig te gebruiken ... en het dan maar gaan misnruiken?

Als de mensheid aan dit soort reflexen gevolg gegeven had met de ontdekking van het vuur, de speer, en ijzer, alsmede de uitvinding van het weefgetouw, en de beokdrukkunst dan waren we nooit uitgekomen waar we nu zijn.

Zou het niet verstandiger zijn om misbruik door stomme mensen en kortzichtige structuren aan te pakken? Ik denk het wel.

[Rabelais]

Mee eens.
Ik zie de A.I. zich voorlopig ook niet bezig houden met psychische steun en nazorg; een onderschat maar o zo belangrijk element in de behandeling.

[Jeroenneman]

Totdat je Watson combineert met een pil of patch die ook zeer veel diagnostische gegevens kunnen verzamelen.

De dokter zal zeker nog van belang zijn in het gesprek, en om de behandeling met de patient door te spreken, maar op gebied van daadwerkelijk diagnosticeren zal hij zijn meerdere moeten herkennen. Helemaal niet erg, want daardoor kan de arts zich meer focussen op het menselijke aspect.

http://www.vitalconnect.c...university-medical-center

[kristofv]

Als het op pure diagnostiek aankomt zal Watson binnenkort (als dat nu al niet het geval is zelfs) eender welke dokter ter wereld gewoonweg verpletteren op gebied van snelheid en accuraatheid.

Das is nu eenmaal precies waarin computersystemen uitblinken, verbanden leggen tussen informatie afgaande op een enorme beschikbare knowledge base.

De enige limiterende factor hierin is mijns inziens de juistheid van de verkegen informatie van de patiënt zelf, daarin zal een dokter natuurlijk nog steeds wel zijn rol spelen. Alsook in opvolging en het algeheel "menselijk maken" van het genezingsproces.

Maar denken dat dokters veel meer dan een verifiërende rol zullen spelen in het diagnoseaspect zelf is mijn inziens een beetje naief , het zal een sterk veranderd beroep worden eens Watson en aanverwanten meer ingeburgerd geraken.

[spoller]

Helemaal mee eens. Wellicht tweakers eigen, maar 'het werk overnemen' van een arts zie ik zeker niet als een '0' of '1' keuze. Op bepaalde gebieden kan kunstmatige intelligentie daarbij helpen.

Los van deze (knappe) diagnostiek is een speelveld dat veel kansen biedt dat van de rontgenologie. Een rontgenoloog doet niet veel anders dan naar de 'lichtbak staren': rontgenfoto's en MRI scans analyseren. Pure patroonherkenning. Aangezien al dat beeldmateriaal inmiddels gedigitaliseerd is, kan de computer dat gaan overnemen. En ik vermoed dat een computer dat snel met een veel minder laag foutpercentage zal kunnen dan de rontgenoloog zelf. Daar verwacht ik dus iets meer dan 5% overname door AI.

Dat laatste vind ik vanuit psychologisch perspectief een hele interessante: een rontgenoloog zelf is niet foutloos, verre van dat. Maar van een computer accepteren we, zeker in dit soort zaken, een foutmarge van nul. Eigenlijk is dat raar. Rationeel bezien kun je, als de statistiek een hogere betrouwbaarheid van de computer laat zien, beter op de uitkomst van de machine vertrouwen dan op de arts. Zelf zou ik dat graag doen als de technologie ver genoeg is, ik vermoed nog dit decennium. Uitiendelijk zit je toch als patient zelf aan het stuurwiel, al moeten veel artsen nog aan dat idee wennen.

[Reactie gewijzigd door spoller op 22 juli 2024 15:58]

[Alxndr]

Met de patiënt een behandeling kiezen?

Goedemorgen, uw arm is gebroken, wilt u gips of een snoepje?

De meeste mensen willen er blijkbaar nog niet aan, maar wat leert een dokter nou? Sorry, maar niets anders dan hoe de bio-machine die we een lichaam noemen werkt. Denk je nu echt dat voor de anamnese een mens nodig is? Of om de juiste tests aan te vragen en uit te laten voeren? Allemaal zaken waarin menselijke fouten gemaakt worden, die een computer/robot niet kan maken, zodra hij beter geprogrammeerd is en meer kennis heeft (wat nu al zo is) zijn artsen overbodig.

Welkom in de 21e eeuw. Copy paste en je hebt miljoenen dokters met miljarden dossiers als database, die statistieken analyseren binnen een dag die een mens een heel leven kosten.

[andreetje]

Artsen volgen meestal gewoon protocollen. Die kunnen prima geautomatiseerd worden.

Als je weet dat in Nederland jaarlijks duizenden mensen sterven door medische fouten, kan de automatisering van artsen mij niet snel genoeg gaan.

Onze overheid beweert altijd dat artsen uitwisselbaar zijn. Dat is grote onzin, want het resultaat van een arts hangt sterk af van ervaring en inzicht. Er zitten heel wat prutsers tussen.

Watson is het begin, en de arts gaat het hopelijk snel afleggen tegen de computer.

[Cilph]

Als Watson een fout maakt, wie is dan verantwoordelijk? Ben helemaal voor, maar dit is leuk om over na te denken.

[mschol]

Watson moet dan ook niet gebruikt worden om blind op te vertrouwen: watson zegt het is X of Y en vervolgens moeten artsen dit verifieeren (dit kan dan een stuk sneller omdat je weet welke richting je het op moet zoeken), als het blijkt te kloppen kan je dus binnen hele korte tijd met een effectieve behandelmethode komen

[andreetje]

Vanwaar dit vertrouwen in artsen? Watson heeft oneindig meer kennis tot zijn beschikking om tot een juiste diagnose te komen dan artsen.

[Prince]

Watson heeft oneindig veel 'generieke' kennis tot zijn beschikking, maar geen case-specifieke kennis. Hij kan geen medische onderzoeken doen, hij kan geen bloed trekken,...

Beetje kort door de bocht vergelijking, maar het is niet omdat handboeien dieven beter 'stil' kunnen houden, dat we geen politie meer nodig hebben hé.

Watson is een slimme database die we kunnen gebruiken om snelle diagnoses te maken, ontbrekende elementen te identificeren om een diagnose te maken en zelfs om behandelingen voor te stellen, maar finaal moet het gecontroleerd, voorgeschreven en opgevolgd worden door een arts.

Watson heeft al bij 41 patiënten kunnen helpen. We weten niet of hij 41 keer geconsulteerd was of meer. We weten ook niet of hij bij de 'andere' keren juist of fout was.

Waarom geen vertrouwen hebben in Oncologen? Dit zijn hoog gespecialiseerde en opgeleide artsen die continu in aanraking komen met vernieuwende technieken en middelen.

[andreetje]

Artsen doen zelf vaak het onderzoek niet. Bijvoorbeeld bloedonderzoek wordt uitbesteed aan een klinisch chemisch, microbiologisch of weefsellab.

Artsen geven opdrachten voor onderzoek. Dat kan een computer ook.

Vroeger zaten analisten dagenlang door hun microscoop te turen. Tegenwoordig hebben machines hun werk overgenomen omdat ze het veel beter en nauwkeuriger kunnen.

Waarom ik een Watson beter vertrouw dan een oncoloog? Het is juist Watson die onmiddellijk op de hoogte is van alle nieuwe ontwikkelingen, en niet de oncoloog.

Verder wordt er telkens gesproken over "de arts", " de oncoloog ", maar die bestaat niet. Artsen hebben elk hun eigen kennis en ervaring, maar jij komt vaak in aanraking met maar 1 arts of hooguit een team artsen. Watson is gelijk aan "alle artsen".

Voorbeeld: patiënt komt met kapotte knie bij een arts.
De ene arts stelt voor: eerst kijkoperatie, dan kruisband operatie, en in de toekomst mogelijk nog meniscusoperatie.
De andere arts doet die drie behandelingen in één keer.

[Prince]

Juist. En waar komen de nieuwe ontwikkelingen vandaan? Watson die creatief eigen ideeën bedenkt, of artsen en researchers die dmv ervaring dingen ontdekken?
Hoe gaat Watson om met morele zaken? Euthanasie e.d.?
En als Watson wél zover zou gaan als het zelf kunnen bedenken van optimale behandelingen etc. Zou hij dan ook niet kiezen dat van 1 patiënt de organen verdelen om er 10 te redden beter is?
Er zijn tal van vragen die onbeantwoord zijn voordat je ook maar kunt denken over de humane factor van een arts weg te nemen.

[andreetje]

De arts zal idd niet helemaal verdwijnen. Hij krijgt een andere rol.

Een van de manco's van de huidige gezondheidszorg wil ik nog wel noemen. Juist het experimenteren en bedenken komt steeds minder voor. Het is veeleer het verfijnen van bestaande technieken. Iets waar Watson en rol in kan spelen.

[Prince]

Volledig mee eens. Watson is een zeer interessante "big data" bron met zeer specifieke zoekparameters. En hij zal verbanden zien die wij als mensen niet zien.
Het zal daar ook zijn zoals de mens nu aan het evolueren is. Ik had gehoord dat onze hersenen evolueren dat wij steeds minder dingen onthouden, maar meer waar we die zaken kunnen opzoeken. Onze hersenen worden blijkbaar steeds meer een referentiebak dan een database. Dit fenomeen klopt wel als je de artsen vs Watson discussie bekijkt. (Ja, Watson is ook slim, maar Google -beperkt- ook hé :-))

[Jeroenneman]

En als een arts een fout maakt, wie is dan verantwoordelijk?

[Cilph]

Naja, de arts, maar Watson is geen mens.

[andreetje]

Jaarlijks sterven duizenden mensen in Nederland door medische fouten. Zo ver ik weet worden geen duizenden medewerkers vervolgd.

Jaren geleden werd Yomanda vervolgd vanwege de dood van Sylvia Millecam, die zou zijn verleid tot alternatieve behandeling die niet hielp.
Ik ben geen Yomanda-fan, maar begrijp niet goed waarom kranten niet dagelijks vol staan met mislukte behandelingen van reguliere artsen (nog los van de medische fouten).

[Zwatelaar]

Een groot verschil tussen Yomanda en een arts zie je "gemakshalve" over het hoofd: Yomanda is niet gecertificeerd als arts. Dus ze is per definitie al fout bezig als ze zich op medisch vlak begeeft.

[andreetje]

Geweldig toch, hoe "certificering" de onkunde van de reguliere geneeskunde behoedt voor strafvervolging. Weliswaar is de patiënt door de behandeling en niet door de ziekte overleden, maar we hebben een license to kill.

[Zwatelaar]

Ik zeg niet dat een arts geen fouten maakt of gevrijwaard moet zijn van strafvervolging.
Ik vind het geen goed idee dat zomaar iemand zich op medisch vlak mag begeven.

Heb je geen rijbewijs, dan zit je per definitie fout als je een ongeluk krijgt. Daarmee zeg ik toch ook niet dat iedereen met een rijbewijs een prima chauffeur is of nooit vervolgd mag worden?

[Reactie gewijzigd door Zwatelaar op 22 juli 2024 15:58]

[andreetje]

Inderdaad, en daarmee spreek je jezelf tegen.
Ik ben als patiënt totaal niet geïnteresseerd in certificering. Wel in goede behandeling.

Ik beweer dat je blij mag zijn dat je een Nederlands ziekenhuis levend verlaat. Er overlijden immers meer patiënten door medische fouten dan in het verkeer.

En er overlijden nog veel meer patiënten door (protocollair juiste) behandeling. Zo overlijden kankerpatiënten vaak niet door de ziekte, maar door de behandeling. Of ze zijn in het gunstigste geval voor de rest van hun leven invalide.

Het is diep triest wat wij accepteren van onze extreem dure gezondheidszorg.

[Zwatelaar]

Two wrongs don't make one right.

Overdrijven is echt een vak. Ga lekker niet naar een ziekenhuis of arts dan, als je meer vertrouwen hebt in paranormale mediums.

[andreetje]

Ik heb helemaal niet meer vertrouwen in paranormale mediums. Lezen is ook een vak.
Het punt is dat de gezondheidszorg slecht en heel duur is, en ik juich elke verbetering met automatisering toe.

[jqv]

Diegene die het inzet. Het is dan niet anders dan een echo, röntgenfoto, labuitslagen of MRI.
Het is een hulpmiddel en geen arts. Op dit moment dan...in de toekomst?

[polthemol]

afhankelijk van hoeveel keren watson het goed had Tegen elkaar wegstrepen en als de balans beter is dan die van een arts dan is een foute diagnose af en toe nog niet de grootste ramp (voor die persoon en nabestaanden natuurlijk wel, maar dit zijn ontwikkelingen die over een bigger picture gaan).

[Verwijderd]

Ai moet nog bewijzen of ze creatief zijn en kunnen uitvinden. De mens is idd niet foutloos maar verbetert zichzelf steeds. Zie de afgelopen 100 jaar.

[Drumatiko]

Je zou het bijna willen opnemen als verplichte second opinion. Een mens weet nu eenmaal niet alles, en kan prima de hulp gebruiken van een ai die complete databases tot haar beschikking heeft.

[caipirinha]

Helemaal mee eens zolang het een second opinion blijft. Ook in de medische onderzoeks wereld wordt er heel wat af gediederik stapelt vooral door de farmaceuten.
De meeste artsen (ik ken ze persoonlijk) prikken daar genadeloos doorheen, watson is dus gebaat bij een integere database samengesteld door onafhankelijke artsen die verstand van zaken hebben en ook een groot ethisch besef hebben
Zolang het systeem een expert systeem is met een brute force diagnose op basis van een hele grote datrabase is dat echt nodig.

[Infor40]

Volgens mij is het probleem juist dat heel veel artsen hier niet doorheen prikken. Waarom zou de farmaceutische industrie anders zoveel geld uitgeven aan marketing.

Ik denk dat big data en (semi-)geautomatiseerde analyses op een aantal punten gaan helpen:
1. Weinig voorkomende ziekten (en daarmee een grote kans op onbekendheid bij de arts) worden minder snel gemist door gebruik van grote databases.
2. Door veel informatie over de grote patiëntpopulaties gaan we preciezer weten wat werkzaam is en wat niet en kunnen we beter medicatie/verrichtingen gaan fine-tunen.
3. 'Ongewone interacties/moderatoren' binnen grote groepen kunnen.sneller gevonden worden.
4. Door betrekking van ICT, medici en statistici worden onderzoeken ook statistisch beter gefundeerd. Betrokkenheid van meerdere disciplines leidt ook tot minder 'Diederik Stapelachtige' gevallen.

[n00bs]

Grootste valkuil dat een mens altijd subjectief en ergens met emoties inzit. Ik zou daarom ook graag zien dat dergelijke systemen centraal geraadpleegd kunnen en zelfs moeten worden volgens protocol.

[arnovos]

Betaal jij voortaan €5 extra zorgpremie per maand omdat Watson standaard moet draaien bij elke patiënt? En waarom dan alleen Watson vergoeden, en niet rivaliserende AI's? Vetrouw jij IBM met je medische gegevens?

[Jeroenneman]

En ook weer 10 euro terugkrijgen, omdat er veel meer juiste diagnoses worden gesteld, zonder dat men daarvoor een dokter met een maandsalaris van minimaal 4K nodig is? En omdat de juiste diagnose veel sneller gesteld wordt, dus ook veel sneller behandeld kan worden, waardoor ook de schade veel beperkter wordt gehouden?

Watson zal vast geld kosten, maar artsen zijn ook zeker niet goedkoop!

[Tjeerd]

Ik vind het niet meer dan logisch dat de computer steeds meer leidend wordt, ook bij het stellen van diagnoses. Waar een arts een paar honderd jaar geleden nog met een aantal boeken en betrekkelijk eenvoudige veelvoorkomende ziektebeelden uit de voeten kon, bleven het ook toen mensen. En ook toen waren er waarschijnlijk genoeg artsen die ook al hadden ze een hoop kennis, toch fouten maakten omdat ze misschien net niet alle verbanden konden maken en/of op de hoogte waren van nieuwe medische ontwikkelingen/inzichten/literatuur. Iets dat ondertussen bijna onmenselijk complex is geworden en het menselijke niveau te boven gaat. Je kunt niet meer verwachten van artsen dat ze met de duizenden artikelen/inzichten/verbanden die er per dag bijkomen dat ze de juiste beslissingen nog kunnen maken.

Wat dat betreft lijkt het me zeker nuttig en handig om een AI-achtige computer mee te laten denken voor de huisarts. Of misschien als bevestiging van wat de huisarts al vermoedde. Of misschien juist dat de huisarts nog twijfelt tussen verschillende uitkomsten en een AI-computer juist de doorslag kan geven.

En dat is dan ook gelijk de volgende stap, dat de AI alsmaar beter wordt en uiteindelijk men zich moet gaan afvragen wie de eindverantwoordelijkheid krijgt voor diagnoses stellen, als blijkt dat AI uiteindelijk veel nauwkeuriger zal worden. Het zal waarschijnlijk nooit 100% worden, maar ik vermoed dat alle huisartsen momenteel ook niet 100% sluitend zijn qua diagnoses. Als het percentage juist gestelde diagnoses door AI in ieder geval hetzelfde danwel hoger dan dat van huisartsen wordt dan is de toekomst wel duidelijk voor AI.

Tot slot nog een toevoeging: misschien vinden huisartsen het in de toekomst juist prettig dat de eindverantwoordelijkheid minder/niet meer bij hun komt te liggen, maar dat een goedwerkende AI de beslissing altijd neemt, minder stress en schuldgevoelens als de diagnose toch verkeerd blijkt te zijn gesteld omdat je dan de AI de 'schuld' kan geven. Dat 'schuld'verhaal is dan weer een heel andere weg die we inslaan waarvan we nog regels voor moeten vaststellen.

[Reactie gewijzigd door Tjeerd op 22 juli 2024 15:58]

[El Toro]

Precies dat. Ze zullen inderdaad als hulpmiddel dienen.
Een zeer goede ontwikkeling!

(wat waarschijnlijk wel gaat gebeuren is dat als de computer een fout maakt, het helemaal in het nieuws gaat komen, terwijl de computer gemiddeld toch minder fouten maakt tov een dokter, netzoals bij de zelfrijdende auto)

[Reactie gewijzigd door El Toro op 22 juli 2024 15:58]

[Tk55]

Precies, veel media zal direct van de daken schreeuwen dat het niet perfect is en dat het de schuld is van de ontwikkelaar, maar uiteindelijk wordt de medische zorg hier toch echt beter van. Hetzelfde geldt voor zelfrijdende auto's. Het verkeer wordt veel veiliger, maar als het fout gaat wrijven de journalisten in hun handen.

Overigens is dat hele nieuws over die aanrijding van een Tesla ook overdreven. Dat ding is niet zelfrijdend...

[Reactie gewijzigd door Tk55 op 22 juli 2024 15:58]

[totaalgeenhard]

Zegt dit nu iets over hoe goed Watson is of hoe slecht artsen aan het worden zijn?

Ik zou altijd als een computer iets vaststelt voor een second opinion gaan. Een blinde, zodat ze niet beïnvloed worden en daarna nog eentje indien die afwijkt.....


Maar als sinds 2013 maar 41 diagnoses hebben plaatsgevonden zegt dat helemaal niets over hoe goed het werkt. Een gemiddelde huisarts maak per week al meer diagnoses (van andere orde, maar toch...)

Hoewel ik blij ben voor die mensen, maak ik me grote zorgen dat er een afhankelijkheid komt en men gaat leunen op computers voor diagnoses.... uiteindelijk krijg je "China artsen" mensen die wel een master hebben maar de stof niet kunnen toepassen, omdat ze gewoon veel en goed hebben zitten leren, maar niet hebben leren denken.

Overigens Google kan al detecteren wanneer iemand bepaalde lichamelijke toestanden heeft.
Bepaalde fysieke en mentale situaties zijn in kaart gebracht en aan de hand van je surf- en zoekgedrag kan men constateren dat je b.v. gedeprimeerd bent of zwanger etc...

Als straks je een horloge hebt die je bloed kan analyseren kan je 24/7 monitored worden... leuk voor mensen met hypochonder. Maar minder leuk voor je eigen privacy...

Je zult maar net een nichtje gedag hebben gezoend en koortslip hebben opgelopen..... gelijk melding op je telefoon en horloge... leg dat maar eens uit aan je partner..

[Reactie gewijzigd door totaalgeenhard op 22 juli 2024 15:58]

[Jeroenneman]

Of het beroep arts verschuift gewoon naar een andere taak. Ipv diagnose stellen, wordt het dan de taak om dit menselijk over te brengen, en om een persoonlijk behandelplan op te stellen.

Proberen te winnen van een altijd lerende computer is vechten tegen de bierkaai.

[totaalgeenhard]

Er vanuit gaan dat AI of Machine learning 100% en in alle omstandigheden te vertrouwen is, is een gevaar voor de mensheid.... nu wil ik geen skynet roepen.... maar blind vertrouwen op AI is gewoon ondergang van onze mensheid.

In dit geval kon middels een gevulde database een diagnose worden gesteld, maar stel eens ingeval van een nieuwe besmettelijke ziekte, waar niets over gepubliceerd is....

Zag toevallige een documentaire op ik meen discovery over vleermuizen die altijd een schimmel bij zich hadden en ineens besloot die schimmel door huid heen te eten, dit zorgde voor uitsterving van vleermuis in bepaalde grot (uitdroging tijdens winterslaap en verhongering, omdat ze geen voedsel konden vinden indien ze wakker werden om vocht te zoeken, maar wel energie verbranden). Wat me bij is gebleven is wat onderzoeker vertelde, grootste uitdaging was om de rest van wetenschap te overtuigen dat een schimmel die in harmonie leefde met gastheer in eens kon veranderen....

Ik denk niet dat AI / machine learning ooit rekening kan houden met onlogische (biologische) redenen van mutatie/verandering.

Maar los hiervan is het gewoon gevaarlijk. Alleen al uitholling van artsen beroep.

[jqv]

Mensen zien het meteen als een uitholling van het artsenvak en het gevolg dat artsen geen vaardigheden ontwikkelen. Daar valt over te twisten.
Ik hoop dat in de toekomst deze machines steeds vaker de juiste diagnose gaan stellen. Ipv het giswerk wat in sommige gevallen plaatsvind.
Je krijgt zo een zekerheid van juist le diagnose.
En daarmee kunnen de artsen het juiste behandelplan inzetten.
Daarnaast hoeft deze machine niet alles over te nemen. Een verkoudheid of blindedarm-ontsteking is gewoon door een arts vast te stellen. Even als vele andere aandoeningen.

En meteen beginnen over skynet en andere beelden van machines die de wereld overnemen en ons leven is zo makkelijk.
Ik ga uit van Star Trek. Machines die diagnoses stellen en artsen die de behandeling uitvoeren. Een stuk rooskleuriger. (ps niet V-Ger noemen)

[Verwijderd]

Je krijgt net geen zekerheid, je krijgt hooguit een benadering van de juiste diagnose en af en toe een totaal foute diagnose.

Voorts lezen we nu natuurlijk vooral over de successen van Watson. Dus confirmation bias alom. Want de slechte diagnoses die de computer stelt zullen wel niet in de media komen.

Vergeet ook niet dat een foute behandeling ook schadelijk en risicovol kan zijn voor een mens en/of patiënt. Tot zelfs dodelijk.

[jqv]

En verschilt die benadering van een diagnose veel van die van artsen?
Net als een foute behandeling.

En ik geef alleen een uitbreiding op de hoop die ik uitspreek wat betreft die zekerheid. Een hoopvolle blik naar de toekomst.

[Relief2009]

Je bedoelt die dezelfde foute behandeling zoals de in de artikel genoemde mevrouw heeft moeten ondergaan door de menselijke artsen.

Er heerst blijkbaar het idee dat menselijke artsen perfect zijn in hun vak. Zij gissen heel vaak ook maar wat.

[Jeroenneman]

Maar los hiervan is het gewoon gevaarlijk. Alleen al uitholling van artsen beroep

Wat is daar gevaarlijk aan? Waarom is dit uitholling, en niet gewoon het verschuiven van prioriteiten en taken?

Om je voorbeeld te nemen: hoe gaat een arts dan iets vinden over een ziekte met schimmel, waar niks over gepubliceerd is? Denk jij dat iedere arts dat correct zal diagnosticeren? Zonder gedegen onderzoek is ook een arts helemaal nergens.

Wat me bij is gebleven is wat onderzoeker vertelde, grootste uitdaging was om de rest van wetenschap te overtuigen dat een schimmel die in harmonie leefde met gastheer in eens kon veranderen....

Aha. En dat kwam natuurlijk niet door koppigheid van andere onderzoekers, mensen dus? Resistance to change is een menselijk iets, niet iets waar je een machine van kunt beschuldigen.

Ik denk niet dat AI / machine learning ooit rekening kan houden met onlogische (biologische) redenen van mutatie/verandering.

Je bedoelt zoals het geval is bij kanker? Oh wacht, dat is dus EXACT wat Watson hier wél kon, en de behandelende artsen niet!

Watson was in staat om de genetische opmaak van de gezonde- en de kankercellen met elkaar te vergelijken en stelde vast dat er op 1500 punten een verandering plaats had gevonden. Daaropvolgend kon de ai zijn database met 20 miljoen onderzoeksrapporten raadplegen om overeenkomsten met andere gevallen te vinden.

Wie ging er ook alweer beter om met mutaties in cellen?

[Verwijderd]

Het is letterlijk gevaarlijk voor een patiënt wanneer een verkeerde behandeling uitgevoerd wordt. De meeste behandelingen voor kanker zijn totaal niet risicoloos. Héél fel integendeel zelfs. Dus dat blinde vertrouwen in een software die wat statistiek doorheen een algoritme haalt is werkelijk misplaatst en zoals je voorganger zegt: gevaarlijk.

Gebruik het wel als een hulpmiddel Maar ontsla alle artsen die het zelfs maar eens één keer blind vertrouwden, op staande voet.

[Jeroenneman]

Het is letterlijk gevaarlijk voor een patiënt wanneer een verkeerde behandeling uitgevoerd wordt. De meeste behandelingen voor kanker zijn totaal niet risicoloos.

No shit!

En toch voerden al deze artsen wél een verkeerde behandeling uit! Totdat, zoals ook in het artikel staat, Watson wél de juiste diagnose stelde.

Artsen hadden eerder de verkeerde vorm van kanker vastgesteld bij de dame en de behandeling daarvoor sloeg dan ook niet aan.

De vrouw bleek acute myeloïde leukemie te hebben, een zeldzame vorm van kanker. Het zou Watson tien minuten gekost hebben om tot de diagnose te komen. De aanbevolen behandeling sloeg aan.


Dus dat blinde vertrouwen in een software die wat statistiek doorheen een algoritme haalt is werkelijk misplaatst en zoals je voorganger zegt: gevaarlijk.

Uhuh. Dus je zegt nu eigenlijk dat die artsen zijn ingehaald door "software die wat statistiek door een algoritme haalt"?

[Verwijderd]

Dat Watson hier de juiste diagnose maakte is één op de vele. De slechte diagnoses, daar horen we niets van. Wanneer Watson 99,999999% van de keren de juiste diagnose maakt en je me dat kan aantonen d.m.v. falsifieerbaar dubbel blind onderzoek: kom dan eens terug.

Dus niet nieuws dat IBM geselecteerd heeft met een machine die enkel IBM mag besturen en eens één casus terwijl alle andere voorafgaand gestelde diagnoses genegeerd worden. IBM heeft iets te verkopen. Enige scepsis is dus aangewezen. Voorts zal dit wel nuttig zijn allemaal. Maar er blind op vertrouwen? Ben je gek?

Als je gelooft dat je artsen kan inhalen met wat query-werk en een algoritme, dan heb ik slecht nieuws voor je inschattingsvermogen: een arts doet heel wat meer dan jij denkt. Op de Belgische TV komt er een reality-reeks "Topdokters" over top-chirurgen en dokters (ook Oncologen) uit oa. Gasthuisberg. Dat is één van de beste ziekenhuizen wereldwijd. Kijk er eens een paar afleveringen naar. Je zal wat leren.

[Jeroenneman]

Wanneer Watson 99,999999% van de keren de juiste diagnose maakt en je me dat kan aantonen d.m.v. falsifieerbaar dubbel blind onderzoek: kom dan eens terug.

Waarom moet het onfeilbaar? Gebruiken we ook alleen medicijnen die 100% werken? Of accepteren we dat er niet zoals bestaat als "perfect" in de medische wereld?

Laat mij de arts maar eens zien die perfecte diagnoses stelt.
Zodra Watson beter is dan de gemiddelde arts, dan verdien je het als patient om op zijn minst een second opinion aan te vragen via Watson.

Ik heb al genoeg ziekenhuizen gezien, ook achter de schermen, en je vertrouwen in artsen is hilarisch misplaatst. Het zijn ook gewoon mensen hé?

Qua diagnose (let op!) streeft Watson artsen nu al voorbij. Daar kun je tegen blijven vechten, of je kunt je als arts toespitsen op nieuwe activiteiten (onderzoek) of juist verbeteren in specifieke delen van arts zijn (communicatie, patient als partner).

[madcow22]

En wat heeft dit te maken met wat een arts doet. Een arts kan nooit alle onderzoeken die wereldwijd zijn geweest onderhouden en aan zijn patient koppelen. Wat watson doet is het onderdeel wat artsen juist niet goed kunnen de rest zal de arts natuurlijk moeten doen. Maar diagnogtisch onderzoek door artsen is veelal gewoon een gok.

[andreetje]

Je hebt een heilig geloof in het kunnen van de arts, en dat is mooi.

Maar Watson doet hetzelfde als een arts: op basis van input (onderzoeksgegevens etc.) wordt output (diagnose, behandeling) geleverd.

Alleen is Watson er oneindig beter in dan een arts, want Watson heeft veel meer kennis tot z'n beschikking.

De rol van de arts wordt teruggebracht tot begeleider van het proces.

Prima ontwikkeling. Ik heb meer vertrouwen in Watson dan in artsen. Artsen stellen aan de lopende band verkeerde diagnoses (eigen ervaring). In de zorg worden aan de lopende band kleine en grote fouten gemaakt. Computers maken geen fouten.
De meeste artsen voeren protocollen uit. Dat kan een computer beter.

[SuperDre]

tja, en een mens is wel 100% te vertrouwen? ik denk dat ik (over niet al te lange tijd) eerder vertrouwen heb in diagnose van Watson dan van een normale arts (die namelijk precies hetzelfde doet op basis van de informatie/kennis die hij/zij heeft, en die is vele VELE malen beperkter dan die van Watson). En met de ervaring die ik heb met sommige (huis)artsen zou het met niet eens verbazen dat zelfs Watson het nog menselijker kan overbrengen..

En ik denk juist dat dus AI eerder rekening zal houden met onlogische redenen van veranderingen in tegenstelling tot een mens. Het zal op dit moment nog niet zo zijn, maar ik verwacht zeker over een jaar of 10 dat we wel zo ver zijn..

tja, is automatisering niet sowieso een gevaar voor het uithollen van welk beroep dan ook?

[Pietervs]

Geen idee of dat het al zo geregeld is, maar het zou natuurlijk het mooiste zijn als de diverse computers van ziekenhuizen wereldwijd aan elkaar gekoppeld worden voor dit soort ai-toepassingen.
Ik kan me namelijk voordtellen dat in het Westen vaker kankergevallen voorkomen, terwijl in Afrika bijvoorbeeld meer virale ziekten voorkomen waardoor misdiagnoses (nog) minder vaak voorkomen als ai ingezet wordt terwijl er mogelijk wel meer hits zijn.

[Robino]

Dat is er nog niet en zal komende tijd er ook nog niet zijn. Mensen schreeuwen al moord en brand als je het hebt over het landelijk EPD, waarbij nog steeds de publieke opinie denkt dat het hier gaat om één database. En dan hebben we het in dit geval alleen nog maar over het delen van de informatie binnen één land.

Het delen van informatie blijft een discussiepunt. Binnen een ziekenhuis zie je al dat artsen van verschillende specialismen, niet willen dat een arts van een ander specialisme hun bevindingen kan inzien. Ja wel als je elkaar in consult roept. Want dan maak je een specifieke samenvatting van jouw bevindingen. Maar bijvoorbeeld op dezelfde plek, allemaal de diagnose of voorgeschiedenis registeren dat is eng. Dat betekent namelijk dat een collega-arts over pakweg 2 jaar nog steeds jouw geregistreerde diagnose kan bekijken. Ook al kan deze, op het eerste gezicht niet relevante diagnose "ingegroeide teennagel" mogelijk bijdragen aan het beter begrijpen van het huidige ziektebeeld van de patiënt.

[regmaster]

Informatie tb.v. van onderzoeken is prima te delen zonder dat er bekend is wie de patiënten zelf zijn. De werkelijke identificerende gegevens kunnen prima in een andere database leven zonder dat deze gebruikt hoeven worden. Geef iedere patient een soort klantnummer en gebruik bij ieder onderzoek alleen dat klantnummer. Alleen de direct behandelende arts heeft toegang tot de database waarin het klantnummer te herleiden is naar de daadwerkelijke gegevens van de patient. Mij lijkt me dat de privacy daarmee flink gewaarborgd kan worden.

[Speedpete]

Nee, dat is niet voldoende. Dat klantnummer (dat patiënten al hebben, maar zelfs een nieuw nummer) is - indirect - identificerend en dat mag volgens de huidige regelgeving (van de Autoriteit Persoonsgegevens) niet zomaar gedeeld worden. De Europese wetgeving die er aan zit te komen wordt - voor zover ik heb begrepen - strenger dan de huidige Nederlandse.

De privacy-regels met betrekking tot het delen / leveren van data zijn - terecht - verschrikkelijk streng. Het lekken van dergelijke data kan enorme gevolgen hebben op het leven van de mensen die het betreft. Ook zonder nummer kunnen de gegevens identificerend zijn. Ga bijvoorbeeld na of je jezelf terug zou kunnen vinden in een dergelijk - anoniem - databestand. Lukt dat? Dan is het in ieder geval al identificerend.

Kunnen de gegevens dan niet gebruikt worden door een systeem als Watson? Ow, jawel, maar alleen als dat volledig anoniem is. Concluderende rapportages dus, geen data die op welke wijze dan ook identificeerbaar is, dus het liefst niet op persoonsniveau. En dat is - voor zover ik weet - iets waar Watson prima mee uit de voeten kan.

[wowi]

Ik zie op lange termijn de computer beter worden dan de mens, op dit gebied hoe meer data hoe meer de computer zal weten, wat de mens nooit zelf kan onthouden.
Hiervoor zal de computer erg geschikt zijn, (p.s. starfleet had toch ook een computer doctor al )

[parryfiend]

Ongelooflijk, wat gaan de ontwikkelingen op AI gebied snel. Dit is alleen maar 1 casus uit 1 vakgebied (oncologie/haematologie) maar kan me voorstellen dat de AI over 5-10 jaar veel uitgebreider zal zijn. Zou me niet verbazen als het vak arts in de nabije toekomst heel anders wordt dan wat we nu kennen en ai's niet meer weg te denken zijn uit de geneeskunde.

[Reactie gewijzigd door parryfiend op 22 juli 2024 15:58]

[GlowMouse]

Het feit dat één juiste diagnose nieuws is, geeft aan dit nog maar in de kinderschoenen staat. Een driejarige die bij elke patiënt "secondary leukemia" mompelt, zal het ook af en toe goed hebben.

Een nadeel van Watson is dat hij niet aan kan geven waarom hij iets denkt. Hij kan de arts niet wijzen op een bepaald plekje. Het nut als hulpmiddel is daarom beperkt.

We kunnen Watson daarom pas prijzen als uit wetenschappelijk onderzoek blijkt dat hij een lagere false positive rate behaalt dan artsen (bij dezelfde false negative rate), en dan bij voorkeur bij een ziekte die regelmatig voorkomt.