Dit is niet de juiste discussie. Vooropgesteld: dit is niet bedoeld als felle reactie op je post, maar die triggert me wel over het grotere verhaal.
De vraag is: waarom wordt er niet beseft dat we met AI zoals ChatGPT enorme risico's lopen.
Zie de diverse schokkende artikelen en de resultaten van recente conferenties.
Zie met name het artikel in NRC van 6 nov 2023 (gisteren) over Stuart Russell: "AI-expert: ‘Als de overheid niet snel ingrijpt, gaan we in de komende twaalf maanden de consequenties voelen’" (link
https://www.nrc.nl/nieuws...equenties-voelen-a4179949)
We doen maar wat.
Ik geef 3 citaten uit dit artikel:
1. [vraag] Maar deze techbedrijven zeggen: ‘Meneer Russell, dit gaat niet werken. We kunnen niet jaren wachten tot de overheid ons toestemming geeft. We brengen iets uit en passen ons product aan. Zo werken start-ups.’
[antwoord van Russell] „Accepteren we dat van een farmaceutisch bedrijf? We verkopen onze medicijnen aan miljoenen mensen voordat we zeker weten of het veilig is? Nee, natuurlijk niet. Ik snap het niet als bedrijven zeggen: ‘Ik wil rijk worden, dus mag ik de mensheid aan allerlei risico’s blootstellen.’
Het is een belachelijk argument.”
2. „Als we nu niet ingrijpen zie ik twee mogelijkheden. Of er vindt een medium sized ramp plaats, ons financieel systeem wordt platgelegd bijvoorbeeld, en daarna worden we ineens serieus over regulering. Zoals wat Tsjernobyl heeft gedaan voor hoe we omgaan met kernenergie. Of het gaat totaal mis, we raken de controle kwijt over onze systemen en er valt helemaal niks meer te reguleren. In films is de mens uiteindelijk altijd slimmer dan de slimste machines. Dat zal niet werken. Zij zijn dan slimmer dan wij.”
3. [vraag] Het moment dat machines slimmer worden dan wij komt met de dag dichterbij, zei u eerder. Waar staan we nu?
[antwoord] „Dat is een moeilijke vraag. Het blijft speculeren. We zien nu dat systemen in een gigantisch tempo groter en groter worden met meer en meer data. De volgende generatie AI-systemen zal volgend jaar al tien keer krachtiger zijn dan GPT-4 [het model achter ChatGPT] nu is. We weten niet precies wat het gaat doen. Het lijkt alsof natuurkundigen verrijkt uranium gewoon op een grote stapel verzamelen en zeggen: 'ik vraag me af wat er gebeurt als ik deze stapel groter en groter maak. En laten we hem steeds groter maken totdat er iets geweldigs gebeurt'.
Dat is niet bepaald verantwoord gedrag.”
Lees het artikel.
Ik ga er verder geen energie meer aan besteden. Er is hier op Tweakers veel te weinig besef. Je wordt al snel meewarig bekeken als je dit soort dingen zegt. Dat is een schadelijke dubbele agenda. Of iemand geeft 1 tegenargument en vindt dat genoeg om het hele verhaal opzij te gooien. De gemiddelde ICT-er wil vooral leuke dingen doen en er zeer veel geld mee verdienen, die is niet bezig met deze risico's. Het is dramatisch en deze houding is schadelijk. Ik zag ergens bedragen die 10-100 keer zo hoog zijn als de hele wereldbevolking. Dus per persoon op deze aardbol wordt er 10-100 dollar verdiend. Dan zeg ik (sorry) what the frack.
En oja: ik zal wel horen dat dit NRC-artikel achter een paywall zit. Dan is mijn reactie: ja dat klopt. Neem maar een abonnement. Het is heel belangrijk om goede kranten te lezen, zeker in deze tijd waar iedere nitwit zijn eigen nieuws op internet kan smijten en dat ook doet. En waar fake nieuws en eigenbelang het juiste nieuws verdringen. Goede kranten worden geschreven door betaalde, professionele, journalisten en echte deskundigen en die moeten nu eenmaal betaald worden. Kranten zonder betaling hebben per definitie een flinke drive om lezers te lokken, met alle nadelen van dien (en ook deze uitspraak wordt door het wereldje zeer vaak gebagatelliseerd).
En nog een goede dag verder.
Edit: 1 zin verduidelijking.
[Reactie gewijzigd door Farmeur op 22 juli 2024 16:29]