Nvidia-baas Jensen Huang voelt er niets voor om de ontwikkeling van AI af te remmen. Daarnaast zegt Huang dat nieuwe Amerikaanse wet- en regelgeving niet nodig is. "De keuze tussen de snelheid van innovatie en de veiligheid van producten is een valse keuze", zegt Huang.
Die uitspraken doet Huang op de Dreamforce-conferentie in San Francisco. "Als je een product bouwt en je hebt geen vertrouwen in de veiligheid ervan, breng het dan niet uit." De Nvidia-ceo zegt dat bedrijven er zelf voor moeten zorgen dat AI-ontwikkeling niet uit de hand loopt.
Meta-ceo Mark Zuckerberg neemt zelf de verantwoordelijkheid voor de veilige ontwikkeling van AI-systemen op X. "Labs zijn in hoge mate aansprakelijk als hun modellen schade veroorzaken. Ze hebben dus een sterke prikkel om dit te voorkomen." Zuckerberg zegt dat zijn bedrijf op eigen initiatief heeft gewacht met het uitbrengen van Muse, de AI-agent van Meta. De topman stelt dat andere bedrijven dit voorbeeld moeten volgen.
Meerdere medewerkers van grote AI-bedrijven spraken zich publiekelijk uit over de toenemende veiligheidsrisico's van geavanceerde AI-systemen. Zo schrijft Evan Hubbinger, een belangrijke onderzoeker bij Anthropic, in een post op X dat AI de gehele mensheid zou kunnen doden. Tweakers schreef naar aanleiding van de ontwikkelingen een achtergrondartikel over waarom de AI-reuzen op de rem willen trappen.
Waarom doet Huang deze uitspraken?
Dat Huang AI-ontwikkeling niet wil afremmen, is logisch. Nvidia levert datacenterchips aan AI-bedrijven en haalde daar eerder dit jaar nog een recordomzet mee. 92 procent van de omzet van Nvidia komt uit de verkoop van die datacenterchips. Als AI-bedrijven de ontwikkeling afremmen, bestaat de kans dat de vraag naar die chips afneemt en Nvidia dus minder winstgevend wordt. Huang heeft er dus belang bij dat de ontwikkeling van AI doorgaat.
:strip_exif()/i/2008367732.jpeg?f=imagenormal)
/u/8335/crop664f918c0f7b5_cropped.png?f=community)
/u/94596/crop643fb12fd4e6d.png?f=community)
:strip_icc():strip_exif()/u/116210/crop5ab6397009836_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/1138733/crop5bed7f8ee609f_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/653418/000.jpg?f=community)
:strip_icc():strip_exif()/u/239451/crop6347e9fb6897f_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/122141/ic.tweakimg.net2.jpg?f=community)
/u/710404/crop5e9f7de15e964_cropped.png?f=community)
/u/243953/crop56f55a7bcf291.png?f=community)
:strip_icc():strip_exif()/u/1470316/crop6746d52637e96_cropped.jpg?f=community)
:strip_exif()/u/324634/crop659fcf9abb18b_cropped.gif?f=community)
/u/767409/crop62335cccc4f1d_cropped.png?f=community)
:strip_icc():strip_exif()/u/432714/crop6287e94322cf6_cropped.jpg?f=community)
:strip_icc():strip_exif()/u/57655/SuperTeamLogo.jpg?f=community)
/u/464964/crop5706bee0228c3_cropped.png?f=community)
:strip_icc():strip_exif()/u/386526/crop5e79fc3cdf222_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/92809/crop577f58c1b8795.jpeg?f=community)
/u/141998/crop57f8cd396d9ce_cropped.png?f=community)
/u/34200/crop6554f56fe2075_cropped.png?f=community)
/u/157772/crop646e49fe679e7_cropped.png?f=community)
:strip_icc():strip_exif()/u/1765012/crop625957bc2a74b_cropped.jpg?f=community)
/u/314906/crop68a5aa8bdd674_cropped.png?f=community)
:strip_icc():strip_exif()/u/75578/crop5935346597d2a_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/213293/crop5ccc38fc9b330_cropped.jpeg?f=community)
:strip_icc():strip_exif()/u/168551/crop5cc9f0696f0a5_cropped.jpeg?f=community)