Terwijl we aftellen naar hét event van het jaar, onze eigen Tweakers Developers Summit 2024 op 4 december in DeFabrique te Utrecht, zullen we stap voor stap meer keynotes, workshops en programmaonderdelen onthullen. In dit artikel stellen we Johan van Amersfoort, Chief Evangelist bij ITQ, aan je voor. Tijdens de Dev Summit verzorgt hij de masterclass ‘A kickstart into AI on Nvidia Jetson, K3S and Rancher’ en legt hij uit hoe hij hiermee de kat van zijn buren uit zijn tuin probeert te verjagen.
Johan van Amersfoort is 42 jaar oud en sinds 1999 actief in de IT-wereld. Hij is de Chief Evangelist bij ITQ, een bedrijf dat gespecialiseerd is in end-to-end-oplossingen voor klanten die voornamelijk in Europa zijn gevestigd. Met zeven kantoren verspreid over vijf landen, en meer dan tweehonderd medewerkers, richt ITQ zich op consultancy, implementatie en managed services. Als Chief Evangelist heeft Johan de taak om de diensten en oplossingen van ITQ op een aantrekkelijke en begrijpelijke manier te presenteren. Hij vergelijkt het met een boek: “Een boek kan fantastisch zijn, maar als de kaft niet aantrekkelijk is, bestaat de kans dat het minder goed wordt verkocht.” Daarnaast leidt hij verschillende R&D-projecten, met een sterke focus op artificial intelligence, en werkt hij samen met het platform engineering-team.
Als ervaren spreker en schrijver is Johan regelmatig te vinden op internationale conferenties zoals Nvidia GTC, HashiConf en VMware Explore/VMworld. Hij ziet het als zijn missie om kennis te delen en anderen te inspireren. “Het is mooi om te zien waar de trends binnen IT naartoe gaan en hoe wij er als partij op kunnen inspelen”, zegt hij. Daarnaast schrijft hij technische blogs, heeft hij meerdere boeken op zijn naam staan en is hij vaak te vinden in de videostudio van ITQ. Zijn werkzaamheden variëren van het ontwikkelen van R&D-projecten tot het creëren van content en het ondersteunen van marketingcampagnes. Hij is ook actief op Tweakers en ziet de komende Dev Summit als een kans om iets terug te geven aan de community waar hij zelf al ruim 22 jaar deel van uitmaakt.
De snelheid van innovatie en het belang van platform-engineering
Johans interesse in AI ontstond zo’n acht jaar geleden tijdens een project bij het Nederlands Kanker Instituut en het Antoni van Leeuwenhoek Ziekenhuis in Amsterdam. Hier werkte hij met een datascience-team aan een nieuwe datacenterstrategie. Hij merkte dat onderzoekers vaak zelf hardware aanschaften, zoals consumenten-pc’s met GeForce-kaarten, om AI-workloads te draaien. Dit was inefficiënt en leidde tot suboptimale prestaties.
Samen met zijn team ontwikkelde Johan een gedeelde gpu-infrastructuur op basis van Nvidia-datacenteroplossingen. Om deze infrastructuur optimaal te laten werken, verdiepte hij zich in de technische aspecten van AI-workloads, deeplearning en de impact op datacenters. Hij leerde hoe je datascientists en onderzoekers het beste kunt ondersteunen met gedeelde gpu-resources, containerisatie en orchestration-tools.
In de IT-wereld, en vooral binnen AI, gaan de ontwikkelingen razendsnel. Johan benadrukt dat veel bedrijven zich te veel richten op het opleveren van een eindproduct, terwijl de focus zou moeten liggen op het onderliggende platform. “Het product verandert zo snel dat je niet de focus moet leggen op het bouwen van het product, maar op het platform dat eronder ligt”, zegt hij. Door te investeren in platform-engineering met een AI-focus, kunnen organisaties sneller inspelen op nieuwe ontwikkelingen en technologieën zoals nieuwe Nvidia-gpu’s, cuda-versies en AI-frameworks.
Verjaag de kat van de buren: AI in de achtertuin
Een van de meer persoonlijke - en grappige - projecten waar Johan aan heeft gewerkt, draaide rond de inzet van AI bij een poging om de kat van de buren uit zijn tuin te verjagen. Geconfronteerd met ongewenste ‘cadeautjes’ van de kat op zijn gazon, besloot Johan zijn technische expertise in te zetten om dit probleem op te lossen.
Hij bouwde een cluster van Nvidia Jetson Nano’s, compacte singleboard-computers die zijn uitgerust met een geïntegreerde gpu voor AI-toepassingen. In dit cluster draaide hij K3s, een lichtgewicht Kubernetes-distributie die is geoptimaliseerd voor edge-devices en iot-toepassingen. Met behulp van Rancher beheerde hij het Kubernetes-cluster en de verschillende containers.
Voor het vastleggen van beelden maakte hij gebruik van Ubiquiti-camera's die via RTSP-streams real-time videobeelden leverden. Deze beelden werden ingevoerd in Nvidia’s DeepStream SDK, een framework voor het ontwikkelen van AI-gebaseerde videoanalysetoepassingen. Met behulp van TensorRT optimaliseerde hij de deeplearning-modellen voor inferentie op de Jetson Nano’s.
Het systeem maakt gebruik van convolutionele neurale netwerken (cnn’s) voor objectherkenning. Specifiek werd een model getraind om katten te detecteren in de videostreams.
Nogmaals; het doel van het project was om de kat van de buren uit zijn eigen tuin te houden. Maar is dat ook gelukt? Dat is wat je gaat zien tijdens de Tweakers Dev Summit 2024.
Een deep dive in AI met edge computing
Johan zal op de Tweakers Dev Summit 2024 een demorijke sessie presenteren met de titel: ‘A kickstart into AI on Nvidia Jetson, K3S and Rancher’. Tijdens deze talk krijgen deelnemers een diepgaande kennismaking met AI en edge computing, met een focus op praktische toepassingen. Het begint met een introductie in AI en deeplearning, waarbij basisconcepten zoals het verschil tussen machinelearning en deeplearning worden behandeld, evenals de werking van convolutionele neurale netwerken voor beeldherkenning.
Daarna wordt edge computing besproken, waarbij betaalbare hardware zoals de Nvidia Jetson Nano centraal staat, ideaal voor AI-projecten zonder dure datacenter-gpu’s. Er wordt dieper ingegaan op het verjagen van de kat van de buren, maar ook andere voorbeelden en technieken komen voorbij. Tevens worden security- en privacy-overwegingen bij AI-gebruik in woonomgevingen besproken, met aandacht voor ethische aspecten rond videodata en privacy.
Op de vraag waarom bezoekers deze talk moeten bijwonen, antwoordt Johan: “Voor developers, engineers en AI-enthousiastelingen biedt deze sessie een unieke kans om te leren hoe je met opensource-tools en betaalbare hardware complexe AI-toepassingen kunt bouwen. Het is een praktische gids die je stap voor stap meeneemt, van het opzetten van de hardware tot het deployen van containers met AI-modellen.” Johan benadrukt dat je niet per se dure gpu’s nodig hebt om met AI aan de slag te gaan. “Je kunt met een oude GeForce-kaart of een enkele Jetson Nano al veel bereiken”, stelt hij. Voor degenen die willen beginnen met AI, maar niet weten waar te starten, is zijn boodschap duidelijk: begin klein, experimenteer, en leer door te doen.
Mis de talk van Johan niet en koop nu je tickets voor de Developers Summit
De kaartverkoop voor hét evenement van het jaar dat developers in het zonnetje zet, is volop in gang. Tickets zijn verkrijgbaar voor 299 euro (plus 1,99 euro servicekosten) of als ‘3 halen, 2 betalen’-deal. Mocht jouw werkgever de tickets betalen, dan krijg je uiteraard een factuur voor de administratie bijgevoegd. Persoonlijke gegevens worden niet gedeeld met partners.
Kijk hier voor het privacybeleid van Tweakers.
Ben je student? Mail ons dan via concepts@tweakers.net, zodat je een ticket kan kopen voor een gereduceerd tarief van 75 euro.