Dit spreekt elkaar dus behoorlijk tegen, de meeste consumenten hebben niet zulke hardware ( en al helemaal niet de kennis en behoefte om zoiets zelf te draaien)?
Als ze de behoefte niet hebben houdt het op natuurlijk, dan moeten ze het zelf maar weten. Kennis kan je altijd verzamelen. Dat is voor iedereen haalbaar, het kost alleen tijd. Mensen zijn erg gemakzuchtig tegenwoordig en kijken vaak niet verder dan er te koop is maar dat is hun probleem. Maar ik zie dit soort tech ook wel iets als consumenten net zoals ik bijvoorbeeld een naaimachine dat zie.
Ik heb zelf iets van 400 euro uitgegeven aan mijn opstelling, ietsjes minder dan ik doe aan een mobiele telefoon, al zat er deels wat oude hardware bij, en dat was deels ook voor educatieve doeleinden. AI is ook mijn werk, op mijn werk werken we alleen met microsoft boel maar als ik investeer in kennis dan heb ik liever de bitjes in eigen handen in plaats van die van een of andere leverancier. Ik wil mijn kennis niet afhankelijk laten zijn van iemand anders' intellectueel eigendom.
Bovendien gaan die kosten rap omlaag. De CPU's met ingebouwde AI accelerators komen nu al van de band rollen en de volgende generatie is weer krachtiger. Terwijl de modellen steeds beter worden met steeds mindere resources. Dus dat komt wel goed. We zitten aan het begin van de optimalisatieslag.
Bovendien, ik zie AI alsof iedereen ineens een auto voor de deur heeft staan ipv van alleen een fiets, waardoor puur uit gemakzucht en luiheid je zelfs met de auto naar school/werk/de winkel om de hoek gaat. Een dubbeltje brandstof per ritje tikt niet genoeg aan om je bewust te zijn/worden van de verspilling die dat is. Net zoals je niet beseft hoe gezond iedere keer ff fietsen eigenlijk is.
De auto heeft ons natuurlijk ook heel veel goeds gebracht maar de onnodige vervuiling en effect op de gezondheid omdat mensen nu eenmaal lui en gemakzuchtig zijn...
Ik zie AI niet als iets dat we overal voor moeten gebruiken. Maar voor iets dat voor hele specifieke doeleinden goede toepassingen heeft en daarvoor de investering waard is.
Maar de huidige hype van AI "Overal en Altijd" in willen bouwen vind ik onzin. Net zoals ik een enorme voorstander ben van VR terwijl ik nooit heb geloofd in de hype dat iedereen met zo'n ding op zou lopen. Het is een prachtige techniek maar het is niet voor iedereen of voor alles. Daarom vind ik ook niet dat het een flop is geworden. Ja, de financiele wereld vindt dat maar die hadden veel te overspannen verwachtingen en hebben zichzelf helemaal gek gemaakt met hun onzin. Zoals altijd.
Ditzelfde doen ze nu weer met AI. Er zijn een aantal dingen waar een LLM echt met uitstek voor geschikt is, namelijk:
- Samenvatten en selecteren: Je eigen nieuwsoverzicht filteren, grote whatsapp/telegram groepen niet handmatig bij hoeven houden (ik heb zelf de situatie dat ik dit in de praktijk toch nooit doe omdat ik er gewoon de tijd niet voor heb).
- Vertalen: Een LLM is veel beter in vertaling omdat hij de context meeneemt
- Programmeren: Een LLM is goed in het helpen met programmeren en kan je een heleboel uitzoekwerk schelen
- Generatieve invulling van details "verhalen verzinnen", dit is iets waar ik wel wat in zie maar het is niet waar ik zelf prive veel mee bezig ben.
- Personal Assistant: Ik denk dat een LLM een goede personal assistant zal zijn mits het genoeg informatie over je opbouwt. Het probleem is dat het dan echt enorm veel van je gewoontes moet weten om effectief te zijn en dat zijn juist dingen die ik absoluut niet in de cloud wil hebben. Dus dat is een van de redenen dat ik lokaal bezig ben. Hier moeten nog wel wat meer integraties voor bijkomen echter. Maar er wordt hard aan gewerkt.
Veel andere doeleinden zijn er puur bijverzonnen om maar geld te kunnen verdienen. En maken gebruik van eigenschappen waar een LLM helemaal niet goed in is zoals consistentie van output.
Maar mijn punt is, als we er in Europa prive mee bezig willen is er niks dat ons tegenhoudt als we dat serieus willen en daar gaat het me om. Natuurlijk moet je er wat voor doen. Wat de industrie betreft dat interesseert me niet zo (al werk ik er zelf ook in) want we zijn toch niet meer dan loopjongens voor de grote namen.
Ik moet zeggen dat hoewel ik een eigen 24/7 lokale chatbot heb met volledige integratie in search engines (google/brave/duckduckgo enz, via een eigen metazoekmachine via
SearXNG) ik hem helemaal niet zo vaak gebruik, alleen als ik er het nut van inzie.
[Reactie gewijzigd door Llopigat op 22 juli 2024 13:22]