Inderdaad, Lumo runt niet
grote modellen, maar kleine en medium modellen die ze
zelf hosten.
The models we’re using currently are Nemo, OpenHands 32B, OLMO 2 32B, and Mistral Small 3. These run exclusively on servers Proton controls so your data is never stored on a third-party platform.
Als tussenstap kun je kunt ook LLM abo's afnemen bij privacygezinde partijen zoals DuckDuckGo en bij Kagi. Deze twee partijen bieden tegen betaling toegang tot de zwaardere modellen. Ze hosten deze modellen echter niet zelf, maar fungeren als tussenpartij met de grote LLM-aanbieders of een Azure via de API. Een aanbieder zoals OpenAI kan dus niet achterhalen dat de queries van jou komen (tenzij je je naam onder elk bericht zet).
Duck.ai: All metadata that contains personal information (for example, your IP address) is completely removed before prompting the model provider. This means chats to Anthropic, OpenAI, and together.ai (which hosts Meta Llama and Mixtral on their servers) appear as though they are coming from DuckDuckGo rather than individual users. This also means if you submit personal information in your chats, no one, including DuckDuckGo and the model providers, can tell whether it was you personally submitting the prompts or someone else.
Kagi LLM: When using third party AI model providers, we are using privacy-respecting services that do not save the data or use it for training, whenever possible. Please refer to Kagi LLM Privacy for details.
Voorbeeld: When our Azure OpenAI Service API quota is saturated, the request is sent to the fallback provider: OpenAI's own API. OpenAI is currently required by court order to retain all chat logs. We are working with Microsoft to raise the Azure quota and minimize these fallbacks.
Het primaire voordeel t.o.v. Proton is betere modellen. Pluspunt voor de voor zover mogelijk privacybewuste insteek (bv. verwijderen metadata, provider vragen gespreksdata binnen een maand te verwijderen, Enterprise afname bij Azure met zero-retention).
Het nadeel is dat ze Amerikaans zijn, ongetwijfeld buiten de EU hosten, wat ze niet zelf hosten gewoon bij de aanbieder staat en je daarop moet vertrouwen, dat er niet zero-access gehost wordt en niet op eigen hardware.
Dit soort bekende privacygezinde partijen zijn een tussenstap voor als de medium en kleine modellen niet toereikend zijn, maar je ook niet direct bij een OpenAI wilt afnemen. Het ligt er een beetje aan waar je het voor nodig hebt en de afweging qua privacy en ethiek. Bovendien kun je voor veel 'gewone' vragen met de gratis mini's ook aardig vooruit.
[Reactie gewijzigd door Blizz op 18 oktober 2025 01:03]