Open source AI: je data in eigen huis

Bij de bekende AI-tools stuur je je vraag naar de servers van OpenAI, Anthropic of Microsoft. Voor veel werk is dat geen probleem. Voor gevoelige gegevens wringt het: je weet niet altijd waar de data staat, en je geeft een stuk controle uit handen. Open source AI biedt daar een alternatief voor, en het is in dit gesprek vaak het ondergeschoven kindje.

Hieronder lees je wat open source AI is, wanneer het de betere keuze is, en wat de afweging is.

Wat is open source AI?

Open source AI gaat over modellen waarvan de makers het model zelf beschikbaar stellen, zodat je het kunt draaien waar je wilt: op je eigen servers, of bij een leverancier die je zelf kiest. Bekende voorbeelden zijn de modellen van het Europese Mistral en de Llama-modellen van Meta.

Het verschil met ChatGPT, Claude en Copilot zit in waar het model draait. Die laatste zijn gesloten: je gebruikt ze via de servers van de leverancier, en je hebt geen invloed op waar dat gebeurt. Een open model draai je in een omgeving die je zelf bepaalt. Daarmee verschuift de controle over je data van de leverancier naar jou.

Waarom maakt het uit waar je data heen gaat?

Voor een conceptmail maakt het niet uit waar je data heen gaat. Voor een dossier met persoonsgegevens, een medisch verslag of een vertrouwelijk contract wel.

Bij een Amerikaanse leverancier kun je niet altijd garanderen dat gegevens binnen Europa blijven, ook niet als de leverancier zegt aan de AVG te voldoen. Voor sommige organisaties is dat een ongemak, voor andere een harde grens, bijvoorbeeld in de zorg, bij de overheid of in de financiële sector.

Met een open model dat je in eigen huis of binnen Europa draait, gaat je data niet naar een server buiten je controle. Je bepaalt zelf waar het staat, wie erbij kan, en hoe lang het bewaard blijft. Voor wie met gevoelige gegevens werkt, is dat het belangrijkste argument.

Wanneer is open source de betere keuze?

Open source is niet voor iedereen de juiste keuze, maar in een paar situaties is het dat duidelijk wel:

• Je werkt met gevoelige gegevens. Persoonsgegevens, medische of juridische informatie, of data die om andere redenen je pand niet uit mag.

• Je hebt te maken met strenge eisen. Regels of afspraken die voorschrijven waar je data mag staan.

• Je gebruikt AI op grote schaal. Bij intensief gebruik kunnen de kosten van gesloten modellen oplopen. Een eigen model kan dan op termijn voordeliger zijn.

• Je wilt onafhankelijk zijn. Geen afhankelijkheid van één leverancier die zijn prijzen of voorwaarden kan veranderen.

Herken je je hier niet in, en wil je vooral snel beginnen zonder gevoelige gegevens, dan is een gesloten tool meestal de makkelijkere weg.

Wat kost open source AI?

Open source is niet gratis in de zin van moeiteloos. Er staat iets tegenover de controle die je ervoor terugkrijgt.

Je hebt een omgeving nodig waar het model draait, en iemand die dat opzet en onderhoudt. Dat vraagt kennis en aandacht die je bij een gesloten tool niet nodig hebt; daar log je in en het werkt. De kosten verschuiven van een abonnement per gebruiker naar infrastructuur en beheer.

Daarnaast lopen de allerbeste gesloten modellen op de moeilijkste taken soms nog een stap voor. Voor veel werk merk je dat verschil niet, maar het is eerlijk om het te noemen. De keuze is dus een afweging: hoeveel is controle over je data je waard, afgezet tegen het gemak en de soms iets hogere kwaliteit van een gesloten tool.

Open of gesloten: hoe kies je?

Je hoeft niet voor één van de twee te kiezen. De praktische aanpak is vaak een combinatie: gesloten modellen voor gewoon werk waar de data niet gevoelig is, en een open model voor de delen waar je gegevens in eigen huis moeten blijven.

Welke verdeling bij jou past, hangt af van je gegevens, je eisen en je schaal. Dat is dezelfde afweging als bij de keuze tussen ChatGPT, Claude en Copilot, die we beschrijven in ChatGPT, Claude of Copilot: welke past bij welk werk. Open source is daar de vierde optie bij, en voor organisaties met gevoelige gegevens vaak de serieuze.

Hoe wij hierin kunnen helpen

De juiste keuze hangt af van jouw gegevens en je situatie, niet van welk model het populairst is. Wij brengen dat in kaart: welke taken kun je veilig bij een gesloten tool laten, en welke horen thuis op een open model in eigen beheer. We vergelijken de opties op kwaliteit, kosten en waar de data terechtkomt, en helpen het in te richten binnen je eigen omgeving.

Wil je weten of open source iets voor jouw organisatie is, en waar dan de grens ligt tussen wat naar buiten mag en wat binnen blijft, dan kijken we daar in AI in Bedrijf samen naar.

Veelgestelde vragen

Bronnen

• Mistral AI (https://mistral.ai/)

• Meta, Llama (https://www.llama.com/)

• Autoriteit Persoonsgegevens, AVG-randvoorwaarden voor generatieve AI (https://autoriteitpersoonsgegevens.nl/en/documents/gdpr-preconditions-for-generative-ai)