Moet ik Whisper zelf hosten of een API gebruiken?

Whisper is open source – je kunt het gratis op je eigen hardware draaien. Klinkt verleidelijk, maar er zit nuance in. Een eerlijke berekening.

Wat je nodig hebt om Whisper te hosten - GPU: minstens 10 GB VRAM voor Whisper-Large. Een RTX 4090 (~$ 2.000) of een A100 in de cloud (~$ 2/uur spot). - Docker, NVIDIA Container Toolkit, eventueel Kubernetes. - Job queue (Redis + BullMQ, Sidekiq, Celery). - Bestandsopslag voor audio (S3-compatibel, of lokaal met back-up). - Monitoring (Prometheus, Grafana, Sentry). - Schaallogica voor verkeerspieken. - Mogelijke add-ons: WhisperX voor diarisatie, je eigen API-wrapper rond Whisper.

Wat Whisper niet uit zichzelf doet - Sprekerdiarisatie (vereist WhisperX of pyannote.audio). - Real-time streaming (vereist Faster-Whisper + eigen code). - Tijdstempels per woord onnauwkeurig in sommige varianten. - Webhooks, rate limits, multi-tenant – die bouw je zelf. - AVG-naleving – jij bent de verwerkingsverantwoordelijke, geen leverancier deelt de aansprakelijkheid.

Kosten bij 500 uur/maand - DeepScript Standard: 500 uur × € 0,18 = € 90/maand. - Zelf-gehost op Hetzner GPU-server (GEX44 met RTX 6000 ADA, ~€ 700/maand): € 700 + stroomtoeslag plus DevOps-tijd. - Zelf-gehost op AWS (g5.xlarge, ~$ 1,00/uur spot, 24/7): ~$ 720/maand plus opslag en network egress.

Wanneer zelf hosten zinvol is - Je transcribeert > 2.000 uur/maand en de belasting blijft maanden stabiel. - Je hebt al GPU-infrastructuur in huis (ML-onderzoek, restant gameserverpark). - Je hebt extreme gegevenssoevereiniteit nodig (bijv. air-gapped omgevingen voor de overheid). - Je fine-tunet Whisper op je domein – API's staan dat zelden toe.

Wanneer een API wint - < 500 uur/maand: API is goedkoper, eenvoudiger, sneller te leveren. - Je hebt diarisatie, Custom Vocabulary, webhooks nodig zonder ze te bouwen. - Je hebt een SLA en 24/7-support nodig. - Je hebt schriftelijke AVG-naleving nodig (DPA, sub-verwerkerslijst). - Je wilt je op je product richten, niet op GPU-drivers.

Hybride variant Sommige teams gebruiken DeepScript voor AVG-relevante klantgegevens en zelf-gehoste Whisper voor interne, niet-kritische workloads. Nette kostenoptimalisatie – als de DevOps-capaciteit er is.

Vuistregel Heb je nog geen team met GPU-ervaring: API. Heb je dat wel en past het volume: zelf hosten. Maar reken eerlijk – de meeste mensen onderschatten de lopende operationele kosten en overschatten de besparing.