Whisper selbst hosten oder API nutzen: die ehrliche Rechnung

OpenAI hat Whisper im September 2022 als Open Source veröffentlicht. Seitdem lautet die Standardantwort in jedem Entwicklerforum auf jede Transkriptionsfrage: "nimm einfach Whisper". Es ist kostenlos, die Gewichte sind öffentlich, und das Modell ist wirklich gut.

Warum gibt es dann noch einen Markt für Transkriptions-APIs? Warum sollte jemand 0,18 € pro Audiostunde zahlen, wenn er eine GPU starten und Whisper für scheinbar nichts laufen lassen kann?

Die ehrliche Antwort: "kostenlos" ist selten kostenlos, und die Entscheidung ist vielschichtiger als die Forenbeiträge nahelegen. Dieser Artikel rechnet beide Wege durch, benennt, wo jeder gewinnt, und gibt einen Entscheidungsrahmen für die eigene Last.

Wir bauen selbst eine Transkriptions-API, sind also nicht unbeteiligt. Wir haben aber auch GPU-Cluster für Transkription betrieben und wissen deshalb, was Selbstbetrieb wirklich kostet. Der folgende Vergleich ist der, den wir am Anfang gesucht und nicht gefunden haben.

Die naive Rechnung und warum sie in die Irre führt

Fast jede "soll ich selbst hosten?"-Diskussion beginnt so:

Whisper large-v3 läuft auf einer A100 mit etwa 0,1-facher Echtzeit. Eine A100 kostet rund 1,50 € pro Stunde. Zehn Stunden Audio kosten also 1,50 €, das sind 0,15 € pro Stunde und damit weniger als jede API.

Die Rechnung ist richtig. Der Schluss ist falsch.

Sie lässt alles aus, was aus einem Modell einen Dienst macht: Warteschlange, Wiederholungen, Fehlerbehandlung, Überwachung, Modell-Ladezeit, GPU-Auslastung, Rufbereitschaft, Skalierung, Formatumwandlung, Spracherkennung, und die Entwicklungsstunden für all das. Rechnet man es mit, ändert sich das Bild deutlich.

Gesamtkosten, realistisch

Kalkulieren wir einen Whisper-Betrieb, der 100 Stunden Audio pro Tag mit verlässlicher Durchlaufzeit schafft.

GPU-Miete

Eine A100 mit 80 GB kostet bei einem seriösen Anbieter 1,50 bis 2,50 € pro Stunde. Für 100 Audiostunden am Tag bei 0,1-facher Echtzeit brauchen Sie 10 GPU-Stunden. Klingt günstig.

Nur liegt die GPU-Auslastung nicht bei 100 Prozent. Audio kommt in Wellen. Modelle müssen laden, bei large-v3 sind das 15 bis 30 Sekunden. Dateien müssen heruntergeladen, dekodiert und resampelt werden. Realistisch sind bei einem unbatched Einzelworker 30 bis 50 Prozent Auslastung. Damit brauchen Sie 20 bis 30 GPU-Stunden am Tag für Ihre 100 Audiostunden, bei 2 € pro Stunde also 40 bis 60 € pro Tag oder 1.200 bis 1.800 € im Monat.

Reservierte Instanzen oder eigene Hardware verschieben die Rechnung, bringen dafür Investitionskosten und Kapitalbindung.

Entwicklungszeit

Der Posten, den Selbstbetreiber zuverlässig unterschätzen. Ein produktionsreifer Transkriptionsdienst braucht:

• eine Warteschlange (Redis mit BullMQ, RabbitMQ, SQS: eine auswählen und lernen)
• einen Worker, der Whisper lädt, den GPU-Speicher überwacht und Out-of-Memory abfängt
• Formatumwandlung, also eine ffmpeg-Kette für die 20 Formate, die Nutzer tatsächlich schicken
• Sprachaktivitätserkennung, damit nicht Stille transkribiert wird
• Spracherkennung, die Whisper mitbringt, bei der Sie aber entscheiden müssen, wann Sie ihr trauen
• Sprechertrennung, die Whisper nicht mitbringt: dafür kommt pyannote dazu
• Wort-Zeitstempel, die Whisper ausgibt, die aber driften, weshalb WhisperX oder Ähnliches dazukommt
• Wiederholungslogik für fehlgeschlagene Jobs
• Beobachtbarkeit: Metriken, Logs, Alarme für hängende Jobs
• eine Status-API, die Clients abfragen können
• Dateiablage mit Löschregeln

Konservativ gerechnet sind das zwei bis drei Monate einer erfahrenen Entwicklerin bis zur Produktionsreife. Mit Vollkosten sind das 30.000 bis 50.000 € nur bis zum Start. Die laufende Pflege liegt danach dauerhaft bei etwa 20 Prozent einer Stelle.

Der Genauigkeitsabstand

Whisper large-v3 ist gut, aber nicht mehr Stand der Technik. AssemblyAI Universal-2, Deepgram Nova-3 und die Modelle etablierter Transkriptionsanbieter liegen in den meisten Messungen darüber, besonders bei:

• Sprechertrennung, die Whisper überhaupt nicht hat
• Fachvokabular aus Medizin, Recht und Finanzwesen
• verrauschtem Audio aus Callcentern und Feldinterviews
• starken Akzenten und Dialekten
• Zahlen und Eigennamen

Diesen Abstand selbst zu schließen heißt: Feinabstimmung, eigene Vokabular-Einspeisung, ein separates Diarisierungsmodell einbinden. Das ist ein weiteres Projekt über Monate.

Wann die Rechnung für den Selbstbetrieb aufgeht

Wir stehen jetzt bei 1.500 € GPU-Kosten im Monat, 50.000 € einmalig für Entwicklung und laufender Pflege, um schlechter zu transkribieren als eine API zu 0,18 € pro Stunde.

Die Rechnung kippt nur in bestimmten Fällen:

• Sehr hohes Volumen. Oberhalb von etwa 10.000 Audiostunden im Monat dominiert die reine Rechenzeit, und APIs werden teuer.
• On-Premise-Pflicht. Regulatorische oder vertragliche Vorgaben, nach denen die Daten die eigene Hardware physisch nicht verlassen dürfen. Verbreitet bei Verteidigung, Nachrichtendiensten und Teilen der Verwaltung.
• Netzgetrennte Umgebungen. Ohne Internetverbindung gibt es keine Alternative.
• Latenzkritische Echtzeit. Unter 200 Millisekunden Streaming-Latenz bei geringem Volumen, wo der Netzweg der Engpass ist.
• Forschung. Sie müssen das Modell verändern, nicht nur benutzen.

Für alles andere ist eine API günstiger und besser. Das klingt nach Verkaufsargument, ist aber trotzdem so.

Latenz, genauer betrachtet

Der Selbstbetrieb gewinnt bei der Latenz, aber nur unter engen Bedingungen.

Bei Stapelverarbeitung, also Datei rein und Transkript raus, wird die Latenz vom Upload bestimmt. Eine Stunde MP3 sind etwa 50 MB, über eine übliche Büroleitung 5 bis 15 Sekunden. Gegen die 5 bis 10 Minuten eigentliche Transkriptionsarbeit ist der Netzweg Rauschen. Selbstbetrieb spart hier nichts.

Bei Streaming, also Live-Audio mit Zwischenergebnissen, sieht es anders aus. Der Weg zum API-Server kostet 50 bis 150 Millisekunden pro Fragment. Wer Zwischenergebnisse unter 100 Millisekunden braucht, etwa für Live-Untertitel in einer Sendung, gewinnt mit einem lokalen Modell.

Nur ist Streaming mit Whisper kein gelöstes Problem. Whisper ist ein Stapelmodell; für Streaming-Verhalten braucht es erheblichen Aufwand mit WhisperLive, faster-whisper oder eigenem Chunking. Moderne Transkriptions-APIs bieten WebSocket-Streaming mit Zwischenergebnissen unter 300 Millisekunden, und das genügt für praktisch jeden interaktiven Fall.

Genauigkeit: das offene Geheimnis

Whisper ist auf Webmaterial schwankender Qualität trainiert. Es ist bei vorgelesenem Englisch hervorragend, bei den großen europäischen Sprachen sehr gut, und wird schwächer, je weniger eine Sprache oder ein Akzent vertreten war.

Wo es zuverlässig schwächelt:

• DACH-Dialekte. Bei Schweizerdeutsch, österreichischem Deutsch und Bayrisch halluziniert Whisper oder fällt auf Hochdeutsch zurück.
• Zahlen und Datumsangaben. "vierundzwanzigster Februar zweitausendsechsundzwanzig" kommt in etwa 70 Prozent der Fälle korrekt heraus.
• Firmen- und Produktnamen. "AssemblyAI" wird je nach Akzent zu "Assembly AI" oder "a simply AI".
• Überlappende Rede. Whisper verliert Wörter, wenn zwei gleichzeitig sprechen. Ohne Sprechertrennung gibt es keine Korrektur.
• Längere Stille. Whisper erfindet dort gelegentlich Inhalt.

Lösbar ist das alles, aber nicht mit dem Basismodell. Es braucht Nachbearbeitung, eigene Vokabulare und entweder Feinabstimmung oder eine Hybridkette mit Diarisierungsmodell. Wenn Sie das gebaut haben, haben Sie nachgebaut, was ein spezialisierter Anbieter als einen API-Aufruf anbietet. Wie man diesen Punkt praktisch angeht, steht in unserem Artikel zu Dialekten.

Wann Selbstbetrieb wirklich gewinnt

Es wäre unredlich, hier einseitig zu bleiben. Es gibt echte Fälle:

1. Regulatorische Netztrennung. Verträge oder Vorschriften verbieten externe Transkription ausdrücklich. Selten, aber dann absolut.
2. Sehr hohes Volumen bei planbarer Last. Ab etwa 50.000 Audiostunden im Monat mit gleichmäßigem Durchsatz ist eigene GPU-Infrastruktur günstiger als API-Preise, auch nach Entwicklungskosten.
3. Forschung. Sie verändern das Modell, trainieren eigene Varianten oder bauen etwas Whisper-Nahes. Dann ist Selbstbetrieb Teil der Arbeit.
4. Latenzanforderungen, die keine API erfüllt. Unter 50 Millisekunden für industrielle oder Broadcast-Anwendungen.
5. Bestehendes ML-Team mit Kapazität. Sie betreiben GPU-Infrastruktur schon für andere Aufgaben, Transkription kommt als Grenzkosten dazu.

Wenn keiner dieser Punkte zutrifft, ist die API mit hoher Wahrscheinlichkeit richtig.

Was eine API mitbringt, das im Eigenbau teuer ist

Eine gute Transkriptions-API ist nicht "Whisper als Dienst". Sie bündelt Arbeit:

• Formatvielfalt: MP3, WAV, FLAC, OGG, M4A, AAC, MP4, MKV, WebM und MOV funktionieren, ohne dass Sie ffmpeg betreiben.
• Automatische Skalierung: 100 Dateien auf einmal stehen nicht eine Stunde in der Warteschlange.
• Sprechertrennung ohne Zusatzaufwand.
• Wort-Zeitstempel, die tatsächlich zum Audio passen.
• Vokabular-Einspeisung ohne Nachtrainieren.
• Exportformate (TXT, SRT, VTT, JSON, DOCX), ohne die Konverter selbst zu schreiben.
• Ein Servicelevel und jemand in Bereitschaft, wenn es um drei Uhr nachts klemmt.

Bei DeepScript kommt hinzu, was der Selbstbetrieb von Whisper auf AWS gerade nicht löst: Verarbeitung ausschließlich in der EU, ISO-27001-zertifizierte Infrastruktur und ein AVV nach Art. 28 DSGVO. Wer Whisper auf einem US-Hyperscaler betreibt, hat das Datenschutzproblem nicht gelöst, sondern nur verschoben. Was dabei zu prüfen ist, steht im Trust Center.

Der Entscheidungsrahmen

Drei Fragen:

1. Gibt es eine regulatorische Vorgabe, nach der Audio die eigene Infrastruktur nicht verlassen darf? Wenn ja: selbst hosten, die Entscheidung ist gefallen.
2. Verarbeiten Sie mehr als etwa 10.000 Stunden im Monat, bei planbarer Last und mit bestehendem ML-Team? Wenn ja: durchrechnen, Selbstbetrieb kann günstiger sein.
3. Alles andere? API nutzen und die Entwicklungszeit ins eigene Produkt stecken, statt nachzubauen, was längst Massenware ist.

Whisper ist eine bemerkenswerte Veröffentlichung. Sie hat die ganze Branche besser gemacht, unsere eingeschlossen, wir messen ständig dagegen. Aber das Modell ist nur eine Komponente eines Transkriptionsdienstes. Alles daneben ist die eigentliche Ingenieursarbeit, und die bezahlen Sie, wenn Sie eine API nutzen.

Wie DeepScript konkret dasteht, bei Preis, Genauigkeit auf DACH-Dialekten, Latenz und Datenhaltung, steht mit Zahlen auf der Vergleichsseite. Der Einstieg in die API dauert etwa zehn Minuten: Tutorial.