On-Device vs. Cloud-Transkription: Der echte Kompromiss

Der Kompromiss in einer Tabelle

On-Device- und Cloud-Transkription haben sich in den letzten zwei Jahren auf mehreren Ebenen die Plätze getauscht. So steht es heute tatsächlich um sie:

Die kurze Antwort für die meisten: Cloud bleibt der Standard, wenn es um Bequemlichkeit und Genauigkeit geht, aber On-Device ist inzwischen eine echte Option statt nur ein Notbehelf für alle mit echten Datenschutzanforderungen oder Offline-Bedarf.

Was On-Device 2026 tatsächlich bedeutet

Nicht alle „On-Device“-Tools funktionieren gleich. Das Label deckt ein ganzes Spektrum ab.

Whisper.cpp und MacWhisper führen OpenAIs Whisper-Modelle über einen C++-Port vollständig auf Ihrer lokalen Hardware aus. Audio wird nirgendwohin übertragen. MacWhisper ist der einfachste Einstieg für Mac-Nutzer: Die kostenlose Version ist für gelegentliche Nutzung voll funktionsfähig, und die Pro-Version (59 € lebenslang über Gumroad bzw. 99,99 $ lebenslang über den App Store, Stand Mitte 2026) ergänzt Large-v3, Turbo, Batch-Verarbeitung und Diarisierung.

Apples On-Device-Speech-Framework ist komplizierter. Auf Apple-Silicon-Geräten werden die meisten Diktatanfragen lokal verarbeitet, ohne das Gerät zu verlassen. Aber manche Sprach-/Regionskombinationen, bestimmte Suchfeld-Eingaben und die Einstellung „Siri & Diktat verbessern“ können Audio an Apples Server weiterleiten. Apple dokumentiert nicht genau, welche Anfragen wohin gehen, was daraus eine unzuverlässige Garantie für strenge Datenschutzanforderungen macht. Wenn Ihr Anwendungsfall Sicherheit erfordert, ist ein lokales Whisper-Modell die sauberere Wahl.

Google Gemini Nano übernimmt auf Pixel 9 und neueren Geräten die On-Device-Zusammenfassung und -Transkription für die Recorder-App. Google hat in Qualitätsverbesserungen investiert, darunter LoRA-Fine-Tuning und Unterstützung für Aufnahmen über 30 Minuten. Der Umfang ist aber eng: Es treibt Googles eigene Apps an, keine Allzweck-API, auf der man eigene Produkte aufbauen könnte.

NVIDIA Riva ist die Enterprise-On-Premise-Option und läuft auf lokaler GPU-Infrastruktur. Es ist keine Consumer-Software. Preise gibt es nur auf Anfrage; geeignet ist es für Organisationen, die volle Datensouveränität benötigen und über die passende Hardware verfügen.

Für den praktischen Einsatz als Einzelperson oder kleines Team heißt die On-Device-Geschichte 2026 im Wesentlichen: Whisper.cpp oder MacWhisper auf einem modernen Mac.

Wie Cloud-Transkription 2026 aussieht

Auch die Cloud-Seite hat sich weiterentwickelt. Die Preise sind gesunken und die Modellqualität gestiegen.

Deepgram Nova-3 ist der Geschwindigkeitsmaßstab für Batch- und Streaming-API-Arbeit. Aktuelle Pay-as-you-go-Preise (geprüft Juli 2026): 0,0077 $/Min. für vorab aufgezeichnetes Audio, 0,0048 $/Min. für Streaming. Das mehrsprachige Modell liegt etwas höher. Ein „Growth“-Tarif mit Volumenrabatt setzt eine jährliche Verpflichtung voraus.

OpenAI-Transkription gibt es inzwischen in zwei Modellen: gpt-4o-transcribe für 0,006 $/Min. und gpt-4o-mini-transcribe für 0,003 $/Min. (beide von OpenAIs Preisseite geprüft, Juli 2026). Der ältere whisper-1-Endpunkt wird nicht mehr separat aufgeführt.

AWS Transcribe, Google Cloud Speech-to-Text und Azure Cognitive Services setzen auf minutengenaue, verbrauchsabhängige Abrechnung mit Volumenstaffeln. Aktuelle Tarife finden Sie in der AWS-Transcribe-Preisaufschlüsselung und bei den Google-Cloud-STT-Preisen.

Für einen breiteren Vergleich der API-Preise aller Anbieter deckt der Leitfaden zu Speech-to-Text-API-Preisen das gesamte Spektrum ab.

Datenschutz: Das Argument für On-Device ist stärker denn je

Beim Datenschutz hat On-Device den klarsten, unmissverständlichsten Vorteil. Es gibt kein vertragliches Versprechen, keine Aufbewahrungsrichtlinie und kein Verschlüsselungsversprechen eines Cloud-Anbieters, das gleichwertig wäre mit „Wir haben Ihr Audio nie erhalten“.

Einige konkrete Szenarien, in denen dieser Unterschied zählt:

Juristische Arbeit. Mehrere Anwaltskammern und Ethikberater von Kanzleien haben darauf hingewiesen, dass die Weiterleitung vertraulicher Anwalt-Mandanten-Gespräche über einen Cloud-Dienst eines Drittanbieters eine Offenlegung gegenüber Außenstehenden darstellen kann – mit dem Risiko einer versehentlichen Aufgabe des Berufsgeheimnisses. On-Device-Transkription beseitigt diese Exposition konstruktionsbedingt. Dies ist keine Rechtsberatung; stimmen Sie sich mit der zuständigen Ethikinstanz Ihrer Jurisdiktion ab, bevor Sie irgendein Transkriptionstool für vertrauliche Mandate einsetzen.

Medizinische Diktate. HIPAAs „Minimum Necessary“-Standard treibt in Richtung Datenminimierung. Selbst wenn ein Business Associate Agreement besteht, beseitigt On-Device-Transkription die Angriffsfläche für Datenlecks vollständig. Eine BAA mit einem Cloud-Anbieter ist nicht dasselbe wie PHI diesem Anbieter erst gar nicht offenzulegen.

Strategiesitzungen im Unternehmen. Wettbewerbssensible Informationen brauchen keinen Regulierungsrahmen, um real zu sein. Wenn Sie M&A-Pläne oder unveröffentlichte Produktdetails diktieren, rechtfertigt der marginale Genauigkeitsvorteil von Cloud die Exposition nicht offensichtlich.

Private Aufnahmen. Manche Nutzer wollen einfach nicht darüber nachdenken müssen. On-Device-Transkription beendet die Frage.

Für einen tieferen Blick darauf, was KI-Transkriptionsanbieter tatsächlich mit Ihrem Audio machen, behandelt der Beitrag Ist KI-Transkription privat? Datenaufbewahrung, Klauseln zum Modelltraining und worauf Sie in der Datenschutzerklärung eines Anbieters achten sollten.

Für nicht sensiblen Inhalt ist Cloud völlig in Ordnung. Wenn Sie nur ein Podcast-Interview oder Besprechungsnotizen transkribieren möchten und Vertraulichkeit kein Kriterium ist, ist Cloud-Transkription bei einem Anbieter mit kurzen Aufbewahrungsfristen – idealerweise mit dokumentierter Löschrichtlinie – eine vernünftige Wahl.

Wenn Sie Cloud-Transkription ohne API-Integration nutzen möchten, führt das Audio-zu-Text-Tool von ConvertAudioToText Ihre Datei durch eine Cloud-Pipeline, löscht die Quelldatei nach der Verarbeitung und liefert ein sauberes strukturiertes Transkript zurück. Ein pragmatischer Mittelweg für den einmaligen Gebrauch.

Genauigkeit: Cloud führt, doch die Lücke ist kleiner geworden

Bei sauberem englischen Audio von einem einzelnen Sprecher ist die On-Device-Genauigkeit mit Whisper Large-v3 so nah an Cloud, dass die meisten Menschen im praktischen Ergebnis keinen Unterschied erkennen. Bei Standard-Benchmarks liegt Whisper Large-v3-Turbo (die schnellere, gestutzte Variante) nur etwa 0,4 Prozentpunkte WER vom vollständigen Large-v3-Modell entfernt.

Die verbleibenden Lücken sind real, aber spezifisch:

Aufnahmen mit mehreren Sprechern bleiben das schwierigste Problem. Die Cloud-Diarisierung von Deepgram oder AssemblyAI ist deutlich zuverlässiger als das, was lokale Whisper-Modelle heute liefern, besonders bei sich überschneidender Sprache. Was Sie von jedem Ansatz erwarten können, erklärt der Beitrag Speaker-Diarisierung erklärt.

Verrauschtes Audio (Konferenzschaltungen mit Hintergrundgeräuschen, Telefonaufnahmen) begünstigt weiterhin Cloud-Modelle, die im großen Maßstab auf qualitätsminderndem Audio feingetunt wurden.

Ressourcenarme Sprachen zeigen die größte Streuung. Whisper deckt 100 Sprachen ab, aber die Qualität fällt unterhalb seiner am besten unterstützten Sprachen deutlich ab. Cloud-Anbieter mit gezielten Trainingsinvestitionen für bestimmte Sprachen können Whisper dort übertreffen.

Am weitesten hat On-Device die Lücke hier geschlossen: bei sauberem englischen Studio- oder Meeting-Audio mit ein bis zwei Sprechern. Wenn das Ihren Anwendungsfall trifft, ist das Genauigkeitsargument für Cloud wirklich dünn.

Latenz: Hardware gegen Netzwerk

Latenz ist die am stärksten kontextabhängige Größe.

Auf einem M2-MacBook mit whisper.cpp und Metal-GPU-Beschleunigung verarbeitet Whisper Large-v3 mit etwa 0,45-facher Echtzeitgeschwindigkeit. Das heißt: Eine 60-minütige Aufnahme dauert rund 27 Minuten. Large-v3-Turbo, das einen gestutzten Decoder mit nahezu identischer Ausgabequalität nutzt, ist etwa 2,3-mal schneller – die 60-Minuten-Datei ist also nach ungefähr 12 Minuten fertig.

Cloud-Batch-Verarbeitung (Deepgram Nova-3) läuft bei vorab aufgezeichnetem Audio etwa 25-mal schneller als Echtzeit. Ihre 60-Minuten-Datei kommt 2–3 Minuten nach dem Upload zurück. Dieser Geschwindigkeitsvorteil ist real, und bei längeren Dateien über langsamere Verbindungen ist die Uploadzeit der begrenzende Faktor.

Beim Streaming von Live-Audio kehrt sich der Vergleich um. On-Device kann in Echtzeit laufen, ohne jegliche Netzabhängigkeit. Cloud-Streaming fügt 1–3 Sekunden Latenz hinzu und benötigt eine stabile Verbindung. Wenn Sie ein Live-Untertitelungs-Tool bauen, eine App für Regionen mit unzuverlässiger Verbindung oder einen datenschutzkritischen Echtzeit-Anwendungsfall entwickeln, gewinnt On-Device bei der Latenz.

Kosten: Der Break-even hängt von Ihrer Situation ab

Die Cloud-Preise pro Minute sind niedrig. Deepgram Nova-3 mit 0,0077 $/Min. ergibt etwa 0,46 $ pro Stunde Audio. OpenAIs gpt-4o-transcribe liegt bei 0,36 $/Stunde. Für einen detaillierten Vergleich der gesamten API-Preislandschaft stellt der Transkriptions-Preisvergleich die aktuellen Tarife gegenüber.

On-Device kostet nichts pro Minute, hat aber reale Fixkosten: die Hardware dafür (jeder moderne Mac mit M-Serie reicht für niedriges bis mittleres Volumen), die Zeit für Einrichtung und Pflege einer lokalen Pipeline sowie der operative Overhead, Modelle aktuell zu halten.

Für Einzelpersonen und kleine Teams:

• Gelegentliche Nutzung (ein paar Aufnahmen pro Monat): Cloud gewinnt klar. Der Fixaufwand von On-Device lohnt sich nicht.
• Regelmäßige Nutzung (Hunderte Minuten pro Monat): vergleichbar. Die Wirtschaftlichkeit hängt eher von Ihren Datenschutz- und Latenzanforderungen ab als von den reinen Kosten.
• Hohes Volumen mit bestehender Infrastruktur: On-Device kann die Stückkosten von Cloud deutlich unterbieten, erfordert aber Engineering-Investitionen, um das durchzuhalten.

Für nicht-technische Nutzer umgeht ein verwalteter Cloud-Dienst mit pauschaler Monatsgebühr die ganze Rechnung, indem die Kosten pro Minute auf Anbieterseite bleiben. Der Beitrag Unbegrenzte vs. gemessene Transkriptionspreise erklärt, wann sich das finanziell lohnt.

Wann Sie was wählen sollten

Meine Einschätzung: Die Frage „Was ist besser“ geht am Kern vorbei. Die beiden Ansätze bedienen unterschiedliche Zwänge.

Wählen Sie On-Device, wenn:

• Das Audio Material enthält, das kein Dritter verarbeiten darf. Juristische Arbeit, medizinische Diktate, wettbewerbsrelevante Strategie.
• Sie ein Produkt bauen, bei dem „Ihr Audio verlässt nie Ihr Gerät“ ein vermarktbares Feature ist.
• Sie Offline-Betrieb ohne Internetabhängigkeit brauchen.
• Ihr Volumen hoch genug und Ihre Infrastruktur vorhanden ist, sodass die Cloud-Kosten pro Minute zu etwas Substanziellem anwachsen.

Wählen Sie Cloud, wenn:

• Sie die bestmögliche Genauigkeit bei verrauschtem Audio, mehreren Sprechern oder ressourcenarmen Sprachen brauchen.
• Sie zuverlässige Sprecher-Diarisierung oder KI-Zusammenfassungen brauchen.
• Sie ein verwaltetes Erlebnis wollen, ohne Modell-Deployment und dessen operativen Overhead selbst zu tragen.
• Ihr Volumen niedrig bis mittel ist und der Engineering-Aufwand der On-Device-Einrichtung sich nicht rechtfertigt.

Erwägen Sie einen Hybridansatz, wenn: Manche Teams gehen zunehmend zu einem Hybriden über: On-Device für einen ersten Durchlauf bei sensiblen Inhalten, um den Inhalt mit vollem Datenschutz festzuhalten, dann ein selektiver Cloud-Durchlauf (nach dem Schwärzen von Namen und identifizierenden Details) für Diarisierung und Zusammenfassung. Aufwendiger im Betrieb, aber ein realistischer Weg für Teams mit Anforderungen an Genauigkeit und Datenschutz zugleich.

Für die meisten Journalisten, Studierenden, Content-Creator und kleinen Unternehmen bleibt Cloud-Transkription 2026 der praktische Standard. On-Device ist kein Kompromiss mehr, erfordert aber weiterhin mehr Einrichtung. Die bedeutende Verschiebung: Die Frage stellt sich jetzt wirklich für jeden Anwendungsfall mit Datenschutzsensibilität.

Häufige Fragen

Ist On-Device-Transkription genauso genau wie Cloud-Transkription?

Bei sauberem englischen Audio ist der Unterschied vernachlässigbar. Whisper Large-v3 und Large-v3-Turbo liegen bei Standard-Benchmarks nur etwa 0,4 Prozentpunkte WER auseinander, und beide sind bei Aufnahmen in Studioqualität mit Cloud-APIs konkurrenzfähig. Bei verrauschtem Audio, Sprecher-Diarisierung und ressourcenarmen Sprachen, in die Anbieter zusätzliche Trainingsdaten investiert haben, führt Cloud weiterhin.

Hält On-Device-Transkription mein Audio wirklich privat?

Das hängt vom Tool ab. Echte On-Device-Verarbeitung, etwa whisper.cpp oder MacWhisper mit lokalen Whisper-Modellen, sendet Audio niemals an einen Remote-Server. Bei Apples Diktierfunktion ist es differenzierter: Auf Apple-Silicon-Geräten werden viele Anfragen lokal verarbeitet, aber bestimmte Sprach-/Regionskombinationen und einige Suchfeld-Eingaben erreichen dennoch Apple-Server. Prüfen Sie immer die konkrete Architektur des jeweiligen Tools, wenn Datenschutz das entscheidende Kriterium ist.

Wie schnell ist On-Device-Transkription im Vergleich zu Cloud?

Auf einem M2-MacBook mit whisper.cpp und Metal-GPU verarbeitet Large-v3 Audio mit etwa 0,45-facher Echtzeitgeschwindigkeit, eine 60-minütige Datei braucht also rund 27 Minuten. Das schnellere Modell Large-v3-Turbo ist etwa 2,3-mal schneller bei nahezu identischer Genauigkeit. Deepgram Nova-3 im Batch-Modus ist nach abgeschlossenem Upload etwa 25-mal schneller als Echtzeit. Beim Streaming von Live-Audio sieht der Vergleich anders aus: On-Device läuft in Echtzeit ohne jegliche Netzabhängigkeit – das kann Cloud bei schlechter Verbindung nicht mithalten.

Ab welchem Volumen wird On-Device-Transkription günstiger als Cloud?

On-Device kostet nichts pro Minute, hat aber reale Fixkosten: Hardware, Integrationsaufwand und operativer Overhead. Bei geringen Volumina gewinnt Cloud wirtschaftlich, weil die Fixkosten von On-Device dominieren. Wo die Schwelle liegt, hängt von Ihrer Hardware- und Engineering-Situation ab, aber als grobe Faustregel gilt: Unter einigen tausend Minuten pro Monat ist Cloud für Einzelnutzer oder kleine Teams ohne bestehende Infrastruktur klar günstiger.

Sollen Anwälte Cloud-Transkription für Mandantengespräche nutzen?

Das ist eine Frage für die Rechtsanwaltskammer Ihrer Jurisdiktion, nicht für diesen Blog. Der in juristischen Kommentaren geäußerte Einwand lautet allgemein: Wer vertrauliche Kommunikation über einen Cloud-Dienst eines Drittanbieters leitet, kann damit eine Offenlegung gegenüber Außenstehenden darstellen – mit dem Risiko einer versehentlichen Aufgabe des anwaltlichen Berufsgeheimnisses. On-Device-Transkription beseitigt diese Drittanbieter-Exposition konstruktionsbedingt. Konsultieren Sie den Ethikberater Ihrer Kanzlei, bevor Sie ein Transkriptionstool für vertrauliche Mandate einsetzen.

Quellen

• Deepgram-Preise, Nova-3-Tarife, geprüft Juli 2026
• OpenAI-API-Preise, Tarife für gpt-4o-transcribe und gpt-4o-mini-transcribe, geprüft Juli 2026
• MacWhisper-Preise 2026 (Voibe Resources), kostenlose Version und Pro-Lebenslang-Preise
• Whisper Large V3 Turbo vs. V3 Benchmark (Whisper Notes), WER- und Geschwindigkeitsvergleich
• Whisper-Leistung auf Apple Silicon (Voicci), RTF-Benchmarks auf M2
• Datenschutz der Apple-Diktierfunktion (Yaps Blog), Grenzfälle zwischen On-Device- und serverseitiger Verarbeitung
• Deepgram-Datensicherheit, Aufbewahrungs- und Löschrichtlinien
• KI-Transkriptionstools: Datenschutz, Berufsgeheimnis und ethische Fallstricke (Duane Morris), Analyse des anwaltlichen Berufsgeheimnisses
• KI-Transkriptionstools unter Beobachtung (Goodwin Law), Risikoanalyse zur Aufgabe des Berufsgeheimnisses