Pre úlohuPrepísať reč
Benchmark rozpoznávania slovenskej reči (ASR)
Toto je prvý špecializovaný benchmark rozpoznávania reči (STT) pre slovenčinu: 39 hodín nahrávok a 31 hodnotených modelov. Dostupné zdroje sa zameriavajú na angličtinu alebo na viacjazyčné datasety, kde slovenčina tvorí len zopár percent dát. Tento benchmark prináša priame porovnanie modelov na slovenských dátach naprieč rôznymi doménami.
- Úloha
- Automatické rozpoznávanie reči
- Metrika
- WER, CER, DSER
- Modalita
- Reč
- Zverejnené
- 26. júna 2026
- Aktualizované
- 11. novembra 2026
- Modely
- 31
Poradie podľa: WER, slovná chybovosť
- Smer metriky
- nižšie je lepšie
- Zverejnené
- Počet modelov
- 31 modelov
Najlepší model (Microsoft MAI-Transcribe-2) má približne 1 chybu na 15 slov referenčného prepisu.
- 16,54 %
- 28,14 %
- 39,15 %
- 410,94 %
- 513,29 %
- 614,38 %
- 716,22 %
- 817,94 %
- 918,28 %
- 1018,35 %
- 1121,64 %
- 1221,76 %
- 1324,33 %
- 1424,36 %
- 1524,63 %
Meria presnosť prepisu na úrovni slov. Je to počet chýb na úrovni slov (vloženia, vymazania a zámeny) vydelený počtom slov v referenčnom prepise. Nižšia hodnota je lepšia.
otvorené váhykomerčné API
Úplná tabuľka výsledkov
Pôvodné výsledky benchmarku: 31 modelov, 8 stĺpcov. Na mobile môžeš tabuľku posúvať vodorovne. Klikni na podčiarknutý názov stĺpca a graf nad tabuľkou sa zoradí podľa jeho hodnôt.
| Model | Kategória | Vloženia | Vynechania | Zámeny | RTFx, rýchlosť | |||
|---|---|---|---|---|---|---|---|---|
| Microsoft MAI-Transcribe-2 | komerčné API | 6,54 % | 2,21 % | 1,10 % | 3,23 % | 3,29 % | 10,52 % | — |
| Google Chirp 3 | komerčné API | 8,14 % | 2,57 % | 1,55 % | 4,01 % | 4,28 % | 13,16 % | — |
| ElevenLabs Scribe v2 | komerčné API | 9,15 % | 3,22 % | 1,33 % | 4,59 % | 5,07 % | 15,35 % | — |
| OpenAI GPT Realtime Whisper | komerčné API | 10,94 % | 1,95 % | 2,73 % | 6,25 % | 5,33 % | 21,16 % | — |
| Microsoft Azure Speech to Text | komerčné API | 13,29 % | 2,62 % | 3,05 % | 7,63 % | 6,04 % | 26,79 % | — |
| NVIDIA Canary 1B v2 | otvorené váhy | 14,38 % | 1,67 % | 4,25 % | 8,46 % | 6,88 % | 17,65 % | 171.3x |
| OpenAI Whisper Large v3 | otvorené váhy | 16,22 % | 2,20 % | 4,17 % | 9,84 % | 7,90 % | 21,52 % | 195.6x |
| Oruk Orukeet | otvorené váhy | 17,94 % | 2,29 % | 4,21 % | 11,45 % | 7,90 % | 39,62 % | 699.5x |
| NVIDIA Nemotron 3.5 Transcribe 30B-A4B | otvorené váhy | 18,28 % | 2,19 % | 5,94 % | 10,15 % | 10,17 % | 30,05 % | 23.7x |
| OpenAI Whisper Large v3 Turbo | otvorené váhy | 18,35 % | 2,74 % | 4,85 % | 10,76 % | 9,11 % | 27,84 % | 506.9x |
| Meta Omnilingual ASR LLM 7B | otvorené váhy | 21,64 % | 4,46 % | 9,95 % | 7,23 % | 16,20 % | 36,90 % | 25.6x |
| OpenAI GPT-4o Transcribe | komerčné API | 21,76 % | 1,03 % | 13,27 % | 7,46 % | 15,11 % | 24,80 % | — |
| NVIDIA Parakeet TDT 0.6B v3 | otvorené váhy | 24,33 % | 1,99 % | 6,14 % | 16,20 % | 10,75 % | 30,02 % | 707.7x |
| Meta Omnilingual ASR CTC 3B | otvorené váhy | 24,36 % | 1,09 % | 14,00 % | 9,27 % | 15,88 % | 61,99 % | 429.5x |
| Meta Omnilingual ASR CTC 7B | otvorené váhy | 24,63 % | 1,18 % | 14,94 % | 8,51 % | 16,81 % | 63,35 % | 225.3x |
| Meta MMS 1B All | otvorené váhy | 24,69 % | 3,13 % | 7,67 % | 13,89 % | 12,40 % | 62,21 % | 241.7x |
| Meta Omnilingual ASR LLM 3B | otvorené váhy | 25,78 % | 4,13 % | 12,72 % | 8,92 % | 18,90 % | 59,14 % | 27.5x |
| Meta Omnilingual ASR CTC 1B | otvorené váhy | 26,79 % | 1,26 % | 15,14 % | 10,38 % | 17,04 % | 61,96 % | 745.0x |
| Meta Omnilingual ASR LLM 1B | otvorené váhy | 26,94 % | 3,86 % | 14,49 % | 8,59 % | 20,32 % | 57,21 % | 28.1x |
| Microsoft VibeVoice ASR | otvorené váhy | 28,15 % | 5,01 % | 3,62 % | 19,52 % | 12,29 % | 34,81 % | 24.1x |
| OpenAI Whisper Medium | otvorené váhy | 29,23 % | 4,02 % | 5,90 % | 19,31 % | 13,04 % | 31,82 % | 228.1x |
| Meta SeamlessM4T v2 Large | otvorené váhy | 29,35 % | 2,17 % | 16,33 % | 10,85 % | 21,54 % | 31,49 % | 167.1x |
| Meta Omnilingual ASR LLM 300M | otvorené váhy | 29,50 % | 4,16 % | 12,96 % | 12,38 % | 19,10 % | 59,64 % | 28.8x |
| NVIDIA Nemotron 3.5 ASR Streaming 0.6B | otvorené váhy | 35,37 % | 2,83 % | 8,11 % | 24,44 % | 14,14 % | 55,96 % | 598.9x |
| Meta Omnilingual ASR CTC 300M | otvorené váhy | 37,03 % | 1,75 % | 15,63 % | 19,64 % | 18,27 % | 70,30 % | 1337.1x |
| ESPnet OWSM-CTC v4 1B | otvorené váhy | 41,10 % | 3,27 % | 7,68 % | 30,15 % | 14,94 % | 63,54 % | 328.8x |
| OpenAI Whisper Small | otvorené váhy | 47,87 % | 7,49 % | 6,88 % | 33,49 % | 19,27 % | 44,44 % | 516.7x |
| ESPnet OWSM-CTC v3.2 FT 1B | otvorené váhy | 52,37 % | 2,98 % | 11,35 % | 38,04 % | 19,94 % | 76,95 % | 344.0x |
| ESPnet OWSM-CTC v3.1 1B | otvorené váhy | 58,38 % | 2,91 % | 12,70 % | 42,77 % | 22,08 % | 82,74 % | 344.7x |
| OpenAI Whisper Base | otvorené váhy | 76,23 % | 11,66 % | 7,98 % | 56,60 % | 31,45 % | 134,02 % | 893.3x |
| OpenAI Whisper Tiny | otvorené váhy | 99,69 % | 23,27 % | 7,47 % | 68,96 % | 47,37 % | 305,65 % | 1231.5x |
Čo treba vedieť
- Modely sú hodnotené výlučne na slovenských rečových dátach. Podrobné rozdelenie zdrojov dát nižšie.
- Dátum 26. júna 2026 označuje zverejnenie výsledkov na SLAIH. Dátumy hodnotenia jednotlivých modelov sa môžu líšiť.
- Pomlčka znamená, že model pre danú úlohu nemá výsledok. Nejde o nulu.
- Ak model v tabuľke chýba, jeho výsledok tu nie je uvedený. Neznamená to, že je horší.
- Výsledky sa vzťahujú na tento benchmark a jeho metriku. Nevyjadrujú celkovú kvalitu modelu.
Diktát pre stroje
Čo znamená slovná chybovosť v praxi? Takto by podľa nameranej chybovosti vybraného modelu mohol vyzerať prepis telefonátu na zákaznícku linku (50 slov).
Microsoft MAI-Transcribe-2
1. miesto z 31
6,54 %slovná chybovosť (WER)
Microsoft MAI-Transcribe-2: približne 4 chyby na 50 slov.
- zamenené: 2
- vynechané: 1
- navyše: 1
Simulovaný prepis. Počty zamenených, vynechaných a pridaných slov zodpovedajú nameraným podielom týchto chýb prepočítaným na 50 slov. Označené slová vyberáme náhodne.
Datasety a metodika
Dáta na hodnotenie
| Dataset | Hodiny | Zdroj |
|---|---|---|
| Parliament (SloPalSpeech) | 11.9 | Hugging Face |
| Municipality Hearings | 11.7 | KInIT |
| Telco Customer Service | 3.8 | KInIT & partners |
| Read Literature | 4.5 | KInIT |
| Common Voice SK | 2.1 | Mozilla Data Collective |
| TEDxSK and JumpSK Lectures | 2.1 | KEMT NLP |
| General Read Speech (Lili) | 1.5 | Mozilla Data Collective |
| Fleurs SK | 1.5 | Hugging Face |
| Spolu | 38.9 |
Vysvetlenie metrík
- WER (Word Error Rate)
- Meria presnosť prepisu na úrovni slov. Je to počet chýb na úrovni slov (vloženia, vymazania a zámeny) vydelený počtom slov v referenčnom prepise. Nižšia hodnota je lepšia.
- Insertions
- Podiel slov navyše, ktoré model pridal a ktoré nemajú náprotivok v referenčnom prepise, vzhľadom na počet slov v referenčnom prepise. Jedna z troch zložiek, z ktorých sa skladá WER. Nižšia hodnota je lepšia.
- Deletions
- Podiel slov z referenčného prepisu, ktoré model úplne vynechal, vzhľadom na počet slov v referenčnom prepise. Jedna z troch zložiek, z ktorých sa skladá WER. Nižšia hodnota je lepšia.
- Substitutions
- Podiel slov z referenčného prepisu, ktoré model nahradil nesprávnym slovom, vzhľadom na počet slov v referenčnom prepise. Jedna z troch zložiek, z ktorých sa skladá WER. Nižšia hodnota je lepšia.
- CER (Character Error Rate)
- Meria presnosť prepisu na úrovni znakov. Je to počet chýb na úrovni znakov (vloženia, vymazania a zámeny) vydelený počtom znakov v referenčnom prepise. Je zhovievavejšia voči drobným rozdielom, ako sú koncovky slov, čo je užitočné pri jazyku s bohatým tvaroslovím, akým je slovenčina. Nižšia hodnota je lepšia.
- DSER (Digit Sequence Error Rate)
- Meria presnosť prepisu celých číselných sekvencií (telefónne čísla, čísla účtov, ceny). Je to počet nesprávne prepísaných číselných sekvencií vydelený počtom číselných sekvencií v referenčnom prepise. Sekvencia sa počíta ako chybná, ak je v nej nesprávna čo i len jedna číslica. Nižšia hodnota je lepšia.
- RTFx (Real-Time Factor)
- Meria rýchlosť prepisu ako pomer dĺžky nahrávky k času spracovania. RTFx 10x znamená, že model prepíše 10 sekúnd nahrávky za 1 sekundu. Vyššia hodnota znamená rýchlejšie spracovanie.
Publikácie
Použi výsledky
Citácia
Pri použití výsledkov uveď benchmark aj pôvodnú publikáciu.
Benchmark rozpoznávania slovenskej reči (ASR). SLAIH – Slovak Language AI Hub, 26. júna 2026. https://slaih.sk/sk/benchmarks/speech-to-text