SlovakBERT

Model

SlovakBERT je prvý predtrénovaný maskovaný jazykový model založený na architektúre RoBERTa, optimalizovaný na komplexné spracovanie prirodzeného jazyka (NLP) v slovenčine. Tento historicky prvý slovenský model efektívne zachytáva obojsmerný kontext a slúži ako základ pre downstream úlohy, akými sú klasifikácia textu, tokenizácia (NER) či sémantické vyhľadávanie.

Open-source

Hugging Face Článok

Spolupracovali: NLP KInIT
Gerulata
Licencia: MIT
Jazyk: sk
Modalita: Text
Úloha: Fill-Mask