Language modeling/nl: Difference between revisions

From Clarin K-Centre
Jump to navigation Jump to search
VisualWikitext
(Updating to match new version of source page)
 
(Replaced content with "==N-gram-modellering==")
 
(10 intermediate revisions by 4 users not shown)
Line 1: Line 1:
<div lang="en" dir="ltr" class="mw-content-ltr">
<languages/>
==n-gram modeling==
<span id="n-gram_modeling"></span>
Colibri core is an NLP tool as well as a C++ and Python library for working with basic linguistic constructions such as n-grams and skipgrams (i.e. patterns with one or more gaps, either of fixed or dynamic size) in a quick and memory-efficient way. At the core is the tool colibri-patternmodeller which allows you to build, view, manipulate and query pattern models.
==N-gram-modellering==
</div>


<div lang="en" dir="ltr" class="mw-content-ltr">
'Colibri core' is een natuurlijketaalverwerkingstool alsook een C++- en Python-bibliotheek voor het werken met standaard taalkundige constructies zoals n-grams en skipgrams (d.w.z. patronen met een of meerdere gaten van ofwel vaststaande, ofwel dynamische grootte) op een snelle en geheugenefficiënte manier. In de kern bevindt zich de colibri-patroonmodelleerder die het mogelijk maakt om querypatternmodellen te bouwen, bekijken en bewerken.
*[http://proycon.github.io/colibri-core/ Github repository]
 
</div>
*[http://proycon.github.io/colibri-core/ Githubpagina]
 
<span id="Large_Language_Models"></span>
==Grote Taalmodellen==


<div lang="en" dir="ltr" class="mw-content-ltr">
==Large Language Models==
* [https://huggingface.co/models?search=dutch Hugging Face Dutch Models]
* [https://huggingface.co/models?search=dutch Hugging Face Dutch Models]
* [https://people.cs.kuleuven.be/~pieter.delobelle/robbert/ RobBERT]: A Dutch RoBERTa-based Language Model
* [https://people.cs.kuleuven.be/~pieter.delobelle/robbert/ RobBERT]: Een Nederlands RoBERTa-taalmodel
* [https://github.com/wietsedv/bertje BERTje]: A Dutch BERT model
* [https://github.com/wietsedv/bertje BERTje]: Een Nederlands BERT-model
* [https://github.com/Rijgersberg/GEITje GEITje]: A Large Open Language Model
* [https://github.com/Rijgersberg/GEITje GEITje]: Een groot open taalmodel
</div>
* [https://huggingface.co/Tweeties/tweety-7b-dutch-v24a Tweety]
 
<span id="Multilingual_Language_Models_including_Dutch"></span>
==Meertalige Taalmodellen inclusief het Nederlands==


<div lang="en" dir="ltr" class="mw-content-ltr">
==Multilingual Language Models including Dutch==
* [https://openai.com/ GPT-3]
* [https://openai.com/ GPT-3]
* [https://huggingface.co/docs/transformers/model_doc/mbart MBart]
* [https://huggingface.co/docs/transformers/model_doc/mbart MBart]
</div>


<div lang="en" dir="ltr" class="mw-content-ltr">
==SpaCy==
==SpaCy==
spaCy is a free open-source library for Natural Language Processing in Python.
</div>


<div lang="en" dir="ltr" class="mw-content-ltr">
spaCy is een gratis opensourcebibliotheek voor natuurlijketaalverwerking in Python.
* [https://spacy.io/models/nl Dutch models]
 
</div>
* [https://spacy.io/models/nl Nederlandse modellen]
 
<span id="Language_Modeling_Benchmarks"></span>
== Taalmodelleringsbenchmarks ==


<div lang="en" dir="ltr" class="mw-content-ltr">
== Language Modeling Benchmarks ==
===DUMB===
===DUMB===
DUMB is a benchmark for evaluating the quality of language models for Dutch NLP tasks. The set of tasks is designed to be diverse and challenging, to test the limits of current language models. The specific datasets and formats are particularly suitable for fine-tuning encoder models, and applicability for large generative models is yet to be determined. Please read the paper for more details.
</div>


<div lang="en" dir="ltr" class="mw-content-ltr">
DUMB is een benchmark voor het evalueren van de kwaliteit van taalmodellen voor Nederlandse natuurlijketaalverwerkingstaken. De set met taken is ontworpen om divers en uitdagend te zijn en de limieten van de bestaande taalmodellen te testen. De specifieke datasets en formaten zijn met name geschikt voor het finetunen van encodermodellen en toepasbaarheid voor grote generatieve modellen moet nog worden vastgesteld. Meer details zijn te lezen in het paper dat via onderstaande link te vinden is.
 
* [https://dumbench.nl/ DuMB]
* [https://dumbench.nl/ DuMB]
</div>


<div lang="en" dir="ltr" class="mw-content-ltr">
<span id="LLM_Leaderboard"></span>
===LLM Leaderboard===
===LLM Scorebord===
This is a leaderboard for Dutch benchmarks for large language models.
 
</div>
Dit is een scorebord voor Nederlandse benchmarks voor grote taalmodellen.
 
* [https://huggingface.co/spaces/BramVanroy/open_dutch_llm_leaderboard Open Nederlands LLM Scorebord]
 
<span id="Scandeval_Dutch_NLG"></span>
===Scandeval Nederlandse NLG ===


<div lang="en" dir="ltr" class="mw-content-ltr">
*[https://scandeval.com/dutch-nlg/ Scandeval Nederlandse NLG]
* [https://huggingface.co/spaces/BramVanroy/open_dutch_llm_leaderboard Open Dutch LLM Leaderboard]
</div>

Latest revision as of 12:48, 24 June 2024

Other languages:

N-gram-modellering

'Colibri core' is een natuurlijketaalverwerkingstool alsook een C++- en Python-bibliotheek voor het werken met standaard taalkundige constructies zoals n-grams en skipgrams (d.w.z. patronen met een of meerdere gaten van ofwel vaststaande, ofwel dynamische grootte) op een snelle en geheugenefficiënte manier. In de kern bevindt zich de colibri-patroonmodelleerder die het mogelijk maakt om querypatternmodellen te bouwen, bekijken en bewerken.

Grote Taalmodellen

Meertalige Taalmodellen inclusief het Nederlands

SpaCy

spaCy is een gratis opensourcebibliotheek voor natuurlijketaalverwerking in Python.

Taalmodelleringsbenchmarks

DUMB

DUMB is een benchmark voor het evalueren van de kwaliteit van taalmodellen voor Nederlandse natuurlijketaalverwerkingstaken. De set met taken is ontworpen om divers en uitdagend te zijn en de limieten van de bestaande taalmodellen te testen. De specifieke datasets en formaten zijn met name geschikt voor het finetunen van encodermodellen en toepasbaarheid voor grote generatieve modellen moet nog worden vastgesteld. Meer details zijn te lezen in het paper dat via onderstaande link te vinden is.

LLM Scorebord

Dit is een scorebord voor Nederlandse benchmarks voor grote taalmodellen.

Scandeval Nederlandse NLG

Retrieved from "https://kdutch.ivdnt.org/mediawiki/index.php?title=Language_modeling/nl&oldid=10387"