Manually annotated corpora/nl: Difference between revisions

From Clarin K-Centre
Jump to navigation Jump to search
No edit summary
(Updating to match new version of source page)
 
(4 intermediate revisions by one other user not shown)
Line 1: Line 1:
<languages/>
Handmatige corpora zijn verzamelingen van teksten die manueel geverifieerde of manueel aangebrachte taalkundige informatie bevatten, zoals morfosyntactische tags, lemma's, syntactische parseringen, named entities etc. Deze corpora kunnen worden gebruikt bij het trainen van nieuwe taalannotatietools, alsook bij het testen van de nauwkeurigheid van bestaande annotatietools.  
Handmatige corpora zijn verzamelingen van teksten die manueel geverifieerde of manueel aangebrachte taalkundige informatie bevatten, zoals morfosyntactische tags, lemma's, syntactische parseringen, named entities etc. Deze corpora kunnen worden gebruikt bij het trainen van nieuwe taalannotatietools, alsook bij het testen van de nauwkeurigheid van bestaande annotatietools.  


Line 6: Line 7:
*[http://hdl.handle.net/10032/tm-a2-k6 Corpuspagina]
*[http://hdl.handle.net/10032/tm-a2-k6 Corpuspagina]


==Eindhoven Corpus==
==Eindhoven-corpus==
Het Eindhovencorpus is de eerste verzameling van Nederlandstalige geschreven en (getranscribeerde) gesproken teksten die voor onderzoeksdoeleinden is gemaakt. Het corpus dateert uit de periode 1960-1973 en bevat ongeveer 768.000 tekens.
Het Eindhoven-corpus is de eerste verzameling van Nederlandstalige geschreven (en getranscribeerde) gesproken teksten die voor onderzoeksdoeleinden is gemaakt. Het corpus dateert uit de periode 1960-1973 en bevat ongeveer 768.000 tekens.


*versie 2.0.1 (2014)
*versie 2.0.1 (2014)
Line 17: Line 18:


* Versie 7.0
* Versie 7.0
* [http://hdl.handle.net/10032/tm-a2-w9 Download]
* [http://hdl.handle.net/10032/tm-a2-w9 Downloadpagina]
* [https://gretel.ccl.kuleuven.be/ Online treebank search]
* [https://gretel.ccl.kuleuven.be/ Online treebank search]


Line 37: Line 38:
==Dutch Archaeology NER Training Dataset==
==Dutch Archaeology NER Training Dataset==
Een handmatig geannoteerde NER-dataset (Named Entity Recognition), bestaande uit Nederlandse archeologische opgravingsverslagen. De volgende entiteittypes zijn gelabeld: Artefacten, Tijdperiodes, Materialen, Plaatsen (geografische locaties), Archeologische contexten en Soorten.
Een handmatig geannoteerde NER-dataset (Named Entity Recognition), bestaande uit Nederlandse archeologische opgravingsverslagen. De volgende entiteittypes zijn gelabeld: Artefacten, Tijdperiodes, Materialen, Plaatsen (geografische locaties), Archeologische contexten en Soorten.
De dataset wordt geleverd in het BIO-formaat, met elk token op 1 lijn en lege regels die zinsgrenzen aanduiden. Op elke regel staat een token, een PoS-tag, de morfologische segmentatie en ten slotte het label, gescheiden door spaties. De PoS-tag en morfologische segmentatie zijn toegewezen door Frog.
De dataset wordt geleverd in het BIO-formaat, met elk token op 1 lijn en lege regels die zinsgrenzen aanduiden. Op elke regel staat een token, een POS-tag, de morfologische segmentatie en ten slotte het label, gescheiden door spaties. De POS-tags en de morfologische segmentatie zijn toegewezen door Frog.


* Versie 1.0 (2019)
* Versie 1.0 (2019)
Line 43: Line 44:


==StylesNMT==
==StylesNMT==
Deze datacollectie bevat een Engels-Nederlandse machinevertaling van de detectiveroman "The Mysterious Affair at Styles" van Agatha Christie. De vertaling werd in mei 2019 gegenereerd door het neurale MT-systeem van Google. De complete roman (5.276 zinsparen) is handmatig geannoteerd met vertaalfouten, met behulp van een aangepaste versie van de SCATE MT foutentaxonomie (Tezcan et al. 2017).
Deze datacollectie bevat een Engels-Nederlandse machinevertaling van de detectiveroman "The Mysterious Affair at Styles" van Agatha Christie. De vertaling werd in mei 2019 gegenereerd door het neurale MT-systeem van Google. De complete roman (5.276 zinsparen) is handmatig geannoteerd met vertaalfouten, met behulp van een aangepaste versie van de SCATE MT-foutentaxonomie (Tezcan et al. 2017).


* [https://github.com/margotfonteyne/StylesNMT Downloadpagina]
* [https://github.com/margotfonteyne/StylesNMT Downloadpagina]
Line 49: Line 50:


==Pilot Annotation Corpus PLATOS NL-EN==
==Pilot Annotation Corpus PLATOS NL-EN==
Dit geannoteerde corpus bestaat uit 100 commentaren van Facebookgebruikers in de zomer van 2020, op de Facebookpagina van een populaire Vlaamse krant (Het Laatste Nieuws, https://www.facebook.com/hln.be). Dit corpus bevat zowel de originele Nederlandse commentaren, als een parallelle Engelse vertaling (de Google Vertalen-output is ietwat aangepast voor correctheid door een moedertaalspreker).  
Dit geannoteerde corpus bestaat uit 100 gebruikerscommentaren op de Facebookpagina van een populaire Vlaamse krant (Het Laatste Nieuws, https://www.facebook.com/hln.be) in de zomer van 2020. Dit corpus bevat zowel de originele Nederlandse commentaren, als een parallelle Engelse vertaling (de Google Vertalen-output is ietwat aangepast voor correctheid door een moedertaalspreker).  
De annotatie omvat labels van onderwerpen, aspecten, en standpunten, maar ook argumentativeness detectie en claim identificatie.
De annotatie omvat topic en aspect labeling, stance labeling, argumentativeness detection en claim identification.


* [https://lt3.ugent.be/media/uploads/tools/Translated_corpus_and_guidelines_ETdhZnZ.zip Downloadlink]
* [https://lt3.ugent.be/media/uploads/tools/Translated_corpus_and_guidelines_ETdhZnZ.zip Downloadlink]
Line 62: Line 63:
* [https://lt3.ugent.be/resources/eventdna-corpus/ Infopagina (onder andere betreffende de toegang tot de corpusdata)]
* [https://lt3.ugent.be/resources/eventdna-corpus/ Infopagina (onder andere betreffende de toegang tot de corpusdata)]


<div class="mw-translate-fuzzy">
==EmotioNL==
==EmotioNL==
Het EmotioNL-corpus is een emotiegeannoteerd corpus van Nederlandse teksten. Het bestaat uit 1.000 Nederlandse tweets en 1.000 citaten uit reality TV-shows. De teksten zijn geannoteerd met de categorieën  woede, angst, vreugde, liefde, verdriet en neutraal, en scores (reëel gewaardeerd, tussen 0 en 1) voor de emotionele dimensies valentie, opwinding en dominantie.  
Het EmotioNL-corpus is een emotiegeannoteerd corpus van Nederlandse teksten. Het bestaat uit 1.000 Nederlandse tweets en 1.000 citaten uit reality TV-shows. De teksten zijn geannoteerd met de categorieën  woede, angst, vreugde, liefde, verdriet en neutraal, en scores (reëel gewaardeerd, tussen 0 en 1) voor de emotionele dimensies valentie, opwinding en dominantie.
</div>


<div class="mw-translate-fuzzy">
* De Bruyne, L., De Clercq, O., & Hoste, V. (2021). Prospects for Dutch emotion detection: Insights from the new EmotioNL dataset. Computational Linguistics in the Netherlands Journal, 11, 231-255.
* De Bruyne, L., De Clercq, O., & Hoste, V. (2021). Prospects for Dutch emotion detection: Insights from the new EmotioNL dataset. Computational Linguistics in the Netherlands Journal, 11, 231-255.
* [https://lt3.ugent.be/resources/emotionl/ Infopagina (onder andere betreffende de toegang tot de corpusdata)]
* [https://lt3.ugent.be/resources/emotionl/ Infopagina (onder andere betreffende de toegang tot de corpusdata)]
   
   
==EEmoWOZ-CS EN-NL==
==EEmoWOZ-CS EN-NL==
Het EmoWOZ-corpus is een tekstgebaseerd conversatiecorpus in het domein van de klantenservice, verzameld met behulp van de Wizard of Oz-techniek. In het Wizard of Oz-experiment dachten deelnemers dat zij in interactie waren met verschillende versies van een autonome Chatbot genaamd Chatty. In werkelijkheid werd het systeem volledig bestuurd door een menselijke operator (voortaan: wizard). Elke dialoog was gebaseerd op de beschrijving van een gebeurtenis die gepaard ging met een beginsentiment (neutraal of negatief), en wizards kregen de opdracht om het gesprek te sturen naar een vooraf gedefinieerd eindsentiment (positief, neutraal of negatief). Elke deelnemer had 12 gesprekken die vervolgens werden geannoteerd voor emoties met emotiecategorieën en dimensionale valentie-opwinding-dominantiescores. In totaal bevat het corpus 2.148 tekstuele dialogen tussen 179 deelnemers en wizards. Hoewel de originele versie van het corpus in het Nederlands werd verzameld is er ook een naar het Engels vertaalde versie beschikbaar.
Het EmoWOZ-corpus is een tekstgebaseerd conversatiecorpus in het domein van de klantenservice, verzameld met behulp van de Wizard of Oz-techniek. In het Wizard of Oz-experiment dachten deelnemers dat zij in interactie waren met verschillende versies van een autonome Chatbot genaamd Chatty. In werkelijkheid werd het systeem volledig bestuurd door een menselijke operator (voortaan: wizard). Elke dialoog was gebaseerd op de beschrijving van een gebeurtenis die gepaard ging met een beginsentiment (neutraal of negatief), en wizards kregen de opdracht om het gesprek te sturen naar een vooraf gedefinieerd eindsentiment (positief, neutraal of negatief). Elke deelnemer had 12 gesprekken die vervolgens werden geannoteerd voor emoties met emotiecategorieën en dimensionale valentie-opwinding-dominantiescores. In totaal bevat het corpus 2.148 tekstuele dialogen tussen 179 deelnemers en wizards. Hoewel de originele versie van het corpus in het Nederlands werd verzameld is er ook een naar het Engels vertaalde versie beschikbaar.
</div>
<div lang="en" dir="ltr" class="mw-content-ltr">
==EmoWOZ-CS EN-NL==
The EmoWOZ corpus is a text-based conversational corpus in the domain of customer service, collected through the Wizard of Oz technique. In our Wizard of Oz experiment, participants believed to be interacting with different versions of an autonomous chatbot (called Chatty), while the system was in reality fully controlled by a human operator (henceforth: wizard). Each dialogue was grounded in an event description associated with a begin sentiment (neutral or negative), and wizards were instructed to navigate the conversation to a predefined end sentiment (positive, neutral or negative). Each participant had 12 conversations which were subsequently annotated for emotions with emotion categories and dimensional valence-arousal-dominance scores. In total, the corpus contains 2,148 text-based dialogues between 179 participants and wizards. While the original version of the corpus was collected in Dutch (NL), a translated version to English (EN) is also made available.
</div>


* [https://lt3.ugent.be/resources/emowoz-cs-en-nl/ Projectpagina]
* [https://lt3.ugent.be/resources/emowoz-cs-en-nl/ Projectpagina]
Line 77: Line 88:
EmoTwiCS is een corpus van 9.489 Nederlandse klantenservicedialogen die zijn verzameld via Twitter.
EmoTwiCS is een corpus van 9.489 Nederlandse klantenservicedialogen die zijn verzameld via Twitter.


[https://doi.org/10.1007/s10579-023-09700-0 Labat, S., Demeester, T., & Hoste, V. (2023). EmoTwiCS : a corpus for modelling emotion trajectories in Dutch customer service dialogues on Twitter.]
<div class="mw-translate-fuzzy">
[https://aclanthology.org/2022.wnut-1.12/ Labat, S., Hadifar, A., Demeester, T., & Hoste, V. (2022). An emotional journey : detecting emotion trajectories in Dutch customer service dialogues]
* [https://doi.org/10.1007/s10579-023-09700-0 Labat, S., Demeester, T., & Hoste, V. (2023). EmoTwiCS : a corpus for modelling emotion trajectories in Dutch customer service dialogues on Twitter.]
[https://lt3.ugent.be/resources/emotwics/dataset-download-form/ Vraag om toegang]
* [https://aclanthology.org/2022.wnut-1.12/ Labat, S., Hadifar, A., Demeester, T., & Hoste, V. (2022). An emotional journey : detecting emotion trajectories in Dutch customer service dialogues]
* [https://lt3.ugent.be/resources/emotwics/dataset-download-form/ Vraag om toegang]
</div>
 
<div lang="en" dir="ltr" class="mw-content-ltr">
== Crowll corpora ==
Manually annotated corpora for teaching and learning purposes of Brazilian Portuguese, Dutch, Estonian, and Slovene. Sentences are annotated with “problematic” or “non-problematic” labels, from the point of usage for pedagogical purposes. Sentences labelled as problematic also have annotations defining the category of the problem (offensive, vulgar, sensitive content, grammar and/or spelling problems, incomprehensible and/or lack of context). Each corpus consists of 10.000 sentences, which were annotated by language experts.
</div>
 
<div lang="en" dir="ltr" class="mw-content-ltr">
* Dataset [https://hdl.handle.net/21.11129/0000-0010-05DA-3 Website]
* [https://ucpages.uc.pt/celga-iltec/crowll/ Project website]
</div>

Latest revision as of 08:02, 28 May 2024

Other languages:

Handmatige corpora zijn verzamelingen van teksten die manueel geverifieerde of manueel aangebrachte taalkundige informatie bevatten, zoals morfosyntactische tags, lemma's, syntactische parseringen, named entities etc. Deze corpora kunnen worden gebruikt bij het trainen van nieuwe taalannotatietools, alsook bij het testen van de nauwkeurigheid van bestaande annotatietools.

Corpus Gesproken Nederlands

Het Corpus Gesproken Nederlands (CGN) is een verzameling van 900 uur (bijna 9 miljoen woorden) hedendaagse Nederlandse spraak, afkomstig van Vlamingen en Nederlanders. De spraakfragmenten (spontaan en voorbereid) zijn opgelijnd met diverse transcripties (o.a. orthografisch, fonetisch) en annotaties (syntactisch, POS-tags). Metadata, lexica, frequentielijsten en de corpusexploratiesoftware Corex behoren ook tot het CGN.

Eindhoven-corpus

Het Eindhoven-corpus is de eerste verzameling van Nederlandstalige geschreven (en getranscribeerde) gesproken teksten die voor onderzoeksdoeleinden is gemaakt. Het corpus dateert uit de periode 1960-1973 en bevat ongeveer 768.000 tekens.

Lassy Klein

Het Lassy Klein-corpus is een corpus van ongeveer 1 miljoen woorden met manueel geverifieerde syntactische annotaties. Lemma’s en POS-tags werden automatisch toegevoegd aan het corpus m.b.v. Tadpole (nu: Frog). De syntactische dependentiestructuren werden toegevoegd m.b.v. Alpino. De lemma’s, POS-tags en syntactische boomstructuren werden geverifieerd en gecorrigeerd.

SoNaR Klein-corpus

Het SoNaR Klein-corpus Commercieel is een tekstcorpus dat ongeveer 825.000 woorden tekst bevat die voorzien werden van verschillende soorten semantische annotaties, nl. named entity labelling, coreferentieannotatie, sematische rollen en de annotatie van spatiële en temporele relaties. Alle annotaties werden manueel geverifieerd.

ACTER: Annotated Corpora for Term Extraction Research

ACTER is een handmatig geannoteerde dataset voor termextractie, die drie talen bevat (Engels, Frans en Nederlands), en vier domeinen (corruptie, dressuur, hartfalen en windenergie).

  • CLARIN-pagina
  • Github-pagina
  • Rigouts Terryn, Ayla, 2019, ACTER (Annotated Corpora for Term Extraction Research) v1.3, Eurac Research CLARIN Centre

Dutch Archaeology NER Training Dataset

Een handmatig geannoteerde NER-dataset (Named Entity Recognition), bestaande uit Nederlandse archeologische opgravingsverslagen. De volgende entiteittypes zijn gelabeld: Artefacten, Tijdperiodes, Materialen, Plaatsen (geografische locaties), Archeologische contexten en Soorten. De dataset wordt geleverd in het BIO-formaat, met elk token op 1 lijn en lege regels die zinsgrenzen aanduiden. Op elke regel staat een token, een POS-tag, de morfologische segmentatie en ten slotte het label, gescheiden door spaties. De POS-tags en de morfologische segmentatie zijn toegewezen door Frog.

StylesNMT

Deze datacollectie bevat een Engels-Nederlandse machinevertaling van de detectiveroman "The Mysterious Affair at Styles" van Agatha Christie. De vertaling werd in mei 2019 gegenereerd door het neurale MT-systeem van Google. De complete roman (5.276 zinsparen) is handmatig geannoteerd met vertaalfouten, met behulp van een aangepaste versie van de SCATE MT-foutentaxonomie (Tezcan et al. 2017).

  • Downloadpagina
  • Tezcan, A., Hoste, V., & Macken, L. (2017). SCATE taxonomy and corpus of machine translation errors. In G. C. Pastor & I. Durán-Muñoz (Eds.), Trends in E-tools and resources for translators and interpreters (Vol. 45, pp. 219–244). Brill | Rodopi.

Pilot Annotation Corpus PLATOS NL-EN

Dit geannoteerde corpus bestaat uit 100 gebruikerscommentaren op de Facebookpagina van een populaire Vlaamse krant (Het Laatste Nieuws, https://www.facebook.com/hln.be) in de zomer van 2020. Dit corpus bevat zowel de originele Nederlandse commentaren, als een parallelle Engelse vertaling (de Google Vertalen-output is ietwat aangepast voor correctheid door een moedertaalspreker). De annotatie omvat topic en aspect labeling, stance labeling, argumentativeness detection en claim identification.

  • Downloadlink
  • Bauwelinck, N., & Lefever, E. (2020, December). Annotating Topics, Stance, Argumentativeness and Claims in Dutch Social Media Comments: A Pilot Study. In Proceedings of the 7th Workshop on Argument Mining (pp. 8-18).

EventDNA

Het EventDNA-corpus is een Nederlandstalig corpus bestaande uit 1.773 nieuwsdocumenten waarin nieuwsgebeurtenissen, entiteiten, IPTC Media Topic-codes en coreferentielinks handmatig zijn geannoteerd.

EmotioNL

Het EmotioNL-corpus is een emotiegeannoteerd corpus van Nederlandse teksten. Het bestaat uit 1.000 Nederlandse tweets en 1.000 citaten uit reality TV-shows. De teksten zijn geannoteerd met de categorieën woede, angst, vreugde, liefde, verdriet en neutraal, en scores (reëel gewaardeerd, tussen 0 en 1) voor de emotionele dimensies valentie, opwinding en dominantie.


EEmoWOZ-CS EN-NL

Het EmoWOZ-corpus is een tekstgebaseerd conversatiecorpus in het domein van de klantenservice, verzameld met behulp van de Wizard of Oz-techniek. In het Wizard of Oz-experiment dachten deelnemers dat zij in interactie waren met verschillende versies van een autonome Chatbot genaamd Chatty. In werkelijkheid werd het systeem volledig bestuurd door een menselijke operator (voortaan: wizard). Elke dialoog was gebaseerd op de beschrijving van een gebeurtenis die gepaard ging met een beginsentiment (neutraal of negatief), en wizards kregen de opdracht om het gesprek te sturen naar een vooraf gedefinieerd eindsentiment (positief, neutraal of negatief). Elke deelnemer had 12 gesprekken die vervolgens werden geannoteerd voor emoties met emotiecategorieën en dimensionale valentie-opwinding-dominantiescores. In totaal bevat het corpus 2.148 tekstuele dialogen tussen 179 deelnemers en wizards. Hoewel de originele versie van het corpus in het Nederlands werd verzameld is er ook een naar het Engels vertaalde versie beschikbaar.

EmoWOZ-CS EN-NL

The EmoWOZ corpus is a text-based conversational corpus in the domain of customer service, collected through the Wizard of Oz technique. In our Wizard of Oz experiment, participants believed to be interacting with different versions of an autonomous chatbot (called Chatty), while the system was in reality fully controlled by a human operator (henceforth: wizard). Each dialogue was grounded in an event description associated with a begin sentiment (neutral or negative), and wizards were instructed to navigate the conversation to a predefined end sentiment (positive, neutral or negative). Each participant had 12 conversations which were subsequently annotated for emotions with emotion categories and dimensional valence-arousal-dominance scores. In total, the corpus contains 2,148 text-based dialogues between 179 participants and wizards. While the original version of the corpus was collected in Dutch (NL), a translated version to English (EN) is also made available.

  • Projectpagina
  • Labat, S., Ackaert, N., Demeester, T., & Hoste, V. (2022). Variation in the Expression and Annotation of Emotions: a Wizard of Oz Pilot Study. In G. Abercrombie, V. Basile, S. Tonelli, V. Rieser, & A. Uma (Eds.), Proceedings of the 1st Workshop on Perspectivist Approaches to NLP @LREC2022 (pp. 66–72). Marseille, France: European Language Resources Association (ELRA)

EmoTwiCS

EmoTwiCS is een corpus van 9.489 Nederlandse klantenservicedialogen die zijn verzameld via Twitter.

Crowll corpora

Manually annotated corpora for teaching and learning purposes of Brazilian Portuguese, Dutch, Estonian, and Slovene. Sentences are annotated with “problematic” or “non-problematic” labels, from the point of usage for pedagogical purposes. Sentences labelled as problematic also have annotations defining the category of the problem (offensive, vulgar, sensitive content, grammar and/or spelling problems, incomprehensible and/or lack of context). Each corpus consists of 10.000 sentences, which were annotated by language experts.