# coding: utf-8 from __future__ import unicode_literals import pytest def test_fr_lemmatizer_verb(fr_tokenizer): tokens = fr_tokenizer("Qu'est-ce que tu fais?") assert tokens[0].lemma_ == "que" assert tokens[1].lemma_ == "être" assert tokens[5].lemma_ == "faire" def test_fr_lemmatizer_noun_verb_2(fr_tokenizer): tokens = fr_tokenizer("Les abaissements de température sont gênants.") assert tokens[4].lemma_ == "être" @pytest.mark.xfail( reason="Costaricienne TAG is PROPN instead of NOUN and spacy don't lemmatize PROPN" ) def test_fr_lemmatizer_noun(fr_tokenizer): tokens = fr_tokenizer("il y a des Costaricienne.") assert tokens[4].lemma_ == "Costaricain" def test_fr_lemmatizer_noun_2(fr_tokenizer): tokens = fr_tokenizer("Les abaissements de température sont gênants.") assert tokens[1].lemma_ == "abaissement" assert tokens[5].lemma_ == "gênant"