spaCy/spacy/tests/lang/fr/test_lemmatization.py

29 lines
898 B
Python
Raw Normal View History

2017-04-25 18:44:16 +03:00
# coding: utf-8
from __future__ import unicode_literals
import pytest
2017-04-25 18:46:01 +03:00
def test_lemmatizer_verb(fr_tokenizer):
tokens = fr_tokenizer("Qu'est-ce que tu fais?")
assert tokens[0].lemma_ == "que"
assert tokens[1].lemma_ == "être"
assert tokens[5].lemma_ == "faire"
def test_lemmatizer_noun_verb_2(fr_tokenizer):
tokens = fr_tokenizer("Les abaissements de température sont gênants.")
assert tokens[4].lemma_ == "être"
@pytest.mark.xfail(reason="Costaricienne TAG is PROPN instead of NOUN and spacy don't lemmatize PROPN")
def test_lemmatizer_noun(fr_tokenizer):
tokens = fr_tokenizer("il y a des Costaricienne.")
assert tokens[4].lemma_ == "Costaricain"
def test_lemmatizer_noun_2(fr_tokenizer):
tokens = fr_tokenizer("Les abaissements de température sont gênants.")
assert tokens[1].lemma_ == "abaissement"
assert tokens[5].lemma_ == "gênant"