mirror of
https://github.com/explosion/spaCy.git
synced 2024-12-25 01:16:28 +03:00
17 lines
685 B
Python
17 lines
685 B
Python
import pytest
|
|
|
|
|
|
def test_gu_tokenizer_handlers_long_text(gu_tokenizer):
|
|
text = """પશ્ચિમ ભારતમાં આવેલું ગુજરાત રાજ્ય જે વ્યક્તિઓની માતૃભૂમિ છે"""
|
|
tokens = gu_tokenizer(text)
|
|
assert len(tokens) == 9
|
|
|
|
|
|
@pytest.mark.parametrize(
|
|
"text,length",
|
|
[("ગુજરાતીઓ ખાવાના શોખીન માનવામાં આવે છે", 6), ("ખેતરની ખેડ કરવામાં આવે છે.", 5)],
|
|
)
|
|
def test_gu_tokenizer_handles_cnts(gu_tokenizer, text, length):
|
|
tokens = gu_tokenizer(text)
|
|
assert len(tokens) == length
|