mirror of
https://github.com/explosion/spaCy.git
synced 2024-11-11 20:28:20 +03:00
aef83e8070
* Mark most Hungarian tokenizer test cases as slow Mark most Hungarian tokenizer test cases as slow to reduce the runtime of the test suite in ordinary usage: * for normal tests: run default tests plus 10% of the detailed tests * for slow tests: run all tests * Rework to mark individual tests as slow
322 lines
14 KiB
Python
322 lines
14 KiB
Python
# coding: utf8
|
||
from __future__ import unicode_literals
|
||
|
||
import pytest
|
||
|
||
|
||
DEFAULT_TESTS = [
|
||
("N. kormányzósági\nszékhely.", ["N.", "kormányzósági", "székhely", "."]),
|
||
pytest.param(
|
||
"A .hu egy tld.", ["A", ".hu", "egy", "tld", "."], marks=pytest.mark.xfail()
|
||
),
|
||
("Az egy.ketto pelda.", ["Az", "egy.ketto", "pelda", "."]),
|
||
("A pl. rovidites.", ["A", "pl.", "rovidites", "."]),
|
||
("A S.M.A.R.T. szo.", ["A", "S.M.A.R.T.", "szo", "."]),
|
||
pytest.param("A .hu.", ["A", ".hu", "."], marks=pytest.mark.xfail()),
|
||
("Az egy.ketto.", ["Az", "egy.ketto", "."]),
|
||
("A pl.", ["A", "pl."]),
|
||
("A S.M.A.R.T.", ["A", "S.M.A.R.T."]),
|
||
("Egy..ket.", ["Egy", "..", "ket", "."]),
|
||
("Valami... van.", ["Valami", "...", "van", "."]),
|
||
("Valami ...van...", ["Valami", "...", "van", "..."]),
|
||
("Valami...", ["Valami", "..."]),
|
||
("Valami ...", ["Valami", "..."]),
|
||
("Valami ... más.", ["Valami", "...", "más", "."]),
|
||
("Soha nem lesz!", ["Soha", "nem", "lesz", "!"]),
|
||
("Soha nem lesz?", ["Soha", "nem", "lesz", "?"]),
|
||
]
|
||
|
||
HYPHEN_TESTS = [
|
||
(
|
||
"Egy -nak, -jaiért, -magyar, bel- van.",
|
||
["Egy", "-nak", ",", "-jaiért", ",", "-magyar", ",", "bel-", "van", "."],
|
||
),
|
||
("Szabolcs-Szatmár-Bereg megye", ["Szabolcs-Szatmár-Bereg", "megye"]),
|
||
("Egy -nak.", ["Egy", "-nak", "."]),
|
||
("Egy bel-.", ["Egy", "bel-", "."]),
|
||
("Dinnye-domb-.", ["Dinnye-domb-", "."]),
|
||
("Ezen -e elcsatangolt.", ["Ezen", "-e", "elcsatangolt", "."]),
|
||
("Lakik-e", ["Lakik", "-e"]),
|
||
("A--B", ["A", "--", "B"]),
|
||
("Lakik-e?", ["Lakik", "-e", "?"]),
|
||
("Lakik-e.", ["Lakik", "-e", "."]),
|
||
("Lakik-e...", ["Lakik", "-e", "..."]),
|
||
("Lakik-e... van.", ["Lakik", "-e", "...", "van", "."]),
|
||
("Lakik-e van?", ["Lakik", "-e", "van", "?"]),
|
||
("Lakik-elem van?", ["Lakik-elem", "van", "?"]),
|
||
("Az életbiztosításáról- egy.", ["Az", "életbiztosításáról-", "egy", "."]),
|
||
("Van lakik-elem.", ["Van", "lakik-elem", "."]),
|
||
("A 7-es busz?", ["A", "7-es", "busz", "?"]),
|
||
("A 7-es?", ["A", "7-es", "?"]),
|
||
("A 7-es.", ["A", "7-es", "."]),
|
||
("Ez (lakik)-e?", ["Ez", "(", "lakik", ")", "-e", "?"]),
|
||
("A %-sal.", ["A", "%-sal", "."]),
|
||
("A $-sal.", ["A", "$-sal", "."]),
|
||
("A CD-ROM-okrol.", ["A", "CD-ROM-okrol", "."]),
|
||
]
|
||
|
||
NUMBER_TESTS = [
|
||
("A 2b van.", ["A", "2b", "van", "."]),
|
||
("A 2b-ben van.", ["A", "2b-ben", "van", "."]),
|
||
("A 2b.", ["A", "2b", "."]),
|
||
("A 2b-ben.", ["A", "2b-ben", "."]),
|
||
("A 3.b van.", ["A", "3.b", "van", "."]),
|
||
("A 3.b-ben van.", ["A", "3.b-ben", "van", "."]),
|
||
("A 3.b.", ["A", "3.b", "."]),
|
||
("A 3.b-ben.", ["A", "3.b-ben", "."]),
|
||
("A 1:20:36.7 van.", ["A", "1:20:36.7", "van", "."]),
|
||
("A 1:20:36.7-ben van.", ["A", "1:20:36.7-ben", "van", "."]),
|
||
("A 1:20:36.7-ben.", ["A", "1:20:36.7-ben", "."]),
|
||
("A 1:35 van.", ["A", "1:35", "van", "."]),
|
||
("A 1:35-ben van.", ["A", "1:35-ben", "van", "."]),
|
||
("A 1:35-ben.", ["A", "1:35-ben", "."]),
|
||
("A 1.35 van.", ["A", "1.35", "van", "."]),
|
||
("A 1.35-ben van.", ["A", "1.35-ben", "van", "."]),
|
||
("A 1.35-ben.", ["A", "1.35-ben", "."]),
|
||
("A 4:01,95 van.", ["A", "4:01,95", "van", "."]),
|
||
("A 4:01,95-ben van.", ["A", "4:01,95-ben", "van", "."]),
|
||
("A 4:01,95-ben.", ["A", "4:01,95-ben", "."]),
|
||
("A 10--12 van.", ["A", "10--12", "van", "."]),
|
||
("A 10--12-ben van.", ["A", "10--12-ben", "van", "."]),
|
||
("A 10--12-ben.", ["A", "10--12-ben", "."]),
|
||
("A 10‐12 van.", ["A", "10‐12", "van", "."]),
|
||
("A 10‐12-ben van.", ["A", "10‐12-ben", "van", "."]),
|
||
("A 10‐12-ben.", ["A", "10‐12-ben", "."]),
|
||
("A 10‑12 van.", ["A", "10‑12", "van", "."]),
|
||
("A 10‑12-ben van.", ["A", "10‑12-ben", "van", "."]),
|
||
("A 10‑12-ben.", ["A", "10‑12-ben", "."]),
|
||
("A 10‒12 van.", ["A", "10‒12", "van", "."]),
|
||
("A 10‒12-ben van.", ["A", "10‒12-ben", "van", "."]),
|
||
("A 10‒12-ben.", ["A", "10‒12-ben", "."]),
|
||
("A 10–12 van.", ["A", "10–12", "van", "."]),
|
||
("A 10–12-ben van.", ["A", "10–12-ben", "van", "."]),
|
||
("A 10–12-ben.", ["A", "10–12-ben", "."]),
|
||
("A 10—12 van.", ["A", "10—12", "van", "."]),
|
||
("A 10—12-ben van.", ["A", "10—12-ben", "van", "."]),
|
||
("A 10—12-ben.", ["A", "10—12-ben", "."]),
|
||
("A 10―12 van.", ["A", "10―12", "van", "."]),
|
||
("A 10―12-ben van.", ["A", "10―12-ben", "van", "."]),
|
||
("A 10―12-ben.", ["A", "10―12-ben", "."]),
|
||
("A -23,12 van.", ["A", "-23,12", "van", "."]),
|
||
("A -23,12-ben van.", ["A", "-23,12-ben", "van", "."]),
|
||
("A -23,12-ben.", ["A", "-23,12-ben", "."]),
|
||
("A 2+3 van.", ["A", "2+3", "van", "."]),
|
||
("A 2<3 van.", ["A", "2<3", "van", "."]),
|
||
("A 2=3 van.", ["A", "2=3", "van", "."]),
|
||
("A 2÷3 van.", ["A", "2÷3", "van", "."]),
|
||
("A 1=(2÷3)-2/5 van.", ["A", "1=(2÷3)-2/5", "van", "."]),
|
||
("A 2 +3 van.", ["A", "2", "+3", "van", "."]),
|
||
("A 2+ 3 van.", ["A", "2", "+", "3", "van", "."]),
|
||
("A 2 + 3 van.", ["A", "2", "+", "3", "van", "."]),
|
||
("A 2*3 van.", ["A", "2*3", "van", "."]),
|
||
("A 2 *3 van.", ["A", "2", "*", "3", "van", "."]),
|
||
("A 2* 3 van.", ["A", "2", "*", "3", "van", "."]),
|
||
("A 2 * 3 van.", ["A", "2", "*", "3", "van", "."]),
|
||
("A C++ van.", ["A", "C++", "van", "."]),
|
||
("A C++-ben van.", ["A", "C++-ben", "van", "."]),
|
||
("A C++.", ["A", "C++", "."]),
|
||
("A C++-ben.", ["A", "C++-ben", "."]),
|
||
("A 2003. I. 06. van.", ["A", "2003.", "I.", "06.", "van", "."]),
|
||
("A 2003. I. 06-ben van.", ["A", "2003.", "I.", "06-ben", "van", "."]),
|
||
("A 2003. I. 06.", ["A", "2003.", "I.", "06."]),
|
||
("A 2003. I. 06-ben.", ["A", "2003.", "I.", "06-ben", "."]),
|
||
("A 2003. 01. 06. van.", ["A", "2003.", "01.", "06.", "van", "."]),
|
||
("A 2003. 01. 06-ben van.", ["A", "2003.", "01.", "06-ben", "van", "."]),
|
||
("A 2003. 01. 06.", ["A", "2003.", "01.", "06."]),
|
||
("A 2003. 01. 06-ben.", ["A", "2003.", "01.", "06-ben", "."]),
|
||
("A IV. 12. van.", ["A", "IV.", "12.", "van", "."]),
|
||
("A IV. 12-ben van.", ["A", "IV.", "12-ben", "van", "."]),
|
||
("A IV. 12.", ["A", "IV.", "12."]),
|
||
("A IV. 12-ben.", ["A", "IV.", "12-ben", "."]),
|
||
("A 2003.01.06. van.", ["A", "2003.01.06.", "van", "."]),
|
||
("A 2003.01.06-ben van.", ["A", "2003.01.06-ben", "van", "."]),
|
||
("A 2003.01.06.", ["A", "2003.01.06."]),
|
||
("A 2003.01.06-ben.", ["A", "2003.01.06-ben", "."]),
|
||
("A IV.12. van.", ["A", "IV.12.", "van", "."]),
|
||
("A IV.12-ben van.", ["A", "IV.12-ben", "van", "."]),
|
||
("A IV.12.", ["A", "IV.12."]),
|
||
("A IV.12-ben.", ["A", "IV.12-ben", "."]),
|
||
("A 1.1.2. van.", ["A", "1.1.2.", "van", "."]),
|
||
("A 1.1.2-ben van.", ["A", "1.1.2-ben", "van", "."]),
|
||
("A 1.1.2.", ["A", "1.1.2."]),
|
||
("A 1.1.2-ben.", ["A", "1.1.2-ben", "."]),
|
||
("A 1,5--2,5 van.", ["A", "1,5--2,5", "van", "."]),
|
||
("A 1,5--2,5-ben van.", ["A", "1,5--2,5-ben", "van", "."]),
|
||
("A 1,5--2,5-ben.", ["A", "1,5--2,5-ben", "."]),
|
||
("A 3,14 van.", ["A", "3,14", "van", "."]),
|
||
("A 3,14-ben van.", ["A", "3,14-ben", "van", "."]),
|
||
("A 3,14-ben.", ["A", "3,14-ben", "."]),
|
||
("A 3.14 van.", ["A", "3.14", "van", "."]),
|
||
("A 3.14-ben van.", ["A", "3.14-ben", "van", "."]),
|
||
("A 3.14-ben.", ["A", "3.14-ben", "."]),
|
||
("A 15. van.", ["A", "15.", "van", "."]),
|
||
("A 15-ben van.", ["A", "15-ben", "van", "."]),
|
||
("A 15-ben.", ["A", "15-ben", "."]),
|
||
("A 15.-ben van.", ["A", "15.-ben", "van", "."]),
|
||
("A 15.-ben.", ["A", "15.-ben", "."]),
|
||
("A 2002--2003. van.", ["A", "2002--2003.", "van", "."]),
|
||
("A 2002--2003-ben van.", ["A", "2002--2003-ben", "van", "."]),
|
||
("A 2002-2003-ben.", ["A", "2002-2003-ben", "."]),
|
||
("A +0,99% van.", ["A", "+0,99%", "van", "."]),
|
||
("A -0,99% van.", ["A", "-0,99%", "van", "."]),
|
||
("A -0,99%-ben van.", ["A", "-0,99%-ben", "van", "."]),
|
||
("A -0,99%.", ["A", "-0,99%", "."]),
|
||
("A -0,99%-ben.", ["A", "-0,99%-ben", "."]),
|
||
("A 10--20% van.", ["A", "10--20%", "van", "."]),
|
||
("A 10--20%-ben van.", ["A", "10--20%-ben", "van", "."]),
|
||
("A 10--20%.", ["A", "10--20%", "."]),
|
||
("A 10--20%-ben.", ["A", "10--20%-ben", "."]),
|
||
("A 99§ van.", ["A", "99§", "van", "."]),
|
||
("A 99§-ben van.", ["A", "99§-ben", "van", "."]),
|
||
("A 99§-ben.", ["A", "99§-ben", "."]),
|
||
("A 10--20§ van.", ["A", "10--20§", "van", "."]),
|
||
("A 10--20§-ben van.", ["A", "10--20§-ben", "van", "."]),
|
||
("A 10--20§-ben.", ["A", "10--20§-ben", "."]),
|
||
("A 99° van.", ["A", "99°", "van", "."]),
|
||
("A 99°-ben van.", ["A", "99°-ben", "van", "."]),
|
||
("A 99°-ben.", ["A", "99°-ben", "."]),
|
||
("A 10--20° van.", ["A", "10--20°", "van", "."]),
|
||
("A 10--20°-ben van.", ["A", "10--20°-ben", "van", "."]),
|
||
("A 10--20°-ben.", ["A", "10--20°-ben", "."]),
|
||
("A °C van.", ["A", "°C", "van", "."]),
|
||
("A °C-ben van.", ["A", "°C-ben", "van", "."]),
|
||
("A °C.", ["A", "°C", "."]),
|
||
("A °C-ben.", ["A", "°C-ben", "."]),
|
||
("A 100°C van.", ["A", "100°C", "van", "."]),
|
||
("A 100°C-ben van.", ["A", "100°C-ben", "van", "."]),
|
||
("A 100°C.", ["A", "100°C", "."]),
|
||
("A 100°C-ben.", ["A", "100°C-ben", "."]),
|
||
("A 800x600 van.", ["A", "800x600", "van", "."]),
|
||
("A 800x600-ben van.", ["A", "800x600-ben", "van", "."]),
|
||
("A 800x600-ben.", ["A", "800x600-ben", "."]),
|
||
("A 1x2x3x4 van.", ["A", "1x2x3x4", "van", "."]),
|
||
("A 1x2x3x4-ben van.", ["A", "1x2x3x4-ben", "van", "."]),
|
||
("A 1x2x3x4-ben.", ["A", "1x2x3x4-ben", "."]),
|
||
("A 5/J van.", ["A", "5/J", "van", "."]),
|
||
("A 5/J-ben van.", ["A", "5/J-ben", "van", "."]),
|
||
("A 5/J-ben.", ["A", "5/J-ben", "."]),
|
||
("A 5/J. van.", ["A", "5/J.", "van", "."]),
|
||
("A 5/J.-ben van.", ["A", "5/J.-ben", "van", "."]),
|
||
("A 5/J.-ben.", ["A", "5/J.-ben", "."]),
|
||
("A III/1 van.", ["A", "III/1", "van", "."]),
|
||
("A III/1-ben van.", ["A", "III/1-ben", "van", "."]),
|
||
("A III/1-ben.", ["A", "III/1-ben", "."]),
|
||
("A III/1. van.", ["A", "III/1.", "van", "."]),
|
||
("A III/1.-ben van.", ["A", "III/1.-ben", "van", "."]),
|
||
("A III/1.-ben.", ["A", "III/1.-ben", "."]),
|
||
("A III/c van.", ["A", "III/c", "van", "."]),
|
||
("A III/c-ben van.", ["A", "III/c-ben", "van", "."]),
|
||
("A III/c.", ["A", "III/c", "."]),
|
||
("A III/c-ben.", ["A", "III/c-ben", "."]),
|
||
("A TU–154 van.", ["A", "TU–154", "van", "."]),
|
||
("A TU–154-ben van.", ["A", "TU–154-ben", "van", "."]),
|
||
("A TU–154-ben.", ["A", "TU–154-ben", "."]),
|
||
("A 5cm³", ["A", "5", "cm³"]),
|
||
("A 5 $-ban", ["A", "5", "$-ban"]),
|
||
("A 5$-ban", ["A", "5$-ban"]),
|
||
("A 5$.", ["A", "5", "$", "."]),
|
||
("A 5$", ["A", "5", "$"]),
|
||
("A $5", ["A", "$5"]),
|
||
("A 5km/h", ["A", "5", "km/h"]),
|
||
("A 75%+1-100%-ig", ["A", "75%+1-100%-ig"]),
|
||
("A 5km/h.", ["A", "5", "km/h", "."]),
|
||
("3434/1992. évi elszámolás", ["3434/1992.", "évi", "elszámolás"]),
|
||
]
|
||
|
||
QUOTE_TESTS = [
|
||
(
|
||
'Az "Ime, hat"-ban irja.',
|
||
["Az", '"', "Ime", ",", "hat", '"', "-ban", "irja", "."],
|
||
),
|
||
('"Ime, hat"-ban irja.', ['"', "Ime", ",", "hat", '"', "-ban", "irja", "."]),
|
||
('Az "Ime, hat".', ["Az", '"', "Ime", ",", "hat", '"', "."]),
|
||
('Egy 24"-os monitor.', ["Egy", '24"-os', "monitor", "."]),
|
||
("A McDonald's van.", ["A", "McDonald's", "van", "."]),
|
||
]
|
||
|
||
DOT_TESTS = [
|
||
("N. kormányzósági\nszékhely.", ["N.", "kormányzósági", "székhely", "."]),
|
||
pytest.param(
|
||
"A .hu egy tld.", ["A", ".hu", "egy", "tld", "."], marks=pytest.mark.xfail()
|
||
),
|
||
("Az egy.ketto pelda.", ["Az", "egy.ketto", "pelda", "."]),
|
||
("A pl. rövidítés.", ["A", "pl.", "rövidítés", "."]),
|
||
("A S.M.A.R.T. szó.", ["A", "S.M.A.R.T.", "szó", "."]),
|
||
pytest.param("A .hu.", ["A", ".hu", "."], marks=pytest.mark.xfail()),
|
||
("Az egy.ketto.", ["Az", "egy.ketto", "."]),
|
||
("A pl.", ["A", "pl."]),
|
||
("A S.M.A.R.T.", ["A", "S.M.A.R.T."]),
|
||
("Egy..ket.", ["Egy", "..", "ket", "."]),
|
||
("Valami... van.", ["Valami", "...", "van", "."]),
|
||
("Valami ...van...", ["Valami", "...", "van", "..."]),
|
||
("Valami...", ["Valami", "..."]),
|
||
("Valami ...", ["Valami", "..."]),
|
||
("Valami ... más.", ["Valami", "...", "más", "."]),
|
||
]
|
||
|
||
TYPO_TESTS = [
|
||
(
|
||
"Ez egy mondat vége.Ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", ".", "Ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
(
|
||
"Ez egy mondat vége .Ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", ".", "Ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
(
|
||
"Ez egy mondat vége!ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", "!", "ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
(
|
||
"Ez egy mondat vége !ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", "!", "ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
(
|
||
"Ez egy mondat vége?Ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", "?", "Ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
(
|
||
"Ez egy mondat vége ?Ez egy másik eleje.",
|
||
["Ez", "egy", "mondat", "vége", "?", "Ez", "egy", "másik", "eleje", "."],
|
||
),
|
||
("egy,kettő", ["egy", ",", "kettő"]),
|
||
("egy ,kettő", ["egy", ",", "kettő"]),
|
||
("egy :kettő", ["egy", ":", "kettő"]),
|
||
]
|
||
|
||
WIKI_TESTS = [
|
||
('!"', ["!", '"']),
|
||
('lány"a', ["lány", '"', "a"]),
|
||
('lány"a', ["lány", '"', "a"]),
|
||
('!"-lel', ["!", '"', "-lel"]),
|
||
('""-sorozat ', ['"', '"', "-sorozat"]),
|
||
('"(Köszönöm', ['"', "(", "Köszönöm"]),
|
||
("(törvénykönyv)-ben ", ["(", "törvénykönyv", ")", "-ben"]),
|
||
('"(...)"–sokkal ', ['"', "(", "...", ")", '"', "–sokkal"]),
|
||
("cérium(IV)-oxid", ["cérium", "(", "IV", ")", "-oxid"]),
|
||
]
|
||
|
||
EXTRA_TESTS = (
|
||
DOT_TESTS
|
||
+ QUOTE_TESTS
|
||
+ NUMBER_TESTS
|
||
+ HYPHEN_TESTS
|
||
+ WIKI_TESTS
|
||
+ TYPO_TESTS
|
||
)
|
||
|
||
# normal: default tests + 10% of extra tests
|
||
TESTS = DEFAULT_TESTS
|
||
TESTS.extend([x for i, x in enumerate(EXTRA_TESTS) if i % 10 == 0])
|
||
|
||
# slow: remaining 90% of extra tests
|
||
SLOW_TESTS = [x for i, x in enumerate(EXTRA_TESTS) if i % 10 != 0]
|
||
TESTS.extend([pytest.param(x[0], x[1], marks=pytest.mark.slow()) if not isinstance(x[0], tuple) else x for x in SLOW_TESTS])
|
||
|
||
|
||
@pytest.mark.parametrize("text,expected_tokens", TESTS)
|
||
def test_hu_tokenizer_handles_testcases(hu_tokenizer, text, expected_tokens):
|
||
tokens = hu_tokenizer(text)
|
||
token_list = [token.text for token in tokens if not token.is_space]
|
||
assert expected_tokens == token_list
|