mirror of
https://github.com/explosion/spaCy.git
synced 2024-09-22 11:59:14 +03:00
75f3234404
## Description Related issues: #2379 (should be fixed by separating model tests) * **total execution time down from > 300 seconds to under 60 seconds** 🎉 * removed all model-specific tests that could only really be run manually anyway – those will now live in a separate test suite in the [`spacy-models`](https://github.com/explosion/spacy-models) repository and are already integrated into our new model training infrastructure * changed all relative imports to absolute imports to prepare for moving the test suite from `/spacy/tests` to `/tests` (it'll now always test against the installed version) * merged old regression tests into collections, e.g. `test_issue1001-1500.py` (about 90% of the regression tests are very short anyways) * tidied up and rewrote existing tests wherever possible ### Todo - [ ] move tests to `/tests` and adjust CI commands accordingly - [x] move model test suite from internal repo to `spacy-models` - [x] ~~investigate why `pipeline/test_textcat.py` is flakey~~ - [x] review old regression tests (leftover files) and see if they can be merged, simplified or deleted - [ ] update documentation on how to run tests ### Types of change enhancement, tests ## Checklist <!--- Before you submit the PR, go over this checklist and make sure you can tick off all the boxes. [] -> [x] --> - [x] I have submitted the spaCy Contributor Agreement. - [x] I ran the tests, and all new and existing tests passed. - [ ] My changes don't require a change to the documentation, or if they do, I've added all required information.
285 lines
14 KiB
Python
285 lines
14 KiB
Python
# coding: utf8
|
||
from __future__ import unicode_literals
|
||
|
||
import pytest
|
||
|
||
|
||
DEFAULT_TESTS = [
|
||
('N. kormányzósági\nszékhely.', ['N.', 'kormányzósági', 'székhely', '.']),
|
||
pytest.mark.xfail(('A .hu egy tld.', ['A', '.hu', 'egy', 'tld', '.'])),
|
||
('Az egy.ketto pelda.', ['Az', 'egy.ketto', 'pelda', '.']),
|
||
('A pl. rovidites.', ['A', 'pl.', 'rovidites', '.']),
|
||
('A S.M.A.R.T. szo.', ['A', 'S.M.A.R.T.', 'szo', '.']),
|
||
pytest.mark.xfail(('A .hu.', ['A', '.hu', '.'])),
|
||
('Az egy.ketto.', ['Az', 'egy.ketto', '.']),
|
||
('A pl.', ['A', 'pl.']),
|
||
('A S.M.A.R.T.', ['A', 'S.M.A.R.T.']),
|
||
('Egy..ket.', ['Egy', '..', 'ket', '.']),
|
||
('Valami... van.', ['Valami', '...', 'van', '.']),
|
||
('Valami ...van...', ['Valami', '...', 'van', '...']),
|
||
('Valami...', ['Valami', '...']),
|
||
('Valami ...', ['Valami', '...']),
|
||
('Valami ... más.', ['Valami', '...', 'más', '.']),
|
||
('Soha nem lesz!', ['Soha', 'nem', 'lesz', '!']),
|
||
('Soha nem lesz?', ['Soha', 'nem', 'lesz', '?'])
|
||
]
|
||
|
||
HYPHEN_TESTS = [
|
||
('Egy -nak, -jaiért, -magyar, bel- van.', ['Egy', '-nak', ',', '-jaiért', ',', '-magyar', ',', 'bel-', 'van', '.']),
|
||
('Szabolcs-Szatmár-Bereg megye', ['Szabolcs-Szatmár-Bereg', 'megye']),
|
||
('Egy -nak.', ['Egy', '-nak', '.']),
|
||
('Egy bel-.', ['Egy', 'bel-', '.']),
|
||
('Dinnye-domb-.', ['Dinnye-domb-', '.']),
|
||
('Ezen -e elcsatangolt.', ['Ezen', '-e', 'elcsatangolt', '.']),
|
||
('Lakik-e', ['Lakik', '-e']),
|
||
('A--B', ['A', '--', 'B']),
|
||
('Lakik-e?', ['Lakik', '-e', '?']),
|
||
('Lakik-e.', ['Lakik', '-e', '.']),
|
||
('Lakik-e...', ['Lakik', '-e', '...']),
|
||
('Lakik-e... van.', ['Lakik', '-e', '...', 'van', '.']),
|
||
('Lakik-e van?', ['Lakik', '-e', 'van', '?']),
|
||
('Lakik-elem van?', ['Lakik-elem', 'van', '?']),
|
||
('Az életbiztosításáról- egy.', ['Az', 'életbiztosításáról-', 'egy', '.']),
|
||
('Van lakik-elem.', ['Van', 'lakik-elem', '.']),
|
||
('A 7-es busz?', ['A', '7-es', 'busz', '?']),
|
||
('A 7-es?', ['A', '7-es', '?']),
|
||
('A 7-es.', ['A', '7-es', '.']),
|
||
('Ez (lakik)-e?', ['Ez', '(', 'lakik', ')', '-e', '?']),
|
||
('A %-sal.', ['A', '%-sal', '.']),
|
||
('A $-sal.', ['A', '$-sal', '.']),
|
||
('A CD-ROM-okrol.', ['A', 'CD-ROM-okrol', '.'])
|
||
]
|
||
|
||
NUMBER_TESTS = [
|
||
('A 2b van.', ['A', '2b', 'van', '.']),
|
||
('A 2b-ben van.', ['A', '2b-ben', 'van', '.']),
|
||
('A 2b.', ['A', '2b', '.']),
|
||
('A 2b-ben.', ['A', '2b-ben', '.']),
|
||
('A 3.b van.', ['A', '3.b', 'van', '.']),
|
||
('A 3.b-ben van.', ['A', '3.b-ben', 'van', '.']),
|
||
('A 3.b.', ['A', '3.b', '.']),
|
||
('A 3.b-ben.', ['A', '3.b-ben', '.']),
|
||
('A 1:20:36.7 van.', ['A', '1:20:36.7', 'van', '.']),
|
||
('A 1:20:36.7-ben van.', ['A', '1:20:36.7-ben', 'van', '.']),
|
||
('A 1:20:36.7-ben.', ['A', '1:20:36.7-ben', '.']),
|
||
('A 1:35 van.', ['A', '1:35', 'van', '.']),
|
||
('A 1:35-ben van.', ['A', '1:35-ben', 'van', '.']),
|
||
('A 1:35-ben.', ['A', '1:35-ben', '.']),
|
||
('A 1.35 van.', ['A', '1.35', 'van', '.']),
|
||
('A 1.35-ben van.', ['A', '1.35-ben', 'van', '.']),
|
||
('A 1.35-ben.', ['A', '1.35-ben', '.']),
|
||
('A 4:01,95 van.', ['A', '4:01,95', 'van', '.']),
|
||
('A 4:01,95-ben van.', ['A', '4:01,95-ben', 'van', '.']),
|
||
('A 4:01,95-ben.', ['A', '4:01,95-ben', '.']),
|
||
('A 10--12 van.', ['A', '10--12', 'van', '.']),
|
||
('A 10--12-ben van.', ['A', '10--12-ben', 'van', '.']),
|
||
('A 10--12-ben.', ['A', '10--12-ben', '.']),
|
||
('A 10‐12 van.', ['A', '10‐12', 'van', '.']),
|
||
('A 10‐12-ben van.', ['A', '10‐12-ben', 'van', '.']),
|
||
('A 10‐12-ben.', ['A', '10‐12-ben', '.']),
|
||
('A 10‑12 van.', ['A', '10‑12', 'van', '.']),
|
||
('A 10‑12-ben van.', ['A', '10‑12-ben', 'van', '.']),
|
||
('A 10‑12-ben.', ['A', '10‑12-ben', '.']),
|
||
('A 10‒12 van.', ['A', '10‒12', 'van', '.']),
|
||
('A 10‒12-ben van.', ['A', '10‒12-ben', 'van', '.']),
|
||
('A 10‒12-ben.', ['A', '10‒12-ben', '.']),
|
||
('A 10–12 van.', ['A', '10–12', 'van', '.']),
|
||
('A 10–12-ben van.', ['A', '10–12-ben', 'van', '.']),
|
||
('A 10–12-ben.', ['A', '10–12-ben', '.']),
|
||
('A 10—12 van.', ['A', '10—12', 'van', '.']),
|
||
('A 10—12-ben van.', ['A', '10—12-ben', 'van', '.']),
|
||
('A 10—12-ben.', ['A', '10—12-ben', '.']),
|
||
('A 10―12 van.', ['A', '10―12', 'van', '.']),
|
||
('A 10―12-ben van.', ['A', '10―12-ben', 'van', '.']),
|
||
('A 10―12-ben.', ['A', '10―12-ben', '.']),
|
||
('A -23,12 van.', ['A', '-23,12', 'van', '.']),
|
||
('A -23,12-ben van.', ['A', '-23,12-ben', 'van', '.']),
|
||
('A -23,12-ben.', ['A', '-23,12-ben', '.']),
|
||
('A 2+3 van.', ['A', '2+3', 'van', '.']),
|
||
('A 2<3 van.', ['A', '2<3', 'van', '.']),
|
||
('A 2=3 van.', ['A', '2=3', 'van', '.']),
|
||
('A 2÷3 van.', ['A', '2÷3', 'van', '.']),
|
||
('A 1=(2÷3)-2/5 van.', ['A', '1=(2÷3)-2/5', 'van', '.']),
|
||
('A 2 +3 van.', ['A', '2', '+3', 'van', '.']),
|
||
('A 2+ 3 van.', ['A', '2', '+', '3', 'van', '.']),
|
||
('A 2 + 3 van.', ['A', '2', '+', '3', 'van', '.']),
|
||
('A 2*3 van.', ['A', '2*3', 'van', '.']),
|
||
('A 2 *3 van.', ['A', '2', '*', '3', 'van', '.']),
|
||
('A 2* 3 van.', ['A', '2', '*', '3', 'van', '.']),
|
||
('A 2 * 3 van.', ['A', '2', '*', '3', 'van', '.']),
|
||
('A C++ van.', ['A', 'C++', 'van', '.']),
|
||
('A C++-ben van.', ['A', 'C++-ben', 'van', '.']),
|
||
('A C++.', ['A', 'C++', '.']),
|
||
('A C++-ben.', ['A', 'C++-ben', '.']),
|
||
('A 2003. I. 06. van.', ['A', '2003.', 'I.', '06.', 'van', '.']),
|
||
('A 2003. I. 06-ben van.', ['A', '2003.', 'I.', '06-ben', 'van', '.']),
|
||
('A 2003. I. 06.', ['A', '2003.', 'I.', '06.']),
|
||
('A 2003. I. 06-ben.', ['A', '2003.', 'I.', '06-ben', '.']),
|
||
('A 2003. 01. 06. van.', ['A', '2003.', '01.', '06.', 'van', '.']),
|
||
('A 2003. 01. 06-ben van.', ['A', '2003.', '01.', '06-ben', 'van', '.']),
|
||
('A 2003. 01. 06.', ['A', '2003.', '01.', '06.']),
|
||
('A 2003. 01. 06-ben.', ['A', '2003.', '01.', '06-ben', '.']),
|
||
('A IV. 12. van.', ['A', 'IV.', '12.', 'van', '.']),
|
||
('A IV. 12-ben van.', ['A', 'IV.', '12-ben', 'van', '.']),
|
||
('A IV. 12.', ['A', 'IV.', '12.']),
|
||
('A IV. 12-ben.', ['A', 'IV.', '12-ben', '.']),
|
||
('A 2003.01.06. van.', ['A', '2003.01.06.', 'van', '.']),
|
||
('A 2003.01.06-ben van.', ['A', '2003.01.06-ben', 'van', '.']),
|
||
('A 2003.01.06.', ['A', '2003.01.06.']),
|
||
('A 2003.01.06-ben.', ['A', '2003.01.06-ben', '.']),
|
||
('A IV.12. van.', ['A', 'IV.12.', 'van', '.']),
|
||
('A IV.12-ben van.', ['A', 'IV.12-ben', 'van', '.']),
|
||
('A IV.12.', ['A', 'IV.12.']),
|
||
('A IV.12-ben.', ['A', 'IV.12-ben', '.']),
|
||
('A 1.1.2. van.', ['A', '1.1.2.', 'van', '.']),
|
||
('A 1.1.2-ben van.', ['A', '1.1.2-ben', 'van', '.']),
|
||
('A 1.1.2.', ['A', '1.1.2.']),
|
||
('A 1.1.2-ben.', ['A', '1.1.2-ben', '.']),
|
||
('A 1,5--2,5 van.', ['A', '1,5--2,5', 'van', '.']),
|
||
('A 1,5--2,5-ben van.', ['A', '1,5--2,5-ben', 'van', '.']),
|
||
('A 1,5--2,5-ben.', ['A', '1,5--2,5-ben', '.']),
|
||
('A 3,14 van.', ['A', '3,14', 'van', '.']),
|
||
('A 3,14-ben van.', ['A', '3,14-ben', 'van', '.']),
|
||
('A 3,14-ben.', ['A', '3,14-ben', '.']),
|
||
('A 3.14 van.', ['A', '3.14', 'van', '.']),
|
||
('A 3.14-ben van.', ['A', '3.14-ben', 'van', '.']),
|
||
('A 3.14-ben.', ['A', '3.14-ben', '.']),
|
||
('A 15. van.', ['A', '15.', 'van', '.']),
|
||
('A 15-ben van.', ['A', '15-ben', 'van', '.']),
|
||
('A 15-ben.', ['A', '15-ben', '.']),
|
||
('A 15.-ben van.', ['A', '15.-ben', 'van', '.']),
|
||
('A 15.-ben.', ['A', '15.-ben', '.']),
|
||
('A 2002--2003. van.', ['A', '2002--2003.', 'van', '.']),
|
||
('A 2002--2003-ben van.', ['A', '2002--2003-ben', 'van', '.']),
|
||
('A 2002-2003-ben.', ['A', '2002-2003-ben', '.']),
|
||
('A +0,99% van.', ['A', '+0,99%', 'van', '.']),
|
||
('A -0,99% van.', ['A', '-0,99%', 'van', '.']),
|
||
('A -0,99%-ben van.', ['A', '-0,99%-ben', 'van', '.']),
|
||
('A -0,99%.', ['A', '-0,99%', '.']),
|
||
('A -0,99%-ben.', ['A', '-0,99%-ben', '.']),
|
||
('A 10--20% van.', ['A', '10--20%', 'van', '.']),
|
||
('A 10--20%-ben van.', ['A', '10--20%-ben', 'van', '.']),
|
||
('A 10--20%.', ['A', '10--20%', '.']),
|
||
('A 10--20%-ben.', ['A', '10--20%-ben', '.']),
|
||
('A 99§ van.', ['A', '99§', 'van', '.']),
|
||
('A 99§-ben van.', ['A', '99§-ben', 'van', '.']),
|
||
('A 99§-ben.', ['A', '99§-ben', '.']),
|
||
('A 10--20§ van.', ['A', '10--20§', 'van', '.']),
|
||
('A 10--20§-ben van.', ['A', '10--20§-ben', 'van', '.']),
|
||
('A 10--20§-ben.', ['A', '10--20§-ben', '.']),
|
||
('A 99° van.', ['A', '99°', 'van', '.']),
|
||
('A 99°-ben van.', ['A', '99°-ben', 'van', '.']),
|
||
('A 99°-ben.', ['A', '99°-ben', '.']),
|
||
('A 10--20° van.', ['A', '10--20°', 'van', '.']),
|
||
('A 10--20°-ben van.', ['A', '10--20°-ben', 'van', '.']),
|
||
('A 10--20°-ben.', ['A', '10--20°-ben', '.']),
|
||
('A °C van.', ['A', '°C', 'van', '.']),
|
||
('A °C-ben van.', ['A', '°C-ben', 'van', '.']),
|
||
('A °C.', ['A', '°C', '.']),
|
||
('A °C-ben.', ['A', '°C-ben', '.']),
|
||
('A 100°C van.', ['A', '100°C', 'van', '.']),
|
||
('A 100°C-ben van.', ['A', '100°C-ben', 'van', '.']),
|
||
('A 100°C.', ['A', '100°C', '.']),
|
||
('A 100°C-ben.', ['A', '100°C-ben', '.']),
|
||
('A 800x600 van.', ['A', '800x600', 'van', '.']),
|
||
('A 800x600-ben van.', ['A', '800x600-ben', 'van', '.']),
|
||
('A 800x600-ben.', ['A', '800x600-ben', '.']),
|
||
('A 1x2x3x4 van.', ['A', '1x2x3x4', 'van', '.']),
|
||
('A 1x2x3x4-ben van.', ['A', '1x2x3x4-ben', 'van', '.']),
|
||
('A 1x2x3x4-ben.', ['A', '1x2x3x4-ben', '.']),
|
||
('A 5/J van.', ['A', '5/J', 'van', '.']),
|
||
('A 5/J-ben van.', ['A', '5/J-ben', 'van', '.']),
|
||
('A 5/J-ben.', ['A', '5/J-ben', '.']),
|
||
('A 5/J. van.', ['A', '5/J.', 'van', '.']),
|
||
('A 5/J.-ben van.', ['A', '5/J.-ben', 'van', '.']),
|
||
('A 5/J.-ben.', ['A', '5/J.-ben', '.']),
|
||
('A III/1 van.', ['A', 'III/1', 'van', '.']),
|
||
('A III/1-ben van.', ['A', 'III/1-ben', 'van', '.']),
|
||
('A III/1-ben.', ['A', 'III/1-ben', '.']),
|
||
('A III/1. van.', ['A', 'III/1.', 'van', '.']),
|
||
('A III/1.-ben van.', ['A', 'III/1.-ben', 'van', '.']),
|
||
('A III/1.-ben.', ['A', 'III/1.-ben', '.']),
|
||
('A III/c van.', ['A', 'III/c', 'van', '.']),
|
||
('A III/c-ben van.', ['A', 'III/c-ben', 'van', '.']),
|
||
('A III/c.', ['A', 'III/c', '.']),
|
||
('A III/c-ben.', ['A', 'III/c-ben', '.']),
|
||
('A TU–154 van.', ['A', 'TU–154', 'van', '.']),
|
||
('A TU–154-ben van.', ['A', 'TU–154-ben', 'van', '.']),
|
||
('A TU–154-ben.', ['A', 'TU–154-ben', '.']),
|
||
('A 5cm³', ['A', '5', 'cm³']),
|
||
('A 5 $-ban', ['A', '5', '$-ban']),
|
||
('A 5$-ban', ['A', '5$-ban']),
|
||
('A 5$.', ['A', '5', '$', '.']),
|
||
('A 5$', ['A', '5', '$']),
|
||
('A $5', ['A', '$5']),
|
||
('A 5km/h', ['A', '5', 'km/h']),
|
||
('A 75%+1-100%-ig', ['A', '75%+1-100%-ig']),
|
||
('A 5km/h.', ['A', '5', 'km/h', '.']),
|
||
('3434/1992. évi elszámolás', ['3434/1992.', 'évi', 'elszámolás']),
|
||
]
|
||
|
||
QUOTE_TESTS = [
|
||
('Az "Ime, hat"-ban irja.', ['Az', '"', 'Ime', ',', 'hat', '"', '-ban', 'irja', '.']),
|
||
('"Ime, hat"-ban irja.', ['"', 'Ime', ',', 'hat', '"', '-ban', 'irja', '.']),
|
||
('Az "Ime, hat".', ['Az', '"', 'Ime', ',', 'hat', '"', '.']),
|
||
('Egy 24"-os monitor.', ['Egy', '24"-os', 'monitor', '.']),
|
||
("A McDonald's van.", ['A', "McDonald's", 'van', '.'])
|
||
]
|
||
|
||
DOT_TESTS = [
|
||
('N. kormányzósági\nszékhely.', ['N.', 'kormányzósági', 'székhely', '.']),
|
||
pytest.mark.xfail(('A .hu egy tld.', ['A', '.hu', 'egy', 'tld', '.'])),
|
||
('Az egy.ketto pelda.', ['Az', 'egy.ketto', 'pelda', '.']),
|
||
('A pl. rövidítés.', ['A', 'pl.', 'rövidítés', '.']),
|
||
('A S.M.A.R.T. szó.', ['A', 'S.M.A.R.T.', 'szó', '.']),
|
||
pytest.mark.xfail(('A .hu.', ['A', '.hu', '.'])),
|
||
('Az egy.ketto.', ['Az', 'egy.ketto', '.']),
|
||
('A pl.', ['A', 'pl.']),
|
||
('A S.M.A.R.T.', ['A', 'S.M.A.R.T.']),
|
||
('Egy..ket.', ['Egy', '..', 'ket', '.']),
|
||
('Valami... van.', ['Valami', '...', 'van', '.']),
|
||
('Valami ...van...', ['Valami', '...', 'van', '...']),
|
||
('Valami...', ['Valami', '...']),
|
||
('Valami ...', ['Valami', '...']),
|
||
('Valami ... más.', ['Valami', '...', 'más', '.'])
|
||
]
|
||
|
||
TYPO_TESTS = [
|
||
(
|
||
'Ez egy mondat vége.Ez egy másik eleje.', ['Ez', 'egy', 'mondat', 'vége', '.', 'Ez', 'egy', 'másik', 'eleje', '.']),
|
||
('Ez egy mondat vége .Ez egy másik eleje.',
|
||
['Ez', 'egy', 'mondat', 'vége', '.', 'Ez', 'egy', 'másik', 'eleje', '.']),
|
||
(
|
||
'Ez egy mondat vége!ez egy másik eleje.', ['Ez', 'egy', 'mondat', 'vége', '!', 'ez', 'egy', 'másik', 'eleje', '.']),
|
||
('Ez egy mondat vége !ez egy másik eleje.',
|
||
['Ez', 'egy', 'mondat', 'vége', '!', 'ez', 'egy', 'másik', 'eleje', '.']),
|
||
(
|
||
'Ez egy mondat vége?Ez egy másik eleje.', ['Ez', 'egy', 'mondat', 'vége', '?', 'Ez', 'egy', 'másik', 'eleje', '.']),
|
||
('Ez egy mondat vége ?Ez egy másik eleje.',
|
||
['Ez', 'egy', 'mondat', 'vége', '?', 'Ez', 'egy', 'másik', 'eleje', '.']),
|
||
('egy,kettő', ['egy', ',', 'kettő']),
|
||
('egy ,kettő', ['egy', ',', 'kettő']),
|
||
('egy :kettő', ['egy', ':', 'kettő']),
|
||
]
|
||
|
||
WIKI_TESTS = [
|
||
('!"', ['!', '"']),
|
||
('lány"a', ['lány', '"', 'a']),
|
||
('lány"a', ['lány', '"', 'a']),
|
||
('!"-lel', ['!', '"', '-lel']),
|
||
('""-sorozat ', ['"', '"', '-sorozat']),
|
||
('"(Köszönöm', ['"', '(', 'Köszönöm']),
|
||
('(törvénykönyv)-ben ', ['(', 'törvénykönyv', ')', '-ben']),
|
||
('"(...)"–sokkal ', ['"', '(', '...', ')', '"', '–sokkal']),
|
||
('cérium(IV)-oxid', ['cérium', '(', 'IV', ')', '-oxid'])
|
||
]
|
||
|
||
TESTCASES = DEFAULT_TESTS + DOT_TESTS + QUOTE_TESTS + NUMBER_TESTS + HYPHEN_TESTS + WIKI_TESTS + TYPO_TESTS
|
||
|
||
|
||
@pytest.mark.parametrize('text,expected_tokens', TESTCASES)
|
||
def test_hu_tokenizer_handles_testcases(hu_tokenizer, text, expected_tokens):
|
||
tokens = hu_tokenizer(text)
|
||
token_list = [token.text for token in tokens if not token.is_space]
|
||
assert expected_tokens == token_list
|