mirror of
https://github.com/explosion/spaCy.git
synced 2024-12-29 19:36:31 +03:00
eddeb36c96
<!--- Provide a general summary of your changes in the title. --> ## Description - [x] Use [`black`](https://github.com/ambv/black) to auto-format all `.py` files. - [x] Update flake8 config to exclude very large files (lemmatization tables etc.) - [x] Update code to be compatible with flake8 rules - [x] Fix various small bugs, inconsistencies and messy stuff in the language data - [x] Update docs to explain new code style (`black`, `flake8`, when to use `# fmt: off` and `# fmt: on` and what `# noqa` means) Once #2932 is merged, which auto-formats and tidies up the CLI, we'll be able to run `flake8 spacy` actually get meaningful results. At the moment, the code style and linting isn't applied automatically, but I'm hoping that the new [GitHub Actions](https://github.com/features/actions) will let us auto-format pull requests and post comments with relevant linting information. ### Types of change enhancement, code style ## Checklist <!--- Before you submit the PR, go over this checklist and make sure you can tick off all the boxes. [] -> [x] --> - [x] I have submitted the spaCy Contributor Agreement. - [x] I ran the tests, and all new and existing tests passed. - [x] My changes don't require a change to the documentation, or if they do, I've added all required information.
238 lines
2.8 KiB
Python
238 lines
2.8 KiB
Python
# coding: utf8
|
|
from __future__ import unicode_literals
|
|
|
|
|
|
# Source: https://github.com/taranjeet/hindi-tokenizer/blob/master/stopwords.txt
|
|
STOP_WORDS = set(
|
|
"""
|
|
अंदर
|
|
अत
|
|
अदि
|
|
अप
|
|
अपना
|
|
अपनि
|
|
अपनी
|
|
अपने
|
|
अभि
|
|
अभी
|
|
अंदर
|
|
आदि
|
|
आप
|
|
इंहिं
|
|
इंहें
|
|
इंहों
|
|
इतयादि
|
|
इत्यादि
|
|
इन
|
|
इनका
|
|
इन्हीं
|
|
इन्हें
|
|
इन्हों
|
|
इस
|
|
इसका
|
|
इसकि
|
|
इसकी
|
|
इसके
|
|
इसमें
|
|
इसि
|
|
इसी
|
|
इसे
|
|
उंहिं
|
|
उंहें
|
|
उंहों
|
|
उन
|
|
उनका
|
|
उनकि
|
|
उनकी
|
|
उनके
|
|
उनको
|
|
उन्हीं
|
|
उन्हें
|
|
उन्हों
|
|
उस
|
|
उसके
|
|
उसि
|
|
उसी
|
|
उसे
|
|
एक
|
|
एवं
|
|
एस
|
|
एसे
|
|
ऐसे
|
|
ओर
|
|
और
|
|
कइ
|
|
कई
|
|
कर
|
|
करता
|
|
करते
|
|
करना
|
|
करने
|
|
करें
|
|
कहते
|
|
कहा
|
|
का
|
|
काफि
|
|
काफ़ी
|
|
कि
|
|
किंहें
|
|
किंहों
|
|
कितना
|
|
किन्हें
|
|
किन्हों
|
|
किया
|
|
किर
|
|
किस
|
|
किसि
|
|
किसी
|
|
किसे
|
|
की
|
|
कुछ
|
|
कुल
|
|
के
|
|
को
|
|
कोइ
|
|
कोई
|
|
कोन
|
|
कोनसा
|
|
कौन
|
|
कौनसा
|
|
गया
|
|
घर
|
|
जब
|
|
जहाँ
|
|
जहां
|
|
जा
|
|
जिंहें
|
|
जिंहों
|
|
जितना
|
|
जिधर
|
|
जिन
|
|
जिन्हें
|
|
जिन्हों
|
|
जिस
|
|
जिसे
|
|
जीधर
|
|
जेसा
|
|
जेसे
|
|
जैसा
|
|
जैसे
|
|
जो
|
|
तक
|
|
तब
|
|
तरह
|
|
तिंहें
|
|
तिंहों
|
|
तिन
|
|
तिन्हें
|
|
तिन्हों
|
|
तिस
|
|
तिसे
|
|
तो
|
|
था
|
|
थि
|
|
थी
|
|
थे
|
|
दबारा
|
|
दवारा
|
|
दिया
|
|
दुसरा
|
|
दुसरे
|
|
दूसरे
|
|
दो
|
|
द्वारा
|
|
न
|
|
नहिं
|
|
नहीं
|
|
ना
|
|
निचे
|
|
निहायत
|
|
नीचे
|
|
ने
|
|
पर
|
|
पहले
|
|
पुरा
|
|
पूरा
|
|
पे
|
|
फिर
|
|
बनि
|
|
बनी
|
|
बहि
|
|
बही
|
|
बहुत
|
|
बाद
|
|
बाला
|
|
बिलकुल
|
|
भि
|
|
भितर
|
|
भी
|
|
भीतर
|
|
मगर
|
|
मानो
|
|
मे
|
|
में
|
|
यदि
|
|
यह
|
|
यहाँ
|
|
यहां
|
|
यहि
|
|
यही
|
|
या
|
|
यिह
|
|
ये
|
|
रखें
|
|
रवासा
|
|
रहा
|
|
रहे
|
|
ऱ्वासा
|
|
लिए
|
|
लिये
|
|
लेकिन
|
|
व
|
|
वगेरह
|
|
वग़ैरह
|
|
वरग
|
|
वर्ग
|
|
वह
|
|
वहाँ
|
|
वहां
|
|
वहिं
|
|
वहीं
|
|
वाले
|
|
वुह
|
|
वे
|
|
वग़ैरह
|
|
संग
|
|
सकता
|
|
सकते
|
|
सबसे
|
|
सभि
|
|
सभी
|
|
साथ
|
|
साबुत
|
|
साभ
|
|
सारा
|
|
से
|
|
सो
|
|
संग
|
|
हि
|
|
ही
|
|
हुअ
|
|
हुआ
|
|
हुइ
|
|
हुई
|
|
हुए
|
|
हे
|
|
हें
|
|
है
|
|
हैं
|
|
हो
|
|
होता
|
|
होति
|
|
होती
|
|
होते
|
|
होना
|
|
होने
|
|
""".split()
|
|
)
|