mirror of
https://github.com/explosion/spaCy.git
synced 2024-11-14 21:57:15 +03:00
00417794d3
* added support for Arabic lang * added Arabic language support * updated conftest
96 lines
1.3 KiB
Python
96 lines
1.3 KiB
Python
# coding: utf8
|
|
from __future__ import unicode_literals
|
|
from ...attrs import LIKE_NUM
|
|
|
|
_num_words = set("""
|
|
صفر
|
|
واحد
|
|
إثنان
|
|
اثنان
|
|
ثلاثة
|
|
ثلاثه
|
|
أربعة
|
|
أربعه
|
|
خمسة
|
|
خمسه
|
|
ستة
|
|
سته
|
|
سبعة
|
|
سبعه
|
|
ثمانية
|
|
ثمانيه
|
|
تسعة
|
|
تسعه
|
|
ﻋﺸﺮﺓ
|
|
ﻋﺸﺮه
|
|
عشرون
|
|
عشرين
|
|
ثلاثون
|
|
ثلاثين
|
|
اربعون
|
|
اربعين
|
|
أربعون
|
|
أربعين
|
|
خمسون
|
|
خمسين
|
|
ستون
|
|
ستين
|
|
سبعون
|
|
سبعين
|
|
ثمانون
|
|
ثمانين
|
|
تسعون
|
|
تسعين
|
|
مائتين
|
|
مائتان
|
|
ثلاثمائة
|
|
خمسمائة
|
|
سبعمائة
|
|
الف
|
|
آلاف
|
|
ملايين
|
|
مليون
|
|
مليار
|
|
مليارات
|
|
""".split())
|
|
|
|
_ordinal_words = set("""
|
|
اول
|
|
أول
|
|
حاد
|
|
واحد
|
|
ثان
|
|
ثاني
|
|
ثالث
|
|
رابع
|
|
خامس
|
|
سادس
|
|
سابع
|
|
ثامن
|
|
تاسع
|
|
عاشر
|
|
""".split())
|
|
|
|
|
|
def like_num(text):
|
|
"""
|
|
check if text resembles a number
|
|
"""
|
|
text = text.replace(',', '').replace('.', '')
|
|
if text.isdigit():
|
|
return True
|
|
if text.count('/') == 1:
|
|
num, denom = text.split('/')
|
|
if num.isdigit() and denom.isdigit():
|
|
return True
|
|
if text in _num_words:
|
|
return True
|
|
if text in _ordinal_words:
|
|
return True
|
|
return False
|
|
|
|
|
|
LEX_ATTRS = {
|
|
LIKE_NUM: like_num
|
|
}
|