Python-spaCyを使用した品詞タグ付けとレマタイゼーション

spaCyは、最高のテキスト分析ライブラリの1つです。 spaCyは大規模な情報抽出タスクに優れており、世界で最も速いものの1つです。ディープラーニング用のテキストを準備するための最良の方法でもあります。 spaCyは、NLTKTaggerやTextBlobよりもはるかに高速で正確です。

インストール方法

pip install spacy
python -m spacy download en_core_web_sm

例

#importing loading the library
import spacy
# python -m spacy download en_core_web_sm
nlp = spacy.load("en_core_web_sm")
#POS-TAGGING
# Process whole documents
text = ("""My name is Vishesh. I love to work on data science problems. Please check out my github profile!""")
doc = nlp(text)
# Token and Tag
for token in doc:
print(token, token.pos_)
# You want list of Verb tokens
print("Verbs:", [token.text for token in doc if token.pos_ == "VERB"])
#Lemmatization : It is a process of grouping together the inflected #forms of a word so they can be analyzed as a single item, #identified by the word’s lemma, or dictionary form.
import spacy
# Load English tokenizer, tagger,
# parser, NER and word vectors
nlp = spacy.load("en_core_web_sm")
# Process whole documents
text = ("""My name is Vishesh. I love to work on data science problems. Please check out my github profile!""")
doc = nlp(text)
for token in doc:
print(token, token.lemma_)