中文剖析
句子的結構是語義分析及了解的必要訊息。要電腦具有智慧型的語言處理能力,例如機器翻譯、語言分析、語言了解、資訊抽取,電腦系統都必須先能分析句子結構。因此,中文句子自動剖析的工作成了語言理解不可或缺的技術。基本上句子自動剖析利用語法規律和斷詞後的文本做比對,找出可能的短語結構,由於存在歧義的短語結構,因此,如何利用結構出現的機率及檢測結構中詞與詞之間搭配的合理性成為解決結構歧義的方法。
本系統採用機率式無語境規律的模型(Probabilistic Context-free Grammar)為基本剖析架構並加入結構中詞彙搭配關係機率解決結構歧義。在結構決定之後,本系統可選擇是否對結構進行語義角色的指派。分詞與詞類標記採用本實驗室發展的中文斷詞與詞類標記系統。
系統實作
本系統實作研究的二個主要部份為句法抽取與結構剖析。
- 句法抽取
- 研究如何從 Sinica Treebank 中抽取句法規則,並尋找出有效的語法普遍化及精確化方法,得到覆蓋率高且精確的句法規則,以加強中文剖析器的剖析效能。統計相關的規則機率、中心語機率值及中心語與搭配語機率,作為剖析器歧義結構挑選與機率統計的依據。
- 結構剖析
- 研究如何從無數的剖析歧義結構中有效率的找到最佳結構。除了利用規則機率外並考慮詞彙搭配的合理性作為歧義結構評估的方法。
研究成果
完成中文句子析剖析系統,包含斷詞/斷詞標記/中文剖析/角色指派。
例子:
我們都喜歡蝴蝶
我們(Nh) 都(D) 喜歡(VK) 蝴蝶(Na)
對剖析器而言,不同的語法規則的普遍化與精確化明顯影響系統的效能,配合我們提出的二元化句法規則方法,可以明顯的提升剖析效率。實驗的結果是基本普遍化語法的 81.45% 增加到精確化語法的 86.14%。〔謝佑明、楊敦淇、陳克健 2004〕
線上系統展示
下載軟體與資源
論文發表
- Yu-Ming Hsieh, Wei-Yun Ma. “N-best Rescoring for Parsing Based on Dependency-Based Word Embeddings”. IJCLCLP, Vol. 21, No. 2, pp. 19–34, Dec 2016.
- 詞庫小組. “句結構樹中的語意角色”. No. 13-01, Jan 2013.
- Yu-Ming Hsieh, Ming-Hong Bai, Jason S. Chang, Keh-Jiann Chen. “Improving PCFG Chinese Parsing with Context-Dependent Probability Re-estimation”. CIPS-SIGHAN, Dec 2012.
- Duen-Chi Yang, Yu-Ming Hsieh, Keh-Jiann Chen. “Resolving Ambiguities of Chinese Conjunctive Structures by Divide-and-Conquer Approaches”. IJCNLP, Jan 2008.
- Yu-Ming Hsieh, Duen-Chi Yang, Keh-Jiann Chen. “Improve Parsing Performance by Self-Learning”. IJCLCLP, Vol. 12, No. 2, pp. 192–216, Jun 2007.
- Yu-Ming Hsieh, Duen-Chi Yang, Keh-Jiann Chen. “Improve Parsing Performance by Self-Learning”. ROCLING, Sep 2006.
- Yu-Ming Hsieh, Duen-Chi Yang, Keh-Jiann Chen. “Linguistically-Motivated Grammar Extraction, Generalization and Adaptation”. IJCNLP, Oct 2005.
- Yu-Ming Hsieh, Duen-Chi Yang, Keh-Jiann Chen. “Grammar Extraction, Generalization and Specialization”. ROCLING, Sep 2004.
- Chen Keh-Jiann, Yu-Ming Hsieh. “Chinese Treebanks and Grammar Extraction”. IJCNLP, Mar 2004.
- Jia-Ming You, Yu-Ming Hsieh. “Automatic Semantic Role Assignment for a Tree Structure”. SIGHAN, Jul 2004.
參考資源
參與開發人員
謝佑明、楊敦淇