• 请不要在回答技术问题时复制粘贴 AI 生成的内容
a41050447
V2EX  ›  程序员

[伸手党] 有没有开源的中文分句项目, cpp or Python

  •  
  •   a41050447 · Feb 1, 2019 via iPhone · 5960 views
    This topic created in 2837 days ago, the information mentioned may be changed or developed.
    就是把篇章分成句子,可自定规则最好
    8 replies  •  2019-02-02 07:24:03 +08:00
    Sanko
    Sanko
    Feb 1, 2019 via Android
    2
    jieba
    xemtof
    xemtof
    Feb 1, 2019
    3
    @Sanko 结巴是分词的,没有分句吧。
    neptuno
    neptuno
    Feb 1, 2019
    4
    分句?标点符号,换行符分一分?感觉这种东西自己写写比较好,重点是分词吧
    inhzus
    inhzus
    Feb 1, 2019❤️1
    5
    正好可能以后用到, 稍微写了写

    使用的第三方库 [HanLP]( https://github.com/hankcs/HanLP)

    代码:
    https://gist.github.com/imagecser/ea03d286838fb9afe7e20fba46c4ecd2

    结果:


    如果非要用 python 的话, 参考一下 pyhanlp 就好了
    a41050447
    a41050447
    OP
    Feb 1, 2019 via iPhone
    6
    @neptuno 主要是要考虑各种规则,括号,引号,双标点,小数点,url 这些,还可能是中英混合的文档,造轮子太废时,
    neptuno
    neptuno
    Feb 1, 2019
    7
    @a41050447 恩,你可以试试先分词再分句试试,主要是你要自定规则,有些轮子以后坑更大
    yuikns
    yuikns
    Feb 2, 2019
    8
    通常是做词法分析,然后得到完整的结构即可吧?

    两个推荐看看的包:

    http://thulac.thunlp.org/

    https://stanfordnlp.github.io/CoreNLP/
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1467 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 09:48 · PVG 17:48 · LAX 01:48 · JFK 04:48
    ♥ Do have faith in what you're doing.