1 Star 0 Fork 628

treejames / jcseg

forked from 狮子的魂 / jcseg 
加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
CHANGES.md 4.27 KB
一键复制 编辑 原始数据 按行查看 历史
狮子的魂 提交于 2013-12-16 23:23 . jcseg-1.9.2功能进度报告

jcseg-1.9.2:

  1. 配置文件中词库多目录加载. -done #2. 词库自动重载正则支持.
  2. 修复中文分数识别可能的一种错误组合的bug. -done
  3. 修复部分中文分数无法转换为阿拉伯分数的bug. -done
  4. 词库合并工具bug修复. -done
  5. 词库加载错误友好提示. -done
  6. 对复杂的数字和英文组合词进行再次切分, 例如: QQ2013, 切分成qq2013, qq, 2013. -done
  7. 去除默认对^,/,-等标点的自动保留, 英文可以得到更细化的且分. -done

jcseg-1.9.1:

  1. 优化IStringBuffer#resizeTo()方法, 使用System.arraycopy代替循环来拷贝元素.
  2. 增加了util.dic.STConverter类来进行简体和繁体字符串的相互转换.
  3. 增加了util.dic.DicConverter来管理jcseg词库简体和繁体相互转换.
  4. 增加了util.dic.DicMerge类来合并jcseg的简体和繁体词库生成简繁体混合词库.
  5. 将jcseg目前的简体词库经过转换得到了一份繁体词库(适合繁体切分).
  6. 将简体词库和繁体词库进行了合并, 得到了一份简繁体混合词库.(简繁体通用, 但是会耗费更多内存).
  7. 修复ASegment#nextBasicLatin()中"数字+空格+单位"组合中忽略空格直接组合数组和单位的bug.

jcseg-1.9.0:

  1. 修复"小数+单位"无法识别的情况.更改ASegment#isDigit()方法.
  2. 词库加载长度限制(长度大于max_length的过滤掉).
  3. 更改中英混合词的识别(目前可以识别中英任何一种组合). 英中: 例如: b超, 英中英: a美1, 英中英中: a哆啦a梦, 中英: 卡拉ok, 中英中: 哆啦a梦, 中英中英: 中文a美a
  4. 更改了单位组合, 现在可以组合更多非中文单位, 例如: ℃,℉
  5. 对于未识别的字符, 给定一个开关选项来决定保留还是过滤.
  6. 英文同义词的追加 (增加了lex-en.lex词库)

jcseg-1.8.9:

  1. 保留英文半全角标点和CJK标点符号切分(可通过停止词过滤掉,默认全部过滤掉了).
  2. 词性标注(需要完成词库词性的标注).
  3. IStringBuffer#deleteCharAt bug修复.
  4. 修复英文字母和标点组合词(些许组合时无法识别)识别的一个bug.
  5. 更改了词库加载时一个问题, 词库重载时, 防止重复加载同义词和词性.
  6. 基本数据类型存储使用IntArrayList代替了ArrayList,减少了拆解箱.
  7. 依据网友建议修改了开发帮助文档.

jcseg-1.8.8:

  1. JcsegTaskConfig自定义配置文件jcseg.properties管理(方便复杂项目管理).
  2. 更改ADictionary类接口, 支持以词库文件为单位进行加载, 方便二次开发或者词库更新自动加载. 词库分为同步词库和非同步词库.
  3. 词库更新自动加载功能.
  4. 整理jcseg.properties配置文件
  5. 中英混合词识别(非英中混合词, 例如: b超), 例如: 卡拉ok.

jcseg-1.8.7: 1.更改jcseg内部设计(更好的适用多线程). (1).加入JcsegTaskConfig描述Jcseg配置项(提供CloneFromProperties方法用于从jcseg.properties中克隆配置) (2).更改ASegment作用于JcsegTask.(由JcsegFactory产生指定算法和模式的分词工厂) 2.加上文章关键字提取功能. -undone

jcseg-1.8.6:

  1. 修复些许词条(些许词库在切分过程中会进入中文数字识别程序中, 默认情况下jcseg没有追加中文数字的同义词)无法追加同义词的bug.
  2. 加入所有类别词库停止词过滤功能, 先前版本只支持CJK词条切分停止词过滤.

jcseg-1.8.5: 1.加入了中文分数转阿拉伯分数的开关选项. 2.加入solr分词接口. 3.加入了README.txt 4.加入了LISENSE.txt 5.去除了某些词库类型词条加载长度限制, 例如stopwords的英文词长就不该有词长度限制.

jcseg-1.8.3: 1.修复了姓名识别方法,因lex-chars.lex中找不到对应的词而抛出NullPointerException的bug. 2.加上中文数字转阿拉伯数字的开关选项,默认开启. 3.彻底解决jcseg.properties文件查找: (1). jar home搜索, 如果没找到尝试(2) (2). classpath中搜索, 如果没找到尝试(3) (3). user home搜索. 如果没找到, 抛出异常, 并且会提示解决方法.

jcseg-1.8.2: 1.词库加载时,去除了长度大于Config.MAX_LENGTH的同义词. 2.加上了英文的停止词过滤功能(并且加入了几百个英文停止词). 3.加上了JcsegAnalyzer4X对lucene4.x版本的支持.

1
https://gitee.com/treejames/jcseg.git
git@gitee.com:treejames/jcseg.git
treejames
jcseg
jcseg
master

搜索帮助

53164aa7 5694891 3bd8fe86 5694891