ContentExtractor 介绍
简介
ContentExtractor 是一个开源的网页正文抽取工具,用JAVA实现,具有非常高的抽取精度。
算法
ContentExtractor的网页正文抽取算法使用的是CEPR,适用于几乎所有的包含正文的网页。
算法简介:http://dl.acm.org/citation.cfm?id=2505558
项目地址转移
项目已和WebCollector合并,当前项目为老版本ContentExtractor,请前往WebCollector项目查看ContentExtractor的最新版本源码和API。
[](https://github.com/hfut-
dmic/ContentExtractor#%E6%95%99%E7%A8%8B)教程(只适用于老版本,新版本请前往WebCollector)
ContentExtractor的接口非常简单,用户可以根据网页的url,或者网页的html,来进行网页正文抽取:
根据url,抽取网页的正文:
public static void main(String[] args) throws Exception { String content=ContentExtractor.getContentByURL("http://news. xinhuanet.com/world/2014-11/02/c_127166728.htm"); System.out.println(content); }
根据html,抽取网页的正文:
public static void main(String[] args) throws Exception { String html="获取到的html源码"; String content=ContentExtractor.getContentByHtml(html); System.out.println(content); }
[](https://github.com/hfut-
dmic/ContentExtractor#%E5%AF%BC%E5%85%A5%E9%A1%B9%E7%9B%AE)导入项目(只适用于老版本,新版本请前往WebCollector)
从ContentExtractor的github主页https://github.com/hfut-
dmic/ContentExtractor上下载ContentExtractor-{版本号}-bin.zip,将解压后得到的jar包全部放到工程的build
path即可。
ContentExtractor由合肥工业大学dmic团队开发
Git@OSC:
http://git.oschina.net/webcollector/ContentExtractor
ContentExtractor 官网
https://github.com/hfut-dmic/ContentExtractor
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。