本站首页    管理页面    写新日志    退出



公告


 求真务实打基础,
 宁缺毋滥读好书。

数据挖掘青年(DMman)


我的分类(专题)

日志更新
问君能有几多愁,恰似一群太监上青楼
我和僵尸有个约会:灵异世界或真实存在?
赤壁(下)观后小感:雷人
英科学家:酒精和烟草的危害大于大麻和摇头
只有社会主义才能拯救世界(由金融危机引发
求职心得(非名牌院校 硕士 计算机)
省外就业协议录入
数据挖掘方面的资源、期刊、会议的网址集合
面试心得(摘)
为学
EI收录中国期刊-核心(2008-5)
混沌理论:随机世界的建模
分子计算机已经问世,纳米计算机指日可待?
绝对好用免费的网络电话
NLP:基于机器学习的人类思想及行为建模
Weka中用于组合多个模型的的装袋、提升
数据挖掘在企业中应用的四种途径
(转)几点做人做事的建议
大学计算机软件专业生应该学什么(转)
一个程序员对学弟学妹建议(转)

最新评论

留言板

链接

Blog信息
blog名称:DMman(数据挖掘青年)
日志总数:102
评论数量:564
留言数量:57
访问次数:1758081
建立时间:2007年4月9日




[Weka]在自己的算法中调用Weka实现文本分类的一个例子 
原创空间

数据挖掘青年 发表于 2007/7/4 17:47:57

1 介绍:嵌入式机器学习,在自己的算法中调用Weka现文本分类,是一个小的数据挖掘程序,虽然实用价值不是很大,但对于Weka的理解和使用是有帮助的。本例子来自《数据挖掘:实用机器学习技术》第2版(好像是倒数第三章)。大家可以到http://blogger.org.cn/blog/message.asp?name=DMman#23691 下载该书察看对算法的详细解释。算法中作了详细的注释,虽然是英文的,但还是比较简单。下面对例子的使用作了浅显的介绍,有兴趣的朋友可以研究。 2 功能:使用weka中的j48分类器实现了文本分类的一个小程序。文本文件通过weka的过滤器StringToWordVector预处理。 3 注意:把weka.jar加入你的classpath中,才可以通过编译。 4 使用方法:命令行参数: -t 文本文件路径 -m 你的模型文件路径 -c 可选,类别(hit 或 miss)如果提供了-c则用于训练,否则被模型分类,输出该文本的类型(hit或miss)  模型是动态建立的,第一次使用命令行必须指定-c参数,才可以建立模型。1) 建立模型>java MessageClassifier -t data/1.bmp -m myModel -c hit可以看到myModel建立了。然后继续训练一下这个模型。使用的文本实例越多,模型的分类性能越好>java MessageClassifier -t data/2.bmp -m myModel -c hit>java MessageClassifier -t data/1.gif -m myModel -c miss......2) 使用模型分类有了模型,就可以使用它为文本文件分类了,如>java MessageClassifier -t data/2.gif -m myModel 3) 可以使用提供-c参数的命令继续完善模型   原文件MessageClassifier .java /*** Java program for classifying text messages into two classes.*/import weka.core.Attribute;import weka.core.Instance;import weka.core.Instances;import weka.core.FastVector;import weka.core.Utils;import weka.classifiers.Classifier;import weka.classifiers.trees.J48;import weka.filters.Filter;import weka.filters.unsupervised.attribute.StringToWordVector;import java.io.*;public class MessageClassifier implements Serializable {/* The training data gathered so far. */private Instances m_Data = null;/* The filter used to generate the word counts. */private StringToWordVector m_Filter = new StringToWordVector();/* The actual classifier. */private Classifier m_Classifier = new J48();/* Whether the model is up to date. */private boolean m_UpToDate;/*** Constructs empty training dataset.*/public MessageClassifier() throws Exception {String nameOfDataset = "MessageClassificationProblem";// Create vector of attributes.FastVector attributes = new FastVector(2);// Add attribute for holding messages.attributes.addElement(new Attribute("Message", (FastVector)null));// Add class attribute.FastVector classValues = new FastVector(2);classValues.addElement("miss");classValues.addElement("hit");attributes.addElement(new Attribute("Class", classValues));// Create dataset with initial capacity of 100, and set index of class.m_Data = new Instances(nameOfDataset, attributes, 100);m_Data.setClassIndex(m_Data.numAttributes() - 1);}/*** Updates data using the given training message.*/public void updateData(String message, String classValue) throws Exception {// Make message into instance.Instance instance = makeInstance(message, m_Data);// Set class value for instance.instance.setClassValue(classValue);// Add instance to training data.m_Data.add(instance);m_UpToDate = false;}/*** Classifies a given message.*/public void classifyMessage(String message) throws Exception {// Check whether classifier has been built.if (m_Data.numInstances() == 0) {////throw new Exception("No classifier available.");}// Check whether classifier and filter are up to date.if (!m_UpToDate) { // Initialize filter and tell it about the input format.m_Filter.setInputFormat(m_Data);// Generate word counts from the training data.Instances filteredData = Filter.useFilter(m_Data, m_Filter);// Rebuild classifier.m_Classifier.buildClassifier(filteredData);m_UpToDate = true;}// Make separate little test set so that message// does not get added to string attribute in m_Data.Instances testset = m_Data.stringFreeStructure();// Make message into test instance.Instance instance = makeInstance(message, testset);// Filter instance.m_Filter.input(instance);Instance filteredInstance = m_Filter.output();// Get index of predicted class value.double predicted = m_Classifier.classifyInstance(filteredInstance);// Output class value.System.err.println("Message classified as : " +m_Data.classAttribute().value((int)predicted));}/*** Method that converts a text message into an instance.*/private Instance makeInstance(String text, Instances data) {// Create instance of length two.Instance instance = new Instance(2);// Set value for message attributeAttribute messageAtt = data.attribute("Message");instance.setValue(messageAtt, messageAtt.addStringValue(text));// Give instance access to attribute information from the dataset.instance.setDataset(data);return instance;}/*** Main method.*/public static void main(String[] options) {try {// Read message file into string.String messageName = Utils.getOption('t', options);if (messageName.length() == 0) {throw new Exception("Must provide name of message file.");}FileReader m = new FileReader(messageName);StringBuffer message = new StringBuffer(); int l;while ((l = m.read()) != -1) {message.append((char)l);}m.close();// Check if class value is given.String classValue = Utils.getOption('c', options);// If model file exists, read it, otherwise create new one.String modelName = Utils.getOption('m', options);if (modelName.length() == 0) {throw new Exception("Must provide name of model file.");}MessageClassifier messageCl;try {ObjectInputStream modelInObjectFile =new ObjectInputStream(new FileInputStream(modelName));messageCl = (MessageClassifier) modelInObjectFile.readObject();modelInObjectFile.close();} catch (FileNotFoundException e) {messageCl = new MessageClassifier();}// Check if there are any options leftUtils.checkForRemainingOptions(options);// Process message.if (classValue.length() != 0) {messageCl.updateData(message.toString(), classValue);} else {messageCl.classifyMessage(message.toString());}// Save message classifier object.ObjectOutputStream modelOutObjectFile =new ObjectOutputStream(new FileOutputStream(modelName));modelOutObjectFile.writeObject(messageCl);modelOutObjectFile.close();} catch (Exception e) {e.printStackTrace();}}} 下载源码:500)this.width=500'>文本分类算法.rar


阅读全文(35333) | 回复(21) | 编辑 | 精华
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

luanshengfei(游客)发表评论于2008/10/3 1:07:00

老师 我想问一下这里的1.bmp文件是怎么来的,是随便新建一个 还是程序当中生成的 还是... 以下为blog主人的回复: 其实都是随便的。我的意思是使用bmp和jpg两类不同的文件做样本,可以证明本算法进行分类的有效性。


个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

hnuufish发表评论于2008/7/29 16:19:37

不知您是否知道用于关联的DHP 算法?能嵌入Weka?我想写论文要用到它!! 谢谢!!以下为blog主人的回复: 不好意思 没有使用过您说的算法

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

luanshengfei发表评论于2008/7/17 10:26:09

那请问在输入命令行参数之前 ,还要输入些什么命令,我直接输为什么不行,这可能是个比较简单的问题,但接触weka不久,还不太明白,还望老师指点一下。以下为blog主人的回复: maybe您的java没有设置好呢?键入 javac 如果没有提示帮助信息即没有设置好。设置好java,再设置好classpath

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

luanshengfei发表评论于2008/7/16 11:06:33

老师您好,很荣幸查资料查到了这里,我想请问一下,文本分类算法中的命令行参数从那输入,是从cmd,还是从weka的SimpleCLI中,期待您的回答,谢了 QQ(406307652)以下为blog主人的回复: cmd

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

Grace(游客)发表评论于2008/3/18 15:58:39

这个1.bmp是一个数据,还是一个数据组呢? 还有myModel是需要先有,还是运行之后会自动出现?  以下为blog主人的回复: 1 是一个文件 2 没有的话 第一次运行出现;有的话在它的基础上改善

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

justbefree(游客)发表评论于2008/3/11 20:50:14

请问,weka算法中有没有关于时间序列的?以下为blog主人的回复: 目前还没有

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

有所期待发表评论于2008/3/8 17:56:09

请问利用weka的过滤器StringToWordVector能处理什么样的文件?像word,记事本格式的可以吗?怎么都打不开这样的文件啊? 以下为blog主人的回复: 我也不很清楚,您还是查查书吧。不过这个例子用于文本分析很勉强的,只是一个抛砖引玉的例子罢了。

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

有所期待发表评论于2008/3/8 17:51:16

不知道怎么搞的还是不行,我把weka装在c盘下, classpath=.;D:\Java\jdk1.6.0_02\lib;C:\Program Files\Weka-3-4\weka.jar 那边错了啊? 以下为blog主人的回复: 应该对了。。

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

有所期待发表评论于2008/3/7 13:55:01

我把上面的程序写在新建的项目里面,import weka的包全是错误,编译时出现weka的软件包不存在,请问怎么在环境变量中添加weka包啊?这个包是不是就是下载的weka安装程序啊? 以下为blog主人的回复: 是weka安装目录下的weka.jar 在环境变量中classpath加上这个jar文件的路径

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:在自己的算法中调用Weka实现文本分类的一个例子
原创空间

lynn(游客)发表评论于2007/12/2 15:20:40

以下引用点睛在2007-11-22 11:36:33的评论: 以下引用dianjing(游客)在2007-11-20 13:14:55的评论: 楼主你的参数搞错了 看了一下代码 命令行参数应该是 -t 你的模型文件路径 -m 文本文件路径 这样就运行成功了. 对了,代码也错了一个地方。]String modelName = Utils.getOption('o', options);应该把'o'改为't' 以下为blog主人的回复:  really?没错,我试验成功了。看来你没有认真测试一下 以下为blog主人的回复:  谢谢,您说的很对。我上传的代码有错误,不好意思。已经改过来了 有位朋友提到这个错误,也是因为代码错误的原因:java.lang.Exception: Must provide name of model file.        at MessageClassifier.main(MessageClassifier.java:119)请问点睛,你是用哪个版本的weka实验成功的阿? 以下为blog主人的回复:  我自己在3.5下面可以的

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


» 1 2 3 4 »

发表评论:
昵称:
密码:
主页:
标题:
验证码:  (不区分大小写,请仔细填写,输错需重写评论内容!)



站点首页 | 联系我们 | 博客注册 | 博客登陆

Sponsored By W3CHINA
W3CHINA Blog 0.8 Processed in 0.062 second(s), page refreshed 144766650 times.
《全国人大常委会关于维护互联网安全的决定》  《计算机信息网络国际联网安全保护管理办法》
苏ICP备05006046号