本站首页    管理页面    写新日志    退出



公告


 求真务实打基础,
 宁缺毋滥读好书。

数据挖掘青年(DMman)


我的分类(专题)

日志更新
问君能有几多愁,恰似一群太监上青楼
我和僵尸有个约会:灵异世界或真实存在?
赤壁(下)观后小感:雷人
英科学家:酒精和烟草的危害大于大麻和摇头
只有社会主义才能拯救世界(由金融危机引发
求职心得(非名牌院校 硕士 计算机)
省外就业协议录入
数据挖掘方面的资源、期刊、会议的网址集合
面试心得(摘)
为学
EI收录中国期刊-核心(2008-5)
混沌理论:随机世界的建模
分子计算机已经问世,纳米计算机指日可待?
绝对好用免费的网络电话
NLP:基于机器学习的人类思想及行为建模
Weka中用于组合多个模型的的装袋、提升
数据挖掘在企业中应用的四种途径
(转)几点做人做事的建议
大学计算机软件专业生应该学什么(转)
一个程序员对学弟学妹建议(转)

最新评论

留言板

链接

Blog信息
blog名称:DMman(数据挖掘青年)
日志总数:102
评论数量:564
留言数量:57
访问次数:1753272
建立时间:2007年4月9日




[数据挖掘]Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

数据挖掘青年 发表于 2007/8/18 18:42:41

以下为Xiaojin Zhu在ICML2007上的陈述内容梗概,更多内容可以在他的主页上得到。懒得整理成中文了,而且很多术语虽然理解了意思,但还不知道确切的中文描述...现在才深刻体会到,要想学习前沿的知识,只有通过互联网,平常看书只是看些稳定成型的老知识。。。 半监督学习已经兴起七八年了吧,但在中国还是刚刚起步罢。 一、Introduction to semi-supervised learning    What is semi-supervised learning and transductive learning?  Why can we ever learn a classifier from unlabeled data?  Does unlabeled data always help?  Which semi-supervised learning methods are out there?  Which one should I use?  Answers to these questions set the stage for a detailed look at individual algorithms. 二、Semi-supervised learning algorithms    In fact we will focus on classification algorithms that uses both labeled and unlabeled data.  Several families of algorithms will be discussed, which uses different model assumptions: 1、Self-training   Probably the earliest semi-supervised learning method.  Still extensively used in the natural language processing community. 2、Generative models    Mixture of Gaussian or multinomial distributions, Hidden Markov Models, and pretty much any generative model can do semi-supervised learning.  We will also look into the EM algorithm, which is often used for training generative models when there is unlabeled data. 3、S3VMs   Originally called Transductive SVMs, they are now called Semi-Supervised SVMs to emphasize the fact that they are capable of induction too, not just transduction.  The idea is simple and elegant, to find a decision boundary in 'low density' regions.  However, the optimization problem behind it is difficult, and so we will discuss the various optimization techniques for S3VM, including the one used in SVM-light, Convex-Concave Procedure (CCCP), Branch-and-Bound, continuation method, etc. 4、Graph-based methods    Here one constructs a graph over the labeled and unlabeled examples, and assumes that two strongly-connected examples tend to have the same label.  The graph Laplacian matrix is a central quantity.  We will discuss representative algorithms, including manifold regularization. 5、Multiview learning    Exemplified by the Co-Training algorithm, these methods employ multiple 'views' of the same problem, and require that different views produce similar classifications. 6、Other approaches    Metric based model selection, tree-based learning, information-based method, etc. 7、Related problems    Regression with unlabeled data, clustering with side information, classification with positive and unlabeled data; dimensionality reduction with side information, inferring label missing mechanism, etc. 三、Semi-supervised learning in nature     Long before computers come around and machine learning becomes a discipline, learning has occurred in nature.  Is semi-supervised learning part of it?  The research in this area has just begun.  We will look at a few case studies, ranging from infant word learning, human visual system, and human categorization behavior. 四、Challenges for the future     There are many open questions.  What new algorithms / assumptions can we make?  How to efficiently perform semi-supervised learning for very large problems?  What special methods are needed for structured output domains?  Can we find a way to guarantee that unlabeled data would not decrease performance?  What can we borrow from natural learning?  We suggest these as a few potential research directions.   研究半监督的人,主页上有更多更详细的介绍: http://pages.cs.wisc.edu/~jerryzhu/ http://www.kyb.tuebingen.mpg.de/~chapelle


阅读全文(52699) | 回复(13) | 编辑 | 精华
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

若风(游客)发表评论于2009/2/19 10:36:38

谢谢,这些资料对于刚开始学SSL的我很有用,希望你能提供一些适用于初学者的资料。 我的邮箱是1016zhangxiaoli@163.com 再次感谢! 以下为blog主人的回复: SSL中文资料极少,建议直接阅读英文的。我提供的Xiaojin Zhu的个人主页上有他写的survey,比较全面


个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

DT(游客)发表评论于2008/11/11 19:51:36

以下引用morning(游客)在2007-12-28 21:33:52的评论:请问有没有self-training的代码来实验一下?谢谢! 以下为blog主人的回复:  不好意思,没有;实际中研究这方面的也比较少,可能是性能比较差吧。文章介绍的两位先生的主页上可以下载到 tsvm、generate model等算法的源码,matlab的 谢谢博主! self-training算法真的很差吗?我感觉还好啊,呵呵,不是有好多应用吗?

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

koala(游客)发表评论于2008/10/4 14:06:52

请问有TSVM的java代码吗? 以下为blog主人的回复: ..没有

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

after(游客)发表评论于2008/5/22 15:55:03

有没有co-training的matlab代码?

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

morning(游客)发表评论于2007/12/28 21:33:52

请问有没有self-training的代码来实验一下?谢谢! 以下为blog主人的回复:  不好意思,没有;实际中研究这方面的也比较少,可能是性能比较差吧。文章介绍的两位先生的主页上可以下载到 tsvm、generate model等算法的源码,matlab的

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


回复:Semi-Supervised Learning(半监督学习)
网上资源,  心得体会

真不准发表评论于2007/8/18 23:58:32

  领域不同。我看明白这文章还得看N多的参考文献才行。。。 以下为blog主人的回复:  是啊 我也是看了N多文献才领略它的梗概

个人主页 | 引用回复 | 主人回复 | 返回 | 编辑 | 删除
 


» 1 2 3 »

发表评论:
昵称:
密码:
主页:
标题:
验证码:  (不区分大小写,请仔细填写,输错需重写评论内容!)



站点首页 | 联系我们 | 博客注册 | 博客登陆

Sponsored By W3CHINA
W3CHINA Blog 0.8 Processed in 0.047 second(s), page refreshed 144787533 times.
《全国人大常委会关于维护互联网安全的决定》  《计算机信息网络国际联网安全保护管理办法》
苏ICP备05006046号