信息论、推理与学习算法

[英] David J.C. MacKay

出版时间

2006-06-30

ISBN

9787040196412

评分

★★★★★

标签

算法

书籍介绍

本书是英国剑桥大学卡文迪许实验室的著名学者David J.C.MacKay博士总结多年教学经验和科研成果,于2003年推出的一部力作。本书作者不仅透彻地论述了传统信息论的内容和最新编码算法,而且以高度的学科驾驭能力,匠心独具地在一个统一框架下讨论了贝叶斯数据建模、蒙特卡罗方法、聚类算法、神经网络等属于机器学习和推理领域的主题,从而很好地将诸多学科的技术内涵融会贯通。本书注重理论与实际的结合,内容组织科学严谨,反映了多门学科的内在联系和发展趋势。同时,本书还包含了丰富的例题和近400道习题(其中许多习题还配有详细的解答),便于教学或自学,适合作为信息科学与技术相关专业高年级本科生和研究生教材,对相关专业技术人员也不失为一本有益的参考书。...

AI导读
核心看点
  • 统一框架融合信息论、贝叶斯推理与机器学习
  • 涵盖数据压缩、信道编码、神经网络等核心主题
  • 提供丰富例题与近400道习题,含详细解答
适合谁读
  • 信息科学与技术专业高年级本科生及研究生
  • 从事机器学习、统计学研究的专业技术人员
  • 希望系统掌握贝叶斯推理与算法的自学者
读前提醒
  • 建议配合习题学习,跳过习题将难以深入理解
  • 内容高度凝练,需具备扎实的数学与概率基础
  • 可参考作者提供的免费公开课视频辅助自学
读者共识
  • 逻辑自洽编排流畅,第四部分尤为适合单独研读
  • 公式推导严谨,对理解变分贝叶斯极具参考价值
  • 中文译本口语感强,部分读者认为翻译质量一般

本导读基于书籍简介、目录、原文摘录、短评和书评生成,不等同于全文精读。

精彩摘录
  • "Probabilities can be used in two ways. 1. Probabilities can describe frequencies of outcomes in random experiments 2. Probabilities can also be used, more generally, to describe degrees of belief in propositions that do not involve random variables This more general use of probability to quantify be"
  • "The details of the other possible outcomes and their probabilities are irrelevant. All that matters is the probability of the outcome that actually happened (here, that the ball drawn was black) given the dierent hypotheses. We need only to know the likelihood, i.e., how the probability of the data "
  • "Entropy is maximized if p is uniform: [;H(X) \leq log(|A_X|);] with equality iff [;p_i = 1/|A_X|;] for all i."
  • "a disk drive is an example of communication, which doesn't have to involve information going from one place to another. When we write a file on a disk drive, we'll read it off in the same location - but at a later time."
目录
前言
译者序
序言
第1章 信息论导论
第2章 概率、熵与推理

显示全部
用户评论
【翻过】适合做参考书。国内不少学生聪明勤奋有热情,可惜所在学校没有好导师指导,很容易误入歧途。建议:1)一定要抱大腿。找一下全国各地有哪些大牛,挤破头也要挤进他们的实验室。我当年本科就休学一年去了中科院。2)读读下面这本书。别的书教你知识,这本书教你思考。学习一流学者的思维过程,比具体知识更重要。——路遥_机器学习@新浪微博
概率与推理, 神经网络, 稀疏图码
后面比较精彩 尤其是基因
有提到模型和数据信息量等问题
对于信息传递的讲的非常清楚。
老吐槽翻译有什么意思,原文的口语感本来就很强。概括精炼,第四部分适合单独成书,逻辑自洽、内容编排流畅、小而精太适合自学了。但跳过习题估计是很难读下去的,不适合做工具书。
好的教材真是比浪费时间的科普强多了
有习题还有解答。涉及知识面很广,例子很犀利。好书推荐。
下载
收藏