TopLanguage(https://groups.google.com/group/pongba/)html
（PS：在找相关书籍时，看到这篇blog，想留下来方便之后查看，因此全盘转过来了，未知会做者，抱歉，若有侵权，请告之）算法
我常常在 TopLanguage 讨论组上推荐一些书籍，也常常问里面的牛人们搜罗一些有关的资料，人工智能、机器学习、天然语言处理、知识发现（特别地，数据挖掘）、信息检索 这些无疑是 CS 领域最好玩的分支了（也是互相紧密联系的），这里将最近有关机器学习和人工智能相关的一些学习资源归一个类：网络
首先是两个很是棒的 Wikipedia 条目，我也算是 wikipedia 的重度用户了，学习一门东西的时候经常发现是始于 wikipedia 中间通过若干次 google ，而后止于某一本或几本著做。 机器学习
第一个是“人工智能的历史”（History of Artificial Intelligence），我在讨论组上写道：ide
而今天看到的这篇文章是我在 wikipedia 浏览至今以为最好的。文章名为《人工智能的历史》，顺着 AI 发展时间线娓娓道来，中间穿插无数牛人故事，且一波三折大气磅礴，可谓"事实比想象更使人惊讶"。人工智能始于哲学思辨，中间经历了一个没有心理学（尤为是认知神经科学的）的帮助的阶段，仅经过牛人对人类思惟的外在表现的概括、内省，以及数学工具进行探索，其间最使人激动的是 Herbert Simon （决策理论之父，诺奖，跨领域牛人）写的一个自动证实机，证实了罗素的数学原理中的二十几个定理，其中有一个定理比原书中的还要优雅，Simon 的程序用的是启发式搜索，由于公理系统中的证实能够简化为从条件到结论的树状搜索（但因为组合爆炸，因此必须使用启发式剪枝）。后来 Simon 又写了 GPS （General Problem Solver），听说能解决一些能良好形式化的问题，如汉诺塔。但说到底 Simon 的研究毕竟只触及了人类思惟的一个很小很小的方面 —— Formal Logic，甚至更狭义一点 Deductive Reasoning （即不包含 Inductive Reasoning , Transductive Reasoning (俗称 analogic thinking）。还有诸多好比 Common Sense、Vision、尤为是最为复杂的 Language 、Consciousness 都还谜团未解。还有一个比较有趣的就是有人认为 AI 问题必需要以一个物理的 Body 为支撑，一个可以感觉这个世界的物理规则的身体自己就是一个强大的信息来源，基于这个信息来源，人类可以自身与时俱进地总结所谓的 Common-Sense Knowledge （这个就是所谓的 Emboddied Mind 理论。 ），不然像一些老兄直接手动构建 Common-Sense Knowledge Base ，就很傻很天真了，须知人根据感知系统从天然界获取知识是一个动态的自动更新的系统，而手动构建常识库则无异于古老的 Expert System 的作法。固然，以上只总结了很小一部分我我的以为比较有趣或新颖的，每一个人看到的有趣的地方不同，好比里面至关详细地介绍了神经网络理论的兴衰。因此我强烈建议你看本身一遍，别忘了里面连接到其余地方的连接。工具
顺便一说，徐宥同窗打算找时间把这个条目翻译出来，这是一个至关长的条目，看不动 E 文的等着看翻译吧:)post
第二个则是“人工智能”（Artificial Intelligence）。固然，还有机器学习等等。从这些条目出发可以找到许多很是有用和靠谱的深刻参考资料。学习
而后是一些书籍优化
书籍：google
1. 《Programming Collective Intelligence》，近年出的入门好书，培养兴趣是最重要的一环，一上来看大部头很容易被吓走的:P
2. Peter Norvig 的《AI, Modern Approach 2nd》（无争议的领域经典）。
3. 《The Elements of Statistical Learning》，数学性比较强，能够作参考了。
4. 《Foundations of Statistical Natural Language Processing》，天然语言处理领域公认经典。
5. 《Data Mining, Concepts and Techniques》，华裔科学家写的书，至关深刻浅出。
6. 《Managing Gigabytes》，信息检索好书。
7. 《Information Theory：Inference and Learning Algorithms》，参考书吧，比较深。
相关数学基础（参考书，不适合拿来通读）：
1. 线性代数：这个参考书就不列了，不少。
2. 矩阵数学：《矩阵分析》，Roger Horn。矩阵分析领域无争议的经典。
3. 几率论与统计：《几率论及其应用》，威廉·费勒。也是极牛的书，可数学味道过重，不适合作机器学习的。因而讨论组里的 Du Lei 同窗推荐了《All Of Statistics》并说到
机器学习这个方向，统计学也同样很是重要。推荐All of statistics，这是CMU的一本很简洁的教科书，注重概念，简化计算，简化与Machine Learning无关的概念和统计内容，能够说是很好的快速入门材料。
4. 最优化方法：《Nonlinear Programming, 2nd》非线性规划的参考书。《Convex Optimization》凸优化的参考书。此外还有一些书能够参考 wikipedia 上的最优化方法条目。要深刻理解机器学习方法的技术细节不少时候（如SVM）须要最优化方法做为铺垫。
王宁同窗推荐了好几本书：
《Machine Learning, Tom Michell》, 1997.
老书，牛人。如今看来内容并不算深，不少章节有点到为止的感受，可是很适合新手（固然，不能"新"到连算法和几率都不知道）入门。好比决策树部分就很精彩，而且这几年没有特别大的进展，因此并不过期。另外，这本书算是对97年前数十年机器学习工做的大综述，参考文献列表极有价值。国内有翻译和影印版，不知道绝版否。
《Modern Information Retrieval, Ricardo Baeza-Yates et al》. 1999
老书，牛人。貌似第一本完整讲述IR的书。惋惜IR这些年进展迅猛，这本书略有些过期了。翻翻作参考仍是不错的。另外，Ricardo同窗如今是Yahoo Research for Europe and Latin Ameria的头头。
《Pattern Classification (2ed)》, Richard O. Duda, Peter E. Hart, David G. Stork
大约也是01年左右的大块头，有影印版，彩色。没读完，但若是想深刻学习ML和IR，前三章（介绍，贝叶斯学习，线性分类器）必修。
还有些经典与我只有一面之缘，没有资格评价。另外还有两本小册子，论文集性质的，却是讲到了了很多前沿和细节，诸如索引如何压缩之类。惋惜忘了名字，又被我压在箱底，下次搬家前怕是难见天日了。
（呵呵，想起来一本：《Mining the Web - Discovering Knowledge from Hypertext Data》 ）
说一本名气很大的书：《Data Mining: Practical Machine Learning Tools and Techniques》。Weka 的做者写的。惋惜内容通常。理论部分太单薄，而实践部分也很脱离实际。DM的入门书已经很多，这一本应该能够不看了。若是要学习了解 Weka ，看文档就好。第二版已经出了，没读过，不清楚。
信息检索方面，Du Lei 同窗再次推荐：
信息检索方面的书如今建议看Stanford的那本《Introduction to Information Retrieval》，这书刚刚正式出版，内容固然up to date。另外信息检索第一大牛Croft老爷也正在写教科书，应该很快就要面世了。听说是很是pratical的一本书。
对信息检索有兴趣的同窗，强烈推荐翟成祥博士在北大的暑期学校课程，这里有全slides和阅读材料：http://net.pku.edu.cn/~course/cs410/schedule.html
maximzhao 同窗推荐了一本机器学习：
加一本书：Bishop, 《Pattern Recognition and Machine Learning》. 没有影印的，可是网上能下到。经典中的经典。Pattern Classification 和这本书是两本必读之书。《Pattern Recognition and Machine Learning》是很新（07年），深刻浅出，手不释卷。
最后，关于人工智能方面（特别地，决策与判断），再推荐两本有意思的书，
一本是《Simple Heuristics that Makes Us Smart》
另外一本是《Bounded Rationality: The Adaptive Toolbox》
不一样于计算机学界所采用的统计机器学习方法，这两本书更多地着眼于人类实际上所采用的认知方式，如下是我在讨论组上写的简介：
这两本都是德国ABC研究小组（一个由计算机科学家、认知科学家、神经科学家、经济学家、数学家、统计学家等组成的跨学科研究团体）集体写的，都是引发领域内普遍关注的书，尤为是前一本，後一本则是对 Herbert Simon （决策科学之父，诺奖得到者）提出的人类理性模型的扩充研究），能够说是把什么是真正的人类智能这个问题提上了台面。核心思想是，咱们的大脑根本不能作大量的统计计算，使用fancy的数学手法去解释和预测这个世界，而是经过简单而鲁棒的启发法来面对不肯定的世界（好比第一本书中提到的两个后来很是著名的启发法：再认启发法（cognition heuristics）和选择最佳（Take the Best）。固然，这两本书并无排斥统计方法就是了，数据量大的时候统计优点就出来了，而数据量小的时候统计方法就变得很是糟糕；人类简单的启发法则充分利用生态环境中的规律性（regularities），都作到计算复杂性小且鲁棒。
关于第二本书的简介：
1. 谁是 Herbert Simon
2. 什么是 Bounded Rationality
3. 这本书讲啥的：
我一直以为人类的决策与判断是一个很是迷人的问题。这本书简单地说能够看做是《决策与判断》的更全面更理论的版本。系统且理论化地介绍人类决策与判断过程当中的各类启发式方法（heuristics）及其利弊 （为何他们是最优化方法在信息不足状况下的快捷且鲁棒的逼近，以及为何在一些状况下会带来糟糕的后果等，好比学过机器学习的都知道朴素贝叶斯方法在许多状况下每每并不比贝叶斯网络效果差，并且还速度快；好比多项式插值的维数越高越容易overfit，而基于低阶多项式的分段样条插值却被证实是一个很是鲁棒的方案）。
在此提一个书中提到的例子，很是有意思：两个团队被派去设计一个可以在场上接住抛过来的棒球的机器人。第一组作了详细的数学分析，创建了一个至关复杂的抛物线近似模型（由于还要考虑空气阻力之类的缘由，因此并不是严格抛物线），用于计算球的落点，以便正确地接到球。显然这个方案耗资巨大，并且实际运算也须要时间，你们都知道生物的神经网络中生物电流传输只有百米每秒以内，因此 computational complexity 对于生物来讲是个宝贵资源，因此这个方案虽然可行，但不够好。第二组则采访了真正的运动员，听取他们总结本身究竟是如何接球的感觉，而后他们作了这样一个机器人：这个机器人在球抛出的一开始一半路程啥也不作，等到比较近了才开始跑动，并在跑动中一直保持眼睛于球之间的视角不变，后者就保证了机器人的跑动路线必定会和球的轨迹有交点；整个过程当中这个机器人只作很是粗糙的轨迹估算。体会一下你接球的时候是否是眼睛一直都盯着球，而后根据视线角度来调整跑动方向？实际上人类就是这么干的，这就是 heuristics 的力量。
相对于偏向于心理学以及科普的《决策与判断》来讲，这本书的理论性更强，引用文献也不少而经典，并且与人工智能和机器学习都有交叉，里面也有很多数学内容，全书由十几个章节构成，每一个章节都是由不一样的做者写的，相似于 paper 同样的，很严谨，也没啥废话，跟 《Psychology of Problem Solving》相似。比较适合 geeks 阅读哈。
另外，对理论的技术细节看不下去的也建议看看《决策与判断》这类书（以及像《别作正常的傻瓜》这样的傻瓜科普读本），对本身在生活中作决策有莫大的好处。人类决策与判断中使用了不少的 heuristics ，很不幸的是，其中许多都是在适应几十万年前的社会环境中创建起来的，并不适合于现代社会，因此了解这些思惟中的缺点、盲点，对本身成为一个良好的决策者有很大的好处，并且这自己也是一个很是有趣的领域。
（完）