错觉

[美]加里·史密斯

出版时间

2019-10-31

ISBN

9787521709957

评分

★★★★★
书籍介绍

在人工智能异常火热的今天,很多人认为我们生活在一个不可思议的历史时期,人工智能和大数据可能比工业革命更能改变人的一生。然而这种说法未免言过其实,我们的生活确实可能有所改变,但并非一定是朝好的方面发展。我们过于武断地认为计算机搜索和处理堆积如山的数据时不会出差错,但计算机只是擅长收集、储存和搜索数据,它们没有常识或智慧,不知道数字和词语的意思,无法评估数据库中内容的相关性和有效性,它们没有区分真数据、假数据和坏数据所需的人类判断力,没有分辨有理有据和虚假伪造的统计学模型所需的人类智能。

计算机挖掘大数据风行一时,但数据挖掘是人为而非智能,也是非常艰巨、危险的人工智能形式。数据挖掘先是通过大量的数据走势、相关关系来发现让我们内心愉悦却无实践价值的模型,然后创造理论来解释这些模型。作者通过“史密斯测试”和“得州神枪手谬误”等实例说明,如果你挖掘和拷问数据的时间够长、数量够大,你总能得到自己想要的结果,然而这是相关关系却并不是因果关系,只是自我选择偏好,并没有理论基础也没有实用价值。

在人工智能时代,我们对计算机的热爱不应该掩盖我们对其局限性的思考,真正的危险不是计算机比我们更聪明,而是我们认为计算机具有人类的智慧和常识,数据挖掘就是“知识发现”,从而信任计算机为我们做出重要决定。更多的计算能力和更多的数据并不意味着更多的智能,我们需要对人类的智慧有更多的信心。

目录
引 言 / 007
第 1 章 智能还是服从
井字游戏 / 008
国际跳棋 / 011
第 2 章 盲 从

显示全部
用户评论
前三分之二太啰嗦了,大意是通过挖掘数据和模型来倒推解释和结论,会导致误判很多只是短暂相关的情况,即便和选用的数据吻合,也无法预测未来。 最后三分之一提到在招聘、犯罪学、军事等领域完全依赖人工智能会导致的歧视(黑匣子)、隐私侵犯、摆弄系统等问题,这部分的反思(尤其是歧视)还挺有意思的。
原来只要量大,无意义的随机数中也可以很容易地发现相关性较高的关系-_-
#数据挖掘、模型、机器学习算法会误导的根本原因:意义本身来自人自身,这是机器目前或者永远不能给的。当然作为工具它们可以做我们的🚴‍♀️,用处很大,作者说的金融工程师4种类型,非常实在。 #沃森没被爆出来玩不下去前一直被我当作一个鉴别杠杆:能理解IBM某种程度是欺诈的,迟早玩不下去的一般技术理解力还是在线的。 #比较不能苟同的是:作者认为计算机做的这些都不是真正的智能。做人还是要实在一点,不能每次计算机解决了什么问题,就把这个问题说成“不是真正的智能”,是的,也许不是AGI,但是人类中知识也有很大一部分完全是概率性、知识性的,并不能说机器发现的知识都是偶然。
感觉数据挖掘想挖掘一些人类无法发现的现象,但是又无法通过具体显示原因解释,所以就不断堕入谬论。全书从头到尾都在举不同的例子说明,计算机的算法无法理解现实的真正意义。有一点很奇怪的是,难道数据能模拟出市场的随机性就说明市场是不可预测的么?书里用的例子似乎好几年前的,当时没有特别完善的数据挖掘技术,理论和计算能力也还不足,但是不能否认今天的技术已经进步很多,虽然还并不能完全像人类一样。
感觉一般般
1、目前的人工智能其实并不“智能” 截止目前为止,计算机只是比人类计算更快、记忆力更好。但是,最大的问题,目前的人工智能在常识性、自动识别、逻辑推理能力方面,都还很弱。 计算机的算法,都是人工设计的,也因为如此,不管有意无意,这些算法会存在漏洞或考虑不周,而这些问题,在非正常情况下,会造成和预期不一样的结果。某些情况下,如自动驾驶时,这些结果可能导致严重的后果,如撞车。如自动翻译,由于缺少上下文的理解,有时会有啼笑皆非的翻译结果。 2、人类趋利的本性导致技术的错误使用 其一,得州神枪手谬误1:瞄准数百个目标,只报告那些击中的情况。 其二,得州神枪手谬误2:找到一个模式,然后为其编造解释。
没什么深入的东西,作者主要试图对ai过热的外行崇拜进行降温;后半部分经济学的内容比较多。阐述相关性和因果性案例的部分可以看看。 @2021-05-04 17:56:05 @2021-12-24 15:04:38 @2022-02-23 22:16:19
有的例子比如开篇的阿达耽误希拉里的问题,我对真实性比较怀疑🤨不过计算机本质还是计算,只是算的快慢多少的差别而已,而决策这种事儿确实有很多不可控因素。
读完的感觉是人傻了,看看下次听课有什么可以和本书联系的观点再评论吧,原来逼着自己看一些书如此难受😣!
内容有一些老旧。对于最近几年内CV和NLP领域的发展刻意忽略掉了,这些既包括视觉领域中人们对于样本增强的理解(包括对模糊不清的东西的判断和对数字的拉直,变形等操作),也包括语义理解中动态词向量对语境的把握和self attention对上下文的理解。 这本书可以用来辅助反思AI的弱点,但是很多内容已经缺少前瞻性了。
下载
收藏