![AI的批判理论 - [瑞典] 西蒙·林德格伦](https://static.book345.com/covers/s/9787305301230.jpg)
书籍介绍
※AI时代，谁在受益，谁在付出代价？
※我们使用AI时，是消费者，还是无偿劳动者？
※技术×资本×偏见×工作※
※一本书读懂西方数字技术背后的权力控制※
--------------
【编辑推荐】
★穿透技术表象，直击算法背后的政治经济博弈与意识形态陷阱
★拆解西方社会的大厂神话、平台劳动与数据殖民的隐形逻辑
硅谷精英主义、“AI造福社会”→零工经济、幽灵劳动者
★重读福柯与法兰克福学派
算法推荐、信用评分→社会控制、全景监视
★写给每一个被算法圈住的人
认清技术叙事，夺回思考与行动的主动权
★AI并不中立。AI不是魔法，也不是超人。
--------------
【图书简介】
我们生活在AI时代。AI是拯救人类的利器，还是巩固不平等的装置？
本书拒绝将AI视为单纯的技术问题，而是从批判理论的角度，深入考察AI这一具有变革性的社会政治现象。作者指出，AI是由算法、数据、资本、劳动和意识形态等元素共同构成的“装配”。从肯尼亚贫民窟的数据标注员，到被算法支配的平台骑手，从女性化的语音助手，到被算法忽视的黑人患者，这一切都表明，AI既不独立于人类，也不中立，而是与人类劳动具有深度联结，并在社会的方方面面复制和强化种族主义、性别歧视等偏见。AI无法从根源上解决社会问题，因为问题从来不在代码里，而在塑造代码的社会结构之中。
精彩摘录
- "本书探讨的是如何从批判理论的角度来理解AI这一具有变革性的社会政治现象——广义上的AI概念，包括与之相关的技术和现象，如数据化、机器学习和算法自动化——以及其社会和文化的背景与后果。正如你将在下一章中看到的，我将从装配1的角度看待AI，也就是将它视为一种非常广泛且与社会纠缠在一起的现象。AI本身由几种不同的技术组成，并位于人类、政治、经济、文化、意义创造和权力的网络中。 这种观点意味着，这实际上不是一本关于AI的书。我的意思是，本书并非关于计算机科学领域中所呈现的那种AI，即在实验室中为特定的应用和实施开发的AI。AI的计算机科学是一个完全不同的研究领域和专业，它基于对AI是什么和意味着什么更"
- "这些批判理论涵盖了一系列视角和学派，包括但不限于文 化研究（Hall，1997b；Williams，1961）、符号学（Barthes，1970；Saussure，1966）、后结构主义（Derrida，1976；Foucault，1972-2000）、后马克思主义（Althusser，1984；Gramsci， 1971）、女性主义（Haraway，1985；Kristeva，1980）、后现代主 义（Baudrillard，1994；Lyotard，1984）、酷儿理论（Butler， 1990；Halberstam，2005）、种族和后殖民主义（Crenshaw，1995；Said，19"
- "福克斯建议，定义批判理论时，不要参考特定的学派或方法，而要关注内容的层次。然后，他列举了构成批判理论的六个维度：“批判伦理学；对统治和剥削的批判；辩证理性；意识形态批判：政治经济学批判斗争与政治实践，2022，20）基于类似的策略，本书将批判理论定义为对社会中权力关系的分析，并将其做如下细分。 第一，对意识形态进行批判，并审视围绕AI形成的想法和愿景（AI神话）是如何与社会中的政治利益和权力关系联系起来的。这主要在第三章和第四章中讨论。 第二，对主体性进行批判性分析，重点关注AI如何询唤（召唤和定位）人们，通过这些技术，构成、阻碍或催生了哪些社会角色，以及权力和剥夺权力的关系。这是第五章和第七"
- "本书概述 下一章介绍了将AI作为装配的观点。其论点是，AI必须被理解为一种复杂而无处不在的装置（apparatus），不仅涉及技术，还涉及人类、思想和社会行为。以这种方式看待AI，有助于进行更具批判性的分析和理解，将AI的历史性、偶然性和位置性纳入考量。 0 第三章和第四章从意识形态的角度对AI进行了批判。这两章中的前一章重点介绍了作为AI背后驱动力的意识形态。与社会中权力关系相关的某些思想对AI的开发和实施方式有着决定性的影响。这些思想在很大程度上借鉴了自由意志主义（liber-tarianism），以及对盈利与进步的愿景。关于AI和意识形态的两章中的第二章则着眼于意识形态如何嵌入AI，并通"
- "尽管没有使用装配这一概念，但凯特·克劳福德和新媒体研究员弗拉丹·乔勒（2018）提出了与我上述观点相契合的视角。在亚马逊 Echo 智能音箱1的案例研究中，他们设想了AI系统的内部结构。他们以这个AI实例来分析并拆解其庞大的延伸网络，以及其与更广泛的AI装配之间的交织关系。 克劳福德和乔勒指出，Echo等小设备的日常使用主要集中在由AI驱动的技术与人类用户之间的简单互动上。在诸如“开灯！”之类的指令下，以“好的”作为回应，随后灯被打开，这就是标准的交互模式。它稍纵即逝。然而在这场景的背后，这些节点调动了“一个巨大的能力矩阵”：“跨越采矿、物流、分销、预测和优化的网络，其背后是资源提取、人类劳动"
- "人文地理学家奈杰尔·思里夫特（2005，5）恰如其分地提出，新技术往往被誉为能改变一切，但实际上，它“对许多实践回路产生了不同的影响，而非有其自身独特的决定性作用”。就AI而言，它对社会没有单一而明显的影响。相反，根据装配的逻辑，它对许多不同的“实践回路”有一系列影响。思里夫特提出，一种史无前例的技术无意识形式出现了，我们可以将 AI视为其中的一部分。思里夫特（2005，223）写道，新的技术无意识“现在甚至出现在日常活动中，诸如玩高度复杂的游戏软件，这类软件对于规则引导的指令而言越来越不透明”。与装配的逻辑一致，思里夫特将新的技术无意识视为一种操演性（performative）的基础设施。社"
- "意识形态表现为“看待世界的自然方式”，从而掩盖了更深层的“我们生活的物质/历史条件”，这是因为意识形态“拒绝承认这些条件对我们看待世界的方式有任何影响”（Tyson，2006，56-57）。这促使我们对围绕AI的意识形态过程进行质疑和批判。 ·是否有特定的AI意识形态，如果有，它包含什么？ 性 ·开发和实施AI的行动体现了什么样的意识形态？ ·关于AI的真理是如何产生的？由谁产生，以及为了谁的利益？谁有权定义它是什么以及它能实现什么? ·AI在什么情况下被“操演”？也就是说，围绕它的意义是如何被建立和维护的？是否有任何相反或冲突的观点? ·谁来决定AI应该被设计去做什么？谁有权划定任何伦理 界"
- "从本质上讲，加州意识形态是精英主义和非普遍性的。它催生了一个新的“虚拟阶级”，由数字工作者（开发人员、学者、传播者等）组成，他们看似享有特权，但和以前任何一种资本主义制度下的工人一样，可以被随意支配。在蒂姆尼特·格布鲁案中，这一点显而易见（见第一章）。 加州意识形态的核心是，“自由市场和全球通信的控制论的流（cybernetic flows）···将决定未来”，“人类的社会和情感联 系阻碍了机器的有效进化”（Barbrook and Cameron，1995）。换句话说，这种意识形态将技术放在首位，作为一种无可置疑、不断向前推进的变革力量，抛弃了社会团结以及权力与统治的 问题。宗教和媒介学者卡"
作者简介
【作者简介】
西蒙·林德格伦（Simon Lindgren），瑞典于默奥大学（Umeå University）社会学教授，研究方向为数字文化，著有《数字媒介与社会》（Digital Media and Society）等。
【译者简介】
周亦张，南京大学艺术学博士，哥伦比亚大学艺术学院联合培养博士，现为华东师范大学传播学院博士后，主要研究方向为数字文化、艺术理论与媒介研究。
用户评论
“每天，布伦达离开家，乘公交车前往内罗毕东区，与同一栋大楼里超过一千名同事一起，辛苦从事我们鲜少听说也更难目睹的AI开发工作。在八小时的轮班中，她创造着训练数据：以计算机能理解的方式准备的信息（通常是图像）。布伦达加载一张图像，然后用鼠标勾勒出几乎所有内容：人、车、路标、车道线，甚至天空，并标注是多云还是晴朗。以自动驾驶汽车为例，将数百万张此类图像输入AI系统后，它才能开始在现实世界中“识别”这些物体。据说数据越多，机器就越智能。”
比较全面，可以作为索引，但就论述的锋芒而言，远不及《数字工厂》一书
为AI的批判性研究梳理出了一个相对清晰的路径，很有端到端社会学的风范。除了对AI有足够理解，还需对批判理论有足够了解，才能读得顺畅，正巧前一阵读了法兰克福学派的入门书，很有帮助。
①用社会学的想象力对AI作为一种装配（AI作为社会行动者+社会建构+与所有相关词的链接…）进行批判：意识形态、主体性、政治经济学。在话题广度上还是machine learning bias, big data bias, algorithmic bias, 以及一大堆也已出现的伦理问题（crowdsourcing、威胁MZ、加剧业已存在的各种不平等、digital divide、deepfake、劳动力市场冲击、生态耗电尤其水消耗问题）和现象学挑战（赛博格梦不梦见电子羊、改变对时间空间巴拉巴拉感知…）。但分析视角更深刻。社会学理论套得井井有条，感觉可以作为理论指导参考，比较便利。每一章后面的要点总结得很好，这也很便利。一个我之前注意不多的现象是responsible AI团队被面子工程。
AI 最大的风险不是自我觉醒，而是成为固化不平等的算法机器。
下载
收藏