监视资本主义：智能陷阱 The Social Dilemma(2020)(CN)Subtitles
| SRT Subtitles download |
1 00:00:19 （“进入凡人生活的一切强大之物无不具有弊端”）
2 00:00:24 （——索福克勒斯）
3 00:00:31 好 你直接开始吧？好 坐下 能否舒适地坐着
4 00:00:37 还好吗？好了
5 00:00:38 是
6 00:00:43 第一镜 打板
7 00:00:46 要我先从自我介绍开始吗？
8 00:00:50 世界你好 贝利 第三镜
9 00:00:53 -可以了吗？-这是我最讨厌的部分 兄弟
10 00:00:57 我不喜欢这样
11 00:00:59 我2011年到2012年间在脸书工作
12 00:01:02 我是Instagram非常早期的员工
13 00:01:05 我曾任职于谷歌、YouTube
14 00:01:08 苹果、谷歌、推特、Palm
15 00:01:12 我帮助创始了Mozilla Labs后来更多工作于火狐这边
16 00:01:15 在拍吗？大家…
17 00:01:18 很好
18 00:01:21 我曾在推特工作 我在推特的最后一份岗位 是高级副总工程师
19 00:01:27 我曾是Pinterest的总经理
20 00:01:29 在那之前 我在脸书做了五年的
21 00:01:32 盈利总监
22 00:01:34 在推特期间 我用了几年时间运营他们的开发者平台
23 00:01:38 然后我做了消费者产品部长
24 00:01:40 我曾合作发明谷歌硬盘、谷歌邮箱聊天
25 00:01:44 脸书网页和脸书“赞”按钮
26 00:01:47 对 所以我才花了八个月的时间
27 00:01:50 和律师反复周旋
28 00:01:54 真的让我很崩溃
29 00:01:58 我在那里任职的时候 一直觉得总体上 这是积极的力量
30 00:02:03 我现在不确定 自己是否还这样想了
31 00:02:05 出于对道德伦理的担心我于2017年6月离开谷歌
32 00:02:10 不仅是担心谷歌的道德伦理而是对整个产业
33 00:02:14 我很担心
34 00:02:16 非常担心
35 00:02:19 如今 人们很容易忽略一个事实
36 00:02:21 这些工具其实为世界创造了一些美好的东西
37 00:02:27 它们让失去联系的家人重聚找器官捐赠者
38 00:02:32 它们为整个世界带来了
39 00:02:35 有意义的、系统的变革
40 00:02:37 这是这些平台积极的一面
41 00:02:40 我认为我们对它的消极一面过度看轻了
42 00:02:45 对 这些东西 只要你发布它们自己就会存活
43 00:02:48 它们被使用的方式与你当初的预期大相径庭
44 00:02:52 我深信 这些负面的后果不是任何人刻意为之
45 00:02:56 没有任何一个坏人 没有 绝对没有
46 00:03:01 那么问题在哪里？
47 00:03:09 是否有问题？问题在哪里？
48 00:03:18 是 很难给出一个单一的、简明的…
49 00:03:20 我在试着谈论很多不同的问题
50 00:03:22 问题在哪里？
51 00:03:28 NETFLIX 原创纪录片
52 00:03:33 虽然面对越来越多的质疑
53 00:03:35 这些所谓的大型技术公司却越发壮大
54 00:03:37 整个技术产业正在面临全新维度的审查
55 00:03:41 一项新的研究初步揭示了心理健康
56 00:03:43 与社交媒体使用之间的联系
57 00:03:46 来谈谈最新的研究…
58 00:03:49 …的情况 根本没有保险
59 00:03:51 数千万美国人无望地
60 00:03:54 玩电子设备成瘾
61 00:03:56 因为技术 现在你真的能把自己隔离在一个泡泡内 周围都是
62 00:03:59 （你的朋友在照片中圈出了你）
63 00:04:00 与你观点相似的人瘾性就更加恶化了
64 00:04:02 虚假新闻变得更发达了
65 00:04:04 威胁着全世界的社会
66 00:04:06 我们12年多以前创造推特的时候根本没有想到这些
67 00:04:10 官方说 他们没有理由相信
68 00:04:12 俄罗斯网络攻击会停止
69 00:04:14 YouTube被迫专注于清理网站
70 00:04:18 如果你和十几岁的孩子去聊
71 00:04:21 他们是绝对不可能删除抖音的…
72 00:04:24 喂 艾拉 可以帮忙摆桌子吗？
73 00:04:26 有一个严肃的问题
74 00:04:27 社交媒体是否让您的孩子抑郁
75 00:04:30 艾拉 可以帮忙摆桌子吗？
76 00:04:32 整容在青少年中已经十分受欢迎
77 00:04:35 整容医生甚至造出了一种新病征
78 00:04:37 “图片分享畸形征”指的是年轻的患者想做整容手术
79 00:04:40 让自己看上去更接近加了滤镜的自拍中的样子
80 00:04:43 我还是不明白你为什么让她用那东西
81 00:04:45 我能怎么办？
82 00:04:47 我是说 她们班上的其他孩子全都有
83 00:04:50 她才11岁
84 00:04:51 卡桑 没人强迫你用
85 00:04:53 你想和别人切断联系多久 都随你
86 00:04:55 喂 我没有手机也不会和别人切断联系 好吗？我现在就在网上
87 00:04:59 而且 这根本不是实际的联系全都是没用的…
88 00:05:03 监视资本主义已经形成了我们的政治和文化
89 00:05:06 而很多人根本没有察觉
90 00:05:08 伊斯兰国煽动网上的关注者
91 00:05:10 现在 白人至上主义也在这样做
92 00:05:12 最近在印度
93 00:05:14 网络暴民害死了十几个人包括这五个…
94 00:05:17 虚假新闻不只是虚假新闻是有后果的
95 00:05:20 在虚假新闻的时代你要怎么解决传染病？
96 00:05:24 吃中餐会感染新冠病毒吗？
97 00:05:27 我们已经从信息时代过渡到了虚假信息时代
98 00:05:32 我们的民主受到了攻击
99 00:05:34 我说的是：“我认为如今创造出的工具正在开始
100 00:05:39 侵蚀社会正常运转的社交纽带”
101 00:06:00 阿莎愿意接受评论 我们播放视频
102 00:06:04 然后说 “女士们先生们我是特里斯坦·哈里斯”
103 00:06:07 -好-很好
104 00:06:08 就是说 我上来 然后…
105 00:06:12 （人道 技术的新议程）
106 00:06:13 你就说“欢迎各位的到来”
107 00:06:17 今天 我想聊聊技术的一个新议程
108 00:06:22 以及我们为什么要这样做因为如果你问人们
109 00:06:25 “如今的技术产业怎么了？”
110 00:06:28 有一种不满和丑闻的杂音
111 00:06:31 “他们盗用了我们的数据”还有技术成瘾问题
112 00:06:33 有虚假新闻问题 有两极分化问题
113 00:06:36 有些竞选过程被黑客操控的问题
114 00:06:38 但是这些问题的背后是否有一个原因
115 00:06:41 导致这些问题在同时发生？
116 00:06:46 -感觉还行吗？-非常好 好
117 00:06:50 我只是想… 我想让人们看到…
118 00:06:53 在技术产业 正面临着一个问题
119 00:06:55 这个问题连名字都没有这个问题有一个源头…
120 00:07:05 环顾你身边感觉这个世界在逐渐疯狂
121 00:07:12 你要问自己 这是正常的吗？
122 00:07:16 还是我们都中了什么魔咒？
123 00:07:22 （特里斯坦·哈里斯谷歌前设计道德伦理学家）
124 00:07:25 （人道技术中心 合作创始人）
125 00:07:27 我希望更多的人能够理解它的原理
126 00:07:30 因为它不应该只被技术产业的业内知道
127 00:07:34 应该让所有人都知道
128 00:07:47 -你好！-嗨！
129 00:07:48 -特里斯坦 幸会-特里斯坦？
130 00:07:50 -对-太好了 好
131 00:07:53 特里斯坦·哈里斯是谷歌前设计道德伦理学家
132 00:07:56 被称为硅谷最接近良知的人物
133 00:07:59 他呼吁技术产业
134 00:08:00 在产品中引进被他称为“道德伦理设计”的要素
135 00:08:04 搞技术的业内人士极少如此直言不讳
136 00:08:06 特里斯坦·哈里斯相信总有人要这样
137 00:08:11 我在谷歌工作的时候
138 00:08:12 我在谷歌邮箱团队我就开始觉得很疲惫
139 00:08:16 因为我们讨论了很多…
140 00:08:19 收件箱应该长什么样应该是什么颜色
141 00:08:23 我自己感觉对邮件成瘾
142 00:08:26 我觉得有趣的是
143 00:08:27 在谷歌邮箱工作的人没有一个想把它做得不那么致瘾
144 00:08:31 我想：“别人想过这个问题吗？
145 00:08:34 我 没听谁谈论过这个问题”
146 00:08:36 我对技术产业整体感到沮丧
147 00:08:41 感觉我们有点迷路了
148 00:08:46 我真的很努力地去尝试 想办法
149 00:08:49 怎样能从行业内部改变这个问题
150 00:08:55 就在这个时候 我决定做一次展示算是号召大家吧
151 00:09:00 每天我回到家 每一个晚上都要花几个小时去做这件事
152 00:09:06 我的呼吁是 历史上从来没有过50个
153 00:09:12 20到35岁之间的加州白人设计师
154 00:09:15 做出一个能影响20亿人的决定
155 00:09:21 20亿人将会拥有他们从来不曾预料的想法
156 00:09:24 只因为一个谷歌的设计师说“你每天早上醒来
157 00:09:28 屏幕上的通知就是这样工作的”
158 00:09:30 我们作为谷歌有解决这个问题的道德责任
159 00:09:36 我把这个展示
160 00:09:37 发给了在谷歌与我关系最近的15到20个同事
161 00:09:41 我很紧张 我不知道他们会怎样想
162 00:09:46 我第二天去上班的时候
163 00:09:48 多数的电脑上都开着这个展示
164 00:09:50 （注意）
165 00:09:52 那天下午 有400个人同时观看
166 00:09:54 看到的人越来越多
167 00:09:56 我收到整个公司同事发来的各种邮件
168 00:09:58 每一个部门的人都说
169 00:10:00 “我太同意了我看到这个问题正在影响我的孩子
170 00:10:02 我看到这个问题正在影响我身边的人我们应该做点什么 来解决这个问题”
171 00:10:07 我感觉自己好像开启了一场革命之类的
172 00:10:11 后来 我才知道莱利·佩吉那一天在三个不同会议
173 00:10:15 都被人告知这个展示的存在
174 00:10:17 于是这个展示创造了这个文化性的时刻
175 00:10:20 谷歌需要认真对待
176 00:10:26 然后…杳无音讯了
177 00:10:34 2006年 所有人…
178 00:10:37 包括我们在脸书的所有人
179 00:10:39 超级羡慕谷歌羡慕谷歌所创建的一切
180 00:10:43 超级实用的服务
181 00:10:47 据我们当时所知为世界带来了很多好处
182 00:10:51 他们建立了一个平行的造钱机器
183 00:10:55 我们超级羡慕嫉妒谷歌在我们看来太优雅了…
184 00:11:00 太完美了
185 00:11:02 脸书当时才成立大概两年
186 00:11:05 我被雇到脸书 去找出
187 00:11:08 公司未来要走怎样的商业模式
188 00:11:10 我曾是盈利总监 大概意思就是
189 00:11:13 “你是要去想出这个东西怎样盈利的人”
190 00:11:17 当时很多人做了很多工作
191 00:11:19 但我明显是其中一个指向…
192 00:11:26 首先 我们必须要赚钱
193 00:11:29 我认为这个广告模式可能是最优雅的方式
194 00:11:42 妈妈刚给我们发的什么视频？
195 00:11:44 一个脱口秀 不过挺不错的那个人还算是个天才
196 00:11:47 他在谈论删除社交媒体你们真应该这样做
197 00:11:50 我可能要开始屏蔽她的邮件了
198 00:11:52 讲真 我都不知道她在说什么天啊 她还不如我
199 00:11:56 -不 她只用来找菜谱-对 还有工作
200 00:11:58 -还有健身视频-还看我们在做什么
201 00:12:00 还看她这辈子遇到过的每一个人在做什么
202 00:12:04 如果你一边往下划着你的社交媒体推送
203 00:12:07 一边看着我们你需要把你该死的手机放下 听好
204 00:12:11 因为我们的下一位嘉宾写了一本优秀的书
205 00:12:14 书的内容是社交媒体多大程度上破坏了我们的生活
206 00:12:18 掌声有请《立刻删除你社交媒体的十个论点》作者
207 00:12:24 贾伦·拉尼尔
208 00:12:27 谷歌、脸书这样的公司是有史以来
209 00:12:31 最富有、最成功的几个公司
210 00:12:34 他们的员工数量相对较少
211 00:12:36 他们只有一个大电脑 在那里摇钱
212 00:12:41 问题是 别人为什么给他们钱呢？这是一个非常重要的问题
213 00:12:47 我做了35年的技术产业投资者
214 00:12:51 硅谷的前50年 行业制造产品…
215 00:12:54 硬件、软件 卖给顾客简单良好的商业模式
216 00:12:58 过去十年 硅谷最大的公司
217 00:13:01 一直涉足贩卖他们用户的勾当
218 00:13:03 现在这样说 有点陈词滥调
219 00:13:05 但因为我们不为使用这些产品付钱
220 00:13:09 广告商为我们使用的产品付钱
221 00:13:12 广告商是顾客
222 00:13:14 我们是被销售的商品
223 00:13:16 经典的说法是
224 00:13:17 “如果你没有花钱买产品那你就是被卖的产品”
225 00:13:21 （你就是被卖的产品）
226 00:13:23 很多人想：“谷歌只是一个搜索框
227 00:13:27 脸书只是一个看我朋友们在做什么
228 00:13:29 看他们照片的地方”
229 00:13:31 但他们没有意识到的是他们在竞争你的关注
230 00:13:36 脸书、阅后即焚图片分享、推特Instagram、YouTube
231 00:13:41 这种公司 他们的商业模式是让人们的注意力持续吸引在屏幕上
232 00:13:46 我们来想办法 怎样尽最大可能
233 00:13:49 获得这个人的注意力
234 00:13:51 我们能让你在上面花多少时间？
235 00:13:53 我们能让你给我们分出你人生的多少时间？
236 00:13:58 当你去想 这些公司是怎样运作的
237 00:14:01 就能开始想通了
238 00:14:03 网络上有过各种服务我们都认为是免费的
239 00:14:06 但它们并不是免费的是广告商在付钱
240 00:14:09 广告商为什么给这些公司付钱？
241 00:14:11 它们付钱 交换给你展示广告
242 00:14:14 我们是产品 我们的关注就是卖给广告商的产品
243 00:14:18 这样说 过于简单化了
244 00:14:20 产品其实是我们行为和认知的
245 00:14:23 逐渐的、一点一点的我们未察觉到的变化
246 00:14:26 （行为和认知的 变化）
247 00:14:27 这才是产品 是唯一可能的产品
248 00:14:30 这其中 没有任何东西能再被称为产品了
249 00:14:34 这是他们能拿来赚钱的唯一东西
250 00:14:37 改变你做的事
251 00:14:39 你的思维模式 改变你这个人
252 00:14:42 这是一种逐渐的变化 非常轻微
253 00:14:45 如果你去找一个人你说：“给我一千万美元
254 00:14:49 我会让世界往你希望的方向改变1%…”
255 00:14:54 是整个世界！这就很神奇 值很多钱
256 00:14:59 好
257 00:15:00 这是每种商业都一直梦想的
258 00:15:04 就是投放一个广告有一定能够成功的保证
259 00:15:11 这就是他们的生意他们卖的是确定性
260 00:15:14 （确定性）
261 00:15:14 为了在这个生意中成功
262 00:15:17 你必须要有优秀的预判能力
263 00:15:19 （优秀的预判能力）
264 00:15:20 优秀的预判能力始于一个必要条件
265 00:15:25 你需要很多数据
266 00:15:27 （数据）
267 00:15:29 很多人把它称作监视资本主义
268 00:15:31 资本主义利用大型技术公司对每个人去的每一个地方
269 00:15:34 进行无限追踪获利
270 00:15:38 大型技术公司的商业模式
271 00:15:40 是保证广告商能尽最大可能成功
272 00:15:42 这是现在的一种新市场
273 00:15:45 这种市场 以前从未出现过
274 00:15:48 这个市场交易的 只有人类期货
275 00:15:56 就像交易五花肉期货和石油期货的市场
276 00:16:02 我们现在有了交易大范围人类期货的市场
277 00:16:08 这些市场创造了万亿美元
278 00:16:14 让网络公司成为了人类历史上
279 00:16:19 最富有的公司
280 00:16:27 我想让人们知道的是他们在网上做的一切
281 00:16:31 都被监控着 被追踪着 被评估着
282 00:16:35 你所做出的每一个行为都被小心翼翼地监控着、记录着
283 00:16:39 具体到你停在哪一张图片上看了你看了多久
284 00:16:43 是的 真的 看了多久都记录了
285 00:16:45 （纳维亚 参与时间）
286 00:16:47 （瑞恩 参与时间）
287 00:16:49 （雷恩 参与时间）
288 00:16:50 人们孤独的时候 他们知道人们抑郁的时候 他们知道
289 00:16:53 人们看前任爱侣的时候 他们知道
290 00:16:57 你深夜在做什么 他们知道他们全都知道
291 00:17:01 你是内向还是外向
292 00:17:03 你的神经哪种类型你的性格是哪种类型
293 00:17:08 他们所掌握的我们的信息
294 00:17:11 超越人类历史上所有的想象
295 00:17:14 这是史无前例的
296 00:17:18 所有这些我们不经意间不断流露出的数据
297 00:17:22 都被输入到这些系统中几乎不用人类看管
298 00:17:27 会做出越来越好的预判
299 00:17:30 预判出我们要做什么我们是怎样的人
300 00:17:34 （为您推荐）
301 00:17:36 很多人有一种误解 认为被卖掉的是我们的数据
302 00:17:40 脸书的商业兴趣肯定不是放掉这些数据
303 00:17:45 他们用这些数据做什么呢？
304 00:17:51 他们做出预判我们行为的模型
305 00:17:54 拥有最优秀模型的公司就赢了
306 00:18:02 他向下滑网页的速度慢
307 00:18:04 接近他平均阅读一屏时间长度的末尾减少广告加载
308 00:18:07 把朋友和家人弄回来
309 00:18:09 在屏幕的另一端
310 00:18:11 他们就好像拥有一个我们的巫毒娃娃化身一样
311 00:18:16 我们做过的所有事情
312 00:18:18 点击过的每一个地方
313 00:18:19 我们看过的所有视频点赞过的所有内容
314 00:18:21 这些数据都会被返回去用来建造一个越来越精准的模型
315 00:18:25 一旦有了这个模型
316 00:18:27 就能预判这个人做怎样的事
317 00:18:29 好 让我测试一下
318 00:18:32 你将要去哪里
319 00:18:33 我能预判出你会继续看什么样的视频
320 00:18:36 我能预判什么样的情感更能让你产生共鸣
321 00:18:39 好 完美
322 00:18:41 年度最悲壮失败
323 00:18:43 （悲壮失败）
324 00:18:48 -完美 有效果-接着另一个视频
325 00:18:51 漂亮 在它开始之前我们插进去一个运动鞋广告
326 00:18:56 很多这种技术公司有三个主要目标
327 00:18:59 有一个参与度目标增加你的使用 让你一直滑动屏幕
328 00:19:04 有一个增长目标
329 00:19:06 让你不断回来 尽可能多地邀请朋友
330 00:19:08 让他们再邀请更多的朋友
331 00:19:11 还有一个广告目标确保一切按照预期发展
332 00:19:15 我们尽量多地从广告上挣钱
333 00:19:19 每一个目标都由一个算法驱动
334 00:19:22 算法的作用是找出 给你展示什么
335 00:19:24 让数据上涨
336 00:19:26 我们在脸书 经常聊到这个想法
337 00:19:30 能够按照我们的需要调控
338 00:19:34 我们聊过 让马克来调控
339 00:19:41 “喂 我今天想让韩国的用户增加”
340 00:19:45 开始调控
341 00:19:47 “我们调控提高一点广告”
342 00:19:49 “调控提高一点盈利”
343 00:19:52 所以说…
344 00:19:55 所有这些公司都能做到这种程度的精准
345 00:19:59 -兄弟 怎么…-我不知道我怎么没有得到黄牌罚下
346 00:20:02 -那个裁判真是逊-真的是一直…
347 00:20:05 -那是瑞贝卡 去和她说话-我知道那是谁
348 00:20:08 -兄弟 去啊 去跟她说话-我正在努力
349 00:20:10 他的日历上说 他正在休假我们应该实时操作
350 00:20:15 要我给他发一个窗口抖动吗？
351 00:20:17 好 抖吧
352 00:20:21 “您的好友泰勒刚刚加入了去挥手打个招呼吧”
353 00:20:26 快啊 兄弟
354 00:20:27 发一个挥手
355 00:20:29 你都没有… 去和她说话 兄弟
356 00:20:31 您的好友泰勒刚刚加入了！挥手打个招呼吧
357 00:20:36 （联系人网络）
358 00:20:38 新联系人！好 连上了
359 00:20:40 接下来推送用户079044238820瑞贝卡的发帖
360 00:20:46 好主意 卫星定位坐标显示他们距离很近
361 00:20:52 （瑞贝卡 找到了我的灵魂伴侣#闺蜜#呲溜呲溜#好朋友）
362 00:20:55 他容易受到广告影响
363 00:20:57 拍卖时间
364 00:20:58 （广告预览 深度衰落发蜡）
365 00:21:00 卖了！给深度衰落发蜡
366 00:21:03 我们有468个感兴趣的竞标人我们以3.262分卖给本 换来他的印象
367 00:21:17 我们创造了一个世界这个世界中 在线联系变成了主体
368 00:21:22 尤其是对年轻一代
369 00:21:23 然而在这个世界 每次两个人联系
370 00:21:29 唯一能提供经济支持的是通过一个鬼祟的第三方
371 00:21:33 有人给第三方钱 去操纵这两个人
372 00:21:36 所以 我们创造了全球的一整代人
373 00:21:39 他们成长的背景中 交流的意义
374 00:21:44 文化的意义 就是操纵
375 00:21:47 我们所做的每一件事的中心
376 00:21:49 都加入了欺骗和鬼祟
377 00:21:56 （“任何足够先进的技术都极其类似于魔术”）
378 00:22:01 （——亚瑟·C·克拉克）
379 00:22:05 -拿起另一个…-好
380 00:22:07 -放在哪里才有用？-这样很好
381 00:22:09 -这里？-好
382 00:22:10 这会怎样出现在摄影机中如果我要做…
383 00:22:13 -其实 我们可以…-就这样？
384 00:22:15 -什么？-对
385 00:22:16 -再来一次？-没错 好
386 00:22:19 对 不是 可能不是…
387 00:22:20 这样… 对
388 00:22:22 这个就稍微没那么…
389 00:22:31 克里斯在那边已经烦死了
390 00:22:34 可以了吗？
391 00:22:35 （魔术！）
392 00:22:37 我从五岁开始学习变魔术
393 00:22:41 我可以骗过成年人有博士学位的完全成熟的成年人
394 00:22:55 魔术师几乎像是最早期的神经学家
395 00:22:57 和心理学家
396 00:22:59 他们是最先明白
397 00:23:02 人们思想工作原理的人
398 00:23:04 他们在人们身上实时测试着很多很多的东西
399 00:23:09 魔术师懂一些事
400 00:23:11 你思想中你自己都没意识到的某一部分
401 00:23:14 这是让幻觉起作用的关键
402 00:23:16 医生、律师知道怎样构造747飞机或者核弹的人
403 00:23:20 他们并不会比别人更了解自己的思想有多么脆弱
404 00:23:24 因为这是一个完全不用的学科领域
405 00:23:26 这个学科领域 对所有人类都适用
406 00:23:29 （斯坦福大学）
407 00:23:30 从这个角度来说你就能对技术做了什么
408 00:23:34 有一个不同的理解
409 00:23:36 我在斯坦福劝服技术实验室的时候这就是我们所学到的
410 00:23:41 怎样利用我们知道的一切心理学知识
411 00:23:43 什么东西能劝服人们
412 00:23:45 把这个运用到技术中？
413 00:23:48 在座观众中的很多人 已经是天才了
414 00:23:50 我认为这是事实 但我的目标是让你们变成行为改变的天才
415 00:23:56 很多著名的硅谷人物都上过这个课
416 00:24:01 脸书、优步和其他公司的业绩增长关键人物
417 00:24:05 学习怎样让技术更能劝服人们
418 00:24:09 特里斯坦就是其中一个
419 00:24:12 劝服性技术 可以说是极端应用的
420 00:24:14 刻意设计
421 00:24:16 我们真的想去修改一个人的行为
422 00:24:18 我们想让他们这样做
423 00:24:20 我们想让他们继续用手指这样做
424 00:24:23 你往下拉 刷新 最上面就是新的内容
425 00:24:26 再下拉 再刷新 又是新的每一次都是
426 00:24:28 在心理学上 我们称为“正积极强化”
427 00:24:33 你不知道什么时候能刷到或者你是否能刷到什么
428 00:24:37 它的原理就像是赌城的老虎机
429 00:24:40 你有意识地使用产品 还远远不够
430 00:24:42 我想深度侵入你的大脑根部
431 00:24:44 在你脑中植入一个无意识的习惯
432 00:24:47 让你在更深的层次被编程
433 00:24:50 你自己都没有意识到
434 00:24:52 一个叫做詹姆斯·马歇尔的人
435 00:24:54 每一次你在看到老虎机在柜台上
436 00:24:56 你看一眼 你知道如果你过去
437 00:24:59 它可能有东西给你
438 00:25:01 于是你就玩了一下老虎机看你能得到什么 对吧？
439 00:25:03 这不是偶然 这是设计好的手段
440 00:25:06 他把一个金块给了旧金山军队的一个军官
441 00:25:12 别忘了 旧金山的人口数量当时只有…
442 00:25:15 另一个例子是照片圈人
443 00:25:19 如果你收到一封邮件说你朋友刚刚在一张照片中圈出了你
444 00:25:24 你当然会点击那封邮件 看一下照片
445 00:25:29 这不是你能选择忽略的事情
446 00:25:32 他们所利用的是根植于人类本性中的东西
447 00:25:36 你应该问自己的是
448 00:25:38 “这封邮件中为什么没把照片放进来？
449 00:25:40 这样 看照片就会容易很多 ”
450 00:25:42 当脸书发现这个功能之后他们可真是尽情调控
451 00:25:46 因为他们说“这将是增长积极性的绝好方式
452 00:25:48 我们让大家整天在照片中互相圈吧”
453 00:25:56 （本：至少我们中有一个人拍得很好）
454 00:25:59 他评论了
455 00:26:00 很好
456 00:26:01 瑞贝卡收到了 她正在回复
457 00:26:04 好 让本知道她在输入 别让他下线了
458 00:26:07 激活省略号
459 00:26:09 （至少我们中有一个人拍得很好…）
460 00:26:19 太好了 她发布了
461 00:26:21 他在评论 他给她发帖的评论的评论
462 00:26:25 等一下 他停止输入了
463 00:26:26 我们来自动填入
464 00:26:28 表情 他喜欢使用表情
465 00:26:31 （自动完成 参与度）
466 00:26:33 他选择了“火辣”表情
467 00:26:35 我以为他会选择茄子呢
468 00:26:38 有一整个学科这个领域叫做“增长量黑客学”
469 00:26:42 无数工程师团队他们的工作就是黑入人们的心理
470 00:26:47 让他们拥有更多的增长量
471 00:26:48 他们能得到更多的用户注册更高的参与度
472 00:26:51 能让你邀请更多人
473 00:26:52 各种测试、迭代 种种操作之后
474 00:26:56 知道我们发现最重要现象是什么吗？
475 00:26:57 让任何个体在十天内邀请七个朋友
476 00:26:59 （查马斯·帕里哈皮提亚脸书前增长副总裁）
477 00:27:01 就是这个
478 00:27:02 查马斯是脸书早期的增长负责人
479 00:27:05 他在技术领域非常知名
480 00:27:08 因为他首创了很多增长手段
481 00:27:11 这些手段的使用让脸书用户飞速增长
482 00:27:14 后来那些增长手段变成了硅谷的标准战术
483 00:27:18 在优步使用了在很多其他公司也使用了
484 00:27:21 他首创的一个东西就是对功能上的小变化
485 00:27:27 使用科学A/B测试
486 00:27:29 谷歌和脸书这种公司
487 00:27:31 会推出很多小实验
488 00:27:34 他们不断在用户身上测试
489 00:27:36 随着时间发展不停运行这些实验之后
490 00:27:39 就能发展出能让用户做你想让他们做的事
491 00:27:43 的最佳方式
492 00:27:45 这就是操纵
493 00:27:47 你让我感觉自己像是实验室的小白鼠
494 00:27:49 你就是实验室的小白鼠我们所有人都是
495 00:27:52 我们和开发治愈癌症药物的实验室小白鼠又不一样
496 00:27:55 这些实验的最终获益人 不是我们
497 00:27:58 对吧？我们就像僵尸一样他们想让我们看更多的广告
498 00:28:01 让他们挣更多的钱
499 00:28:03 脸书做了一个实验他们称为“海量规模蔓延实验”
500 00:28:08 好吧
501 00:28:09 我们怎样用脸书页面上的潜意识信号
502 00:28:13 来让更多人在中期选举中投票？
503 00:28:17 他们发现 他们能做到
504 00:28:20 他们得出的一个结论是现在我们知道
505 00:28:24 我们能影响现实世界中的行为和情感
506 00:28:28 而根本不用触发用户的意识
507 00:28:33 他们自己完全不知道
508 00:28:38 我们将这些人工智能引擎指回到我们身上
509 00:28:42 来反向编程 什么能引诱我们的回应
510 00:28:47 就很像你在蜘蛛身上模拟神经细胞
511 00:28:49 来看是什么引起它的腿反应
512 00:28:51 就是这种监狱实验
513 00:28:54 我们在实验中 捆绑人们进入矩阵
514 00:28:56 我们从他们的行为中获取金钱和数据用他们的行为牟利
515 00:29:01 我们甚至都不知道 发生了这些
516 00:29:04 我们想在心理学上弄清楚怎样以最快的速度操纵你
517 00:29:07 然后返回给你让你产生兴奋的事物
518 00:29:10 我们在脸书做得非常出色
519 00:29:12 Instagram也这样做了WhatsApp也这样做了
520 00:29:15 阅后即焚图片分享也这样做了推特也这样做了
521 00:29:17 这种东西正是
522 00:29:19 我这种黑客能想出来的
523 00:29:22 因为你在利用人类心理中的脆弱挣钱
524 00:29:27 （希恩·帕克 脸书前总经理）
525 00:29:28 我只是想 我们这些发明者、创造者…
526 00:29:33 有我 有马克 有…
527 00:29:37 Instagram的凯文·斯特罗姆所有这些人…
528 00:29:41 意识里非常清楚 但我们依然利用了
529 00:29:50 自行车问世的时候 没有人不满
530 00:29:55 对吧？所有人都开始用自行车出行
531 00:29:58 没有人说“天啊 我们刚刚毁掉了社会
532 00:30:01 因为自行车能影响人
533 00:30:03 拉远了他们和孩子间的距离
534 00:30:05 他们在毁掉民主的结构人们无法判断真假了”
535 00:30:08 对于自行车我们从来没有说过这种话
536 00:30:12 如果一个东西是工具它就会忠诚地坐在那里
537 00:30:16 耐心等待
538 00:30:19 如果一个东西不是工具它会在你身上有所求
539 00:30:22 引诱你、操纵你 想从你身上获利
540 00:30:26 我们已经走过了以工具为基础的技术环境
541 00:30:31 来到了以致瘾和操纵为基础的技术环境
542 00:30:34 这是技术环境的改变
543 00:30:35 社交媒体不是原地等在那里被使用的工具
544 00:30:39 它有自己的目标有自己的办法去实现这些目标
545 00:30:43 利用你的心理 来对付你
546 00:30:49 （“只有两个行业把他们的客户叫做‘使用者’
547 00:30:52 非法毒品和软件”）
548 00:30:55 （——爱德华·塔夫特）
549 00:30:57 回想几年之前我是Pinterest的总经理
550 00:31:03 我回到家 到家之后就无法放下手机
551 00:31:08 虽然我有两个小孩子 需要我的关爱
552 00:31:12 我在食物储藏室里打字回邮件
553 00:31:15 有时候会看Pinterest
554 00:31:18 我想：“天啊 这真是典型的讽刺
555 00:31:19 我白天去工作
556 00:31:22 构造一个把我当猎物的东西”
557 00:31:26 我无法… 有时候我真的情不自禁使用
558 00:31:32 我最无法摆脱的是推特
559 00:31:36 以前无法摆脱的是Reddit
560 00:31:38 我后来不得不给自己写程序来切断我阅读Reddit的瘾
561 00:31:45 我最成瘾的 可能是邮件
562 00:31:47 真的 我是认真的 我自己能感觉到
563 00:31:52 这很有趣
564 00:31:55 我很清楚 这一切的幕后发生着什么
565 00:31:58 我还是无法控制自己去使用
566 00:32:01 这就有点可怕了
567 00:32:03 即便知道这些手段的原理我还是容易受到它们影响
568 00:32:07 我拿起手机20分钟就不知不觉过去了
569 00:32:12 你晨起排尿之前会看一眼智能手机吗？
570 00:32:15 或者晨起排尿过程中 会看吗？
571 00:32:17 因为只有这两个选择
572 00:32:19 我试过用意志力克制 纯意志力…
573 00:32:23 “我要放下手机我到家之后 要把手机丢在车里”
574 00:32:26 我应该在千万个不同的日子告诉过自己千万次
575 00:32:30 “我不要把手机带到卧室”
576 00:32:32 然后晚上九点到了
577 00:32:34 “哎 我想把手机带进卧室”
578 00:32:37 这就有点…
579 00:32:39 意志力是一种努力
580 00:32:41 兽性在做着另一种努力
581 00:32:44 隆重介绍“厨房保险箱”
582 00:32:45 “厨房保险箱”是革命性的全新发明帮你战胜诱惑的
583 00:32:49 时间锁保鲜盒
584 00:32:51 大卫只需要把各种诱惑放进这个“厨房保险箱”
585 00:32:57 下一步 进行调控 设置时间
586 00:33:01 最后 按下调控 激活锁
587 00:33:04 “厨房保险箱”超级好
588 00:33:05 我们家有 是吧？
589 00:33:06 …电子游戏、信用卡、手机
590 00:33:08 对 有
591 00:33:09 “厨房保险箱”一旦上锁
592 00:33:11 直到计时器归零之前 没办法打开
593 00:33:13 问题是 社交媒体就是一种毒品
594 00:33:17 我们有着基本的生物学欲望
595 00:33:20 去和别人联系
596 00:33:23 这直接影响着奖赏通路中的多巴胺释放
597 00:33:28 这个机制背后 是几百万年的进化
598 00:33:32 让我们聚在一起 群居生活
599 00:33:35 找到伴侣 繁殖我们的物种
600 00:33:38 所以 毫无疑问 社交媒体这种载体
601 00:33:41 它会优化人们之间的联系
602 00:33:45 自然会有致瘾的可能性
603 00:33:52 爸 停！
604 00:33:55 我在晚饭前 还有上千个消息要回
605 00:33:58 消息？
606 00:33:59 我不知道消息是什么
607 00:34:01 -闻起来好香 宝贝-谢谢
608 00:34:03 我想 我们可以用所有五官
609 00:34:05 来享受今晚的晚餐
610 00:34:07 所以我决定今晚的餐桌上不能使用手机
611 00:34:11 好了 交上来
612 00:34:13 -真的吗？-是
613 00:34:15 -好吧-谢谢 本？
614 00:34:18 -好-妈妈是手机海盗
615 00:34:21 -拿走了-妈！
616 00:34:22 晚餐结束前这些手机会安全地放在这里
617 00:34:27 所有人可以安静待着了 好吗？
618 00:34:47 -我能看一眼是谁吗？-不行
619 00:34:54 我去再拿一个叉子
620 00:34:58 谢谢
621 00:35:04 宝贝 不能打开
622 00:35:06 我锁上了一个小时 别动了
623 00:35:11 我们要聊点什么？
624 00:35:13 我们可以聊聊我今天开车身边经过的极端中心政党疯子
625 00:35:17 -算了 弗兰科-怎么了？
626 00:35:18 我不想聊政治
627 00:35:20 -极端中心怎么了？-看吧？他都没明白
628 00:35:23 取决于你问谁
629 00:35:24 这就像是你问：“政治鼓吹怎么了？”
630 00:35:28 艾拉！
631 00:35:32 天啊
632 00:35:37 -需要我去…-嗯
633 00:35:41 我很担心我的孩子们
634 00:35:44 等你们有了孩子我还会担心你们的孩子
635 00:35:46 虽然我有着各种知识储备 各种经验
636 00:35:50 我还是和孩子们争论
637 00:35:52 他们使用手机和电脑的时间
638 00:35:54 我会对我儿子说“你觉得自己会在手机上花多久？”
639 00:35:58 他会说“也就半小时吧 最多半小时了”
640 00:36:01 我觉得比一小时多一点 一个半小时
641 00:36:04 几周之前看了他的屏幕使用报告
642 00:36:06 -是3小时45分-那不是…
643 00:36:11 我觉得没有… 平均每天？
644 00:36:13 -对-我现在去拿来吗？
645 00:36:15 每一天 我都要提醒我的孩子们
646 00:36:19 愉悦和痛苦的平衡
647 00:36:21 多巴胺短缺的状态 上瘾的风险
648 00:36:26 -对-来揭晓真相
649 00:36:27 每天2小时50分
650 00:36:29 -我们看看-其实 我今天用了很多
651 00:36:31 -过去七天-可能这就是原因
652 00:36:33 Instagram 6小时13分好吧 我使用Instagram是最严重的
653 00:36:39 我的屏幕彻底碎了 谢谢你 卡桑
654 00:36:44 “谢谢你 卡桑”是什么意思？
655 00:36:46 你一直让妈妈担心我们的手机问题但其实这根本不是问题
656 00:36:49 我们吃晚餐不需要手机
657 00:36:51 我明白你说的但这又不是什么大事 没什么啊
658 00:36:56 不是什么大事 那就一周别用手机
659 00:37:01 对
660 00:37:02 对 其实 如果你能把那东西收起来一整周…
661 00:37:07 我就给你买一个新的屏幕
662 00:37:11 -从现在开始吗？-现在开始
663 00:37:15 好 成交
664 00:37:16 好 不过你要放在这里 小朋友
665 00:37:19 好 我把它放进去
666 00:37:22 计时开始 我退后了
667 00:37:25 好
668 00:37:27 -计时开始了-一周
669 00:37:29 天啊…
670 00:37:31 你觉得他能做到吗？
671 00:37:33 不知道 走着瞧
672 00:37:35 你吃饭吧 好吗？
673 00:37:44 美好的家庭晚餐！
674 00:37:47 这些技术产品不是由
675 00:37:49 努力保护和培育孩子的儿童心理学家设计的
676 00:37:53 它们的设计 是让这些算法
677 00:37:56 非常擅于给你推荐下一个视频
678 00:37:58 非常擅于让你拍照加滤镜
679 00:38:03 （两个赞）
680 00:38:13 （确定删除吗？否）
681 00:38:15 （是）
682 00:38:16 这些东西不仅在控制他们把注意力花在哪里
683 00:38:21 尤其是社交媒体越来越深入大脑根部
684 00:38:26 夺走孩子们的判断力自我价值和身份
685 00:38:29 （美化我）
686 00:38:42 （莉莉：可爱！）
687 00:38:43 （索薇娅：天啊 好美）
688 00:38:44 （奥利维亚：你太美了）
689 00:38:46 （阿瓦：你把耳朵P大了吗？）
690 00:38:48 （哈哈）
691 00:38:52 我们进化出在意我们社群中的其他人…
692 00:38:55 （布里亚纳：漂亮！）
693 00:38:56 …是否对我们有好印象的机制因为这很重要
694 00:38:59 但我们的进化 需要我们在意一万个人怎么看我们吗？
695 00:39:04 我们的进化
696 00:39:05 不需要每隔五分钟就获得一次社交认可
697 00:39:10 这根本不是我们需要去体验的
698 00:39:15 我们管理自己的生活建立在获得的完美感上
699 00:39:20 因为爱心、点赞、竖起大拇指这些短期的信号
700 00:39:23 给我们奖赏
701 00:39:25 我们把它融合到价值中融合到真相中
702 00:39:29 不论是否虚假 易破碎的人气
703 00:39:33 这是短期的 你需要承认 这让你更加
704 00:39:37 空虚 于是会再次这样做
705 00:39:41 因为这样它会将你逼入这样一个恶性循环
706 00:39:43 你会想：“我接下来要做什么？因为我还想要这种感觉”
707 00:39:48 想一下 这种现象被20亿人复杂化
708 00:39:50 然后想一下 之后人们会怎样回应别人对自己的看法
709 00:39:54 真的… 真的很恶劣
710 00:39:56 真的太恶劣了
711 00:40:00 美国青少年群体中出现了大幅增长的
712 00:40:05 抑郁和焦虑
713 00:40:06 大概就在2011年到2013年开始的
714 00:40:11 这个国家中 每十万名少女中
715 00:40:15 每年因为割腕或者自残
716 00:40:17 进医院接受治疗的人数
717 00:40:20 在2010年到2011年是非常平稳的
718 00:40:24 在那之后 直线上升
719 00:40:28 大一点的少女中 增加了62%
720 00:40:32 （美国非致命性自残住院人数）
721 00:40:34 进入青春期前的少女 增加了189%将近三倍了
722 00:40:40 更可怕的是自杀也呈现出相同的趋势
723 00:40:43 （美国自杀率每百万女孩死亡人数）
724 00:40:44 大一点的少女 15到19岁
725 00:40:47 与本世纪初相比 增长了70%
726 00:40:52 青春期前的少女最开始的比率非常低
727 00:40:55 现在增长了151%
728 00:40:58 这个增长模式 指向了社交媒体
729 00:41:01 （2009年手机上的社交媒体数量）
730 00:41:04 Z代人1996年之后那会儿出生的孩子们
731 00:41:07 那些孩子们是历史上第一代
732 00:41:10 在初中开始使用社交媒体的
733 00:41:15 他们的时间 花在了哪里？
734 00:41:19 他们放学回家 就拿起手机
735 00:41:24 整个一代人都更加焦虑更加脆弱、更加抑郁
736 00:41:30 他们更不愿意冒险
737 00:41:34 他们拿到驾照的比率下降了
738 00:41:38 出去约会过的人数
739 00:41:41 有过任何形式浪漫互动的人数骤减
740 00:41:47 整个一代人 有了真正的改变
741 00:41:53 别忘了 这些人中的每一个每一个住院的人
742 00:41:57 背后都有一个受伤的、惊恐的家庭
743 00:42:00 “天啊 我的孩子们怎么了？”
744 00:42:19 在我看来 问题很显而易见
745 00:42:22 这些服务正在杀人也在导致人们自杀
746 00:42:29 我不认识哪个家长会说“是 我希望我的孩子们 成长过程中
747 00:42:33 感觉被技术设计师操控
748 00:42:36 操控他们的注意力让他们无法完成作业
749 00:42:39 让他们将自己和不切实际的审美标准相对比”
750 00:42:42 没有人希望那样
751 00:42:45 没有一个人
752 00:42:46 我们以前有一些保护措施
753 00:42:48 小孩子们观看周六早间动画片的时候
754 00:42:51 我们关心保护儿童
755 00:42:52 我们会说：“你不能这样给这个年龄段的孩子看广告”
756 00:42:57 然后有了YouTube儿童频道
757 00:42:58 蚕食了注意力经济的全部
758 00:43:02 现在所有的孩子都能看YouTube儿童频道
759 00:43:04 所有的保护措施所有的管理规定都不见了
760 00:43:10 （没有手机的时间）
761 00:43:18 我们在训练、调节整个一代人…
762 00:43:23 我们不自在、孤独、不确定或害怕时
763 00:43:29 有一个自己的数码安慰
764 00:43:32 这有点让我们自己处理这些情绪的能力退化了
765 00:43:53 Photoshop屏幕的另一端没有几千个工程师
766 00:43:56 用通知 用你的朋友
767 00:43:59 用人工智能去预判什么能完美地让你上瘾 引诱你
768 00:44:02 或者操纵你 或者允许广告商
769 00:44:04 去测试六万种不同的文本或颜色
770 00:44:06 （芝加哥反垄断技术会议）
771 00:44:08 …以此来找到怎样能完美地操纵你的思想
772 00:44:11 这是一种全新的力量和影响
773 00:44:16 我想再一次强调 他们使用的
774 00:44:19 玩弄人们的能力让人们成瘾或者受到影响
775 00:44:22 或许这一次是不同的或许他们是不同的
776 00:44:25 报纸问世时 印刷媒体问世时与现在很不同
777 00:44:28 电视问世的时候 与现在很不同
778 00:44:31 当时有三个主要的…
779 00:44:34 -网络-当时 我也想说
780 00:44:36 但我在说 这是一个全新的层次
781 00:44:38 这个新的层次 以前也发生过很多次
782 00:44:42 这只是我们看见的 最新的一个层次
783 00:44:45 有这样一种说法：“我们去适应它
784 00:44:48 我们要学着与这些设备共存
785 00:44:51 就像我们学着和其他所有事物共存一样”
786 00:44:53 但这个说法没有注意到的是有些东西明显是全新的
787 00:44:57 或许这其中最危险的是
788 00:45:00 这是由技术驱动的在成指数地向前发展
789 00:45:04 （计算机处理能力）
790 00:45:05 大体上如果你看从20世纪60年代至今
791 00:45:09 计算机处理能力增长了万亿倍
792 00:45:13 我们身边没有任何其他东西以这个速率增长
793 00:45:18 比如 汽车速度基本上才实现翻倍
794 00:45:22 几乎所有其他的东西都显得微不足道
795 00:45:25 或许最重要的是
796 00:45:27 我们人类… 我们的生理我们的大脑 根本没有丝毫进化
797 00:45:31 （没有手机的时间）
798 00:45:37 人类的思想、身体和体质
799 00:45:41 基本上不会改变了
800 00:45:56 我们可以搞基因工程在未来开发新的人类物种
801 00:46:01 但是现实来讲你生活在大脑这个硬件下
802 00:46:05 已经存在几百万年了
803 00:46:07 然后出现了这样一个屏幕在屏幕的另一端
804 00:46:10 有上千名工程师和超级计算机
805 00:46:13 有着与你不同的目标
806 00:46:16 那么 这个游戏谁能赢呢？谁会赢？
807 00:46:25 我们怎么会输？
808 00:46:27 -我不知道-他在哪里？这太不正常了
809 00:46:29 我给他推送朋友和家人的内容太多他烦了吗？
810 00:46:32 -或许吧-或许是广告太多了
811 00:46:34 不 一定出了严重的问题我们切换到复苏模式吧
812 00:46:39 当你想到人工智能人工智能会毁掉世界
813 00:46:44 你会看到《终结者》 看到施瓦辛格…
814 00:46:47 我会回来的
815 00:46:48 …你会看到无人机 你觉得“人工智能会杀人的”
816 00:46:53 人们忽略的是 人工智能现在已经在运营着当今世界了
817 00:46:59 甚至谈论“人工智能”都只是暗喻
818 00:47:03 在谷歌这种公司 有超级大的房间
819 00:47:10 有些在地下 有些在水下
820 00:47:13 房间里全是电脑
821 00:47:14 无数的电脑 连绵不绝
822 00:47:18 它们互相之间在内部深度连接
823 00:47:20 在运行着极其复杂的程序
824 00:47:23 始终不停地在彼此之间交换信息
825 00:47:26 他们会运行很多不同的程序
826 00:47:28 在同样的机器上 有不同的产品
827 00:47:31 有些东西可以被描述为简单算法
828 00:47:33 有些算法太过复杂
829 00:47:35 就可以被称为“智能”
830 00:47:40 我想说 算法是内嵌在代码中的观点…
831 00:47:45 算法并不是客观的
832 00:47:48 算法被某种成功的定义优化
833 00:47:52 所以 如果你能想象
834 00:47:53 一个商业公司成功的定义
835 00:47:57 需要依靠算法
836 00:47:59 那就是商业利益
837 00:48:01 通常都有利润
838 00:48:03 你给电脑一个目标说“我想要这个结果”
839 00:48:07 电脑自己去学习 怎样实现
840 00:48:10 这是“机器学习”概念的由来
841 00:48:12 所以 每一天 都会更好一点
842 00:48:14 在正确命令获取正确的推送数据
843 00:48:17 让你在这个产品上花的时间越来越多
844 00:48:19 没人能真正明白 为了实现这个目标
845 00:48:22 他们在做什么
846 00:48:23 算法有着自己的思想 虽然是人写的
847 00:48:28 它写出来的目的
848 00:48:30 是你建立一个机器这个机器会自己改变
849 00:48:35 这种公司 员工非常少
850 00:48:37 在脸书、推特和其他公司
851 00:48:40 只有几个人能明白这些系统的工作原理
852 00:48:43 虽然他们不需要完全理解
853 00:48:46 某一条特定的内容 会发生什么
854 00:48:49 作为人类 我们几乎已经失去了对这些系统的控制
855 00:48:55 因为是它们在控制我们看到的信息
856 00:48:59 更多的是它们在控制我们而不是我们控制它们
857 00:49:03 在他的地理区域对他和可以对比的人进行交叉参照
858 00:49:07 他的心理测定相似者
859 00:49:09 在他的地区有13694个和他行为相似的人
860 00:49:13 -他们中盛行什么？-我们需要真实的好东西
861 00:49:16 才能进行有效的复苏
862 00:49:17 因为平常的那些东西已经不起作用了
863 00:49:20 学校那个可爱的姑娘都没用了
864 00:49:22 我的分析显示用极端中心内容搞政治
865 00:49:25 有62.3%的几率能够获得长期参与
866 00:49:28 还不错
867 00:49:30 想用它引导 还不太够
868 00:49:32 好 所以我们已经试过通知给他圈人照片
869 00:49:35 邀请、实事、甚至是瑞贝卡的私信
870 00:49:39 但是用户01265923010呢？
871 00:49:42 是 本点赞了她所有的发帖
872 00:49:44 几个月的所有发帖 真的点了所有然后就没有然后了
873 00:49:47 我算出了通知安娜的内容
874 00:49:50 会有92.3%的复苏概率
875 00:49:53 （新感情）
876 00:49:56 还有她的新朋友
877 00:49:58 （没有手机的时间）
878 00:50:24 （你的前女友有了新感情！）
879 00:50:26 不是吧
880 00:50:35 好吧
881 00:50:37 （安娜与路易斯正在热恋）
882 00:50:38 什么？
883 00:50:41 当！我们回来了！
884 00:50:42 我们继续挣钱 兄弟们
885 00:50:44 好 让他们和整个世界联系起来
886 00:50:46 我给他看所有他可能喜欢的信息
887 00:50:49 你们是否想过这些推送对本是好的吗？
888 00:50:57 -没想过-没有
889 00:51:17 我在你身上下了咒语
890 00:51:25 因为你是我的
891 00:51:34 你最好停止你做的事情
892 00:51:41 我不骗你
893 00:51:42 （A/B测试 极端中心）
894 00:51:44 不 我不骗你
895 00:51:49 你知道我无法忍受
896 00:51:53 你在四处奔跑
897 00:51:55 爸爸 你更清楚
898 00:51:58 我无法忍受 因为你将我放下
899 00:52:03 耶
900 00:52:06 我在你身上下了咒语
901 00:52:12 因为你是我的
902 00:52:18 你是我的
903 00:52:20 想象一下 你在用脸书…
904 00:52:24 你的对手是人工智能
905 00:52:29 它知道你的一切
906 00:52:31 能够预测你未来的举动你对它却一无所知
907 00:52:34 除了上面有猫的视频和出生日期
908 00:52:37 这根本不是公平的竞争
909 00:52:41 本与杰瑞 该走了 孩子？
910 00:52:51 本？
911 00:53:02 本
912 00:53:05 快点
913 00:53:07 该上学了 我们走
914 00:53:13 （人道技术中心）
915 00:53:31 -你今天怎么样？-我很紧张
916 00:53:33 -你紧张吗？-是啊
917 00:53:37 我们都在当心这个时刻
918 00:53:39 当技术会超越人类力量和智慧
919 00:53:43 技术什么时候会超越人类取代我们的工作 比人类更聪明？
920 00:53:48 但有更早的时刻…
921 00:53:50 技术超越人类的弱点时
922 00:53:57 这个超越的点就是上瘾
923 00:54:02 两极分化、激进化、激化愤怒
924 00:54:04 激化虚荣 一切的根源
925 00:54:07 它在压制人类天性
926 00:54:10 在挫伤人性
927 00:54:30 很抱歉
928 00:54:41 我努力让人们明白
929 00:54:45 脸书这种地方的推送有多错误的一种方式
930 00:54:49 是让他们去想想维基百科
931 00:54:51 （新标签页）
932 00:54:52 当你打开一个维基百科网页你和别人看到的东西是一样的
933 00:54:55 （维基百科 自由的百科全书）
934 00:54:57 所以 这是网络上少有的我们统一共享的东西
935 00:55:00 现在 现象一下 维基百科说
936 00:55:03 我们要给每一个人不同的个性化定义
937 00:55:07 有人给我们钱 让我们这样做”
938 00:55:09 维基百科就会监视你 会计算
939 00:55:13 “我要做什么 才能代表一些商业利益
940 00:55:17 让这个人产生一点改变？” 对吧？
941 00:55:19 然后就会改变整个词条
942 00:55:22 你能想象吗？
943 00:55:23 你应该能够想象得到
944 00:55:24 因为在脸书页面上 就是这样的
945 00:55:26 你的YouTube推送 就是这样的
946 00:55:29 当你登录谷歌 输入“气候变化是…”
947 00:55:31 你会看到 根据你所居住的地区不同会出现不同的结果
948 00:55:35 （气候变化是）
949 00:55:36 在某些城市 你会看到自动完成…
950 00:55:38 “气候变化是一场骗局”
951 00:55:40 在其他地方 你将会看到
952 00:55:42 “气候变化是对自然的破坏”
953 00:55:44 这个功能提供的不都是气候变化的真相
954 00:55:48 而是你在哪里进行谷歌搜索
955 00:55:51 以及谷歌对你个人兴趣的了解
956 00:55:55 即便是两个非常亲近的朋友
957 00:55:58 他们两个有着完全相同的朋友圈子
958 00:56:00 他们会认为“我们会看到脸书上的新推送
959 00:56:02 会看到完全相同的更新”但事实远非如此
960 00:56:06 他们会看到完全不同的世界
961 00:56:08 因为这些是基于计算机的计算
962 00:56:10 对每一个人来说 怎样最完美
963 00:56:12 （直播中）
964 00:56:14 想象这件事的一个方式是这是27亿人的《楚门的世界》
965 00:56:18 每一个人都有自己的现实 自己的…
966 00:56:22 事实
967 00:56:23 你觉得楚门为什么到现在都从来没有接近
968 00:56:27 发现他所在世界的真实本质？
969 00:56:31 我们接受了呈现在我们面前的世界就是现实
970 00:56:34 就是这么简单
971 00:56:35 （直播中）
972 00:56:36 随着时间推移 你会有一种错觉觉得每一个人都认同你
973 00:56:41 因为给你推送的新闻中每个人都和你极其相似
974 00:56:44 一旦你达到了这种状态你就很容易被操纵了
975 00:56:49 和你被魔术师操纵 是同样的方式
976 00:56:51 魔术师给你看纸牌魔术 跟你说“选一张牌 哪张都行”
977 00:56:55 你没有意识到的是他们早就给你设好陷阱了
978 00:56:58 于是你选的那张牌是他们想让你选的
979 00:57:00 这就是脸书的工作原理脸书坐在那里说
980 00:57:03 “喂 选择你的朋友选择你关注的联系人”
981 00:57:06 根本是胡扯 它就跟魔术师一样
982 00:57:08 脸书负责给你进行新闻推送
983 00:57:11 我们都不过是在基于不同的一系列事实行事
984 00:57:14 当大范围发生时
985 00:57:16 你就再也无法考虑甚至消化
986 00:57:20 与你所创造的世界观相悖的信息了
987 00:57:23 那就意味着我们其实不是客观、有建设性的个体
988 00:57:28 睁大你的眼睛 别相信谎言！睁大…
989 00:57:32 然后你扫了一眼另一边
990 00:57:35 你开始想“这些人怎么会如此愚蠢？”
991 00:57:38 他们也看到了我不停看到的这些信息
992 00:57:42 他们怎么会看不到相同的信息？
993 00:57:44 问题的答案是“他们没有看到相同的信息”
994 00:57:47 睁大你的眼睛 别相信谎言！
995 00:57:52 共和党人什么样？
996 00:57:53 愚昧无知
997 00:57:55 民主党就是一个犯罪团伙不是真正的政治党派
998 00:57:59 皮尤研究中心一项全新的大型研究对一万名美国成年人进行调查
999 00:58:03 发现我们比任何时候都要分裂
1000 00:58:05 个人和政治两极分化达到20年来最高
1001 00:58:11 有超过三分之一的共和党人说
1002 00:58:14 民主党是对这个国家的威胁
1003 00:58:16 民主党超过四分之一的人也这样说共和党
1004 00:58:20 我们讨论的很多问题
1005 00:58:22 比如政治两极分化
1006 00:58:24 在有线电视上大量存在
1007 00:58:28 媒体也有着同样的问题
1008 00:58:31 整体上来说 他们的商业模式
1009 00:58:33 是把我们的关注出售给广告商
1010 00:58:35 网络只是一个新的、更有效率的实现方式罢了
1011 00:58:40 我曾在YouTube的工作是研究YouTube推荐
1012 00:58:44 让我担心的是 我研究的一个算法
1013 00:58:47 增加了社会中的两极分化
1014 00:58:50 但从观看时间来看
1015 00:58:53 这种两极分化在让人们持续在线观看上 极其有效
1016 00:58:58 这些老师教这些东西的唯一原因
1017 00:59:00 是有人给他们钱 让他们教
1018 00:59:02 -太扯了-喂 本杰
1019 00:59:04 今天没有足球训练吗？
1020 00:59:06 有 我只想看看今天的新闻
1021 00:59:08 你去研究一下 极端中心说的任何话…
1022 00:59:11 都不会把你看的这个东西称作新闻
1023 00:59:15 你总是说一切都那么混乱 确实是
1024 00:59:19 但那东西只是政治鼓吹
1025 00:59:21 没有一个是真的全都是让你觉得合理
1026 00:59:24 本 我很严肃 这些东西对你有害
1027 00:59:27 你应该去足球训练
1028 00:59:35 我分享这个东西 是因为我在意
1029 00:59:37 我在意你被误导 这是不对的 好吗？
1030 00:59:41 人们认为算法的设计
1031 00:59:43 是给他们真正想要的 但其实不然
1032 00:59:46 算法其实是在试图找到几个非常强大的兔子洞
1033 00:59:52 试图找到哪一个兔子洞最贴近你的兴趣
1034 00:59:56 然后 如果你开始观看其中一个视频
1035 00:59:59 它就会不停继续推荐
1036 01:00:02 这种情况 并不是有人刻意为之
1037 01:00:05 只是推荐系统一直在做而已
1038 01:00:07 以至于著名篮球运动员凯里·欧文
1039 01:00:11 说他相信地球是平的 后来又道歉
1040 01:00:14 因为他把责任推给YouTube的一个兔子洞
1041 01:00:16 你点击 YouTube视频
1042 01:00:18 它会继续 这个兔子洞能有多深
1043 01:00:21 他后来在国家公共广播电台上说
1044 01:00:23 “很抱歉我相信了这个我无意误导人们”
1045 01:00:26 有人采访了教室中的一群学生他们说
1046 01:00:28 “相信地球是圆的人肯定找他谈了”
1047 01:00:31 地球平面阴谋论被算法
1048 01:00:34 推荐了几亿次
1049 01:00:37 很容易去想只有几个愚蠢的人被说服罢了
1050 01:00:43 但是算法每一天都在变得更聪明
1051 01:00:46 今天 它们说服人们相信 地球是平的
1052 01:00:50 但是明天 它们就会说服你相信一个完全虚假的事情
1053 01:00:54 11月7日 话题标签‘披萨门’诞生了
1054 01:00:57 披萨门…
1055 01:01:00 天啊
1056 01:01:03 我还是不能百分之百确定这个最初是从哪里来的
1057 01:01:06 但是订披萨等于订一个贩卖的人口这个想法
1058 01:01:12 由于脸书上的多个小组越来越大
1059 01:01:15 脸书推荐引擎开始建议普通用户
1060 01:01:20 让他们加入披萨门小组
1061 01:01:21 所以 如果一个用户反对疫苗或者相信飞机喷洒重金属阴谋论
1062 01:01:27 或者对脸书的算法表示过
1063 01:01:30 他们易于相信阴谋论
1064 01:01:33 脸熟的推荐引擎就会推荐给他们披萨门小组
1065 01:01:36 最终 这件事达到高潮一名男子携枪出现
1066 01:01:41 决定他要给披萨店地下室的那些孩子们自由
1067 01:01:44 而这个披萨店根本没有地下室
1068 01:01:47 -你当时在这个地方做什么？-确保这里什么都没有
1069 01:01:50 -什么事？-恋童癖怪圈
1070 01:01:52 -什么事？-恋童癖怪圈
1071 01:01:53 披萨门 他在说披萨门
1072 01:01:55 这是阴谋论在所有社交媒体上
1073 01:02:00 到处传播的一个例子
1074 01:02:03 社交网络自己的推荐引擎
1075 01:02:06 自愿把这个东西推送给
1076 01:02:08 这辈子从来没有搜索过“披萨门”的人们
1077 01:02:10 （披萨门民主党和恋童癖的深盘披萨）
1078 01:02:12 有一个研究 麻省理工的研究
1079 01:02:14 说推特上传播的虚假新闻比真实新闻传播速度快六倍
1080 01:02:19 当一个人有着高于另一个人
1081 01:02:21 六倍的优势 这种世界会是什么样？
1082 01:02:25 你可以想象 这些事情有点…
1083 01:02:27 将人类行为的基础平面倾斜了
1084 01:02:31 让一些行为更难 让一些行为更容易
1085 01:02:34 你总是可以自由地走上山坡
1086 01:02:37 但是这样做的人越来越少
1087 01:02:38 所以大范围内 在整个社会范围内你就是将基础平面倾斜了
1088 01:02:43 改变了数十亿人的想法和行为
1089 01:02:46 我们创造了一个偏心于虚假消息的体系
1090 01:02:52 并不是因为我们想这样做
1091 01:02:54 而是因为虚假信息比真实信息能让各个公司
1092 01:02:59 赚到更多钱 真实信息比较无聊
1093 01:03:01 这是一个利用虚假信息牟利的商业模式
1094 01:03:04 允许未受监管的信息传送给更多的人
1095 01:03:08 卖出最好的价钱 以此来赚钱
1096 01:03:11 因为气候变化？对
1097 01:03:14 这是骗局 对 是真的 这才是重点
1098 01:03:16 他们谈论这件事情越多就越会将我们分化
1099 01:03:20 他们越有力量 就越有控制权
1100 01:03:22 脸书有万亿个新闻推送贴
1101 01:03:26 他们无法知道哪些是真的哪些是事实…
1102 01:03:29 所以当下这个议题 才如此重要
1103 01:03:33 传播迅速的 不只是新冠病毒
1104 01:03:37 网上有关于这个病毒的大量虚假信息
1105 01:03:40 多喝水能将新冠病毒从你身体中冲走的提议
1106 01:03:43 是在社交媒体上广泛流传的该病毒的谜题之一
1107 01:03:47 这是政府计划的事件创造了这个病毒
1108 01:03:50 来模拟世界各国将会如何应对
1109 01:03:53 新冠病毒是一场骗局
1110 01:03:56 非典 新冠病毒
1111 01:03:58 看看这是什么时候制造的 2018年
1112 01:04:01 我觉得是美国政府开始的这场闹剧
1113 01:04:04 根本没有人生病 没人生病
1114 01:04:07 没有人认识哪个人真正生病了
1115 01:04:09 或许是政府在利用新冠病毒当借口
1116 01:04:13 让所有人留在家因为有其他的事情要发生
1117 01:04:15 新冠病毒不会杀人
1118 01:04:18 他们是在掩盖5G辐射害死的人
1119 01:04:21 （5G信号塔被割倒焚烧）
1120 01:04:22 我们被谣言轰炸
1121 01:04:25 人们去毁掉了真实的手机信号塔
1122 01:04:28 我们看到俄罗斯和中国传播谣言和阴谋论
1123 01:04:32 今天早上 乌克兰的恐慌与抗议…
1124 01:04:35 人们不知道什么是真相现在已经闹出人命了
1125 01:04:40 那些传播新冠病毒虚假信息的来源
1126 01:04:42 积累了5200万人参与
1127 01:04:45 你是说 胶银溶液会有效
1128 01:04:50 我们这样说吧虽然没有用新冠病毒的毒株测试过
1129 01:04:54 我们看到的新冠病毒只是发生在我们信息生态系统中的
1130 01:04:57 一个极端案例
1131 01:05:00 （惠特默 希特勒）
1132 01:05:01 社交媒体放大了增长迅速的谣言和增长迅速的道听途说
1133 01:05:05 以至于我们都不知道 什么是真了
1134 01:05:07 不管我们关注的是什么问题
1135 01:05:26 你还在队里吗？
1136 01:05:30 好 如果你想来 我在训练之前先去吃点零食 你要来吗？
1137 01:05:37 当我没说
1138 01:05:45 当前 十个人当中 有九个人不满意
1139 01:05:47 你仔细想想 极端中心和历史上任何政治运动无异
1140 01:05:50 我们要站起来反抗我们要站起来反抗这种杂音
1141 01:05:54 你是我的人民 我相信你们
1142 01:05:59 -极端中心的内容好棒-他非常喜欢
1143 01:06:02 运行一个拍卖
1144 01:06:04 843个竞标人 他以4.35美分卖给了一个武器生产商
1145 01:06:08 我们来宣传一下这些活动
1146 01:06:10 这星期晚些时候将在这片地理区域发生的群众集会
1147 01:06:13 新的视频博主也安排好了
1148 01:06:17 说实话 我告诉你我愿意付出任何代价
1149 01:06:23 我说 任何代价
1150 01:06:32 -订阅…-本？
1151 01:06:33 …记得回来 因为我告诉你们…
1152 01:06:36 我后面会有大事件
1153 01:06:38 非常大的事件
1154 01:06:40 脸书的一个问题是作为一个有劝说性质的工具
1155 01:06:45 它或许是史上最伟大的发明
1156 01:06:48 现在 你来想象一下 落在独裁者或者集权主义者手中 会怎样
1157 01:06:53 如果你想控制你们国家的人民
1158 01:06:57 从未有过像脸书这样有效的工具
1159 01:07:04 一个问题最大的影响是
1160 01:07:07 一些政府和其他不良人士把社交媒体当作武器
1161 01:07:11 导致了真实的线下伤害
1162 01:07:13 我认为最明显的案例
1163 01:07:15 广泛被媒体关注的是缅甸发生的事情
1164 01:07:17 （缅甸总统办公室）
1165 01:07:19 在缅甸 人们想到网络时
1166 01:07:21 他们想到的 是脸书
1167 01:07:22 经常发生的事情是 人们买了手机
1168 01:07:26 手机店主会提前帮他们下载好脸书
1169 01:07:30 帮他们开好账户
1170 01:07:31 于是人们拿到手机之后第一个打开的应用
1171 01:07:34 他们唯一知道怎样打开的 就是脸书
1172 01:07:38 一个新的震惊调查显示脸书日益增长的
1173 01:07:41 对抗缅甸仇恨言论的难题
1174 01:07:43 （停止杀害穆斯林）
1175 01:07:46 脸书真的给军人和其他不良人士
1176 01:07:49 一种控制公众言论的新手段
1177 01:07:51 并协助煽动针对罗兴亚族穆斯林的暴力
1178 01:07:55 包括大屠杀
1179 01:07:58 焚烧整个村庄
1180 01:07:59 违反人道主义的大规模强奸和其他严重犯罪行为
1181 01:08:03 已经导致七十万罗兴亚族穆斯林逃出这个国家
1182 01:08:11 这种情绪高涨的鼓吹以前并不是没有出现过
1183 01:08:16 只是这个平台实现了
1184 01:08:19 让操纵性言论传播变得异常容易
1185 01:08:23 也不用花多少钱
1186 01:08:25 如果我想操纵竞选
1187 01:08:27 我现在可以去脸书上的一个阴谋论小组
1188 01:08:30 可以找到一百个人
1189 01:08:32 他们深信地球是平的
1190 01:08:34 认为我们登月 完全是阴谋论
1191 01:08:37 我可以告诉脸书“给我推荐一千个这种用户”
1192 01:08:42 脸书会非常开心地发给我几千个这种用户
1193 01:08:46 我现在可以给他们讲更多的阴谋论
1194 01:08:51 以3.4美分卖了一个印象
1195 01:08:53 推广新的极端中心
1196 01:08:55 再安排一个广告
1197 01:08:58 算法和操纵人的政治家在学习如何激发我们的方面
1198 01:09:02 变得非常专业
1199 01:09:04 非常擅长制造我们容易接受的虚假新闻 假装这就是事实
1200 01:09:08 给我们造成混乱让我们相信这些谎言
1201 01:09:10 我们似乎对自己是怎样的人自己的信仰 有越来越少的控制权
1202 01:09:31 …来让他们选择站队
1203 01:09:32 到处都是谎言
1204 01:09:34 这样他们就能保持住权力这样他们就能控制一切
1205 01:09:40 他们可以控制我们的思想这样他们就可以保守他们的秘密
1206 01:09:44 （质疑真相）
1207 01:09:46 （疾控中心承认掩盖疫苗/自闭症）
1208 01:09:48 想象一个没有人相信任何真相的世界
1209 01:09:50 （疫苗不普适所有人我们的基因就是证据）
1210 01:09:53 所有人都相信 政府在骗他们
1211 01:09:56 一切都是阴谋论
1212 01:09:58 “我不应该相信任何人我痛恨对立面”
1213 01:10:01 一切正在向这个方向发展
1214 01:10:02 欧洲的政治地震 余震不止
1215 01:10:06 这一次 轮到了意大利和西班牙
1216 01:10:08 整体上来说 欧洲传统的中间派联合政府失去了大多数人支持
1217 01:10:12 同时极左和极右民粹主义政党获得更多支持
1218 01:10:17 （中心）
1219 01:10:19 退后
1220 01:10:21 好 我们走
1221 01:10:28 这些账户专门故意试图
1222 01:10:31 散播香港政治纷争信息
1223 01:10:38 好 本
1224 01:10:42 生活在一个全部信息来自于脸书
1225 01:10:45 和社交媒体的国家 是什么感觉？
1226 01:10:48 民主迅速崩溃
1227 01:10:50 六个月
1228 01:10:51 芝加哥的混乱发生后
1229 01:10:53 抗议者和支持者之间的暴力冲突…
1230 01:10:58 民主正面临着信心危机
1231 01:11:01 我们看到的 是对全球民主的攻击
1232 01:11:04 （极端中心）
1233 01:11:05 多数目标国家 都是
1234 01:11:08 进行民主选举的国家
1235 01:11:10 大范围发生
1236 01:11:12 国家行动者、家财万贯的富翁说
1237 01:11:15 “我想让肯尼亚动摇我想让喀麦隆动摇
1238 01:11:18 安哥拉？只要这么一点钱”
1239 01:11:20 巴西上周日举行了一场特别的选举
1240 01:11:23 选举动员是社交媒体驱动的
1241 01:11:31 我们技术产业的人创造了
1242 01:11:34 动摇和侵蚀社会结构的工具
1243 01:11:37 所有国家都在同时发生世界各地都在发生
1244 01:11:40 德国、西班牙、法国巴西、澳大利亚都有发生
1245 01:11:44 一些世界上最发达的国家
1246 01:11:47 正在互相爆破
1247 01:11:49 他们有什么共同点？
1248 01:11:51 基于你当前的了解
1249 01:11:53 你相信脸书影响了2016年大选的结果吗？
1250 01:11:56 这个问题好难回答
1251 01:11:58 你知道 这个…
1252 01:12:01 事实是有很多不同的力量在产生影响
1253 01:12:04 脸书、推特和谷歌的代表们回到国会山
1254 01:12:07 对俄罗斯干预2016年大选问题
1255 01:12:09 进行第二天的证词发言
1256 01:12:12 第三方政党的操纵没有黑入
1257 01:12:18 对吧？俄罗斯没有黑入脸书
1258 01:12:21 他们所做的是 利用脸书为合法广告商与合法用户创造的工具
1259 01:12:27 用到了罪恶的用途中
1260 01:12:32 就像是远程控制的战争
1261 01:12:34 一个国家可以操纵另一个国家
1262 01:12:36 都不用真正入侵实体边境
1263 01:12:39 我们看到这些暴力的画面
1264 01:12:41 这是一个被推来推去的垃圾箱…
1265 01:12:43 但问题不是你想投票给谁
1266 01:12:46 问题是在社会中散播混乱和分歧
1267 01:12:50 这是在霍廷顿海滩市的示威…
1268 01:12:53 问题是制造了两个对立面
1269 01:12:54 丝毫不再听取对方的观点
1270 01:12:56 不再想听对方的观点
1271 01:12:58 不再相信对方
1272 01:12:59 这是仇恨被暴露出
1273 01:13:03 并转化成种族暴力的城市
1274 01:13:05 （弗吉尼亚紧张局势暴力当天致三人遇害）
1275 01:13:20 本！
1276 01:13:21 卡桑德拉！
1277 01:13:22 -卡桑！-本！
1278 01:13:23 过来！
1279 01:13:27 举起手 膝盖跪地 快 跪下
1280 01:13:36 -冷静……-本！
1281 01:13:37 喂！手举起来！
1282 01:13:39 转过去 趴地上
1283 01:13:56 我们希望这个系统售卖出最高的竞价吗？
1284 01:14:01 完全出售民主你可以控制任何你想控制的思想
1285 01:14:05 对特定人群设定谎言制造文化战争？
1286 01:14:09 我们希望这样吗？
1287 01:14:14 我们这个国家的人民…
1288 01:14:16 不再和彼此说话了
1289 01:14:20 我们这个国家的人民不再和彼此交友了
1290 01:14:23 只因为他们在上一次竞选中投票的人
1291 01:14:26 我们这个国家的人民孤立了自己
1292 01:14:28 只看认同我们的那些频道
1293 01:14:32 我今天想传达的信息是部落主义正在毁掉我们
1294 01:14:37 它正在撕裂我们这个国家
1295 01:14:40 正常的成年人 不可能这样做
1296 01:14:43 如果每个人都有权执着于自己的真相
1297 01:14:45 就真没有必要妥协没有必要让人们团结了
1298 01:14:49 事实上 真的没有必要让人们互动
1299 01:14:52 我们需要对现实有一些共同的理解
1300 01:14:57 不然 我们就不是一个国家了
1301 01:14:58 （扎克伯格先生）
1302 01:14:59 所以长期来看 解决办法是建造更多的人工智能工具
1303 01:15:03 找到人们使用这些服务的行为模式这是任何一个真人都做不到的
1304 01:15:08 我们允许技术专家 把这个当做一个
1305 01:15:11 他们有能力解决的问题呈现
1306 01:15:15 这是骗人的
1307 01:15:17 人们谈论人工智能好像人工智能知道真理一样
1308 01:15:21 人工智能无法解决这些问题
1309 01:15:24 人工智能无法解决虚假新闻的问题
1310 01:15:28 谷歌没有选择去说
1311 01:15:31 “这是阴谋论？这是真相吗？”
1312 01:15:34 因为它们不知道 真相是什么
1313 01:15:36 它们没有真相的代理服务器只有点击
1314 01:15:41 如果我们不同意真相
1315 01:15:45 或者不同意存在真相
1316 01:15:48 我们就完蛋了
1317 01:15:49 这是其他问题之下的问题
1318 01:15:52 因为如果我们不能认同真相
1319 01:15:55 那我们就无法找到我们任何一个问题的解决方法
1320 01:16:05 我们应该建议他关注平面地球足球俱乐部
1321 01:16:07 别再给他展示运动消息了他不感兴趣
1322 01:16:39 硅谷的很多人相信一种理论
1323 01:16:42 我们正在建造一些全球的超级大脑
1324 01:16:45 我们所有的用户都只是可交互的神经元
1325 01:16:48 他们一点都不重要
1326 01:16:50 它让人们服从于这样一个奇怪的角色
1327 01:16:53 你就像是一个小的编程元素
1328 01:16:56 我们通过我们的行为操纵去 编程
1329 01:16:58 为了服务于这个巨型大脑你根本不重要
1330 01:17:02 不会给你钱 不会告诉你真相
1331 01:17:04 你没有自主权
1332 01:17:06 我们会鬼祟地操纵你因为你是编程中的结点
1333 01:17:09 所以我们需要将你编程因为我们就要这样对待编程中的结点
1334 01:17:20 天啊
1335 01:17:21 当你想到技术技术是一种人类存亡的威胁
1336 01:17:25 这个指控很严重…
1337 01:17:29 然后你的脑中就会很容易想“好 我正在拿着手机
1338 01:17:35 互动、点击、使用
1339 01:17:37 人类存亡的威胁在哪里？
1340 01:17:40 好 有一个超级电脑
1341 01:17:41 在屏幕的另一端 正指向我的大脑
1342 01:17:44 让我再看一个视频人类存亡的威胁在哪里？”
1343 01:17:54 技术并不是人类存亡的威胁
1344 01:18:02 （劝服性技术 美国参议院听政会）
1345 01:18:04 是技术能够把社会中最坏的东西带出来的能力
1346 01:18:09 社会中最坏的东西才是人类存亡的威胁
1347 01:18:13 （美国参议院）
1348 01:18:18 如果技术创造了公众混乱
1349 01:18:23 愤怒、无礼
1350 01:18:24 彼此缺乏信任
1351 01:18:27 孤独、疏远、更加两极分化
1352 01:18:30 更多大选黑入、更多平民政治
1353 01:18:33 让人更加分散注意力无法集中在真正的问题上…
1354 01:18:37 那只是社会
1355 01:18:40 现在社会无法自愈
1356 01:18:46 转移成了一种混乱的形式
1357 01:18:51 这影响着每一个人即使你不使用这些产品
1358 01:18:55 这些事情变成了数码的科学怪人
1359 01:18:57 让这个世界变成他们现象中的样子
1360 01:19:00 不论是儿童的心理健康
1361 01:19:01 还是我们的政治 我们的政治演说
1362 01:19:04 而不用因为控制公众舆论承担责任
1363 01:19:07 -所以 还是要回到…-你觉得这一切怪谁？
1364 01:19:10 我认为我们必须让平台负起责任
1365 01:19:13 因为他们接管大选广告的时候
1366 01:19:15 就要负责保护大选
1367 01:19:17 当他们接管儿童心理健康或是儿童频道的时候
1368 01:19:20 他们就有责任保护好儿童频道
1369 01:19:23 保持人们关注的竞争不会结束
1370 01:19:28 我们的技术会在我们生活中更加集成而不会减少
1371 01:19:31 人工智能会更加擅长预判什么内容能让我们持续盯着屏幕
1372 01:19:34 而不是做出更差的预判
1373 01:19:38 我已经62岁了
1374 01:19:42 随着这个对话继续进行我每一分钟都在变老
1375 01:19:45 但我会告诉你
1376 01:19:48 到时候我可能已经死了 不在了但我可能会为此感恩
1377 01:19:52 因为当这些恐怖的东西结出恶果
1378 01:19:54 我觉得能吓死我
1379 01:20:00 你也这样看吗？
1380 01:20:03 还是我对一个我不够了解的情况过度反应了？
1381 01:20:09 你最担心什么？
1382 01:20:15 我认为在最短的时间范围内…
1383 01:20:19 是内战
1384 01:20:24 如果现在的常态继续下去我们说再过20年
1385 01:20:31 我们很可能会因为故意无知毁掉我们的文明
1386 01:20:34 我们或许会无法应对气候变化的挑战
1387 01:20:38 我们或许会瓦解世界的民主
1388 01:20:42 最终衰落成一种奇怪的独裁机能障碍
1389 01:20:46 我们或许会毁掉全球经济
1390 01:20:49 我们或许会无法存活
1391 01:20:52 我真的把它看做人类生死存亡的大问题
1392 01:21:02 这会是知道在这种幻象发生之前
1393 01:21:05 世界是什么样的最后一代人吗？
1394 01:21:11 如果你不知道自己在矩阵中你要怎么从矩阵中醒来？
1395 01:21:17 （“不论是乌托邦还是毁灭都是一场一触即发的接力赛…）
1396 01:21:23 （直接通往最后一刻…”——巴克敏斯特·富勒）
1397 01:21:27 你知道 我们说的很多话听起来像是…
1398 01:21:31 片面的悲观
1399 01:21:33 “天啊 技术正在毁灭世界
1400 01:21:36 正在毁灭孩子们”
1401 01:21:38 不是这样的
1402 01:21:40 这很困惑因为这同时是乌托邦和毁灭
1403 01:21:45 我可以在手机按一个按钮30秒后就能出现一辆车
1404 01:21:50 我就可以去想去的任何地方
1405 01:21:52 这简直是魔法 太神奇了
1406 01:21:56 我们制作“点赞”按钮的时候
1407 01:21:57 我们全部的动机是 “我们可以在世界中传播积极和爱吗？”
1408 01:22:01 时间快进到当下青少年会因为没有得到足够多的点赞
1409 01:22:05 而抑郁 这个想法
1410 01:22:06 或者会导致政治两极分化
1411 01:22:08 当时是完全无法想象的
1412 01:22:09 我不认为这些人最开始的目标是邪恶的
1413 01:22:13 只是这个商业模式有问题
1414 01:22:15 你可以关掉服务 毁掉不管这是什么
1415 01:22:20 200亿美元的股东利益 被起诉…
1416 01:22:24 但现实是 覆水难收
1417 01:22:27 你可以做出一些小的调整 但是最终
1418 01:22:30 你要增加收益和使用每一个季度都要增加
1419 01:22:34 规模做得越大 越难让任何人改变
1420 01:22:38 我看到的是一群被困住的人被商业模式
1421 01:22:43 经济奖励和股东压力困住
1422 01:22:46 几乎无法做其他的任何事情
1423 01:22:49 我认为我们应该接受
1424 01:22:51 公司专注于挣钱 是合情合理的
1425 01:22:53 不合情合理的是当没有监管、没有规定、没有竞争
1426 01:22:56 公司在充当实际政府部门
1427 01:23:00 然后他们说“我们可以监管自己”
1428 01:23:03 这肯定是骗人的 怎么可能呢
1429 01:23:06 经济奖励可以说运营着世界
1430 01:23:09 所以这个问题的任何解决方案一定要符合经济奖励
1431 01:23:16 这些公司没有需要改变的财政理由
1432 01:23:18 所以我才认为 我们需要监管
1433 01:23:21 手机公司有无数的关于你的敏感数据
1434 01:23:24 我们有很多法律去保证他们不会利用这些数据做错事
1435 01:23:27 在数码隐私上 我们几乎没有立法
1436 01:23:31 我们可以对数据收集和处理收税
1437 01:23:34 原理等同于你交水费
1438 01:23:37 监控你自己的用水量
1439 01:23:39 让这些公司因为持有的数据资产交税
1440 01:23:43 就能给他们一个财政理由
1441 01:23:44 不去获取地球上每一条数据
1442 01:23:47 立法在这方面太落后了
1443 01:23:50 但据我所知 当前状况的存在不是为了保护用户
1444 01:23:55 而是为了保护这些巨型的
1445 01:23:58 超级富有公司的权利和特权
1446 01:24:02 我们要一直听从最有钱最有权力的人吗？
1447 01:24:05 还是我们要说
1448 01:24:07 “有时候 确实是有国家利益
1449 01:24:12 有时候 人民的利益 用户利益
1450 01:24:15 其实比一个
1451 01:24:18 已经是亿万富翁的人的利益更加重要？”
1452 01:24:21 这些市场削弱了民主 削弱了自由
1453 01:24:26 应该对他们进行法律的制裁
1454 01:24:29 这不是激进的提议
1455 01:24:31 我们有法律制裁的其他市场
1456 01:24:34 我们制裁人类器官贩卖市场
1457 01:24:37 我们制裁人类奴隶市场
1458 01:24:39 因为它们都有不可避免的破坏性后果
1459 01:24:44 我们生活的世界
1460 01:24:45 死去的树比活着的树更有经济价值
1461 01:24:50 这个世界 死去的鲸比活着的鲸更有价值
1462 01:24:53 只要我们的经济这样运转
1463 01:24:56 公司不受监管
1464 01:24:58 它们就会继续破坏树木
1465 01:25:00 继续捕杀鲸
1466 01:25:01 在地球上挖矿 从地下抽石油
1467 01:25:06 虽然我们知道 这样做会破坏地球
1468 01:25:08 我们知道 这样做会为未来几代人留下一个更不堪的世界
1469 01:25:12 这是目光短浅
1470 01:25:13 为了利益牺牲一切的信仰
1471 01:25:16 指望每个只顾自己私利的公司会突然神奇地
1472 01:25:20 去产生最好的结果
1473 01:25:22 这已经影响环境很久了
1474 01:25:24 恐怖的是 希望这是压倒骆驼的最后一根稻草
1475 01:25:27 让我们作为文明的种族 去幡然醒悟
1476 01:25:29 这个理论最初就有很多缺点
1477 01:25:31 让我们看到 我们现在就是树 就是鲸
1478 01:25:35 我们的关注就是被挖掘的矿产
1479 01:25:37 如果我们花时间盯着一个屏幕
1480 01:25:39 盯着一个广告 对公司而言
1481 01:25:41 比我们用这个时间
1482 01:25:43 过自己丰富的生活 更加有利可图
1483 01:25:45 我们看到了这样的后果
1484 01:25:47 我们看到公司利用强大的人工智能
1485 01:25:50 凌驾在我们的智能之上研究怎样拉拢我们的关注
1486 01:25:53 让我们去看 他们想让我们看的东西
1487 01:25:55 而不是让我们看与我们目标、价值观
1488 01:25:57 与我们的生活最为一致的东西
1489 01:26:02 （史蒂夫·乔布斯 今日演讲者）
1490 01:26:05 电脑对我来说 是…
1491 01:26:06 是我们人类历史上 最神奇的发明
1492 01:26:11 相当于是我们思想的自行车
1493 01:26:15 人道技术的创想 是硅谷最初的目标
1494 01:26:21 我们已经背离了这个目标因为这样做比较酷
1495 01:26:25 而不是这样做比较正确
1496 01:26:27 网络就是一个奇怪的、可笑的地方
1497 01:26:29 它是实验性的
1498 01:26:31 网络上发生着有创意的事情当然现在也有发生
1499 01:26:34 但是感觉像一个巨大的商场
1500 01:26:38 就是“天啊肯定不止表面上这么简单”
1501 01:26:46 我想我只是一个乐观主义者
1502 01:26:48 因为我认为我们可以改变社交媒体的样子和方式
1503 01:26:54 技术的工作方式不是物理学定律它不是一成不变的
1504 01:26:58 这些都是像我这样的人类做出的选择
1505 01:27:02 人类可以改变这些技术
1506 01:27:06 现在的问题是 我们是否愿意承认
1507 01:27:10 这些后果 是我们杰作的直接产物
1508 01:27:21 这些东西是我们建立起来的我们有责任去改变它们
1509 01:27:37 提取关注模型不是我们想对待人类的方式
1510 01:27:46 只有我这样想吗？还是…
1511 01:27:49 可悲的人
1512 01:27:51 一个健康社会的结构
1513 01:27:53 要依靠我们脱离这种有破坏性的商业模型
1514 01:28:04 我们可以要求这些产品进行人道设计
1515 01:28:09 我们可以要求不被当做可以提取的资源对待
1516 01:28:15 我们的动机可以是“我们怎样让这个世界变得更好？”
1517 01:28:20 在整个人类历史中每一次有事物变得更好
1518 01:28:23 都是因为有人站出来说
1519 01:28:26 “这太蠢了 我们可以做得更好”
1520 01:28:29 是批判者驱动着改进
1521 01:28:33 批判者才是真正的乐观主义者
1522 01:28:38 你好
1523 01:28:46 感觉有点疯狂 是吧？
1524 01:28:47 这东西的设计基本方式
1525 01:28:52 就不会朝着好的方向发展
1526 01:28:55 整个社交媒体
1527 01:28:56 我说要改变这一切听起来有点疯狂
1528 01:29:01 但我们需要这样做
1529 01:29:04 你觉得这一天能实现吗？
1530 01:29:07 必须要实现
1531 01:29:21 你似乎非常乐观
1532 01:29:26 听起来是这样吗？
1533 01:29:27 是 我是说…我无法相信你一直这样说
1534 01:29:30 因为我在想：“真的吗？” 我感觉我们正走向毁灭 而不是乌托邦
1535 01:29:33 我感觉我们正在飞速走向毁灭
1536 01:29:35 需要一个奇迹才能让我们走下这条路“
1537 01:29:37 这个奇迹当然是集体意识
1538 01:29:41 可我是乐观主义者我们一定会有办法解决
1539 01:29:44 但我认为 可能会用很久的时间
1540 01:29:47 因为不是所有的人都意识到了这是一个问题
1541 01:29:50 我认为当今技术最大的一个失败
1542 01:29:55 是领导力的真正失败
1543 01:29:58 人们站出来 去公开讨论
1544 01:30:02 不仅是哪些地方进行得好还应该讨论哪里不完美
1545 01:30:05 才能让有人介入 构建一些新的东西
1546 01:30:08 最终 你知道
1547 01:30:10 在有足够的公众压力之前这台机器是绝对不会回头的
1548 01:30:14 通过这些对话 发出你的声音
1549 01:30:18 在一些情况下 通过某些特定的技术
1550 01:30:21 我们可以开始改变趋势我们可以开始改变对话
1551 01:30:24 听起来可能有点奇怪但这是我的世界 是我生活的环境
1552 01:30:27 我不恨他们我不想伤害谷歌或者脸书
1553 01:30:29 我只是想改革它们别让他们毁了世界 你知道吗？
1554 01:30:32 我在手机上卸载了很多程序
1555 01:30:35 我感觉那些都是浪费时间
1556 01:30:37 所有的社交媒体程序 所有的新程序
1557 01:30:40 我关掉了通知
1558 01:30:42 所有那些让我手机震动的通知
1559 01:30:45 不够及时 对现在我来说并不重要的信息
1560 01:30:49 也正是因为同样的理由我兜里不放饼干
1561 01:30:51 减少你收到的通知数量
1562 01:30:53 关掉通知
1563 01:30:54 关掉所有应用的通知
1564 01:30:56 我已经不再用谷歌了我用Qwant搜索引擎
1565 01:30:58 这个引擎不会存储你的搜索历史
1566 01:31:01 永远不要接受YouTube上给你推荐的视频
1567 01:31:04 永远自己去选择这是另一个抗争的方式
1568 01:31:07 谷歌浏览器有无数扩展程序可以移走推荐
1569 01:31:12 我很喜欢你推荐一个撤销你所做东西的东西
1570 01:31:15 对
1571 01:31:16 在你分享之前 查找一下事实思考一下信息来源 谷歌搜索一下
1572 01:31:21 如果这个东西感觉像是以触发你的情感按钮为目标
1573 01:31:25 很可能确实是
1574 01:31:26 基本可以说 你用点击去投票
1575 01:31:29 如果你点击了钓鱼链接
1576 01:31:30 你就是在创造一个经济奖励延续这个已经存在的体系
1577 01:31:33 在你的生活中 一定要获得
1578 01:31:37 各种不同的信息
1579 01:31:37 我会在推特上关注我不认同的人
1580 01:31:41 因为我想看到不同的观点
1581 01:31:44 要知道 技术行业中的很多人
1582 01:31:46 不会把这些设备给他们自己的小孩用
1583 01:31:49 我的孩子们完全不使用社交媒体
1584 01:31:51 这是规定 还是…
1585 01:31:53 家规
1586 01:31:55 我们对它很狂热
1587 01:31:57 我们很疯狂
1588 01:31:59 我们不会让我们的孩子拥有任何看屏幕的时间
1589 01:32:05 我想出了我自己认为的三个简单原则
1590 01:32:08 能让生活对家人来说更容易这是经过研究验证的
1591 01:32:12 第一个原则是在每晚的固定时间 所有设备
1592 01:32:15 不能进入卧室
1593 01:32:17 不管是什么时间 睡前半小时所有设备全都拿出去
1594 01:32:20 第二个原则是高中之前禁止使用社交媒体
1595 01:32:24 我个人认为 这个年龄应该是16岁
1596 01:32:26 初中已经够难了 上高中之前别用了
1597 01:32:29 第三个原则是和你的孩子研究出一个时间预算
1598 01:32:33 如果你和他们聊 去说
1599 01:32:34 “你每天想在你的设备上花多少时间
1600 01:32:38 你觉得适合的时长是多少”
1601 01:32:39 他们通常会说出一个很合理的时长
1602 01:32:42 看 我非常清楚
1603 01:32:44 我无法让所有人删除社交媒体账号
1604 01:32:48 但我想我可以让几个人这样做
1605 01:32:50 让几个人删除账号就已经能产生很大影响了
1606 01:32:54 理由是 这样能创造一个对话的空间
1607 01:32:58 因为我想让社会中有足够的人
1608 01:33:00 这些人不受到引擎的操纵能够进行社交对话
1609 01:33:05 没有受到操纵引擎的牵制
1610 01:33:07 这样做吧！退出这个体系
1611 01:33:10 对 删掉 下线这个愚蠢的东西
1612 01:33:13 世界很美丽 你们看外面的世界很美好
1613 01:33:18 （在社交媒体上关注我们！）
1614 01:33:20 （开玩笑的）
1615 01:33:21 （我们来聊聊怎样解决这个问题登录TheSocialDilemma.com）
1616 01:33:32 字幕翻译：王成成
