当算法全面入侵生活,一群普通人,决心和看不见的系统博弈。本文来自微信公众号:真实故事计划(ID:zhenshigushi1),作者:肖瑶,头图来自:《云图》
算法入侵生活
2021年夏,夏溪和丈夫聊起婆媳相处的琐事,诸如婆婆不打招呼直接拿了钥匙来家里的行为,让她觉得没有边界。睡前,她打开某短视频App,打算消磨下时间。手指上滑,一条关于轻松化解婆媳矛盾的视频跳出。夏溪感到不对劲。这怎么可能呢?自己从未在上面搜索过相关关键词,而且明明已经关闭了它的手机麦克风权限。
嫌恶从夏溪心里钻出,然后是害怕。她担心手机偷听自己说话。
上一次这种被“监听”的感觉出现,是夏溪在办公室加班。同事问起晚饭点什么外卖,“我有点想吃串串”,她随口说出脑子里蹦出的选项。随后,视线移向刚解锁的手机。还没来得及在外卖平台搜索栏输入关键词,一家串串店出现在推荐列表的第二栏。
“怎么会这么巧?”她记得清楚,过去常点的是炸鸡和各类港式烧腊饭,从未点过串串,甚至从未在搜索栏里敲入关键词。有鼓声,隐隐响起。
鼓声渐大,在隔周和同事的聊天后。对方发现自己和他人讨论过的一件物品,成为次日某购物平台推荐列表里的一员,但她此前从未搜索过关键词。
“真的仅仅是巧合吗?”类似的疑问星火一样在网络四溅。2018年8月,一位男士连续几天提及“征信”后,收到了某乎关于征信记录的问答推送。3个月后,有网友搜索“纸巾”,随后陆续看到各大购物App推荐的纸巾信息,甚至视频网站也出现了相关纸巾广告。
“(这是)大数据时代的魅力”,有网友自嘲。
手机App越来越懂人,已不是新奇事。每一类个性化推荐的功能背后,依托的是算法,根据人们的行为数据进行预测及迭代。它广为人们接受的一面是:在海量信息中,替人们高效筛选出优质内容和结果,减少决策时间。
但这只是起点。时间向后延展,取悦用户的算法成为潘多拉宝盒的引擎,问题也随之而来——算法正在入侵生活。面对看不见的算法和背后的平台,它们具体如何采集和使用个人数据,对和夏溪一样的普通人来说是个黑箱。
2019年3月18日,《IT时报》记者花费3个月时间对安卓手机、苹果手机和苹果平板电脑进行轮番模拟测试,发现在密集提及某些关键词后,“美团”和“饿了么”精准推荐和同类推荐出现的概率超70%。不久,“美团”和“饿了么”对此作出回应,称平台不存在监听用户并将相关数据用作信息分析的情况。
外卖App是否“偷听”用户说话?答案悬在半空。可以确认的是,技术上存在手机App获取用户语音信息的可能,只是这不能必然推导出精准推荐源自“偷听”数据。因为想要“猜你喜欢”,平台还有许多条路可选。
在《IT时报》报道中,网络安全专家杨启波提及一些方法:人们所在地理位置、曾经的搜索习惯、喜欢过的内容等都可以成为大数据智能推荐平台推测用户兴趣范围的依据。
第一次发现手机“偷听”自己时,夏溪正从事大数据分析相关的工作。她和数据离得很近,明白算法运作的逻辑——人们在数字平台上输入的关键词、浏览过的物品等数据,会被后台记录,经过机器运算或人为分析后,具体的用户画像随之诞生。根据这些画像标签,商业主可以更精准地投放内容及广告。
持续与数据打交道,面对算法带来的便利,夏溪更希望守住个人隐私的边界。她可以接受平台基于自己已有行为数据,分析并进行个性化推荐,但她无法忍受无端被猜中喜好。那是一种入侵。
意识到手机“偷听”自己没多久,夏溪卸载了那个外卖软件,并关闭了大部分不必要软件的语音授权。对于那个看不见的抓手,她的警惕又多了几分。
另一种入侵更悄无声息。
如今,22岁的Stan仍记得三年前被某购物软件“有好货”窗口迷住的场景。只要点进那个小方框,就会出现根据算法推荐的一列商品窗口——每点进其中一个窗口,又会通往另一列推荐流。
穿梭在无限延伸的虚拟橱窗中,Stan看得入迷,“就像逛超市一样。”手指轻滑,永远有新的好物等在后边,即使自己买不起,也逛得开心。如此反复,那个无限嵌套的迷宫没有尽头。一晃眼,十几分钟过去了。
很多时候,Stan习惯用在App里闲逛的方式杀时间。购物软件不是他唯一的去处。大一的课上,内容索然无味,他下意识解锁手机,一一翻看通讯软件和社交平台上的信息。瀑布般的信息流像哆啦A梦的口袋,不断掏出新的内容。即使有些内容毫无信息量,但足以填补无聊的碎片时间。这让他上瘾。
一节八十分钟的课,几乎每隔十几分钟,Stan都要把摁灭的手机唤醒,重复同样的动作。有时候,因为刷新得过于频繁,没有新信息出现,他习惯性下拉几次后,熄灭手机。再过几分钟,又会再度把它点亮。
Stan形容当时的自己:“其实是非常机械的(状态),就想看有没有什么新鲜事发生。”
和Stan一样,越来越多人把时间留在了各类手机App里。极光发布的一份报告显示,2021年第二季度我国网民人均手机App安装总量增至66款,人均单日App使用时长为5.1小时,相较2019年同一时期增加0.4小时。其中,占据人们每日使用时长前三名的App类型分别为短视频、即时通讯和在线视频。
图|极光《2021年Q2移动互联网行业数据研究报告》截图
增加的手机使用时间背后,有人忧心忡忡。
于今年5月成立的豆瓣“反技术依赖”小组里,有不少成员抱怨自己手机成瘾,落入时间的黑洞。在小组组长阿匕的观察中,组员中手机瘾重度患者每天手机使用时间都在10小时以上,更多组员的使用时间在6到8小时左右。
2021年8月4日,组员“happy666”发帖表示自己的情绪受到推送内容影响:“除了(像强迫症一样)刷微博之外,我最大的问题是目前在自己的信息茧房里……比如我会在微博、豆瓣、B站,网页里搜索一些潜意识里让人产生担忧的话题,到后来推送也是这些内容,内容又强化了我心里的担心,目前我的思维认知都很负面。”
这一切是怎么发生的?
几乎每一类手机软件都带有个性化内容推荐,当智能手机成为人们的随身物品甚至是延伸器官,它也成为算法和人产生链接最直接的载体。算法推荐并不必然是导致人们信息成瘾的唯一原因,但它是其中一个重要抓手。而且,投喂式的推荐内容很容易导致人们获取的内容同质化。另一个问题浮现出来:人们难以跳出已有认知的怪圈,同时,认知、判断和决策也会受到影响。
2021年年初,中国人民大学新闻学院教授彭兰在《算法社会的“囚徒”风险》一文中概述了今天人们面临的风险:算法应用正全面普及,在正在到来的算法社会里,人们享受算法带来的便利的同时,在某些方面也面临着成为算法“囚徒”的风险。
算法本应是辅助人们更好做决定的工具,怎么会被它牵着鼻子走?越来越多人感到蹊跷,他们心中的鼓点被追着,越来越急。一些普通人决心在自己的生活中对抗算法。
对抗
对抗算法的年轻人多是数字原住民。出生于1980年后的他们自小生活在网络世界,难以通过完全脱离数字技术,达到摆脱算法影响的目的。他们寻找的,是更可行的迂回战术。
有人尝试的,是在互联网上隐身,或是迷惑平台,不让它们看清真实的自己。
如果有可能,夏溪上网时尽量选择无痕界面或清理网页Cookie,抹消自己的痕迹;假如这招行不通,她会小心地区分自己在每个平台上的使用习惯,“我希望在不同平台有不同人设。”例如,在经常购买图书、办公用品和电子产品的平台,后台大概率会将她识别为“知识女性”;但在另一个经常购买生活用品的平台,她会更像一位“小嫂子”。
从大学开始,夏溪和对象共用一个购物软件账号。婚后,她的婆婆也成为该账号使用者。如此一来,平台难以看清账号主人的真实面目——既是青年,也是老年,既是男性,也是女性。站在这样模糊的虚拟面目背后,她感到安全。
狡兔三窟,但仍存在漏洞。假如有人获取了自己的个人信息,去多个平台撞库,进而拿到两个或多个平台上个人的数据信息,拼图就有了可能——最接近现实中真实的自我形象将难以在互联网上遁形。对此,作为一个普通人,夏溪还无能为力。
遭遇外卖平台“偷听”事件后,夏溪只给两三个工作中必须用到的通讯软件和语音工具,留下了麦克风使用权限。假如其他软件需要开启,她会到需要时再打开,并在使用后再度将权限关闭。而且,每次手机系统更新过后,她会回去一一检查权限。
前不久,当她发觉某短视频App在已经关闭语音权限的前提下,仍然存在“偷听”嫌疑,无力感再次浮现。但她试图弄清背后的蹊跷之处。
她发现,关掉语音助手Siri的麦克风权限后,短视频App上关于婆媳关系的推送视频消失了。苹果手机以用户数据安全保护闻名,这个小测试的结果让夏溪五味杂陈。但她没有更好的办法,平日工作里开车时需要借助Siri完成Car Play。最后,她选择将这个短视频App卸载。
今年5月,科技媒体虎嗅发布了名为《为什么美团饿了么不可能通过“偷听”给你推荐想吃的?》的视频。它指出,今天技术上能够实现绕过系统的监听,偷听获取的信息对期望借其进行数字行销的公司并没有太大价值,但对研究人工智能语音引擎吸引力很强。此外,在语音助手和智能音箱随处可见的今天,偷听似乎难以避免。
该媒体研究员Odin表示:“一般的工程师,写代码的或者会科技的,还有可能(对抗偷听),普通人的话是没有办法对抗的。科技已经很普及,他们的技术也太复杂。”夏溪明白这点,但她觉得自己还是得“站起来”——即使做不到反抗,她也得做点什么。
另一边,面对算法内容推荐的套路,有人正在想办法打破它。
从事用户调研工作的三七是资深短视频爱好者。她在快手和抖音上各养了一个号,并且有意训练它们获得不同的短视频内容。她习惯在快手上刷萌宠、滴胶和手工相关内容。但对于抖音,在发现平台推荐内容过于迎合自己的喜好,而缺少新鲜感之后,她试图反套路而行之。
某次,她发现,假如持续刷新直播页面,推荐页的内容会变得更多样。接着,她有意取关一些美妆、美食探店、小说推荐类博主。没过多久,机器发现重变“新人”的她,首页上多了许多粉丝还不多的新人博主,以及女性、育儿和教育等社会公共话题相关内容。调教成功了,这种新鲜感让她兴奋。
陈梓是另一个希望尽可能跳出投喂式内容的人。
还在上大二时,她和周围的同龄人一样,乐于在社交平台上转发文章,交流观点。海量信息涌入她的生活,但她逐渐意识到自己的世界并未因此变得更大。和身边人聊天时,她发现谈论的内容还是网络上流行的那些事,大家看到的世界非常相似。而且,社交平台上推送的爆款文章都很像:大部分只是抓住了很多人的共性和痛点得以广泛传播,但并没有太多突破认知的内容。
真正感到自己的世界借由互联网扩展得更大,是陈梓按自己的标准建立了筛选信息的标准之后。她减少了关注主流媒体推介内容的时间,更多了解RSS订阅里自己感兴趣的科技类、商业类博客内容。“像自己制作了一个小简报,可以看他们(定期)更新。”
如今,已经工作几年的她还会通过电影、书等媒介深化自己好奇的话题。另外,她每天还会花费一些时间,给自己关心的社会新闻、话题做笔记。对于微博、微信公众号和豆瓣这些媒体平台,她把它们当成收集新近发生事件的搜索工具:先上微博看热搜,在话题里找到说清来龙去脉的内容,再到豆瓣上看大家的观点,紧接着去看公众号里有无能将事件解释清楚的文章。
最近,陈梓利用Notion建立起一张表格。在上面,她会替自己关心的事件打上标签,评级,还会专设一栏提醒自己需要持续关注。当大部分人还在碎片化信息的激流里摸不着方向的时候,陈梓已经建立起属于自己的一条信息小道。
图|陈梓自建的信息表格
也有人决定直接减少手机App的使用时间,尽可能杜绝干扰。想达到这一点,退回网页端是一个好方法。
大二时,Stan在山下英子的书中第一次得知“断舍离”的概念。他的思考伸向更远的地方——不止是生活物品,他希望信息也能简化。当他重看之前沉迷的购物软件推荐窗口,发现花费其中的时间并未生成一个明确的结果;微博信息流里,社会新闻、好友动态和娱乐信息混杂出现,而且每10条里就会有一条广告……成日和这些App相处,Stan觉得自己的生活正被信息轰炸。
那天,独自待着的Stan解锁了手机,重新打量其中安装的App:我真的需要它们吗?半小时里,他前后删掉了包括微博、淘宝、豆瓣和知乎在内的十几个App。他决定退回网页端,用淘宝电脑网页购物,用手机网页版微博和豆瓣看信息。
网页端的体验远没有客户端的顺畅。对一个习惯了半秒就可以刷新内容的微博用户来说,进入手机网页版微博的过程像按下了0.5倍速键。界面切换、加载图片都至少需要1秒,这很容易让习惯了“快捷”的现代人心生不快。但Stan需要的正是这种不舒服,它增加了使用门槛,让自己不至于轻易滑入时间陷阱。而且,在这个被很多人遗忘的地方,他不必在信息流中看到平台夹杂推送的广告。
随后,Stan使用这些平台的次数明显减少。刚开始,他还会每天查看网页版知乎、微博和豆瓣。到后来,他保持了隔几天查看一次的频率。最后,他甚至连微博都不看,只保留了定期上豆瓣逛逛的习惯。
不止是他,“反技术依赖”小组里的一些人也在尝试使用不同平台的手机网页端戒掉自己的App瘾症。还有一些人直接选择了物理隔绝的方法——购买一个带电子锁的保鲜盒,每天下班后将手机锁在其中,直到第二天早晨才将它取出。
“拿回主动权”
在算法侵入生活的隐忧背后,还有一个更深的不安:人的决策和判断被技术操控。
在《算法社会的“囚徒”风险》一文里,中国人民大学新闻学院教授彭兰写道:“对于个体来说,当他接受算法推荐的内容、产品时,某种意义上也是在借助算法作出判断与决策,也就是把对内容与产品的价值判断建立在算法的评价上。”
随后,她又对人类将判断与决策完全交由算法表示担忧:“算法虽然打破了人的某些旧套路,但也会形成一些新套路;如果人们的决策越来越陷入算法营造的套路,那么人类的想象力与创造力也会萎缩。”
对于这些选择对抗算法的年轻人来说,他们希望在这场技术入侵生活的战役中,重新拿回主动权。
阿匕是中南大学研三学生,她对技术的思考和改观始自去年疫情期间。在一次线上读书分享会上,她接触到马尔库塞的著作《单向度的人》。她意识到,过去人们往往非常推崇技术,认为技术服务生活且是中立的,却极少关注其中的负面影响。
随后,阿匕读到一篇关于算法之下外卖员工作处境的论文。其中,在以追逐效率、利益为上的系统算法之下,骑手权益被倾轧的事实让她心惊。当人被技术控制已成为部分社会现实,作为个人,自己能做什么?阿匕想了很久。身为人类学相关专业学生,她希望自己可以多观察类似的现象和问题,在诸如豆瓣小组之类的平台发起讨论,引发大家的关注和思考。
2021年5月25日,阿匕建立了“反技术依赖”小组,并在开组帖里写道:本小组不是反对所有技术,而是想反对过度依赖技术造成某些能力的退化,以及没有某些巨头公司生活就完全不行的局面。
从无到有,如今“反技术依赖”小组已拥有组员近1.6万人。许多组员在其中交流摆脱App成瘾的方法和经验,并分享自己重新退回真实生活的感受。
曾有试图摆脱信息轰炸的组员发帖称,当她卸载了经常使用的资讯、社交软件,又陷入了另一种焦虑:自己无法紧跟时事热点。阿匕认为,对大部分人来说,紧跟时事其实并非生活必需,他们恐惧的可能是被身边人抛下。
对阿匕来说,从虚拟世界切换回现实世界的过程,像是从泥潭里拔出脚。她自觉控制力低下,曾把手机藏起来,专注读书、学习、做手工或家务。当她习惯这一切,她突然感受到时间很漫长,“慢到清晰感受到了自己的存在。”
过去,她只是万千网友中的一人,在网上漂流,等细碎的时间耗尽。但现在,同样的时间,她可以选择拼1000块以上的无分区拼图和复杂乐高,学弹贝斯,记德语单词,读马克思和哈贝马斯,或是去现场看演出——这些都是属于自己的体验。
重新将注意力投向现实世界之后,Stan感受到自己最大的变化是情绪变得更平和了。曾经,他被社交平台上社会新闻的评论扰得心神不宁。但现在,他选择花更多时间独处。
图|之前,Stan用手机浏览器登陆各类网页
前段时间,Stan时常失眠,他决定到家附近的书店里坐坐。那个晚上,他随手挑了本邵丽的新书《金枝》看。放在手机上,这类深的内容他一般看不下去,但翻着书页,他入了神。那晚回家后,他睡得很沉。
2021年7月,Stan在“每日豆瓣”公众号上发现了“反技术依赖”小组,找到同类的感觉浮现出来,他久违地加了新组。Stan把自己曾经的退网尝试写在帖子里。很快,评论里盖起了高楼。接下来,Stan几乎每天会上豆瓣查看消息十几次。他在期待,还有没有新的点赞和评论?五天后,Stan突然发觉自己状态不对劲。他开始克制,重新回到几天上一次豆瓣的节奏。
阿匕和Stan选择半隐退互联网,在真实生活中重建秩序。但想要重新拿回主动权,是否还有别的想象?
在美国纪录片《监视资本主义:智能陷阱》(The Social Dilemma)中,数据科学家卡西·奥尼尔表示:“算法是内嵌在代码中的观点,它并非客观的,而是被某种成功的定义所优化。因此,你能想象,假如一家商业公司根据他们对成功的定义,制定了一套算法,那是关于获得商业利益的,往往是需要盈利的。
纪录片中,一幅以技术为齿轮的商业画卷被铺开:一款手机软件的背后,有数位工程师试图结合心理学知识,设计软件功能和算法,将人们的注意力尽可能停留在某款软件上。紧接着,通过广告投放等方式,用户注意力被转变为商业利益。脸书(Facebook)前总裁希恩·帕克在片中承认:“……利用人类心理中的脆弱性赚钱,包括我、马克、Instagram的凯文·斯特罗姆在内的发明者和创造者,我们都很清楚这一点。但我们依然这么做了。”
回归现实,从硅谷到国内,这套商业和科技巨头共同塑造出的注意力经济已成为主流。
夏溪对这套运作逻辑十分熟悉,她也明白个体在面对巨大的商业帝国时,微小到难以撼动它们,“我能做的更多是保护好自己。”但是,她仍在期待新的转变:“我理解资本家需要赚钱,但是可以换一种商业模式了。”夏溪期待的,是企业应该首先帮助人们过上更好的生活,其次才是获得收益。
彭兰也在论文中呼唤从业者看到“算法向善”的新可能——希望业内不要将算法推向工具理性的极端,而应该在价值理性的前提下重看算法伦理的目标、原则与实现路径。
2021年8月,从事无人驾驶相关工作的夏溪,每周工作日大部分的工作是“开车”。她坐着那辆带有自动辅助驾驶功能的汽车,穿梭于上海市区的内环、中环和外环。在每天100公里的路程中,算法需要在她的帮助下变得更完善和成熟。
而目前自动辅助驾驶仍存在许多边界性问题,需要专业人员测试提供“corner case”的解决方案。这种测试比夏溪自己开车还累,但她觉得这是有价值的,当它足够成熟,可以缓和人们的驾驶焦虑,让他们获得更便利的驾驶体验。
人和科技还可以是怎样的关系?夏溪的脑中有一幅画面:左边是人脑,右边是机器,二者相互扶持着往前走。科技应该是服务于人类,对人类有帮助的。
“不要被科技束缚了对自己生活的想象力。”
本文来自微信公众号:真实故事计划(ID:zhenshigushi1),作者:肖瑶
原创文章,作者:3628473679,如若转载,请注明出处:https://blog.ytso.com/170359.html