跳到正文
钛媒体· 观潮·· 4 小时前AI 评分48

一次同意,二十一次缺席:自动续费与AI代理时代的决定压缩

一次同意,二十一次缺席

AI 导读

一款每月68元的工具软件在用户两年前点击"开始免费试用"后连续扣费21个月,累计1428元,期间用户从未重新做出续费决定。文章将这种"一次授权、持续执行"的现象称为"节点压缩",并援引底特律警方误捕罗伯特·威廉姆斯案及一项457名临床医生的实验指出:保留人类最终决定权并不能保证独立判断,附上解释的偏置AI建议仍使准确率低于基线9.1个百分点。

正文

(本文作者为 观潮,钛媒体经授权发布)

文 | 观潮

01

二十一笔扣款,零次决定。 

某款工具软件,每月六十八元,连续扣了二十一个月。两年前,为了用它的一个功能,我点过“开始免费试用”。试用期七天,之后自动续费。我当时想的是:先用几天,不合适就取消。 

我没有取消。不是决定不取消——是“要不要继续付费”这件事,之后再也没有出现在我的生活中。平台也许发过信息。我后来在促销邮件和更新通知之间,找到过几封当时没有在意的邮件。二十一个月,账单上出现了二十一次扣款;我的脑中,没有做过一次决定。 

责任在我。我点过试用,就该留意扣费。忘了,不能当作授权没有发生。 

但责任承认之后,问题还杵在原地:一次点击,究竟授权了什么?它为什么能在我不再使用这款软件、也不再作出任何决定的情况下,持续变成扣款? 

按平台的记录,我注册、勾选、点击,留下了一项自动续费的授权。按我的经验,二十一次扣款之前,我没有一次重新面对过“要不要继续”这个问题。 

授权持续有效。决定没有持续发生。 

02

先看看那次点击本身。 

那份协议长得足以让一个正常人读上大半个小时。我读了多久?三秒。三秒之后,我勾选了“我已阅读并同意”,按下了确认。 

这不是阅读速度的进步。这是阅读义务的废除。 

一个决定,通常不只是最后那一下“同意”。 

人得先知道事情正在发生,看见选项和代价,想清楚自己要什么,再决定是否授权。执行之后,事情是否仍按原意发展;发现不对时,能不能叫停、改回来——这些也属于决定。 

生活不需要每件小事都郑重其事。点一份外卖,不必读完一套合同誓词。可当一次点击会授权后续扣款、持续处理信息、让代理替人连续行动,它就不再只是一个瞬间的动作。 

这次点击留下了授权,此后却没有再把问题交还给我。自动续费照常执行,账单照常经过,取消的入口也一直存在——只是它没有变成我必须重新跨过的一道关口。 

关口没有消失。消失的是我在关口里的应有的经历。 

我把这种变化叫作“节点压缩”: 

本来分散在看见、理解、授权、执行、校正之中的一长串过程,被挤进一次轻得几乎没有体感的点击动作里。人记得自己点过,却没有经历那二十一次本该被触发的决定。 

按钮记得你点过,你不记得你读过。将来对簿公堂时,按钮嬴。 

上一篇讲接缝如何被抹平。这一篇讲关口如何被路过。 

03

这种压缩,通常由三种设计叠在一起完成。 

第一是默认。继续往下走,一路畅通;拒绝或退出,要多找几步。人自然沿着最省力的路走。谁铺这条路,谁就在影响什么更容易成为人的选择。开通只需一次点击,退出要穿过五道菜单。门没有锁。只是远。 

第二是合并。试用与续费,放进同一次授权里。人点击时想的是“先试几天”,系统拿到的,却是一项可以持续执行的授权。眼前的决定和未来的扣款,被缝合成了一件事。 

第三是隐身。后续扣费、提醒、取消入口,一样都没有消失,只是退到了人不常看的地方。平台发过提醒——它发在促销邮件和更新通知之间。信息没有缺席,它只是去了另一个你不常关注的场合。 

这些做法未必都是欺骗,也不必假定每个平台都在故意设局。问题在于结构:系统可以持续执行,人却没有持续看见;授权可以一直有效,重新确认却不一定发生。 

自动扣款替系统完成了执行,却没有替我承担责任。忘记取消的责任在我,这不假;但设计是否让续费清楚可见、让取消容易找到,也不能因此变成无关紧要。 

04

账单上的损失看得见,判断上的损失看不见。 

在有些重大的事情上,即使人还在裁决者的位置上,判断也不一定真实发生。 

2020年,底特律警方使用人脸识别系统,把罗伯特·威廉姆斯列为调查线索。他被错误逮捕,在拘留所待了约三十小时。 

2024年,双方达成和解,新的政策写明:人脸识别结果只能作为调查线索,逮捕或申请逮捕令,必须有独立、可靠的证据支持。 

这不是“机器抓人”的科幻故事。整个过程中,每一个环节都有真人在位,也都有形式上的审核动作——有人比对照片,有人执行逮捕,有人复核案情,有人签署手续。但这些动作都从同一份机器预选出发。机器筛出威廉姆斯,人类节点围绕这个“线索”补充确认。上游定错了起点,下游的每一步认真,都只是让错误看起来更扎实。多个人类节点,不等于多次独立判断;复核,可能只是同一错误在不同节点上的回声。 

这项要求不是多加一个签字。签字本身可以成为仪式,而仪式正是压缩最喜欢的形式——几个人接连复核,看似层层把关,实则只是在同一个机器给出的起点周围,重复确认。 

医疗领域的一项随机临床情境实验,邀请了四百五十七名临床医生、执业护士和医师助理,判断呼吸衰竭病例。常规AI建议,让诊断准确率比基线提高了2.9个百分点;系统性偏置的建议,则让准确率下降了11.3个百分点。 

那么,给偏置的建议附上解释,能不能解毒? 

不能。附上解释之后,准确率仍比基线低9.1个百分点。解释没有解毒。解释只是给毒发了一份说明书。这是情境实验,不等同于真实的临床结果;但它至少说明一件事:保留专业人员的最终决定权,并不能自动保证他们摆脱机器设定的起点。 

一项更大范围的元分析汇总了一百零六项实验、三百七十个效应量。总体上,人机组合比单独的人表现好,却没有平均超过人或AI中表现更好的那一方。人和AI放在一起,不会自动形成合力。关键仍然是:谁先提出问题,谁提供依据,谁有机会独立校正,错误能不能被重新打开。 

05

面对这些,我能做什么? 

个人能做的,确实有限,但不是什么也做不了。开始免费试用时,当场设一个到期提醒;如果允许取消后仍用满试用期,开通的当天就关掉续费;每隔一段时间,检查一遍订阅和账单。它们能减少遗忘造成的损失,但它们证明不了另一件事:一个设计良好的授权流程,不该把所有记忆的负担都压给用户。 

平台也可以把授权做得更清楚:试用何时结束、何时开始扣费、扣多少,要在关键时刻让人看见;取消续费,不该比开通更难;授权持续多久、覆盖什么动作,应当说得明白,也应当能够暂停和撤回。涉及重大后果、影响他人、难以逆转的行动,更不能只凭很久以前的一次点击,一路自动执行下去。 

这不是要求所有操作重新走一遍繁琐的程序。而是让压缩有边界:小事可以顺手办,重要的事仍有机会让人回来;授权可以交出去,叫停和改判的路,不能一并消失。 

二十一笔扣款,不是二十一次彼此独立的同意。更准确地说,它们都来自我当初留下的一项授权。那项授权真实存在;我后来没有重新决定,也同样真实。 

一千四百二十八元,是这次留在账单上的价格。换一个场景,代价未必有账单。某个决定替你作完,你甚至可能不知道发生过。 

06

《界面不是窗口》结尾问过一个问题:最后那根手指按下的,究竟是一个决定,还是一场签字仪式? 

这一篇想补上一句:哪怕签字是真的,仪式之后,决定也可能再也没有举行过。 

按钮记得我点过。账单记得我签过。我,不记得我读过。 

而一次点击替系统打开的,是一条持续行动的通道。今天,通道的尽头是一笔又一笔扣款。再进一步,当代理(agent)开始替人连续地搜索、筛选、回复、交易,这条通道里还将穿过多少本该重新问人的问题? 

二十一道关口,我每一道都从边上路过。没有一道,是我走进去过的。 

我只是亲自出席了自己的缺席。 

更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App

来源:钛媒体 · tmtpost.com