请别让灵魂在技术中背井离乡

我们是否应该要像规范排污一样规范AI的发展?

技术中的怀乡与离乡

最近,一本题为「中国オンラインビジネスモデル」(中国移动互联网图鉴)的书在日本屡登畅销榜。公众号“城市 OurCity”的这篇文章采访了该书作者,并向我们介绍了本书写作的背景及其在日本收到的反响。

文章本身叙述的基调是在介绍国内的先进经验,并以此来对比日本IT行业的落后及其对中国的钦羡。但我看完以后反而有点羡慕文中所描述的那种代表「落后」的发展方式:「不敏捷」但严谨的开发流程,对功能细节的书写与研究,克制的广告,不打扰的快递,对隐私的尊重……而所有这些都是值得追求的价值,并不能简单地归类为一种「落后」。

虽然我无意宣传一种技术上的怀旧,但上文中所隐含的那种以效率、规模为标准的线性发展观也并不是什么不证自明的真理,相反,这种观念本身就值得被讨论。

文章说,「日本 APP 的开发模式跟我们中国不太一样,我们是设计个原型然后就直接开始做了,他们一般是先做个 PPT,然后用 Excel,将这个产品所有的功能一条一条写成文字介绍,哪里链到哪里,再根据这个写一份具体的介绍,他们称之为『要件定义』」,并就此把日式做法定性为「效率很低」,而且认为他们「是在用工业时代的做法在做互联网时代的产品」。

但我们其实可以问:一个 APP 从构思到上线的时间越短就越好么?所谓「效率」单纯就是看「速率」而不用管「效果」么?工业时代的产品所要回应的问题,比如质量、耐用性、设计美学、生产伦理、合理定价等等,在互联网时代就不需要考虑了么?以不同时代里先后出现的技术作为历史断代的标准,到底想证明什么问题?互联网让找工作变得更加「高效」,但它有让工作变得更加「宜人」么?

弗洛伊德在《文明及其不满》里写道,「倘若铁路没有克服空间距离,我的孩子就不会离开故乡,我就不需要打电话听他说话……」我认为,他想说的其实是,技术在解决问题的同时,也带来了新的问题;而且有些时候,还是技术先带来问题,再由新的技术来解决那个问题并带来新的问题。一个更加复杂、问题更多的世界,并不一定就是一个更好的世界。

在另一个维度上,也许我们看到的就不是效率的高低,而是灵魂与故乡的距离。而如果你看到了,就请别让灵魂在技术中背井离乡。

关于技术的「坏问题」与「好问题」

我在 Neil Postman「媒介批评三部曲」中的最后一本《技术垄断》中,读到了关于技术的「坏问题」与「好问题」之间的区别。

当一个教育工作者问,「学生用计算机学数学的效果是否胜过用课本学数学的效果」时,我们从这个问题里学到的东西等于零,因为「每一种技术都有自己的一套制度,这些制度的组织结构反映了该技术所促进的世界观,故而技术的竞争其实也是世界观的竞争。一种新技术向一种旧技术发起攻击时,围绕旧技术的制度就受到威胁。制度受威胁时,文化就处在危机之中。」

同理,「如果商人问用什么手段能够销售更多的商品,如果牧师问用电视布道影响的人数是否会超过用广播影响的人数,如果政客问用不同媒体发表讲演会取得什么不一样的效果,我们从这些问题里是学不到任何东西的。」这些问题只对提问题的人有直接的价值,它们反而会转移我们的注意力,使我们看不见新技术可能引起的严重的社会、思想和制度危机。

Postman 在这里举了一个「狗与肉团」的比喻:正如敲门贼总是随身携带滋味鲜美的肉团来分散看门狗的注意力一样,当鼓吹新技术的人问出「计算机和课本哪个教学效果更好」这个问题的时候,这就是技术扔出的「肉团」,而技术带来的敲门贼早就已经把房子洗劫一空了。也许肉团的确能够解决下一顿饭的问题,但是房子被打劫了绝对是更加严重的问题。

因此,我们更应该去考虑的,是那些关于技术的「好问题」:

我们需要考虑的,不是计算机作为教学工具的效果,而是如何改变我们学习的观念,又如何颠覆了我们关于学校的老观念。

谁会去关心依靠电视能够推销多少包麦片呀!我们需要知道的是,电视是否改变我们对现实的看法,是否改变富人和穷人的关系,是否使幸福观念本身发生改变。

如果牧师只考虑一种媒介如何使其听众的人数增加,他就忽略了一个重要的问题:在什么意义上新媒介改变了宗教、教会甚至上帝的观念呢?

如果政客考虑问题时不能够超越下一次选举,我们就必须要问:新媒介对政治组织的理念和市民的概念会产生什么样的影响呢?

技术的生态与垄断

与此同时,技术的问题永远不是简单地增减,而是会牵一发而动全身地对环境造成整体性的改变。就好像平台经济的出现不仅是「多了一个平台」,而是整体性地改变了我们相互联系、组织信息、调动资源的方式。而这种整体性也包括技术对意识形态的改变。

当我们接受了学校里的评分制,我们也就接受了应该对人的思想进行量化的这一价值判断。而如果我们可以用数字来判定思想的品质,也就可以用数字来判定慈悲、爱心、仇恨、美好、创新、智能甚至心智健全的品质,都是可能的。……人们开始相信,如果不用数字,连获取或表达正宗的知识都是不可能的。

比如,前段时间发生的卡车司机悲剧,虽然可能确实源自一场误会,但却远不止一场误会。在技术越来越先进的今天,当我们越来越依赖技术系统来规范人类行为的时候,我们到底是更相信人还是技术?当只有系统有权对人进行评判和打分的时候,到底是谁在为谁服务?当我们说,效率就是生命的时候,又有多少生命因为效率而逝去?

而所谓的「技术垄断」(Technopoly)其实并不使其他选择不合法,也不使它们不道德,亦不使之不受欢迎,而是使之无影无形,并因而失去意义。

正因为技术垄断了我们的思考,我们才会觉得技术的目的就应该是我们的目的。如果我们问,人是从什么时候开始把「效率」视作生命的?那么答案就是从人开始变成机器的时候。

对技术进行「环境治理」

Langdon Winner 在他那篇题为 “Do Artifacts Have Politics” 的经典论文中,提到了一种颇为奇怪、但现在却也已经见怪不怪的现象:

我们这个时代的人常常乐意剧烈地改变自己的生活方式来配合技术的创新,但同时却抵制因为政治的原因实施类似的变革。

In our times people are often willing to make drastic changes in the way they live to accord with technological innovation at the same time they would resist similar kinds of changes justified on political grounds.

但如上所述,既然技术的影响如此巨大且广泛,难道我们不应该像治理环境一样来治理技术么?

环境治理的方法,并不是简单地针对某个具体的、可能影响环境的行为(当然,这也十分重要),而是以良好环境为目标,进行整体性的治理。以这种视角来看技术的发展,我们同样也应该去更加全面地评估技术可能带来的机会与风险,并在这样的基础上,以更好的社会为目标来进行管理。

更重要的是,我们应当看到,技术所具有的外部性与公共性。某家公司发展 AI 技术并不只是它一家公司的「私事」,而是可能影响所有人的「公共事件」。如果想到这一点,难道我们不应该像向企业授予环境许可一样,对 AI 的发展进行评估与政治决策么?

也许,对所有技术实施「准入机制」确实有些过分了,这篇文章的目的也不在于推广此法。但这个过分的想法,却至少能够帮助我们转换一个视角去看待技术的发展,重新去思考作为人的目的,而不只是依附于技术的目的而逐渐成为技术的工具。