Search
  • Yue Wu

机器、权力与控制:从EVA到苏联控制论史【悦来文献】


日本经典动画《新世纪福音战士》


机器、权力与控制:从EVA到苏联控制论史


未来的一场全球性大灾难后,军事组织以阻止人类毁灭为名研发出大型泛用人型决战兵器,驾驶员与机器的神经系统同步,只需在舱内运动身体便可操控机甲与发动能量力场作战。被选中的十四岁少年碇真嗣收到命令驾驶名为“初号机”的机甲出战,但因敌人与好友的座驾外形高度相似而不忍回击。在他犹疑之际,军事司令部直接启动了傀儡系统,计算机瞬时接管,自动发起进攻。不受到驾驶员控制机甲如同发狂巨兽,利索而残忍地撕开敌人皮肉,大口吞食。噩耗揭晓, 惨死的正是被敌方病毒侵入系统的好友,而残杀者正是被傀儡系统操控的“初号机”。以上或许是日本经典动画《新世纪福音战士》系列中最令人心碎的一幕,而这场赛博对战的罪魁祸首究竟是发起进攻的机器,还是下达命令的权利等级更高的人类?对于人机关系发展深远的担忧贯穿了控制论之父诺伯特·维纳(Nobert Wiener)以及他的追随者们关于逐步获得更高智能与灵敏性的机器的研究,并且在科幻小说、文学戏剧与艺术创作之中反复再现。

“控制论之父”诺伯特·维纳(Nobert Wiener)


由维纳创造的“控制论”(Cybernetics)取灵感自希腊语κυβερνητικός,意为优秀的掌舵技术,其衍生而来的前缀 “赛博”(Cyber)已然成为当下的文化流行词,其理论中的关键词“信息”、“技术”、“反馈”、“信号”、“传播”等也杂糅于我们的日常语汇,然而根植于其中的“控制”意涵却被逐渐被淡化。本文将重新追溯与梳理半个多世纪之前维纳关于控制论的预言与警醒,通过控制论在苏联的传播与实践的具体实例——先被全盘否定,再被大力发展,成为实现经济改革成为“国家计划”的核心技术指导,却最终导致经济衰退——重新聚焦控制论的内核:运用信息与通讯作为有效控制手段,并反思其中的隐患,最终回答人与机器“谁控制谁”的关系。


控制论基于一种偶然性的宇宙观念,将人类的存在视为趋于毁灭的永恒中的一段抵抗无序、维持秩序的时空碎片。二十世纪初,亨利·伯格森不可逆的时间观替代了先前经典牛顿系统中对于时间计算可逆的认知,正如真实世界中的证据表明,死亡无法逆转回生,同化也不是异化的反演,“个体是顺着一个时间方向前进的飞箭”,只能从过去进入未来。[1]大约同时,吉布斯“熵增”的学说在沉寂多年后被重新发掘,这一学说指出一切闭合系统中的 “熵增”作为发展的必然趋势,而我们所在的宇宙作为闭合系统,必然伴随熵增,在时间的流逝中趋向杂乱、混沌与衰退,最终丧失其特殊性,在终极混乱中消亡。


维纳结合了伯格森的时间观与吉布斯的宇宙观,新加入“信息”这一要素,提出生命体与其赖以生存的群体都并非孤立的守恒系统,而是与周边环境密切关联,不断进行信息交换,与大趋势的发展相反的“负熵”的局部。[2] 正是由于整个宇宙中存在这样的局部,生命得以在这些暂时的缝隙中安栖寄居。面对浩瀚宇宙,渺小的人类“所能期望的只不过是微小而无关宏要的局部涨落而已”,虽尚不可能目睹世界最后的毁灭,但是对于永恒之历史微不足道的局部对于个体生命而言依然意义重大。[3]


维纳视人类处于宇宙中无足轻重的地位延续了自哥白尼日心说、达尔文进化论以来不断挑战人类中心主义的趋势。在进化论将人类与其他生物的边界消解之后,维纳进而更加激进地表达,人类和机器也没有本质区别:从“局部地和暂时地抵抗着熵增的总趋势”的角度来看,都一样以“负熵”为生,或许连机器是否具有“生命”都不过是语义学问题。[4] 根据维纳这一人机同形同性论(anthropomorphism)的雏形,理论上科学家便可通过数学、物理等公式计算便可对人类行为如机器一样研究、处理与计算,这也成为控制论应用于苏联经济与社会领域的依据。维纳将综合理论经验整合、提炼为一套独立学科,量化计算人、动物、机器之间的信息传播与控制关系,成为统领式的 “元理论”,跨界生物学、数学、人类学、信息工程、物理学、美学等等学科,持续对几乎所有领域产生影响。虽然维纳的原初设计并未有过于宏大的目标,但是正由于这种泛用的潜力与趋势,导致控制论在苏联传播的过程中最终沦为了一套“赛博政治”式的话语体系,假借科学的外衣成为当权者的手杖。


控制论诞生于通信与自动控制技术飞速发展的二战的前夕,信息通讯作为控制论的核心,是生命体与机器实现“负熵”过程的推进器,也是人类互助共生的先决条件。信息指引“麦克斯韦妖”推动永动气体机的阀门,信息的增进让熵增的混乱阶段性地暂停。维纳通过控制论传递出关于美好社会的启示:依靠全面畅通的信息交流,群体可以实现更为稳定和谐的生活。个体因固定的神经系统而只拥有永久性的联系与位置,然而群体间蕴含这不断变化、错综复杂的时空关系,犹如蜂群内部的交流与指引,使得发展呈现不断进步的趋势。[5] 然而稳定社会尚未实现,维纳对于极权主义政体中信息垄断的担忧先成为现实。


斯大林时代晚期,苏联流行一种类似乔治·奥威尔《1984》中人们使用的“新语”(Newspeak)的政治话语体系,每一句话都深刻渗透着斯大林主义意识形态,它往往是模棱两可、带有操纵性,不可被证实也不可被证伪的绝对真理。正是在这一背景下,维纳的控制论从美国传播至苏联,以至于整个1950年代,控制论并未能在苏联获得认同,反而被冠以 “反动伪科学”和“帝国主义反动的意识形态武器”的罪名受到政治压制,甚至连相关研究者都会和政治犯一起被送去“改造”。1953年,斯大林去世,继任者赫鲁晓夫继任并发动对斯大林的全面批判。这一过程中政治权利的过渡也体现在政治语言的转换上:象征斯大林的笼统而带有煽动性的“新语”被控制论所代表的严谨、清晰、逻辑、量化、准确的“赛博语言”取代。短短十年间,控制论重整旗鼓,作为一种进步的新学科被写入苏联的新版政党手册,荣升“为共产主义服务的科学”。[6]

在后续的二十年间,在苏联控制论研究委员会的主席Askel Berg的领导下,作为“元理论”的控制论成为了有望解决所有问题的万能钥匙,被应用于全国经济振兴计划和社会管理体制改革,甚至连这套话术本身也成为了新一代“赛博新语”。苏联对于控制论的深度实践便是广为人知的“国家计划”:所有生产情况的信息由地方汇总到莫斯科,经过计算机的精密计算与决策机构的深度考量之后,统一决定生产目标的计划经济模式。这个自动化的闭环反馈控制系统设想当年让肯尼迪总体的助理阿瑟·施莱辛格为苏联可能通过控制论获得的巨大优势而捏一把汗的。然而这套理想化的宏大计划事实上成为了当权者阻碍改革、维持其原本地位的挡箭牌。繁复的官僚体制与狭窄的信息流通渠道导致通讯的减速与停滞,多个部门互不兼容、互不联系产生出无用的新系统,处于波动变化的局部需求被不断忽视,堆积如山的文书工作与瘫痪的计算机决策体制最终导致苏联的经济崩溃,最终国家解体。


苏联人在1950年代开发的BESM计算机


维纳认为信息越流通,负熵越大,社会内部越稳定。 “小而紧密地结合着的社会有极大程度的内稳定性”,而在那些信息工具被垄断与控制的大社会中,“残忍才能到达它的最高峰。”[7] 即便是科学语言,当政客与官僚机构出于维持与巩固其自身地位的目的将其政治化,便会沦为政治工具。60年代初维纳并非不知控制论在苏联不断影响政治、经济领域,在1961年他受邀在苏联《哲学问题》编辑部座谈并发表《社会与科学》评论,赞成科学适度走出象牙塔,但需要警惕“政策与当局的思想方式。”[8] 对于科学独立性和对于远离极权的警醒实际也一直存在于维纳的控制论思想中。对于经典问题 “如果机器和人一样,那机器终究会不会控制人类?”,维纳其实给出了他的答案:这一天终将会到来。人创造机器,被创造的机器必然将会按照自身形象创造新的机器,像人类一样进行繁殖,削弱人的独特性与尊严。然而,在他看来,机器控制人类的危险远不如人类或由人类构成的统治集团出于丑恶的私心对机器加以利用、控制人民的灾难。苏联“国家计划”的深刻的警示或许可以引起当代人的强烈共鸣——虽然我们处于信息量爆炸的时代,但是信息并未真正意义上地自由流通,通过控制舆论进行洗白、污蔑、导向、欺骗等等手段已经成为日常网络世界中的常态,而后果则是极度割裂、动荡不安的社会。

再重新回顾开头关于“初号机”的战斗,凶手究竟是傀儡系统(机器),还是下达命令的人类指挥官?表面逻辑上,这场惨案看似是机器违反驾驶员的个人意愿展开杀戮,仿佛是机器取代、控制人类结果,但是实际上是更高级别的军官下达指令控制机器,再以机器为中介实现对人类的控制,达成他与他所代理的小集团的终极目标。在新世纪福音战士的故事里,信息永远未被共享,人人处于博弈的游戏之中,信息的凝滞带来的灾难,如果用控制论的语言解释,便是熵增最大,内稳定机制消失,任何理想都无法实现,所有决策都是错误。面对我们生存的世界,与其担忧终有一天机器将控制人类,不如先寻找逃离操纵机器的少数个体的控制的机会,才能长治久安。


注释

[1]〔美〕诺伯特 • 维纳:《控制论:或关于在动物和机器中控制和通讯的科学》,郝季仁译,北京:科学出版社,1985 年,第viii页、118页[2]〔美〕诺伯特 • 维纳:《控制论》第viii页、31页[3]〔美〕诺伯特 • 维纳:《人有人的用处:控制论和社会》,第16-19页[4] 同上[5]〔美〕诺伯特 • 维纳:《控制论》,第118页[6] Slava Gerovitch, From Newspeak to Cyberspeak: A History of Soviet Cybernetics, (Cambridge, MA: MIT Press, 2002), pp. 4,9,253-257[7]〔美〕诺伯特 • 维纳:《控制论》,第121页[8]〔美〕诺伯特 • 维纳:《科学与社会》,载庞正元、李建华编:《系统论、控制论、信息论经典文献选编》,第400-401页。

参考文献1.Slava Gerovitch, From Newspeak to Cyberspeak: A History of Soviet Cybernetics, Cambridge, MA: MIT Press, 20022.诺伯特 • 维纳:《控制论:或关于在动物和机器中控制和通讯的科学》,郝季仁译,北京:科学出版社,1985 年3.诺伯特 • 维纳:《人有人的用处:控制论和社会》,陈步译,北京:商务印书馆,2014 年;4.诺伯特 • 维纳:《科学与社会》,载庞元正,李建华编:《系统论、控制论、信息论经典文献选编》,北京:求实出版社,1986 年5.彭永东:《控制论的发生与传播研究》,太原:山西出版传媒集团,2012 年6.吴畅畅,“维纳与控制论:在人文主义和冷战政治之间”,《东方学刊》2020年02期7.徐炎章:《维纳的科学思想方法》,杭州:浙江大学出版社,1998 年

56 views0 comments