fbpx
维基百科

意识上传

心灵上传(英語:Mind uploading),或称为意识上传全脑仿真(Whole brain emulation),是一种科幻技术,该技术可以把人类脑部的所有东西(包括意识精神思想记忆)上传至计算设备(如电脑量子计算机人工神经网络)上。该计算设备将能够模拟大脑的运作,如原先的大脑对外界输入作出相应的反应,并拥有一个具备意识心灵[1][2][3]

心灵上传有两种潜在的实现方法:复制-转移或神经元逐步替换。第一种方法通过对大脑特征的扫描,将其中贮存的信息复制或转移到电脑或其他计算设备中。这个模拟的心灵可以和一个模拟的三维躯体相连接,并被置入一个虚拟现实(virtual reality)或模拟现实(simulated reality)中;也可被置入一台连接着机器躯体或生物学躯体的电脑中。[4] 第二种方法则是伴随着逐渐破坏性的上传进行赛博格式的替换,直到原始的有机大脑不再存在并由模拟大脑的计算机程序控制身体。

心灵上传被一些未来学家超人类主义者视为一种重要的生命延续技术。心灵上传的另一个目标是为人类心灵做永久备份,以使我们能够在全球灾变或星际旅行中存活下来。一些未来学家认为全脑仿真是计算神经科学神经信息学的“逻辑终点”。[4]人工智能研究领域也将其视为一种实现强人工智能的途径。基于计算机的智能(如一个上传的心灵)的思维速度可能会比一个生物学人类快很多,因而某些未来学家认为一个由上传心灵构成的社会将达到技术奇点(technological singularity),即技术增长突然以更大的指数暴涨。[5]心灵上传是诸多科幻小说和电影的核心概念。

主流科学界、经费提供者和科学期刊目前对心灵上传的可行性持怀疑态度。与此有关的实质性努力包括主流科学界在动物脑测绘(brain mapping)与模拟、更快的超级计算机虚拟现实腦機介面连接组学(connectomics)、动态大脑的信息提取方面的研究。[6] 心灵上传的支持者指出,实现心灵上传的许多工具和思路已经存在或正在快速的发展中;然而他们也承认,到目前为止,许多想法还依然是猜测性的,但也拥有工程实现的可能。神经科学家兰道尔·库纳(Randal Koene)成立了一个非盈利组织“碳复制”(Carbon Copies)以促进关于心灵上传的研究。

概述

 
神经元解剖模型
 
一个简单的人工神经网络

人类大脑拥有约850亿个神经元,每个神经元通过轴突树突与其他神经元相连接。在神经元相连的地方(突触),信号通过神经递质这种化学物质的释放和吸收而传递。关于人类的心灵,神经科学界已经达成的共识是,人的心灵神经网络中信息传递过程的涌现性质

神经科学家指出,最关键的一点是,人主要的精神活动,如学习、记忆、意识,都是在大脑中发生的纯粹的电化学过程。例如,克里斯托夫·科赫朱利奥·托诺尼在《IEEE综览》中写道:

“意识是自然界的一部分。我们相信它仅建立在数学、逻辑和那些我们目前尚未理解透彻的物理学、化学和生物学中,而不是魔力或其他不属于我们世界的性质。” [7]

心灵上传的概念就建立在这种机械论的世界观上,否认对于人类生命和意识的生机论观点。

一些知名的计算机科学家和神经科学家预言,使用特定方式编程的计算机将拥有思想的能力甚至获得意识。这些科学家包括克里斯托夫·科赫朱利奥·托诺尼[7]侯世达[8]、杰夫·霍金斯(Jeff Hawkins)[8]马文·闵斯基[9]、兰道尔·库纳(Randal A. Koene)[10]、鲁道夫·里纳斯(Rodolfo Llinas)。[11]获得这种程度的人工智能将为心灵上传提供所需的基础。

尽管如此,心灵上传将与一般所指的人工智能有着显著的差别,因为上传的心灵拥有原来人脑的信息并将保留其个人的身份、经历的认知。

许多理论工作者给出了人脑的建模,并对部分或完整的模拟需要的计算能力作出了一些估计。[4]依据这些模型,一些人预计心灵上传在几十年内就能实现,只要摩尔定律能够继续有效。[12]

理论上的益处

永生

理论上,如果我们能将脑中的信息与进程从身体中分离出来,那么我们的心灵就不再受制于个体功能与寿命的局限性。更进一步,脑中的信息甚至能被部分或整个地复制或转移到其他基质(如数字存储设备或另一个大脑)中。这样,从纯粹机械论的视角看,我们减缓甚至完全逆转了这些信息必将消亡的命运。这一倡议最早见于华盛顿大学的生物老年医学专家乔治·M·马丁(George M. Martin)1971年的生物医学文献中。[13]

加速

如果摩尔定律继续有效,那么几十年内,一台超级计算机将能够以比生物学人脑更快的速度在神经元层面模拟大脑的运行。不过,由于目前尚缺乏对模拟所需精度的认识,准确的日期并不好估计。不同人对于何时能模拟一个完整的大脑作出了不同的预言,例如雷蒙德·库茨魏尔(Ray Kurzweil)预言为2045年;一些预言的时限甚至已经成为过去了。

考虑到人脑中的电化学信号的传递速度大致在150米每秒,而电脑中电信号以光速传播(三亿米每秒),这意味着理论上一个大型并行计算机组中模拟的大脑的思考速度可能能够比我们的人脑快上几百万倍。[14] 不仅如此,神经元在一秒内最多能产生200至1000个动作电位,而2013年的微处理器的时钟频率已达到5.5GHz,[15]这是前者的五百万倍。

然而,人脑中大致包含850亿个神经元以及连接他们的850万亿个突触[16]利用目前的半导体微处理器技术模拟他们中的任何一个都需要一台今天的超级计算机。如果利用分时系统,所需的计算机的规模能够被大大缩小,但同时运算速度也被降低了。理论上如果让一个计算单元处理一个皮层柱(cortical column)中的所有细胞,那么今天的超级计算机就能模拟出一个哺乳动物脑,不过是在比自然的脑更慢的速度上。[17]

研究进展

多个动物大脑已经被完整测绘,一些已能够被部分模拟。

模拟秀丽隐杆线虫的中枢神经系统

 
秀丽隐杆线虫的302个神经元,以及连接他们的5000个突触

秀丽隐杆线虫(C. elegans)的神经回路早在1985年即测绘完成,[18]并在1993年实现了部分的模拟仿真。[19]自2004年以来,数个模拟软件发展了起来,他们能够模拟秀丽隐杆线虫的完整神经系统、肌肉系统、甚至是其与物理环境的交互,一部分软件能够被自由下载。[20][21]即使如此,我们如今依然对这个简单有机体中这些神经元的连接如何产生惊人地复杂的行为缺乏理解。[22]

开放蠕虫计划(The OpenWorm Project)——这是一个致力于通过生物逆向工程在电脑中构建出虚拟秀丽隐杆线虫的开源计划,他们目前已经作出了能够重现蠕虫肌肉运动的软件。[23]

模拟果蝇的中枢神经系统

果蝇(Drosophila fruit fly)的神经系统也已经被仔细地研究,并在一定程度上得到了模拟。[24]果蝇的全部神经元的连接的完整测绘有望在近几年内完成。

模拟啮齿动物大脑

2007年,内华达大学的研究组在IBM的“蓝色基因”超级计算机上运行了一组被称为“可以与半个老鼠大脑的复杂度媲美”的人工神经网络。在这项模拟中,一秒的时长需要使用十秒的计算机运行时间。研究者称,他们见到了流过虚拟皮层的“与生物学一致的”神经冲动。不过,这项模拟缺乏真实老鼠大脑中的结构,目前研究者们正在进一步提高其神经元模型的精确性。[25]

蓝色大脑计划是2005年5月由IBM瑞士联邦理工学院发起的一个项目,其目标是从分子层面用电脑模拟出哺乳动物皮层柱(cortical column)。[26]这项计划在IBM蓝色基因超级计算机的基础上模拟神经元上突触的电活动以及内膜电流。这项计划的初级目标在2006年12月得到实现,[27]他们模拟了一个老鼠的新皮层柱(neocortical column)——它是新皮层(大脑中负责诸如意识这样的高级功能的部分)的最小功能单元,包含约10000个神经元(和108突触)。早在1995年至2005年间,亨利·马克拉姆(Henry Markram)已经完成了这样一个皮层柱中神经元类型和连接的测绘。在2007年11月,[28]该计划的第一阶段结束,公布了对这个新皮层柱的创建、验证和研究的过程。2012年9月,[29]蓝色大脑在PNAS上发布的论文给出了指导神经连接组形成的关键规律。[30]这项计划的最终目标是揭示人类认知和精神疾病的面貌,理解药物对神经网络的作用。

争议

哲学问题

“心灵上传”的概念需要的哲学基础是:意识蕴含在大脑的信息处理之中,他的实质是从神经元集群组成的具有高级模式的网络中产生的涌现现象,并且这样的现象能够在其他处理设备中实现。“心灵上传”也要求人类的心灵(包括自我意识、记忆等)仅仅是神经元中通过突触传递的电信号的展现,而不是一个二元论的或神秘主义的灵魂或精神。“心灵”在这里可以被定义为大脑中信息的(非物质的)状态,与一个数据库中的信息或是你电脑内存中正装载的软件是类似的概念。[31] “心灵上传”需要神经元网络的信息状态可以被获取、复制并装载到一个不同的硬件上。[32]这个概念的一个比喻是将一台电脑存储空间中的所有信息复制到另一台电脑中并继续运行,这另一台电脑可能拥有不同的硬件组织但能作出和第一台电脑一致的信息处理。

这个想法已有了很长的历史,在1775年托马斯·里德(Thomas Reid)写道:[33]

“我想要知道……当我的大脑失去了他原有的物质,如果几百年后这些同样的材料被精妙地结合成了一个具有智能的个体,这个个体会不会就是我;或者,当两到三个这样的个体仿照我的大脑被创造出来后,他们会不会都是我。”

许多超人类主义者奇点主义者寄希望于通过构建一个或多个对他们大脑的复制而摆脱他们的生物学躯体、实现永生。然而,哲学家和超人类主义者苏珊·施耐德认为这只会制造一个原先的心灵的复制品。[34]苏珊·施耐德也认同意识以计算为基础,但这不意味着我们能够上传并存活下去。“上传”很可能导致原先的人的死亡,仅仅是一个另外的观察者会认为原先的人依旧活着。其原因是我们无法想象一个人的意识能够离开我们的大脑并被传送到一定距离外——其他宏观世界的物体都不具有这样的行为。我们最多只是得到了一个原先心灵的计算复制品。[35][36]不过佛教超人类主义者詹姆士·休斯指出,这种顾虑并不重要:如果我们相信自我只是一个幻象,那么在上传之时就无须担心我们能否存活。[37]

心灵上传的另一个潜在的结局是“上传”只会构建出一个没有心灵的活动机器,而不是一个有意识心灵(见哲学僵尸)。[38][39]我们能仅仅通过其表现出高度智能的行为断言一个上传品具有意识吗?我们能确信一个坚称自己有意识的上传品具有意识吗?[40]有没有一个绝对的运算速度极限,超过它则意识不能存在?意识的神秘性与主观性不允许我们对这些问题有一个确定的答案。[41]因为意识固有的主观性(见唯我论),相当多的科学家,包括雷蒙德·库茨魏尔,相信一个独立实体的意识是本质上不可知的。与此相反,也有一些科学家,如罗杰·彭罗斯(Roger Penrose),认为意识是一种依赖于基质的量子现象(见量子心灵)。[42][43][44]

为化解是否将上传产物视为有意识的难题,安德斯·桑德伯格(Anders Sandberg)提出了一个构想:[45]

最大认同原则(Principle of assuming the most):我们认同一个模拟系统将与原系统拥有同样的精神特质并等同视之。

利用外部皮层(exocortex)是另一种可能的心灵上传的方式,据此一个人的心灵逐步地、分部地从一个衰老的生物学大脑转移到外部皮层上。[3]

伦理与法律问题

开发这样的模拟技术提出了与动物福利人工意识相关的伦理问题。[45]发展全脑仿真所需的神经科学领域的研究需要做动物实验,从无脊椎动物、到小型哺乳动物、最后到人类。有时,实验仅仅需要对动物扫描他们的大脑,但有时活体行为研究和活体测量也是有必要的,这可能给动物带来痛楚。[45]

不仅如此,在一些对于意识的理解中,模拟的动物也可能承受痛苦。[45]班克罗夫特(Bancroft)指出:[46]

如果一个对大脑足够精细的计算模拟可以行为上等同于一个有机的大脑,其后果是我们必须考虑扩大伦理的范畴,保护这些模拟动物以免受痛苦的折磨。

发展对于这些虚拟心灵的麻醉术是一个可能的避免痛苦的方法。然而,一些实验可能要求使用一个全体功能都在运作的模拟动物。模拟动物们也可能为我们的偶然失误或了解不足而承受痛苦。[45]部分大脑的模拟也同样面临着道德上的质疑,与此类似的还包括仿照生物学大脑而构建的仿生模型。[46]

仿真大脑可以被病毒或恶意软件轻易删除,因为这不再需要对硬件的直接破坏。这会使得谋杀更加容易,攻击者可能以此而将空出的计算能力据为己有。[47]

仿真品的法律地位有面临许多问题。[48]他们应被给予生物学人类的权力吗?如果一个人制作了他自己的仿真复制品再死去,这个仿真品能够继承他的财产和官职吗?仿真品能够要求终结他那已经重病或昏迷的生物学个体吗?作为母本的生物学个体是否应当像对待青春期的孩子一样对待其仿真品,即对其保留部分的控制权?罪犯的仿真品可以被执行死刑吗,或是通过强制的数据修改使其“重生”?一个上传者拥有婚姻权与监护权吗?[48]

政治与经济问题

可以设想,一个模拟世界中唯一有限的物理资源就是运算能力,也就是一个模拟个体的复杂度与运行速度。模拟个体构成的社会中那些有财产和权力者可能比其他人在一定的真实时长中经历更多的主观时间,作出更复杂的行为,甚至运行更多自己的备份,从而进一步提供更多的服务并变得更加富有。其他人则可能在计算资源的匮乏中艰难维生并展现出更慢的行为。最终,一个最有权势的个体将可能尝试消灭所有其他人以争夺所有的计算资源。[來源請求]

对模拟世界的向往也可能会滋生战争、不平等、权力更迭,人们竞相争取第一个造出模拟世界,然后在真实世界与模拟世界中采取先发制人的攻击。模拟世界中也可能蔓延着种族主义、排外、宗教偏见造成的苦难。[47]

如果一个模拟社会的运行速度远超出人类社会,面临问题时现实人类可能没有足够的时间来作出明智的决定或有效的协商,现实人类可能采取暴力手段对付实力迅速增长的模拟社会。[47]

流行文化

英剧《黑镜》的第三季第四集《圣朱尼佩洛》:看上去剧中的两位女主角Yorkie和Kelly是在名为“圣朱尼佩洛”的小镇中相爱,实际上她们的意识位于云端服务器中。

参见

参考文献

  1. ^ (PDF). [2014-10-16]. (原始内容 (PDF)存档于2019-04-30). 
  2. ^ http://www.worldscientific.com/doi/pdf/10.1142/S1793843012020015
  3. ^ 3.0 3.1 存档副本 (PDF). [2014-10-16]. (原始内容 (PDF)于2017-10-28). 
  4. ^ 4.0 4.1 4.2 Sandberg, Anders; Boström, Nick. (PDF). Technical Report #2008‐3. Future of Humanity Institute, Oxford University. 2008 [5 April 2009]. (原始内容 (PDF)存档于2020-03-25). The basic idea is to take a particular brain, scan its structure in detail, and construct a software model of it that is so faithful to the original that, when run on appropriate hardware, it will behave in essentially the same way as the original brain. 
  5. ^ Goertzel, Ben. Human-level artificial general intelligence and the possibility of a technological singularity: a reaction to Ray Kurzweil's The Singularity Is Near, and McDermott's critique of Kurzweil. Artificial Intelligence. December 2007, 171 (18, Special Review Issue): 1161–1173 [2014-10-16]. doi:10.1016/j.artint.2007.10.011. (原始内容于2021-01-30). 
  6. ^ Kay KN, Naselaris T, Prenger RJ, Gallant JL. Identifying natural images from human brain activity. Nature. March 2008, 452 (7185): 352–5. Bibcode:2008Natur.452..352K. PMC 3556484 . PMID 18322462. doi:10.1038/nature06713. 
  7. ^ 7.0 7.1 Koch, Christof; Tononi, Giulio. Can machines be conscious?. IEEE Spectrum. 2008, 45 (6): 55. doi:10.1109/MSPEC.2008.4531463. 
  8. ^ 8.0 8.1 . [2014-10-16]. (原始内容存档于2009-05-01). 
  9. ^ Marvin Minsky, Conscious Machines, in 'Machinery of Consciousness', Proceedings, National Research Council of Canada, 75th Anniversary Symposium on Science in Society, June 1991.
  10. ^ . [2020-10-10]. (原始内容存档于2020-09-28). 
  11. ^ Llinas, R. I of the Vortex: From Neurons to Self. Cambridge: MIT Press. 2001: 261–262. ISBN 0-262-62163-0. 
  12. ^ Ray Kurzweil,Live Forever–Uploading The Human Brain...Closer Than You Think 互联网档案馆的,存档日期2008-01-28., Psychology Today, February 2000.
  13. ^ Martin GM. Brief proposal on immortality: an interim solution. Perspectives in Biology and Medicine. 1971, 14 (2): 339. PMID 5546258. 
  14. ^ (PDF). [2014-10-16]. (原始内容 (PDF)存档于2014-10-26). 
  15. ^ IBM zEC12: The Third-Generation High-Frequency Mainframe Microprocessor, doi:10.1109/MM.2013.9 
  16. ^ Frederico A. C. Azevedo, Ludmila R. B. Carvalho, Lea T. Grinberg, José Marcelo Farfel, Renata E. L. Ferretti, Renata E. P. Leite, Wilson Jacob Filho, Roberto Lent, Suzana Herculano-Houzel. Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled-up primate brain. The Journal of Comparative Neurology. 2009-04-10, 513 (5): 532–541 [2019-02-12]. ISSN 1096-9861. PMID 19226510. doi:10.1002/cne.21974. (原始内容于2019-01-18). 
  17. ^ Johansson C and Lansner A., Towards cortex sized artificial neural systems. Neural Networks, 20: 48‐61, 2007
  18. ^ Chalfie, M., Sulston, J. E., White, J. G., Southgate, E., Thomson, J. N., and Brenner, S. (1985). The neural circuit for touch sensitivity in Caenorhabditis elegans (页面存档备份,存于互联网档案馆)" The Journal of Neuroscience 5(4) 956–96.
  19. ^ Niebur, E. and Erdos, P. (1993). Theory of the locomotion of nematodes: Control of the somatic motor neurons by interneurons (页面存档备份,存于互联网档案馆). Mathematical Biosciences, 118(1) 51–82.
  20. ^ Bryden, J. and Cohen, N. (2004). A simulation model of the locomotion controllers for the nematodode Caenorhabditis elegans. In Schaal, S., Ijspeert, A., Billard, A., Vijayakumar, S., Hallam, J., and Meyer, J.-A., editors, From Animals to Animats 8: Proceedings of the eighth international conference on the Simulation of Adaptive Behaviour, pages 183–192.
  21. ^ Mark Wakabayashi 互联网档案馆的,存档日期2013-05-12., with links to MuCoW simulation software, a demo video and the doctoral thesis COMPUTATIONAL PLAUSIBILITY OF STRETCH RECEPTORS AS THE BASIS FOR MOTOR CONTROL IN C. elegans, 2006.
  22. ^ 存档副本. [2014-10-16]. (原始内容于2021-01-30). 
  23. ^ 存档副本. [2014-10-16]. (原始内容于2014-10-20). 
  24. ^ Arena, P.; Patane, L.; Termini, P.S.; An insect brain computational model inspired by Drosophila melanogaster: Simulation results (页面存档备份,存于互联网档案馆), The 2010 International Joint Conference on Neural Networks (IJCNN).
  25. ^ Mouse brain simulated on computer. BBC News. 27 April 2007 [2014-10-16]. (原始内容于2017-08-25). 
  26. ^ Herper, Matthew. IBM Aims To Simulate A Brain. Forbes. June 6, 2005 [2006-05-19]. (原始内容于2006-05-18). 
  27. ^ Project Milestones. Blue Brain. [2008-08-11]. 
  28. ^ . Blue Brain. [2008-08-11]. (原始内容存档于2008-09-19). 
  29. ^ THE BLUE BRAIN PROJECT Timeline. Blue Brain. [2014-10-17]. (原始内容于2014-10-25). 
  30. ^ The Emergent Connectome. The Blue Brain Project accurately predicts connections between neurons.. Blue Brain. [2012-09-18]. (原始内容于2012-09-21). 
  31. ^ 存档副本. [2014-10-16]. (原始内容于2014-09-06). 
  32. ^ 存档副本 (PDF). [2014-10-16]. (原始内容 (PDF)于2014-08-11). 
  33. ^ . [2010-04-18]. (原始内容存档于2014-04-13). 
  34. ^ Schneider, Susan. The Philosophy of 'Her'.. The New York Times. March 2, 2014 [May 7, 2014]. (原始内容于2014-10-25). 
  35. ^ Schneider, Susan. The Philosophy of 'Her'. The New York Times. March 2, 2014 [May 7, 2014]. (原始内容于2014-10-25). 
  36. ^ Wiley, Keith. Response to Susan Schneider's "Philosophy of 'Her". H+Magazine. March 20, 2014 [7 May 2014]. (原始内容于2014-10-26). 
  37. ^ Hughes, James. Personal Identity and Uploading. Wiley. 2013 [2014-10-16]. (原始内容于2013-10-11). 
  38. ^ 存档副本. [2014-10-16]. (原始内容于2015-03-01). 
  39. ^ 存档副本. [2014-10-16]. (原始内容于2014-12-21). 
  40. ^ 存档副本 (PDF). [2014-10-16]. (原始内容 (PDF)于2014-01-03). 
  41. ^ 存档副本 (PDF). [2014-10-16]. (原始内容 (PDF)于2013-10-19). 
  42. ^ 存档副本. [2014-10-16]. (原始内容于2014-06-30). 
  43. ^ (PDF). [2014-01-03]. (原始内容 (PDF)存档于2013-08-27). 
  44. ^ (PDF). [2014-01-03]. (原始内容 (PDF)存档于2012-09-06). 
  45. ^ 45.0 45.1 45.2 45.3 45.4 Anders Sandberg. Ethics of brain emulations. Journal of Experimental & Theoretical Artificial Intelligence. 14 Apr 2014, 26 (3): 439–457 [29 June 2014]. doi:10.1080/0952813X.2014.895113. (原始内容于2017-12-02). 
  46. ^ 46.0 46.1 Tyler D. Bancroft. Ethical Aspects of Computational Neuroscience. Neuroethics. Aug 2013, 6 (2): 415–418. ISSN 1874-5504. doi:10.1007/s12152-012-9163-7. 
  47. ^ 47.0 47.1 47.2 Peter Eckersley; Anders Sandberg. Is Brain Emulation Dangerous?. Journal of Artificial General Intelligence. Dec 2013, 4 (3): 170–194 [2014-10-16]. ISSN 1946-0163. doi:10.2478/jagi-2013-0011. (原始内容于2014-11-11). 
  48. ^ 48.0 48.1 Kamil Muzyka. The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities. Journal of Artificial General Intelligence. Dec 2013, 4 (3): 164–169 [2014-10-16]. ISSN 1946-0163. doi:10.2478/jagi-2013-0010. (原始内容于2014-11-11). 

外部链接

  • MindUploading.org (页面存档备份,存于互联网档案馆
  • Adee, Sally. . IEEE Spectrum. June 2008, 45 (6): 51–55 [2014-10-16]. doi:10.1109/MSPEC.2008.4531462. (原始内容存档于2014-02-03). 
  • Reverse-engineer the brain (页面存档备份,存于互联网档案馆) from National Academy of Engineering
  • by Ben Best; theories about the problem of personal continuity
  • Joe Strout's Mind Uploading Home Page (页面存档备份,存于互联网档案馆
  • "The Day You Discard Your Body" (页面存档备份,存于互联网档案馆) by Marshall Brain
  • Winter of our Consciousness (页面存档备份,存于互联网档案馆), article in The Future Fire 3
  • by Paul Hughes
  • by Paul Hughes
  • Links on uploading (页面存档备份,存于互联网档案馆) from Anders Sandberg
  • Transhumanist writings on uploading (页面存档备份,存于互联网档案馆) from the Foresight Institute
  • from IEEE Spectrum
  • Whole Brain Emulation: A Roadmap (页面存档备份,存于互联网档案馆) by Anders Sandberg and Nick Bostrom, from the Future of Humanity Institute

意识上传, 心灵上传, 英語, mind, uploading, 或称为, 全脑仿真, whole, brain, emulation, 是一种科幻技术, 该技术可以把人类脑部的所有东西, 包括意识, 精神, 思想, 记忆, 上传至计算设备, 如电脑, 量子计算机, 人工神经网络, 该计算设备将能够模拟大脑的运作, 如原先的大脑对外界输入作出相应的反应, 并拥有一个具备意识的心灵, 心灵上传有两种潜在的实现方法, 复制, 转移或神经元逐步替换, 第一种方法通过对大脑特征的扫描, 将其中贮存的信息复制或转移到电脑或其. 心灵上传 英語 Mind uploading 或称为意识上传 全脑仿真 Whole brain emulation 是一种科幻技术 该技术可以把人类脑部的所有东西 包括意识 精神 思想 记忆 上传至计算设备 如电脑 量子计算机 人工神经网络 上 该计算设备将能够模拟大脑的运作 如原先的大脑对外界输入作出相应的反应 并拥有一个具备意识的心灵 1 2 3 心灵上传有两种潜在的实现方法 复制 转移或神经元逐步替换 第一种方法通过对大脑特征的扫描 将其中贮存的信息复制或转移到电脑或其他计算设备中 这个模拟的心灵可以和一个模拟的三维躯体相连接 并被置入一个虚拟现实 virtual reality 或模拟现实 simulated reality 中 也可被置入一台连接着机器躯体或生物学躯体的电脑中 4 第二种方法则是伴随着逐渐破坏性的上传进行赛博格式的替换 直到原始的有机大脑不再存在并由模拟大脑的计算机程序控制身体 心灵上传被一些未来学家和超人类主义者视为一种重要的生命延续技术 心灵上传的另一个目标是为人类心灵做永久备份 以使我们能够在全球灾变或星际旅行中存活下来 一些未来学家认为全脑仿真是计算神经科学和神经信息学的 逻辑终点 4 人工智能研究领域也将其视为一种实现强人工智能的途径 基于计算机的智能 如一个上传的心灵 的思维速度可能会比一个生物学人类快很多 因而某些未来学家认为一个由上传心灵构成的社会将达到技术奇点 technological singularity 即技术增长突然以更大的指数暴涨 5 心灵上传是诸多科幻小说和电影的核心概念 主流科学界 经费提供者和科学期刊目前对心灵上传的可行性持怀疑态度 与此有关的实质性努力包括主流科学界在动物脑测绘 brain mapping 与模拟 更快的超级计算机 虚拟现实 腦機介面 连接组学 connectomics 动态大脑的信息提取方面的研究 6 心灵上传的支持者指出 实现心灵上传的许多工具和思路已经存在或正在快速的发展中 然而他们也承认 到目前为止 许多想法还依然是猜测性的 但也拥有工程实现的可能 神经科学家兰道尔 库纳 Randal Koene 成立了一个非盈利组织 碳复制 Carbon Copies 以促进关于心灵上传的研究 目录 1 概述 2 理论上的益处 2 1 永生 2 2 加速 3 研究进展 3 1 模拟秀丽隐杆线虫的中枢神经系统 3 2 模拟果蝇的中枢神经系统 3 3 模拟啮齿动物大脑 4 争议 4 1 哲学问题 4 2 伦理与法律问题 4 3 政治与经济问题 5 流行文化 6 参见 7 参考文献 8 外部链接概述 编辑 神经元解剖模型 一个简单的人工神经网络 人类大脑拥有约850亿个神经元 每个神经元通过轴突与树突与其他神经元相连接 在神经元相连的地方 突触 信号通过神经递质这种化学物质的释放和吸收而传递 关于人类的心灵 神经科学界已经达成的共识是 人的心灵是神经网络中信息传递过程的涌现性质 神经科学家指出 最关键的一点是 人主要的精神活动 如学习 记忆 意识 都是在大脑中发生的纯粹的电化学过程 例如 克里斯托夫 科赫和朱利奥 托诺尼在 IEEE综览 中写道 意识是自然界的一部分 我们相信它仅建立在数学 逻辑和那些我们目前尚未理解透彻的物理学 化学和生物学中 而不是魔力或其他不属于我们世界的性质 7 心灵上传的概念就建立在这种机械论的世界观上 否认对于人类生命和意识的生机论观点 一些知名的计算机科学家和神经科学家预言 使用特定方式编程的计算机将拥有思想的能力甚至获得意识 这些科学家包括克里斯托夫 科赫 朱利奥 托诺尼 7 侯世达 8 杰夫 霍金斯 Jeff Hawkins 8 马文 闵斯基 9 兰道尔 库纳 Randal A Koene 10 鲁道夫 里纳斯 Rodolfo Llinas 11 获得这种程度的人工智能将为心灵上传提供所需的基础 尽管如此 心灵上传将与一般所指的人工智能有着显著的差别 因为上传的心灵拥有原来人脑的信息并将保留其个人的身份 经历的认知 许多理论工作者给出了人脑的建模 并对部分或完整的模拟需要的计算能力作出了一些估计 4 依据这些模型 一些人预计心灵上传在几十年内就能实现 只要摩尔定律能够继续有效 12 理论上的益处 编辑永生 编辑 理论上 如果我们能将脑中的信息与进程从身体中分离出来 那么我们的心灵就不再受制于个体功能与寿命的局限性 更进一步 脑中的信息甚至能被部分或整个地复制或转移到其他基质 如数字存储设备或另一个大脑 中 这样 从纯粹机械论的视角看 我们减缓甚至完全逆转了这些信息必将消亡的命运 这一倡议最早见于华盛顿大学的生物老年医学专家乔治 M 马丁 George M Martin 1971年的生物医学文献中 13 加速 编辑 如果摩尔定律继续有效 那么几十年内 一台超级计算机将能够以比生物学人脑更快的速度在神经元层面模拟大脑的运行 不过 由于目前尚缺乏对模拟所需精度的认识 准确的日期并不好估计 不同人对于何时能模拟一个完整的大脑作出了不同的预言 例如雷蒙德 库茨魏尔 Ray Kurzweil 预言为2045年 一些预言的时限甚至已经成为过去了 考虑到人脑中的电化学信号的传递速度大致在150米每秒 而电脑中电信号以光速传播 三亿米每秒 这意味着理论上一个大型并行计算机组中模拟的大脑的思考速度可能能够比我们的人脑快上几百万倍 14 不仅如此 神经元在一秒内最多能产生200至1000个动作电位 而2013年的微处理器的时钟频率已达到5 5GHz 15 这是前者的五百万倍 然而 人脑中大致包含850亿个神经元以及连接他们的850万亿个突触 16 利用目前的半导体微处理器技术模拟他们中的任何一个都需要一台今天的超级计算机 如果利用分时系统 所需的计算机的规模能够被大大缩小 但同时运算速度也被降低了 理论上如果让一个计算单元处理一个皮层柱 cortical column 中的所有细胞 那么今天的超级计算机就能模拟出一个哺乳动物脑 不过是在比自然的脑更慢的速度上 17 研究进展 编辑多个动物大脑已经被完整测绘 一些已能够被部分模拟 模拟秀丽隐杆线虫的中枢神经系统 编辑 秀丽隐杆线虫的302个神经元 以及连接他们的5000个突触 秀丽隐杆线虫 C elegans 的神经回路早在1985年即测绘完成 18 并在1993年实现了部分的模拟仿真 19 自2004年以来 数个模拟软件发展了起来 他们能够模拟秀丽隐杆线虫的完整神经系统 肌肉系统 甚至是其与物理环境的交互 一部分软件能够被自由下载 20 21 即使如此 我们如今依然对这个简单有机体中这些神经元的连接如何产生惊人地复杂的行为缺乏理解 22 开放蠕虫计划 The OpenWorm Project 这是一个致力于通过生物逆向工程在电脑中构建出虚拟秀丽隐杆线虫的开源计划 他们目前已经作出了能够重现蠕虫肌肉运动的软件 23 模拟果蝇的中枢神经系统 编辑 果蝇 Drosophila fruit fly 的神经系统也已经被仔细地研究 并在一定程度上得到了模拟 24 果蝇的全部神经元的连接的完整测绘有望在近几年内完成 模拟啮齿动物大脑 编辑 2007年 内华达大学的研究组在IBM的 蓝色基因 超级计算机上运行了一组被称为 可以与半个老鼠大脑的复杂度媲美 的人工神经网络 在这项模拟中 一秒的时长需要使用十秒的计算机运行时间 研究者称 他们见到了流过虚拟皮层的 与生物学一致的 神经冲动 不过 这项模拟缺乏真实老鼠大脑中的结构 目前研究者们正在进一步提高其神经元模型的精确性 25 蓝色大脑计划是2005年5月由IBM和瑞士联邦理工学院发起的一个项目 其目标是从分子层面用电脑模拟出哺乳动物皮层柱 cortical column 26 这项计划在IBM的蓝色基因超级计算机的基础上模拟神经元上突触的电活动以及内膜电流 这项计划的初级目标在2006年12月得到实现 27 他们模拟了一个老鼠的新皮层柱 neocortical column 它是新皮层 大脑中负责诸如意识这样的高级功能的部分 的最小功能单元 包含约10000个神经元 和108个突触 早在1995年至2005年间 亨利 马克拉姆 Henry Markram 已经完成了这样一个皮层柱中神经元类型和连接的测绘 在2007年11月 28 该计划的第一阶段结束 公布了对这个新皮层柱的创建 验证和研究的过程 2012年9月 29 蓝色大脑在PNAS上发布的论文给出了指导神经连接组形成的关键规律 30 这项计划的最终目标是揭示人类认知和精神疾病的面貌 理解药物对神经网络的作用 争议 编辑哲学问题 编辑 心灵上传 的概念需要的哲学基础是 意识蕴含在大脑的信息处理之中 他的实质是从神经元集群组成的具有高级模式的网络中产生的涌现现象 并且这样的现象能够在其他处理设备中实现 心灵上传 也要求人类的心灵 包括自我意识 记忆等 仅仅是神经元中通过突触传递的电信号的展现 而不是一个二元论的或神秘主义的灵魂或精神 心灵 在这里可以被定义为大脑中信息的 非物质的 状态 与一个数据库中的信息或是你电脑内存中正装载的软件是类似的概念 31 心灵上传 需要神经元网络的信息状态可以被获取 复制并装载到一个不同的硬件上 32 这个概念的一个比喻是将一台电脑存储空间中的所有信息复制到另一台电脑中并继续运行 这另一台电脑可能拥有不同的硬件组织但能作出和第一台电脑一致的信息处理 这个想法已有了很长的历史 在1775年托马斯 里德 Thomas Reid 写道 33 我想要知道 当我的大脑失去了他原有的物质 如果几百年后这些同样的材料被精妙地结合成了一个具有智能的个体 这个个体会不会就是我 或者 当两到三个这样的个体仿照我的大脑被创造出来后 他们会不会都是我 许多超人类主义者和奇点主义者寄希望于通过构建一个或多个对他们大脑的复制而摆脱他们的生物学躯体 实现永生 然而 哲学家和超人类主义者苏珊 施耐德认为这只会制造一个原先的心灵的复制品 34 苏珊 施耐德也认同意识以计算为基础 但这不意味着我们能够上传并存活下去 上传 很可能导致原先的人的死亡 仅仅是一个另外的观察者会认为原先的人依旧活着 其原因是我们无法想象一个人的意识能够离开我们的大脑并被传送到一定距离外 其他宏观世界的物体都不具有这样的行为 我们最多只是得到了一个原先心灵的计算复制品 35 36 不过佛教超人类主义者詹姆士 休斯指出 这种顾虑并不重要 如果我们相信自我只是一个幻象 那么在上传之时就无须担心我们能否存活 37 心灵上传的另一个潜在的结局是 上传 只会构建出一个没有心灵的活动机器 而不是一个有意识的心灵 见哲学僵尸 38 39 我们能仅仅通过其表现出高度智能的行为断言一个上传品具有意识吗 我们能确信一个坚称自己有意识的上传品具有意识吗 40 有没有一个绝对的运算速度极限 超过它则意识不能存在 意识的神秘性与主观性不允许我们对这些问题有一个确定的答案 41 因为意识固有的主观性 见唯我论 相当多的科学家 包括雷蒙德 库茨魏尔 相信一个独立实体的意识是本质上不可知的 与此相反 也有一些科学家 如罗杰 彭罗斯 Roger Penrose 认为意识是一种依赖于基质的量子现象 见量子心灵 42 43 44 为化解是否将上传产物视为有意识的难题 安德斯 桑德伯格 Anders Sandberg 提出了一个构想 45 最大认同原则 Principle of assuming the most 我们认同一个模拟系统将与原系统拥有同样的精神特质并等同视之 利用外部皮层 exocortex 是另一种可能的心灵上传的方式 据此一个人的心灵逐步地 分部地从一个衰老的生物学大脑转移到外部皮层上 3 伦理与法律问题 编辑 开发这样的模拟技术提出了与动物福利 人工意识相关的伦理问题 45 发展全脑仿真所需的神经科学领域的研究需要做动物实验 从无脊椎动物 到小型哺乳动物 最后到人类 有时 实验仅仅需要对动物扫描他们的大脑 但有时活体行为研究和活体测量也是有必要的 这可能给动物带来痛楚 45 不仅如此 在一些对于意识的理解中 模拟的动物也可能承受痛苦 45 班克罗夫特 Bancroft 指出 46 如果一个对大脑足够精细的计算模拟可以行为上等同于一个有机的大脑 其后果是我们必须考虑扩大伦理的范畴 保护这些模拟动物以免受痛苦的折磨 发展对于这些虚拟心灵的麻醉术是一个可能的避免痛苦的方法 然而 一些实验可能要求使用一个全体功能都在运作的模拟动物 模拟动物们也可能为我们的偶然失误或了解不足而承受痛苦 45 部分大脑的模拟也同样面临着道德上的质疑 与此类似的还包括仿照生物学大脑而构建的仿生模型 46 仿真大脑可以被病毒或恶意软件轻易删除 因为这不再需要对硬件的直接破坏 这会使得谋杀更加容易 攻击者可能以此而将空出的计算能力据为己有 47 仿真品的法律地位有面临许多问题 48 他们应被给予生物学人类的权力吗 如果一个人制作了他自己的仿真复制品再死去 这个仿真品能够继承他的财产和官职吗 仿真品能够要求终结他那已经重病或昏迷的生物学个体吗 作为母本的生物学个体是否应当像对待青春期的孩子一样对待其仿真品 即对其保留部分的控制权 罪犯的仿真品可以被执行死刑吗 或是通过强制的数据修改使其 重生 一个上传者拥有婚姻权与监护权吗 48 政治与经济问题 编辑 可以设想 一个模拟世界中唯一有限的物理资源就是运算能力 也就是一个模拟个体的复杂度与运行速度 模拟个体构成的社会中那些有财产和权力者可能比其他人在一定的真实时长中经历更多的主观时间 作出更复杂的行为 甚至运行更多自己的备份 从而进一步提供更多的服务并变得更加富有 其他人则可能在计算资源的匮乏中艰难维生并展现出更慢的行为 最终 一个最有权势的个体将可能尝试消灭所有其他人以争夺所有的计算资源 來源請求 对模拟世界的向往也可能会滋生战争 不平等 权力更迭 人们竞相争取第一个造出模拟世界 然后在真实世界与模拟世界中采取先发制人的攻击 模拟世界中也可能蔓延着种族主义 排外 宗教偏见造成的苦难 47 如果一个模拟社会的运行速度远超出人类社会 面临问题时现实人类可能没有足够的时间来作出明智的决定或有效的协商 现实人类可能采取暴力手段对付实力迅速增长的模拟社会 47 流行文化 编辑更多信息 en Mind uploading in fiction 英剧 黑镜 的第三季第四集 圣朱尼佩洛 看上去剧中的两位女主角Yorkie和Kelly是在名为 圣朱尼佩洛 的小镇中相爱 实际上她们的意识位于云端服务器中 参见 编辑心灵哲学 赛博格 超人类主义 生命延续 新兴技术 缸中之脑 忒修斯之船 蓝色大脑 开放蠕虫 脑部移植 身体交换 脑机接口 人工智能 活体脑细胞参考文献 编辑 存档副本 PDF 2014 10 16 原始内容 PDF 存档于2019 04 30 http www worldscientific com doi pdf 10 1142 S1793843012020015 3 0 3 1 存档副本 PDF 2014 10 16 原始内容存档 PDF 于2017 10 28 4 0 4 1 4 2 Sandberg Anders Bostrom Nick Whole Brain Emulation A Roadmap PDF Technical Report 2008 3 Future of Humanity Institute Oxford University 2008 5 April 2009 原始内容 PDF 存档于2020 03 25 The basic idea is to take a particular brain scan its structure in detail and construct a software model of it that is so faithful to the original that when run on appropriate hardware it will behave in essentially the same way as the original brain Goertzel Ben Human level artificial general intelligence and the possibility of a technological singularity a reaction to Ray Kurzweil s The Singularity Is Near and McDermott s critique of Kurzweil Artificial Intelligence December 2007 171 18 Special Review Issue 1161 1173 2014 10 16 doi 10 1016 j artint 2007 10 011 原始内容存档于2021 01 30 Kay KN Naselaris T Prenger RJ Gallant JL Identifying natural images from human brain activity Nature March 2008 452 7185 352 5 Bibcode 2008Natur 452 352K PMC 3556484 PMID 18322462 doi 10 1038 nature06713 7 0 7 1 Koch Christof Tononi Giulio Can machines be conscious IEEE Spectrum 2008 45 6 55 doi 10 1109 MSPEC 2008 4531463 8 0 8 1 IEEE Spectrum Special Report on the Singularity 2014 10 16 原始内容存档于2009 05 01 Marvin Minsky Conscious Machines in Machinery of Consciousness Proceedings National Research Council of Canada 75th Anniversary Symposium on Science in Society June 1991 MindUploading org 2020 10 10 原始内容存档于2020 09 28 Llinas R I of the Vortex From Neurons to Self Cambridge MIT Press 2001 261 262 ISBN 0 262 62163 0 Ray Kurzweil Live Forever Uploading The Human Brain Closer Than You Think 互联网档案馆的存檔 存档日期2008 01 28 Psychology Today February 2000 Martin GM Brief proposal on immortality an interim solution Perspectives in Biology and Medicine 1971 14 2 339 PMID 5546258 存档副本 PDF 2014 10 16 原始内容 PDF 存档于2014 10 26 IBM zEC12 The Third Generation High Frequency Mainframe Microprocessor doi 10 1109 MM 2013 9 Frederico A C Azevedo Ludmila R B Carvalho Lea T Grinberg Jose Marcelo Farfel Renata E L Ferretti Renata E P Leite Wilson Jacob Filho Roberto Lent Suzana Herculano Houzel Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled up primate brain The Journal of Comparative Neurology 2009 04 10 513 5 532 541 2019 02 12 ISSN 1096 9861 PMID 19226510 doi 10 1002 cne 21974 原始内容存档于2019 01 18 Johansson C and Lansner A Towards cortex sized artificial neural systems Neural Networks 20 48 61 2007 Chalfie M Sulston J E White J G Southgate E Thomson J N and Brenner S 1985 The neural circuit for touch sensitivity in Caenorhabditis elegans 页面存档备份 存于互联网档案馆 The Journal of Neuroscience 5 4 956 96 Niebur E and Erdos P 1993 Theory of the locomotion of nematodes Control of the somatic motor neurons by interneurons 页面存档备份 存于互联网档案馆 Mathematical Biosciences 118 1 51 82 Bryden J and Cohen N 2004 A simulation model of the locomotion controllers for the nematodode Caenorhabditis elegans In Schaal S Ijspeert A Billard A Vijayakumar S Hallam J and Meyer J A editors From Animals to Animats 8 Proceedings of the eighth international conference on the Simulation of Adaptive Behaviour pages 183 192 Mark Wakabayashi 互联网档案馆的存檔 存档日期2013 05 12 with links to MuCoW simulation software a demo video and the doctoral thesis COMPUTATIONAL PLAUSIBILITY OF STRETCH RECEPTORS AS THE BASIS FOR MOTOR CONTROL IN C elegans 2006 存档副本 2014 10 16 原始内容存档于2021 01 30 存档副本 2014 10 16 原始内容存档于2014 10 20 Arena P Patane L Termini P S An insect brain computational model inspired by Drosophila melanogaster Simulation results 页面存档备份 存于互联网档案馆 The 2010 International Joint Conference on Neural Networks IJCNN Mouse brain simulated on computer BBC News 27 April 2007 2014 10 16 原始内容存档于2017 08 25 Herper Matthew IBM Aims To Simulate A Brain Forbes June 6 2005 2006 05 19 原始内容存档于2006 05 18 Project Milestones Blue Brain 2008 08 11 News and Media information Blue Brain 2008 08 11 原始内容存档于2008 09 19 THE BLUE BRAIN PROJECT Timeline Blue Brain 2014 10 17 原始内容存档于2014 10 25 The Emergent Connectome The Blue Brain Project accurately predicts connections between neurons Blue Brain 2012 09 18 原始内容存档于2012 09 21 存档副本 2014 10 16 原始内容存档于2014 09 06 存档副本 PDF 2014 10 16 原始内容存档 PDF 于2014 08 11 存档副本 2010 04 18 原始内容存档于2014 04 13 Schneider Susan The Philosophy of Her The New York Times March 2 2014 May 7 2014 原始内容存档于2014 10 25 Schneider Susan The Philosophy of Her The New York Times March 2 2014 May 7 2014 原始内容存档于2014 10 25 Wiley Keith Response to Susan Schneider s Philosophy of Her H Magazine March 20 2014 7 May 2014 原始内容存档于2014 10 26 Hughes James Personal Identity and Uploading Wiley 2013 2014 10 16 原始内容存档于2013 10 11 存档副本 2014 10 16 原始内容存档于2015 03 01 存档副本 2014 10 16 原始内容存档于2014 12 21 存档副本 PDF 2014 10 16 原始内容存档 PDF 于2014 01 03 存档副本 PDF 2014 10 16 原始内容存档 PDF 于2013 10 19 存档副本 2014 10 16 原始内容存档于2014 06 30 存档副本 PDF 2014 01 03 原始内容 PDF 存档于2013 08 27 存档副本 PDF 2014 01 03 原始内容 PDF 存档于2012 09 06 45 0 45 1 45 2 45 3 45 4 Anders Sandberg Ethics of brain emulations Journal of Experimental amp Theoretical Artificial Intelligence 14 Apr 2014 26 3 439 457 29 June 2014 doi 10 1080 0952813X 2014 895113 原始内容存档于2017 12 02 46 0 46 1 Tyler D Bancroft Ethical Aspects of Computational Neuroscience Neuroethics Aug 2013 6 2 415 418 ISSN 1874 5504 doi 10 1007 s12152 012 9163 7 47 0 47 1 47 2 Peter Eckersley Anders Sandberg Is Brain Emulation Dangerous Journal of Artificial General Intelligence Dec 2013 4 3 170 194 2014 10 16 ISSN 1946 0163 doi 10 2478 jagi 2013 0011 原始内容存档于2014 11 11 48 0 48 1 Kamil Muzyka The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities Journal of Artificial General Intelligence Dec 2013 4 3 164 169 2014 10 16 ISSN 1946 0163 doi 10 2478 jagi 2013 0010 原始内容存档于2014 11 11 外部链接 编辑MindUploading org 页面存档备份 存于互联网档案馆 Adee Sally Reverse engineering the brain IEEE Spectrum June 2008 45 6 51 55 2014 10 16 doi 10 1109 MSPEC 2008 4531462 原始内容存档于2014 02 03 Reverse engineer the brain 页面存档备份 存于互联网档案馆 from National Academy of Engineering The Duplicates Paradox by Ben Best theories about the problem of personal continuity Joe Strout s Mind Uploading Home Page 页面存档备份 存于互联网档案馆 The Day You Discard Your Body 页面存档备份 存于互联网档案馆 by Marshall Brain Winter of our Consciousness 页面存档备份 存于互联网档案馆 article in The Future Fire 3 Reality 3 0 Uploading Hypermediation amp Paradise Engineering by Paul Hughes Reality 3 0 Uploading Hypermediation amp Paradise Engineering by Paul Hughes Links on uploading 页面存档备份 存于互联网档案馆 from Anders Sandberg Transhumanist writings on uploading 页面存档备份 存于互联网档案馆 from the Foresight Institute Reverse Engineering The Brain from IEEE Spectrum Whole Brain Emulation A Roadmap 页面存档备份 存于互联网档案馆 by Anders Sandberg and Nick Bostrom from the Future of Humanity Institute 取自 https zh wikipedia org w index php title 意识上传 amp oldid 73868775, 维基百科,wiki,书籍,书籍,图书馆,

文章

,阅读,下载,免费,免费下载,mp3,视频,mp4,3gp, jpg,jpeg,gif,png,图片,音乐,歌曲,电影,书籍,游戏,游戏。