在现代社会，任何一项重大新技术的应用，都免不了随之带来一些社会伦理问题。如核能的军事及和平应用产生了核伦理问题。医学、生物、基因工程技术的飞速进步，又在诸如堕胎、人口控制、试管婴儿、代理母亲等问题上引发了激烈的伦理争论。连太阳能的利用也迫使人增加法律条款，以确保在高楼大厦林立下，人们不至于为了各自究竟应分有多少阳光或阴影而发生争吵。同样地，人类对脑机相接的探索也可能导致社会问题。二○二五年定然不是遥远的将来。对脑机相接可能导致的社会问题进行一些思考，大概并非为时过早。
意念当然不是凭空产生的。近二十年来，全球电脑日益普及，电脑应用范围日益扩大，电脑每天在创造连宗教神迹都自愧不如的“奇迹”。脑机相接的意念就在这种情况下应运而生。当然，更重要的原因应当到电脑与人脑本质上的相似上去找。(感谢汉语，它的“电脑”与“人脑”具有“形合”关系；英语就未能提供这种方便，试想与humanbrains相应的electronic brains多么笨拙，而computer从字形上实在难以使人联想到“脑”。)这种相似性很明显，如电脑和人脑都具有信息储存、逻辑推理、数学运算的能力。近十年来，初级的电脑视觉思维能力已在普及，初级的电脑语言思维能力也在迅速得到开发。
如所皆知，电脑的某些局部能力极强，非人脑能及。它在某些方面精确而快速的思维或类思维能力，以及它的大型运算能力，更使人脑望尘莫及。这些能力在出现之前是不可想象的。但人脑毕竟是地球物种数十亿年进化的结果。它的综合思维能力、创造能力、应变能力极强，至少在目前看来非电脑所及。如果把当前电脑强大的局部能力与人脑的自然能力结合起来，能产生什么样的结果呢？结果是难以预料、难以想象的，可能是好，也可能是坏，还可能是极坏。如果是极坏，则脑机相接的后果当不亚于核战争或核事故的后果，也就是说，在人类头上已经悬着一柄达摩克利斯之剑的情势下，在他们头上再添一柄达摩克利斯之剑，使这个本来就充满末世气味的世界末世味更浓。
当然，作为人类能力的产物，电脑当前展示出来的一切能力从根本上说是人控制下的能力，或者用一种更乐观的说法，是人类自然能力的延伸。换句话说，电脑具有合乎人类目的性这一特质，至少在目前如此。若要对人制造和使用电脑的目的或希望产生的结果加以正面描述，不妨说它们是：(1)把人从某些令人不愉快或枯燥繁重的脑力劳动中解放出来，(2)做一些人脑以其自然能力根本做不了的事，(3)其结果是，提高人驾驭自然、管理自然的能力或人的生产力，(4)最终意味着，扩大人与自然的物质-精神交流能力，以及更重要的，根本改变这种交流的品质，使人与自然高度地和谐一致。但这只是一厢情愿。
人能保证其“造物”不挣脱“造物主”目的性的缰绳吗？
多年来流行这么一种说法或提出问题的方式，即电脑终将具有意志，其能力终将超过人脑，以至最终支配人类，奴役人类。瓶中的魔鬼既然钻出来了，在威胁人，那么如何哄它重回瓶中呢？一个简单化的说法或回答问题的便宜方式是，电脑既为人造，便终究受人驾驭。第二个说法根本取消了问题。它认为瓶中本来没有魔鬼，技术可能带来的社会问题根本不存在。
可是，问题明摆在那里，魔鬼蠢蠢欲动，随时都想从瓶里钻出来。
第二个说法表现出的乐观主义觉悟，二十世纪上半叶英国著名作家阿尔道斯·赫胥黎(Aldous Huxley)知道了肯定会强烈抗议。希特勒被民主选举上台前的一九三二年，他出版了《美妙的新世界》(BraveNew World)一书。该书把技术统治下的人类未来描绘得十分灰暗。在他笔下“美妙”的人间地狱里，基因工程给独裁者以极大的方便。借着基因工程，“头”可以在工厂里随心所欲地批量生产服服贴贴的奴隶，而具有独立个性、自由意志和批判精神的个体是不可能有的，因为他们在基因层次上便被取消了存在的权利。
第二个说法表现出的乐观主义觉悟，恐怕连两百年前的人也会大吃一惊。诗人雪莱的夫人玛丽·雪莱(Mary W.Shelley)早在一八一九年就出版了她的《弗兰肯斯坦》(Frankenstein)。该书通常被视为科幻-伦理小说的鼻祖。在这部小说中，雪莱夫人塑造了弗兰肯斯坦这个颇有讽刺意味的人物。他象征人的傲慢与僭妄。在他身上，人与神、造物主与受造之物似乎颠倒了位置。弗兰肯斯坦之毁灭在亲手制造的怪物手下，说明人在人本主义滥觞之后，一步步自我膨胀，企图取神的地位而代之，最终只落得个灾难性的下场。
人进化到二十世纪电脑问世的四十年代末，其自然思维能力似乎已发展到了顶点。自此，人的思维似乎已不可逆转地与电脑联系在一起了，也就是说，人的自然思维能力要进一步提高，已离不开电脑。如果说人属物种形成后，花了数百万年时间才达到这么一个思维层次，即弄清了3十2＝5，那么在近代以后，人进入了一个思维能力飞速提高的时代。从一个思维层次到另一个思维层次的飞跃，往往只花一、两百年甚至几十年时间。电脑的问世更加剧了这种爆炸性局面，因为它使人信息处理能力爆炸性地增长起来。
但与此同时，人对电脑的依赖也日益严重，以至于这种人造的思维或类思维能力一旦削弱甚或摧毁，人的处境便不堪设想。这从电脑故障给人带来的种种经济损失中可以看到。现有核设施和核武器的操作高度依赖电脑。一旦电脑出了问题，其后果就不是简单的经济损失了。当然，你可以说，别那么耸人听闻，可以对电脑“设密”嘛。那么假设有一家现代核电厂，其运行已离不开电脑管理系统。厂方要保护电脑即整个电厂的正常运作，对电脑层层设置密码。可这只是从“软件”的角度来解决问题。假如不用核武器，只派人用一颗常规炸弹把核电厂的电脑“硬件”加“软件”统统炸掉，这又如何了得？如果说核能的驾驭过程中已经出现了灾难性的情景，如广岛长崎和切尔诺贝利，那么谁能保证对人造思维或类思维能力的严重依赖不造成类似后果呢？
看来，还是不那么乐观好。
那么具体说来，脑机相接可能带来哪些后果呢？
让想象的翅膀扬起来吧。设想在二○二五的某一天或二○二五年后若干世纪的第一天，电脑研究取得了突破性进展。人已经开发出一种纽扣大小的神奇硅片，它不仅能储存一个人所需要的幼儿园到大学教育的所有信息，而且能够方便地置入人的脑内或体内。更令人欣慰的是，它能被人脑完全接受，与人脑里已有的信息有机地整合在一起，并且，“纽扣”置入后，人脑还能继续接受它所不包含，但在人的自然教育过程中却必须摄入的信息。这样，人在自然情形中要花近二十年时间才可完成的教育，转瞬间便可完成了。
此故事并非全然是天方夜谭。比袖珍词典还小的英汉电子词典只值千把块钱，早已进入商业应用阶段，在一些学校的英语专业几乎已是人手一部。老师念的英语单词，学生手里的“电子鹦鹉”或“袖珍老师”也能尖声尖气地念。照此情形来看，上述“教育纽扣”的问世恐怕只是一个迟早的问题。
这听起来确实“美妙”。可辩证法使人们不得不问这么一些社会问题：既有“教育纽扣”，那教师有何用？学校有何益？或者说一切现行的教育观念、体制、设施和人员的意义何在？更遑论注射式的信息输入方式会不会破坏人脑发育(假设人到二十二岁脑发育才最终完成)的自然的生物节律，整齐划一地输入和整齐划一地接受会不会危害人的天然个性的形成。
那么让想象之鸟飞得稍低一点吧。设想那“纽扣”不是纯物理硅片，而是某种生物-电子的混合作品，或者干脆就是某种“基因脑”，置入后至少要花五年时间才能“生长”出人在自然过程中要花近二十年时间才能完成的教育。甚至置入后还可以取出来，或者装上一个方便的生物-物理开关，或“基因开关”，让“教育”什么的招之即来，挥之即去。
但只要有图便宜的欲望，便逃避不了欲望带来的问题。不同的，只是问题的大小和急缓程度。当然，问题的解决也可能采取另一种方式，即人的认识发生根本的变化，以至于现在认为是问题的，在“美妙的新世界”里根本不是问题。可是，在短的时间内实现巨大的认识转变及相应的社会转型，这毕竟是难以办到的。
人有这能力吗？人有这运气吗？
这听起来似乎太悲观，似乎全无希望。但仍然有一线希望，那就是希望这一切不要发生得太快，让人有充分时间思考和解决问题。
也就是说，如果某种“历史必然性”使脑机相接像其他人造能力一样，其势不可阻挡，那么要解决探索中出现的问题，人采取什么样的态度是至关重要的。态度可以决定回应挑战的方式，回应挑战的方式可以决定结果的好坏。
问题在于，一如以往的人性史所表明的那样，人在商业利润或物质利益的强大诱惑力面前的态度是：往往只盯着眼前局部的蝇头小利不放，而置长远、根本的整体利益于不顾。既然“教育纽扣”能赚钱，哪管它会导致什么社会危机。也就是说，追求商业利润的强大动力完全可能使人采取错误的态度，失去对付新问题所需要的宝贵时间，即，在找到解决问题的方法之前，人已经因问题而自我毁灭了。
如果说“教育硅片”可能导致的危机终究只具有局部性，脑机相接可能带来的其他问题却具有更根本的性质。
如所周知，当今发达国家早已实现了国家间的电脑联网，也就是说，一个电脑终端无论在何处，只要联了网，就能够向网内任何终端发送信息或自该终端获取信息，哪怕该终端远在几千公里外的另一个国家或正飞往火星的飞船。最近几年，各国更是在加紧发展“信息高速公路”。联网的好处自不待言，但坏处也很明显，比如，电脑病毒通过它能造成大范围的破坏。假如连接人脑和电脑或生物电脑的生物－物理“开关”或“衔接点”这个问题解决不好，其在联网状态下的后果显然是严重的，因为每个人脑或“脑－机”届时可能像目前电脑联网内的每个终端那样，若不能合理合法地自由开启或关闭自己，就可能遭受恐怖分子的信息侵犯或信息剥夺。而且，这种信息侵犯或信息剥夺可能在大范围内发生，导致极其严重的后果。
例如，甲对乙怀有仇恨，要搞掉乙，他只需设法将乙的脑－机“开关”打开，给一个delete命令，将乙脑-机里的非电脑自然信息连同电脑信息一并抹去，而从理论讲，乙又不可能将一秒钟前还属于自己的信息找回，那么，乙还有没有他所固有的意识呢？乙还有没有他原有的自我？也就是说，乙的灵魂是否还存在？乙是否还存在？
进而言之，国家A对国家B怀有仇恨，想消灭国家B。它不需从核潜艇上向国家B的目标发射装有核弹头的洲际导弹，只需设法将delete命令输入国家B的每个脑－机，将里面的信息悉数消掉，或将某种致命脑-机病毒注其中，便可大功告成。
还可设想在未来的某一天，地球上的因缘情势使独裁者的崛起成为必然，这时，脑机相接的方便恐怕最明显不过。独裁者不需像赫胥黎小说中的“头”那样，在生物工厂里用基因工程生产政治奴隶。这种方法太笨，太慢。他只消给全国或全世界的脑－机输入若干使其驯服听话、服从命令的信息，一眨眼工夫便可以把一切“搞掂”。
另一种可能性是，由于某种非“人”为的原因，全世界的脑-机都中了病毒或出了性质相似的问题。这时，病毒是“杀”不死的，问题是解决不了的，因为消除病毒或解决问题的主体本身即脑-机出了问题。这样，不用打第三次世界大战，人类便可完成自毁。
玩过电脑的人都知道，一部电脑有把自身所含信息“拷贝”到另一部电脑的能力。这种能力之快速、精确，远非人的自然能力所能及。假如在未来“新世界”里，一个“人”或脑-机将另一个或无数个“人”或脑-机里的信息非法洗掉，并把自己的信息“拷”到这一个或无数个“人”或脑-机里。不用说被拷信息者或destination从前的身份意识不复存在，换成了完全不同的身份意识，就连拷信息者或source的身份也难以确定，至少已不同于当前人类所熟悉的个体身份概念了。从理论上讲，精确复制的功能可以制造无限个内容全然相同的脑－机意识。
如此这般，到底谁是谁？
显然，在脑机相接的探索过程中，需要解决的最关键的问题是：严格区分自然思维能力与非自然思维能力，就是说，在技术上严格保护人的自然意识，严格保护那个自然的“我”，严格区分自然意识与非自然意识。
由于世界上重大的经济、军事乃至政治、文化和教育设施的“硬件”系统在越来越大的程度上与电脑“软件”系统联成一片，脑机相接最终将意味着：在“新世界”，即使脑机相接的负面效应降至零，传统意义上的主客体或主客观的二分，或康德意义上的纯形式与物自体的二分，黑格尔意义的思维与存在的二分，也仍然可能经历重大的修正。
在探索中，如何保证传统意义上的主体不泯灭在脑机相接中，如何保证传统意义上的自我或个体身份意识不消融在某种既非主体性、又非客体性的状态中，或某种无以名状的情形中，是一个需加以解决的至关重大的问题。倘若这个问题解决不好，或在解决过程中出现重大失误或事故，脑机相接便意味着：除核战争的可能性之外，人终将面临第二个生存还是毁灭的临界点。
如果不这么悲观，而假设所遇到的一切问题都能妥善地解决，也就是说脑-机与脑-机竟能和平相处，准主体(或类主体)与准主体竟能相安无事，“人”或脑-机也仍然面临着重新确立自我概念、意识概念、思维本质的大问题，面临着重新界定与存在的关系这样的大问题。
个体的有限性与存在的无限性之关系，已难以保持传统的理解了。
简言之，在“美妙”的脑-机世界里，“人”还是不是人，还是不是现在意义上的人，是一个未知数。在这个新存在的内涵充分显示出来以前，暂且用“人-机”这个颇乏“品位”的字眼来称呼之。
人是无所不能的。用电脑武装起来的人更是无所不能。人-机则可能比神还神。但既然人可以沦为弗兰肯斯坦，而且已实际经历了广岛、长崎及切尔诺贝利，人-机又为何不能呢？
这听起来似乎太悲观，似乎全无希望。但仍然有一线希望，那就是希望这一切不要发生得太快，让人——总是被商业冲动支配的人——有充分的时间思考问题和解决问题。
阮炜/何晓阳