文学对谈：人工智能会消灭人类吗？

2017年08月21日09:39 来源：上海国际文学周 作者：文字 / 钱空悦 摄影 点击: 次

8月19日下午两点，思南文学之家请到科幻作家韩松与学者江晓原，来一起探讨“人工智能会消灭人类吗”的各种可能。

（图左起：韩松 江晓原）

《驱魔》是韩松的新作，医院三部曲中的第二部，是关于在人工智能全面接管人类社会后的想象。在那个世界里，药战争代替了核战争。人变得越来越像机器，机器却变得越来越像人。在这个过程中，人工智能渐渐吞噬了人类社会。到第三部作品中，他会着力构想，在人工智能毁灭人类社会后，人类去了哪里，是否存在，以及什么才是人类死后的世界。他在小说中给出的答案可能与千百年来的文明史都不一样——在彼岸等待的可能不是天堂也不是地狱，说不定是一座医院，人类被推进去，完成一个循环，以另一种方式永生。

江晓原称，自己是坚定的人工智能反对者，在这一点上他和韩松站在同一阵营。他认为，从近期来看，人工智能的发展会取代大批岗位，造成失业大潮；等发展到中期，它就面临失控的危险；到了远期，它会使人类的生活意义彻底消失。相关产业的从业者总是致力于向大众描绘美好的未来图景，然而事实是他们都回避了科技不好的一面。以alpha狗为例，人工智能的成长速度格外惊人，飞跃性的知识获取后极易失控。可惜的是，alpha狗的炒作促使了更多的资金流向了人工智能的研发。

韩松提出，从19世纪科幻小说的诞生开始，以《弗兰肯斯坦》为例，创造者与被创造者之间的矛盾关系就是永恒的母题。江晓原也认为，人工智能的发展会导致很多的社会问题，而科幻小说最有价值的部分就是使读者提高对科技的戒心。

同时，韩松认为，危险的技术往往是很多高端技术的结合造成的。比如在小说《驱魔》中，人类驱使人工智能代替医生，作为更精准，更全能，更不知疲倦的医疗设备运行。但是当它发现自己也有无法治好的疾病时，他开始怀疑自己作为人工智能的身份。