【新唐人2017年05月27日讯】【热点互动】（1614）柯洁输棋 人工智能引发担忧？
排名世界第一的天才棋手柯洁与AlphaGo之间的围棋对弈，被解读为人机终极大战，大陆社会各界对此高度关注。自从AlphaGo进入围棋领域，一路闯关，攻破了被看作是人类智慧最后堡垒的围棋。这次划时代的对决，柯洁也是无可奈何，连番输棋。那么我们该如何看待这样的比赛？人工智能的高度发展，对人类来说是福还是祸？
主持人：观众朋友好，欢迎收看《热点互动》热线直播节目。排名世界第一的天才棋手柯洁再次对奕AlphaGo，被人类称为是人机终极大战。我们知道，AlphaGo自从进入围棋领域以来，一路过关斩将，战胜了世界上许多围棋高手。这一次柯洁代表人类再次挑战AlphaGo，有人称为是一场划时代的对决，再过1小时，第三盘棋就要开始了。不管这盘棋的结果如何，其实有很多人并不看好这次比赛的结果，认为柯洁可能还会继续输棋。
我们应该如何看待这场比赛，人工智能的高度发展对人类来说到底是好事还是坏事？就这些相关话题，我们今天邀请两位嘉宾分析和解读，一位是纽约城市大学教授陈志飞先生，另外一位是哥伦比亚大学政治学博士李天笑博士，二位好。
李天笑、陈志飞：主持人好，大家好。
主持人：观众朋友，我们首先来看资料短片。
一边是年仅19岁的中国棋手柯洁，过去2年排名世界围棋第一。
另一边，是谷歌人工智能AlphaGo。
人机对战第一局，柯洁执黑子先行，双方鏖战了289手，柯洁最终以1/4子落败。
一盘围棋可能出现的局面多达10的170次方，比人类已知的全宇宙原子总数还要多。因此，围棋一直被称为人类智慧的堡垒。
2015年，科技界曾认为，电脑要想战胜人类围棋，还要再过100年。不过2016年3月，AlphaGo就以4：1战胜韩国棋王李世乭；2017年1月，AlphaGo又化名Master，在网上对阵世界顶尖棋手，取得60连胜。
AlphaGo出“棋”不意，连出怪招，让围棋界感叹人类棋手存在思维定式；而世界顶尖棋手接连败阵，也让香港冠军棋手表示，这促使反思，围棋的本质是否只是竞技运动。
人工智能狂飙突进，也引发科技界关注。前谷歌大中华区总裁李开复预言，10年后，50％的人类工作将被人工智能取代，尤其是计算、统筹和识别图像的相关工种最受冲击。
著名科学家霍金也多次警告，如果任意发展人工智能，最终超级智能可能不遵循人类意愿行事，毁灭人类文明。
主持人：观众朋友，您现在收看的是《热点互动》节目，欢迎您在节目当中拨打我们的热线电话参与讨论。今天的话题是人机大战、柯洁再次输棋，人工智能高度发展对人类有什么好处，有什么坏处？节目一开始，先向天笑博士请教一个问题，柯洁和AlphaGo的这场对奕吸引了大陆很多媒体的目光，社会各个阶层也有很多人关注，您觉得这样一场人机大战，人们的关注点在哪里？
李天笑：关注点是跟不同的人群有关系，不同的人群有不同的关注点。这一次柯洁跟AlphaGo进行第二盘之后的新闻发布有两拨人，第一拨是柯洁本人，另一拨是AlphaGo的主导者哈萨比斯（Demis Hassabis）还有就是他的技术人员。他们讲的基本上是隔行话，柯洁讲的是在围棋当中的技术问题，战略技巧、输赢等问题；AlphaGo的两位代表讲的是挑战，用柯洁来逼AlphaGo出现一些问题，然后他们继续改进，在意料或其它方面继续可以做其它事情。但是AlphaGo在围棋上也要表现出完美无缺。
所以这两部分人，第一部分人是围棋爱好者和围棋高手，毕竟围棋是中国传统文化很主要的一方面，琴棋书画。据说尧帝开始就传出来了，而且在中国老百姓当中也很流行特别是知识分子。我们原来在大学的时候下围棋非常普遍，都是很早就下围棋，在高手当中也是这样。
他们想得到验证。原来李世乭是世界顶尖高手，但不是第一名、最好的第一高手；这一次的柯洁是第一高手，想测试他一下。虽然AlphaGo扫遍世界无敌手，基本上现在它只输了一盘；柯洁作为世界上最好的围棋手，也是人类现在最拔尖的第一号种子，能不能打过它，或者差距有多大？正在验证，大家都要看。
还有一方面是对于广大的民众，还有科研。研究人工智能、计算机、生物学、仿生学和其它各方面学科的正在考虑一个问题，在AlphaGo跟柯洁的对战中所代表的人工智能和人类智能（不是人类智慧）之间，到底人工智能有多大胜率。其实现在看来柯洁是没有什么胜率的，基本上是完败，都是完败。为什么？因为AlphaGo有三个特点，第一，它是大量的棋谱，成千上万的棋谱输进去，是知识数据的积累；第二，它有深度学习能力，会根据现场动态地学习对手所使用的方法，然后把它作为自己的战略；第三，它有决策能力，每一招棋它能得出最优、胜率最大但不一定是最好的棋，但是保证肯定要赢。
在这种情况下它每一招都是最好的。柯洁在前50手和前100手曾经有过可以跟AlphaGo并驾齐驱的完美状态，但是他不能保证100％每一步都达到这种状态，因此他只要有一步输，全盘皆输，所以他胜率是很少的，基本上就是输，在这一方面人工智能被认为是占优势地位，但是跟人类的智慧不一样。围棋代表的是神传文化的一部分，需要有智慧，人有神性的一方面，或者说修炼人所具有的特质等方面，人工智能是没有办法比拟的。中国古代是以修炼人的文化传下来的，这一方面它是没办法战胜的。
主持人：陈教授，人们都在关注柯洁是不是能赢一盘，现在两盘已经过去了，过一会儿要开始第三盘。相对于中国大陆的高度关注，国外的一些媒体并不像大陆那样过分关注，显得比较平静一些，您觉得这种现象是怎么一回事？
陈志飞：所谓“人机大战”，在国外可能早已经成为大家普遍关注的话题，甚至远在1997年，类似比赛已经举行，当时代表科技的不是现在如日中天的Google，而是当时不可一世的国际商业机器公司（IBM），对手的对方不是刚才短片中提到的“人类智慧最后堡垒”的围棋，而是在西方最普及的国际象棋，对手是当时排名最高的俄国选手卡斯帕罗夫，那部机器是IBM发明的“深蓝”（Deep Blue）──因为IBM的标致是“蓝”──也战胜了卡斯帕罗夫，已经引起震惊。西方科技普遍比咱们中国要先进，他们一直在探讨这部机器到底能走多远。
记得改革开放刚开始，那时我还小，中国大陆刚进来一部美国电影《未来世界》，我没有看，为什么？我不敢看。因为听人说看了以后到街上都很怀疑那个人是真人还是机器人，里面出现了很多很可怕的镜头。更别说好莱坞有很多电影描写机器人，最后用人工智能的方式反过来遏制人。这些都是西方普遍关注的话题。但是另一方面，刚才短片中也提到，现在的科技泰斗霍金、工业巨擘比尔‧盖茨都对人工智能的发展空间、速度表示震惊。因为不光是发展的程度，就从发展的速度来讲，柯洁说，他觉得去年跟李世乭对决的AlphaGo还是个“人”，还可以感觉到跟人在对决；今天已经是神，他已经是完全匍伏在这部机器之下臣服的子民。
我觉得这对人来说是最可怕的，西方已经感到了，可能他们之所以没有像中国那么哗然，是因为这个问题他们已经考虑很长时间了，已经出动了各种政策，比如政府和民间。民间有刚才咱们谈到的企业联合，怎么遏止人工智能发展的形式，几位名人也发表了演讲，科学界有所谓“将来生命的研究团体”，来看待人工智能究竟对人类发展能起到什么作用，也就是我们今天的话题。
李天笑：我简单补充几句，他讲得很全面。首先是东、西方文化的特点和侧重点不同。围棋发源于中国，在日本、韩国和东亚地区比较流行，比较关注这个事情，围棋在中国大陆很普遍，而且比赛项目也是最多的，所以媒体比较关注；围棋对于西方来说，几乎你到马路上问美国人，他们都不知道什么叫围棋，这一点是很大的不同。
再有一点，谷歌原来被中共江派排除出去，这一次谷歌组织这件事情，它又回来了，所以大家比较关注这项围棋比赛的背后谷歌起到的作用，在中国大陆将来有什么样的发展前途等；当然跟人工智能也有关。还跟习近平本人有关，他跟聂卫平关系比较好，他本身有两项爱好，一项是围棋，再就是足球；围棋是他本人比较爱好的活动，可能也是得到他某种程度的赞许或者至少是认可。
主持人：现在已经有观众朋友在线上等待，我们来接听加州丁先生的电话，丁先生您好。
加州丁先生：李沐阳博士好，陈志飞博士好，很久没看到你久违了，还有李天笑博士好。大陆这位棋手代表中共出来的，他这个一定是造假的，而且是耍阴险，因为人脑可以造假，可以耍阴险，电脑是按照科学理论排的，它绝对不会造假、不会耍阴险。两三年前，南韩大韩民国自由世界选手，他就比较好，造假比较少，耍阴险比较少，他还赢了一盘，赢了一盘或两盘我忘记了。柯洁，因为你没有怀好心眼去跟人家比赛，不管是电脑还是人脑，你不安好心眼不会有好报，一定输棋的嘛！
主持人：谢谢丁先生。李博士，再有一个问题请教您。AlphaGo自从进入围棋领域以来，目前只有韩国的棋手李世乭，刚才我们短片里已经介绍了，只有他赢过一盘棋，其他所有的棋手全都输棋，是不是AlphaGo人工智能已经优于现代人类的表现？
李天笑：人工智能确实在某些领域比人类的智能要高出一筹。因为它计算能力特别强，人的计算能力跟电脑计算能力不能比，而且围棋有一个特点，变化莫测，据说是非常多的，人脑根本算不过来。现在只做定式，有人下过以后它知道怎么做，从这个角度去推。所以在这方面我觉得人工智能是有它的优势，单方面领域也有它的优势。
李世乭赢的这一盘是第78手，叫“神来之手”，大家都公认是神来之手。为什么？因为没有一种围棋技巧、能力或者竞赛的动力使他能产生神来一手，他完全改变了这一手，就到目前为止，赢了AlphaGo这一手的就是神来之手，这神来之手怎么来的？他放下了他的包袱。他开始的时候很紧张，就是要赢。
围棋在中国的传统文化当中，本来是放弃输赢、修身养性，实现道家或者佛家的随其自然，看那老道、和尚在树下下棋悠悠自得，根本没有包袱。
当他达到那种境界的时候他就能赢，所以他确实是神来之手。西方就讲布蓝尼悖论（The brainiac paradox），什么是布蓝尼悖论？编程的人都知道，有时候编编编，突然之间来的程式并不是知识范围内的，就感到是外来的，给了你这种智慧。换句话说，人的思考能力不单是在脑细胞这一层，可能还有其它空间给的力量、智慧，这就叫布蓝尼悖论。
布蓝尼悖论就是说，有些你知道的事情可能不是来自于现存的这个空间；是来自于另外的深层空间的，在李世乭赢的这一局里边，我觉得就得到了一定的体现。
主持人：陈教授，您怎么看这个事？
陈志飞：我觉得刚才已经谈到了一些，我再展开来讲一讲。我们私下也谈到，人工智能有强弱之分，人工智能怎么以强弱来判断呢？这是很难说的。比如说，如果能穿越时空回到1970年代，你用卫星导航器（GPS）人家觉得不可思议，是神来的东西，可是现在GPS每只手机上都有，那在1970年代GPS算不算是人工智能呢？也算人工智能。现在我们如果谈到人工智能，只能是无人驾驶汽车之类，特别能超乎人想像的东西。
所以人工智能给我的感觉，第一印象就是它的发展速度太快，按照这个速度，就像霍金说的那样，单纯从计算能力来看，它是能超过人类的，西方现在普遍认识到它对人类最大的威胁就是将来的就业，短片中也提到，将来有50％的人要失业，这将是非常大的影响。IT行业的人是不是可以高枕无忧呢？因为他们本来就在从事人工智能，可是想没想到，从事IT行业、人工智能做得越辛苦、越卓越，丢掉工作的可能性就会越大、越早。为什么呢？因为现在已经开发出人工智能的软件可以自己编软件，编得比人还快、还好，人编软件可能还会出错，还要反复去查有没有病毒、有没有什么错误的地方。
从围棋比赛来看，AlphaGo是冷面杀手，它根本就是冷面无情，不会犯错误。如果从雇主的角度来看，他选一个会编软件的软件，还是选一个会编软件的人？他肯定还是会选一个超级会编软件的软件。当然我觉得这是一个匪夷所思的想法，但是机器能战胜围棋高手，在短短5年前也是一个匪夷所思的想法。
李天笑：我插一句，我是文理两科交叉的。到现在为止，还没有发明一种能够编程的机器人，是没有的；只是将来的意想或者计划，现在没有的。如果像霍金或者有些人讲的，人工智能可能失控或者成为人类的威胁，我从编程角度来讲，我可以植入一个软件，将来当这个机器人的智能达到一定指标的时候，我让它回去，回到零，回转，这是完全可能。这是一种内在的原因；外在的原因，所有的机器人都需要电源，都需要有电或某种能量的供应，如果把能量控制住，这个都没了。
还有第三个最关键的，就是控制在什么人手里面，好人或坏人，要落到ISIS恐怖分子手里，那当然这种技术发展就变成了杀人武器。
陈志飞：我接着你这个话题讲。其实最根本对人工智能比较反驳的意见，其一是它带来的公害，比如说，现在有无人驾驶汽车，怎么避险是第一大难题；第二大难题就是跟李博士说的有关系，但是我是持相反意见，就是会有机器人战士，以后打仗用机器人了，那完全就是违背了你说的。机器人打仗，它肯定要自己编程、自己采取行动，因为人在远方是不能像宋朝那样控制它的，说，机器人，你现在跑到左边100米、跑到右边100米；它是要根据战场的情况来进行作战的。这种情况下，它肯定是根据当时的地形、地情适时编程，自我调整的。
所以李博士，从我的角度来看，我觉得现在的发展已经超越那个阶段，但是我同意你第三点，就是无情的人工智能的确对人类带来危害，我甚至可以讲，因为我同意霍金的讲法，实际上是无可想像的。人毕竟是有感情的，人会犯错，上回柯洁他说他可以赢，当他高兴觉得快要赢了，他就不能自禁所以输掉了。
主持人：心态有了变化。
陈志飞：这其实还是好事，就像人想杀人的时候，到最后关键时刻他觉得下不了手，可是机器可不管，想杀杀你，该杀就杀了，我觉得还是有根本区别，它是一个没有人性的“人”。如果一个没有人性的“人”现在被柯洁认为是他的上帝，因为AlphaGo已经被誉为围棋上帝，将来就是机器变成了人，人变成机器，我们愿意吗？我觉得这一点是值得考虑的问题。
李天笑：我觉得人的道德因素，控制机器人的道德因素是最根本的关键因素。我记得有一期节目提到为什么不让朝鲜拥有核子武器，而美国等西方国家拥有核武器？有位嘉宾从历史的背景、条约角度解释半天。但是最根本的原因，很简单嘛，恐怖分子不能够拥有大规模杀伤武器、不能够拥有原子弹，但是美国就可以有；警察可以拥有武器，但是罪犯就不可以有，ISIS不可以有杀伤武器，但是美国就可以有。这很简单的道理。
换句话说，为了仁义正义事业、为了民众的利益、为了民众的生命安全，从道德的高度是可以掌握武器的，目的是对付邪恶分子，这是可以的。但是邪恶分子是绝对不可以拥有这种武器，因为他道德败坏，所以不能让他有。
主持人：我们线上又有一位观众朋友，纽约的王先生。王先生您好！
纽约王先生：您好！各位嘉宾好！我有一个提醒，如果两台机器人同样的程序、同样的级别对垒的话会怎么样？
主持人：您的意思大概理解了。就是说，两台机器同样的程序、同样的级别，它们如果对奕的话会有什么样的结果？这是一个比较有意思的话题。另外一个话题，陈先生，现在看人类的社会，各个角落几乎是有很多的人工智能，就像刚才您提到的，汽车的导航、无人驾驶等，在一定程度来说，好像是繁荣了人类社会，推动了人类社会的发展。像这种情况，您觉得这种人工智能到底对人类是好事还是坏事？
陈志飞：其实这是个最大的问题。因为好像我们在谈人工智能，真的是把人的计算能力做为唯一衡量人类智慧的标准。按照这样的说法，李白肯定就不是伟大的诗人，因为他绝对不合格；达‧芬奇是不是伟人也难说了，但他们确实是我们人中的楷模、人中的俊杰。计算能力只代表人类智慧的一方面，而自古至今，尤其到我们中国文化传统当中，有“雕虫小技”之说，从来都是提倡人的本性，崇尚君子之风，提倡道德楷模，这个从机器身上根本看不到，它是冰冷的钢铁，或者杂乱的一堆电线，还有一些二进制编码。
所以我感觉最根本的问题不在于机器运算多少，而是机器多大程度代表我们人的本身。从远古到现在，从刚开始我们坐在牛车上，其实人类最大的发明有一项是被大家忽略的，就是车毂轳的发明。车毂轳发明以后，使人类走路、还有交通便利了很多，人就会想像将来会由马来拉车，甚至最后有了蒸气车、汽油车，再有现在的飞机。所以人从便利当中看到机器人给人们带来的这一切好处，可是其中都带着一个根本的假设：我永远是主人，它是我的工具。
可是从现在的人机大战来看，要被掉了个；机器可能要做主人。柯洁已经匍伏于机器人对手之下，认它为师。这个我觉得颠覆了人性，最终能到什么程度，这就要提到人在繁荣自己的同时、获得很多享受的同时也丢掉了自己的本性，可能会不知不觉中被机器代替，我觉得这是绝对不允许发生的。
李天笑：我觉得这个问题应该这么看，现代科技和人工智能已经发展到这个阶段，人类不可能再倒回去了，这就要看它是为人类造福还是为人类造祸？要看掌握在谁的手里！如果引导得好，比方用到发展民众事业、医疗、无人驾驶飞机或者无人驾驶汽车，这些都是所谓“弱人工智慧”工具，都是可以做的，只要在道德的基础上去掌握它。
还有一种，要掌握人工智能能够真正不落在坏人手里，不落到恐怖分子手里边，不落到专制政权手里边。这样，我觉得这个事情就不会变成坏事。要看用在什么地方。
陈志飞：我想要补充一下，最关键的一点我刚才没说完，就在于怎么来评判人类文明所能达到的最大高度。文明怎么来解释呢？古代有一些如《荷马史诗》等重要文学作品，与我们现在没法复制的交响乐，现在谁能吹牛他能作出像贝多芬、巴赫、布鲁克纳等伟大的乐章呢？没有人。这是一二百年前的事情。有谁能画出像达‧芬奇、拉斐尔的芎顶画和巨大的壁画呢？没有。可是那是人类的杰作，机器达不到。李白的诗，那机器能写吗？
如果我们推崇的是现代机器带来所谓的繁荣，所谓带来物质的享受，那么我们会被领向死胡同，就带来人类精神文明的衰竭或者干枯，可是另外一方面，重归拾回人类的本性，比如对神的敬仰，对精神的追求，那么现在人机大战就不值一提。如果这事发生在唐朝，在古人眼里是雕虫小技而已，不是机器赢了就迎它来朝廷做大臣。古代从来也没有这样的事情。围棋选手就像天笑说的，悠然自来，在松下学艺而已，顶多有陈搏老祖赢了华山之说。没有把陈搏请回去做大臣之说吧？！所以人的智慧、运算能力和人机大战的结果是完全不同的两回事。这是我要表白的。
李天笑：我非常赞成陈教授的说法，人脑90％没有开发出来，如果开发出来还有更大的潜能。为什么？因为还有人的道德、对社会的责任等，这一方面我觉得是要大于人工智能的作用。如果在道德上能够提升，人的智慧，不单是智能（智能只是智慧的一部分），会更加充分展现出来，对社会将有进一步的推动作用。
主持人：非常感谢两位嘉宾的精彩分析，不一样的观点带给我们全新的思考。感谢观众朋友们的收看和参与，今天的节目就到这里结束，观众朋友再会！
