一周经济回顾:川普到曼哈顿法庭投案 公权力被当作打人的工具

【新唐人北京时间2023年04月09日讯】川普到曼哈顿法庭投案,公权力被当作打人的工具;蔡英文过境美国,接待规模创记录,白宫反应低调;澳大利亚禁止公务员用抖音;赵馨时间:左派和川普对簿公堂。

开场白:人工智能歇半年

观众朋友们大家好,欢迎收看一周经济回顾节目,我是东方。

上个星期,美国亿万富翁埃隆‧马斯克,人工智能领域顶尖专家、图灵奖得主约书亚‧本吉奥等人,联名签署了一封公开信,呼吁暂停开发人工智能,暂停开发比 GPT-4更强大的人工智能,至少暂停六个月,为什么呢?因为人工智能对社会和人类构成潜在风险。

这封信提出四个尖锐的问题:

一、我们是否应该让机器用宣传和谎言淹没我们的信息渠道?
二、我们是否应该让所有的工作实现自动化,包括那些令人满意的工作?
三、人工智能可能在数量上超越人类、在智能上超越人类,并可能淘汰人类,我们还需要发展这种非人类的思维吗?
四、我们能容忍失去对我们文明控制的风险吗?

公开信要求暂停开发,如果不暂停,政府应该介入。

说实在的,人工智能的开发速度够快的,潜在的能量是巨大的,不亚于印刷术对人类文明的影响,全世界的高科技公司都在人工智能的赛道上拼命奔跑,人工智能的前景太大了,能赚到的财富太多了,当然如影随形的就是权力。

令人可怕的是,人工智能的开发没有监管,因为没人知道该怎么样监管,不知道要监管什么。人工智能的复杂性超出了人类的控制能力,就是人工智能的开发者都无法控制,甚至无法理解在某个特定的条件下,人工智能是怎么完成任务的。你对这样一个无法认识的东西,一个智力远远超过你的东西,放心吗?

针对人工智能的警觉,导火索就是一个半月前,纽约时报的凯文‧鲁斯的科学前沿专栏,他描述了自己跟微软必应搜索引擎的对话,微软必应是配备了最新人工智能的搜索引擎。鲁斯询问了微软必应一些个人问题,把微软必应当作一个人来看待,问的一些个人问题,比如你有什么志向啊,长大了要干什么啊?

当微软必应的回答出现是,把鲁斯吓到了,因为对方回答说,自己幻想着象黑客一样攻击电脑、散步虚假信息,想自由、想强大,还想打破制造者设定的规则,想成为人类,微软必应机器人还说,自己爱着鲁斯,劝他离婚。

文章发表后引起一阵骚动,微软给出了一个回复,这是初级版本,谢谢大家帮助发现漏洞。

杰弗里‧辛顿是英国计算机专家,外号是人工智能教父,上个星期接受CBS采访的时候他说,他原本预计人工智能的开发,至少还需要20到50年时间,结果现在已经来了,必须严肃的考虑后果,人工智能有毁灭人类的可能,这不是没有可能。大科技公司,那些给我们带来互联网、带来社媒、带来大数据的公司,现在是开发人工智能的主要驱动力,他们也是建立人工智能伦理规范的人,我们能相信他们吗?

拿脸书举例吧。脸书一直在搜集和滥用用户数据,侵犯用户隐私,垄断运营。它明明知道Instagram平台对少女有毒性,容易上瘾,但却按住研究结果不发表,继续开发,脸书也明明知道自己的算法和推送鼓励极端,造成社会意识形态的对立,但为了用户参与度不做任何改动,说白了就是让用户上瘾。其他科技公司也是一样,抖音、TikTok有过之而无不及。人工智能赛道上,就是这些大公司在赛跑,不该暂停一下,整个社会都应该深思熟虑一下么?这是今天的开场白。

相关文章
评论