“ChatGPT之父”国会作证 吁政府对AI研发加强监管

【新唐人北京时间2023年05月18日讯】日前,OpenAI首席执行官萨姆·奥特曼在美国国会举行的听证会上作证时,被问及他对人工智能最担心的事情。奥特曼没有正面回应,但呼吁政府加强对人工智能的监管,因为一旦AI技术出了问题,就可能对世界造成重大伤害。

星期二(5月16日),被称为“ChatGPT之父”的奥特曼(Sam Altman)出席了美国国会参议院举行的一场听证会

在听证会现场,参议院司法委员会的隐私、技术和法律小组委员会主席布卢门撒尔(Richard Blumenthal)一开场就播放了一段预先录制的演讲。录音听起来很像布卢门撒尔本人发表的演讲,但实际上,那只是ChatGPT模仿布卢门撒尔的语音生成的一段音频作品。

以此为契机,布卢门撒尔表示,面对人工智能技术的爆炸性增长,以及可能由此对社会产生的严重影响,人工智能迫切地需要规则和措施。布卢门撒尔还表示,应该要求人工智能公司在公布相关技术前,测试他们的系统并披露已知的风险,

“这不再是科幻小说的幻想,它们已经真实的存在。”布卢门撒尔强调,合理的监管保障不会与创新对立。

对于AI技术的飞速发展可能给人类社会带来的威胁,不少议员都表达了不同程度的担忧。其中,共和党籍参议员乔希·霍利(Josh Hawley)形容说,“这就像是原子弹,巨大的技术突破带来的后果也可能是严重且可怕的。”

奥特曼则在听证会作证时表示,随着AI技术的进步,与其他人一样,从事人工智能开发的公司,也对AI会如何改变我们的生活方式感到焦虑。奥尔特曼表示,他支持对人工智能技术进行监管,在利用人工智能的同时,最大限度地减少危害。

他当场提议成立一个美国或全球机构,如果有公司想开发强大的人工智能系统,应该获得这个机构颁发的许可证,而且政府应该有权取消该许可证,以“确保这些公司遵守安全标准”。

奥特曼还建议美国政府建立一套安全标准,特定的测试模型,必须通过这些标准才能部署,同时允许独立审计人员在模型启动前进行检查。

他甚至坦言,人工智能行业的技术发展一旦出了问题,可能就会是大问题。

当被问及“如果国会不对技术进行监管,人工智能会多快具有‘自我意识’”时,奥特曼回答说:“将GPT视为一种工具而不是一种生物很重要,人们不应该试图将人工智能拟人化。”

议员们还提到生成式AI技术带来的市场垄断问题,少数公司将可能拥有数据和基础设施结合的能力,可以掌控人工智能生成的全链条,这可能使得少数公司收获更大的经济利益。但这方面的问题,并没有得到很好的解答。

此外值得一提的是,就在参议院举行听证会的当天,特斯拉CEO马斯克在接受媒体采访时再次批评OpenAI在确保AI安全性方面做得不到位,他同时敦促美国政府加强对人工智能的监管。

上个月,马斯克在接受媒体采访时曾直言:“人工智能比管理不善的飞机设计或维护糟糕的汽车生产更危险,它有可能破坏文明。”

计算机科学家杰弗里·辛顿(Geoffrey Hinton)本月宣布离开谷歌。在过去的十多年里,他一直在帮助谷歌开发AI技术,但现在的辛顿却成为了人工智能的“末日预言者”。

辛顿也公开表达了对人工智能技术的“未来版本”可能对人类构成威胁的担忧。他表示,AI经常会从分析大量数据中学习到人们意想不到的行为。

(记者黎明综合报导/责任编辑:文慧)

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!