微软总裁:“深度造假”是AI最令人担忧问题

【新唐人北京时间2023年05月27日讯】微软公司总裁史密斯周四(5月25日)表示,他对人工智能的最大担忧就是“深度造假”问题,即看起来很真实,但内容却是人工智能制作的假图片和视频。

在一次于华盛顿进行的演讲中,布拉德‧史密斯(Brad Smith)呼吁采取措施,确保人们知道哪些照片或视频是真实的,哪些是由人工智能生成的,以便解决如何最好地监管人工智能的问题。利用人工智能进行“深度造假”甚至可能是出于邪恶的目的。随着OpenAI公司推出的ChatGPT聊天机器人的普及,人工智能已经从科幻内容变为触手可得。

他说:“我们将不得不解决‘深度造假’的问题。我们将不得不特别解决我们所担心的、大多数外国试图扩大影响力的网络行动,即俄罗斯政府、中国(中共)、伊朗人已经在进行的各种活动。

图:微软副主席兼总裁布拉德‧史密斯于2023年4月12日在华盛顿特区举行的Semafor主办的世界经济峰会上发表讲话。(Drew Angerer/Getty Images)

“我们需要采取措施,防止有人通过人工智能来篡改合法内容,以达到欺骗或诈骗的目的。”

史密斯还呼吁为最关键领域的人工智能产品施行许可证制度,使其“有义务进行安全保护,保护网络安全、实体安全、国家安全”。

他说:“我们将需要新一代的出口管制,至少是我们现有的出口管制的更新版,以确保这些(人工智能)模型不会被窃取,或不会被用于违反国家的出口管制要求。”

数周以来,华盛顿的立法者们一直在为通过什么样的法律,来控制人工智能而苦苦思索,因为大大小小的各种公司都在竞相将功能越来越多的人工智能推向市场。

上周,ChatGPT背后的初创公司OpenAI的首席执行官山姆‧阿尔特曼(Sam Altman)在首次出席国会听证会时告诉参议院小组委员会,使用人工智能干扰选举的完整性,是人工智能问题的一个“令人担忧的重要方面”。他还补充说,人工智能需要被监管。

阿尔特曼的OpenAI公司得到了微软的资金和数据支持。他还呼吁在人工智能方面展开全球合作,并鼓励各国遵守安全规定。

史密斯在该演讲中,以及在于周四发表的一篇博文中还认为,人们需要对人工智能所造成的任何问题负责。他敦促立法者,确保对用于控制电网、供水和其它关键基础设施的人工智能,设置安全制动器,以便人类能够继续对其控制。

他还敦促人工智能开发商使用“了解你的客户”(Know Your Customer)式的系统,让强大的人工智能模型的开发者,能够掌握他们的技术是如何被客户使用的,并告知公众,人工智能正在制作什么内容,以便人们能够识别人工智能制作的伪造视频。

国会山正在考虑推出的一些提案,将侧重于关注那些可能使人们的生命或生计处于危险之中的人工智能技术,如在医学和金融等领域。其他人则正在推动制定规则,以确保人工智能不会被用于歧视或侵犯公民权利。

(转自大纪元/责任编辑:叶萍)

相关文章
评论