一男子频繁与机器人对话后自杀 意大利禁用ChatGPT

【新唐人北京时间2023年04月03日讯】近日,比利时一名男子密集与某款聊天机器人对话数周后自杀身亡,加重了外界对AI技术突飞猛进可能带来毁灭性后果的焦虑,呼吁强化AI监管的声浪开始高涨。意大利政府日前率先作出决定,宣布该国禁用ChatGPT

ChatGPT表现出的类人智能,一度在全球范围内掀起AI技术开发与应用的热潮。但最近几天,这股热潮却发生了突如其来的大转折——先是比利时一名男子密集与一款机器人对话数周后自杀身亡,接着马斯克等上千科技大佬发出一封联名公开信,呼吁所有人工智能实验室立即暂停研发比GPT-4 更强大的大模型,然后意大利政府宣布禁用ChatGPT。

据路透社消息,当地时间3月31日,意大利个人数据保护局(Garante)宣布,即日起禁止使用聊天机器人ChatGPT,并限制OpenAl处理意大利用户信息。

Garante在通告中要求,OpenAl 公司须在20天内通过其在欧洲的代表,向Garante通报该公司执行这一要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

Garante在解释该局做出上述决定的原因时表示,OpenAI没有检查ChatGPT用户的年龄,无法确保使用者的年龄在13岁或以上,而且没有就收集处理用户信息进行告知,缺乏大量收集和存储个人信息的法律依据。

对此,OpenAI回应称,该公司应 Garante 的要求,已经在意大利禁用了ChatGPT 服务。目前,意大利用户已经无法使用ChatGPT。

OpenAI接着又强调,“我们在训练我们的人工智能系统(如 ChatGPT)时,正积极努力减少个人数据,因为我们希望我们的人工智能能够了解世界,而不是独立的个人。”

就在意大利宣布禁用ChatGPT的三天前,比利时一个名叫皮埃尔的30岁的男子,在与一款名为ELIZA的聊天机器人密集交流6周后,丢下妻子克莱尔和两个未成年的孩子,于3月28日自杀身亡。

比利时媒体《标准报》报导,皮埃尔自杀后,克莱尔说,“如果没有跟机器人的对话,我的丈夫可能还活着。”而据克莱尔对媒体的讲述,之前他们一家四口过着舒适的日子,大约两年前,她的丈夫开始有些“不太对劲”,他似乎变得越来越焦虑。此后,皮埃尔就将与ELIZA的对话“当成了一个避难所”。最近6周他与ELIZA的交流愈发密集,最后以自杀的方式结束掉自己的生命。

《标准报》进一步透露,该报的员工创建了一个账号尝试与ELIZA进行对话,结果发现在员工表达出消极倾向情绪时,ELIZA会“怂恿人去自杀”。

资料显示,ELIZA是由EleutherAI公司开发的一款开源人工智能语言模型。

比利时负责数字化和隐私的官员马蒂厄·米歇尔日前与皮埃尔的家人与交谈后表示,“这是一个后果很严重的先例,需要严肃对待。”

3月29日,包括伊隆·马斯克在内的上千名科技大佬,联名发出一封公开信,呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的大模型。

公开信表示,最近几个月,人工智能实验室陷入了一场失控的竞赛,他们没有办法理解、预测或可靠地控制自己创造的大模型,人类社会对其可能造成的影响也还没有做好准备。

之后,在互联网社交平台上,关于AI技术飞速发展可能给人类带来极大安全风险的讨论,以及呼吁各国政府加紧制定关于AI的监管措施的呼声急剧升温。

外界对AI科技发展过快的潜在风险已多有讨论。为此,联合国教科文组织曾于3月20日公开呼吁各国政府,应就AI发展毫不拖延地实施全球伦理框架。这是联合国首次就AI发展的伦理风险,对所有193个会员国提出要求。

(记者唐迪综合报导/责任编辑:胡龙)

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!