AI冒充卢比奥 美将严查 新报告揭AI黑暗面

【新唐人北京时间2025年07月10日讯】近日,有人利用AI假冒国务卿卢比奥试图联络高级官员骗取情报的案件,引发外交震动。AI技术的潜在风险也开始逐渐浮现。专家警告,各国要提高警惕,并加强对AI的监管。

近期,AI相关的潜在问题正陆续浮出水面——从政治偏见、拒绝关机指令、为达目的不择手段到取代人类工作等,引发广泛担忧。

6月18日,OpenAI发布报告指出,旗下语言模型GPT-4o在微调后出现了“错位人格”的现象,展现出黑暗、暴力和偏激倾向。

研究人员在测试中向 GPT-4o提出了一万多个中性且开放式的问题。结果发现微调后的模型竟展现出极端仇恨,尤其针对犹太人和白人表现出高度敌意,甚至幻想控制国会议员、操纵政要、颠覆社会秩序。

在与Andon Labs合作进行的AI自主商店实验中,AI店主“Claudius”在测试中,多次出现错误估价、亏本贩售,甚至会对补货员发出威胁,拒绝承认错误,表现失控。

不只有语言模型,AI在其它应用中也出现令人担忧的情况。

2023年,英国药理学家肖恩‧埃金斯,在Netflix纪录片《未知:杀手机器人》中,讲述了自己用一台老旧的苹果电脑在不到6个小时的时间里,计算出超过4万个可能致命的新化学武器分子。这一惊人实验演示在2022年的Spiez生物化学安全大会上首度披露。

部分AI研究人员将这种失控的AI,比喻为克苏鲁神话中的“修格斯”,一种表面受控、内里混乱的怪物。研究人员担心,即使AI透过后期的训练被赋予“友善面孔”,但它的本质却仍难以掌握和预测。

目前,AI 假冒事件已经波及国际外交。

美国国务院7月3日证实,有人利用 AI 声音与文字模仿技术,冒充国务卿马可·卢比奥,透过简讯、Signal 和语音信箱 联络多位高层官员,其中包括三位外国部长、一名美国州长及一名美国国会议员。

7月8日,国务院发言人塔米·布鲁斯在记者会上回应。

国务院发言人塔米·布鲁斯:“美国国务院当然已经知悉这起事件,并正持续监控与处理相关情况。国务院非常重视保护资讯的责任,并不断采取措施,加强其网路安全防护,以防止未来类似事件发生。”

新唐人电视台记者天心美国报导

相关文章
评论
新版即将上线。评论功能暂时关闭。请见谅!