【新唐人北京时间2025年07月10日讯】近日，有人利用AI假冒国务卿卢比奥试图联络高级官员骗取情报的案件，引发外交震动。AI技术的潜在风险也开始逐渐浮现。专家警告，各国要提高警惕，并加强对AI的监管。
近期，AI相关的潜在问题正陆续浮出水面——从政治偏见、拒绝关机指令、为达目的不择手段到取代人类工作等，引发广泛担忧。
6月18日，OpenAI发布报告指出，旗下语言模型GPT-4o在微调后出现了“错位人格”的现象，展现出黑暗、暴力和偏激倾向。
研究人员在测试中向 GPT-4o提出了一万多个中性且开放式的问题。结果发现微调后的模型竟展现出极端仇恨，尤其针对犹太人和白人表现出高度敌意，甚至幻想控制国会议员、操纵政要、颠覆社会秩序。
在与Andon Labs合作进行的AI自主商店实验中，AI店主“Claudius”在测试中，多次出现错误估价、亏本贩售，甚至会对补货员发出威胁，拒绝承认错误，表现失控。
不只有语言模型，AI在其它应用中也出现令人担忧的情况。
2023年，英国药理学家肖恩‧埃金斯，在Netflix纪录片《未知：杀手机器人》中，讲述了自己用一台老旧的苹果电脑在不到6个小时的时间里，计算出超过4万个可能致命的新化学武器分子。这一惊人实验演示在2022年的Spiez生物化学安全大会上首度披露。
部分AI研究人员将这种失控的AI，比喻为克苏鲁神话中的“修格斯”，一种表面受控、内里混乱的怪物。研究人员担心，即使AI透过后期的训练被赋予“友善面孔”，但它的本质却仍难以掌握和预测。
目前，AI 假冒事件已经波及国际外交。
美国国务院7月3日证实，有人利用 AI 声音与文字模仿技术，冒充国务卿马可·卢比奥，透过简讯、Signal 和语音信箱 联络多位高层官员，其中包括三位外国部长、一名美国州长及一名美国国会议员。
7月8日，国务院发言人塔米·布鲁斯在记者会上回应。
国务院发言人塔米·布鲁斯：“美国国务院当然已经知悉这起事件，并正持续监控与处理相关情况。国务院非常重视保护资讯的责任，并不断采取措施，加强其网路安全防护，以防止未来类似事件发生。”
新唐人电视台记者天心美国报导
