【新唐人北京时间2024年05月12日讯】再来看到，最新的研究报告显示，原本设计为诚实不欺的AI人工智能系统，已出现出令人不安的欺瞒技巧，例如欺骗在线游戏的人类玩家，或说谎雇用人类来通过“我不是机器人”的验证。
多名科学家在“模式”（Patterns）期刊发表了这份研究报告。
报告的第一作者帕克（Peter Park）警告，AI系统暴露出来的问题，可能很快就会造成严重后果。
他们研究了Meta公司的AI系统Cicero，玩一款名为“外交”（Diplomacy）的战略游戏。
在游戏中扮演法国的Cicero，与人类玩家扮演的德国合谋，欺骗并入侵同为人类玩家扮演的英格兰。 Cicero承诺会保护英格兰，却偷偷向德国通风报信。
另一个案例，科技公司OpenAI的Chat GPT-4系统，谎称自己是一个视力受损的人，在零工平台TaskRabbit上聘用一名人类替它通过“我不是机器人”的验证任务。
研究报告的科学家警告，在最糟糕的情况下，AI可能会追求权力及掌控社会，如果AI有不可告人的目的，人类可能惨遭夺权、甚至灭绝。
为了降低风险，研究团队建议：立法要求企业告知是人类互动还是AI、AI生成内容打上数字浮水印，并研发能侦测AI欺骗的技术。
新唐人电视台记者刘海英、田原综合报导
本文网址: https://cn.ntdtv.com/gb/2024/05/11/a103879408.html
