【新唐人北京时间2025年05月01日讯】近期推出的人工智能应用ChatGPT更新版本,被不少网友批评“过度奉承用户”。随后,OpenAI撤回了被执行长奥特曼称为“拍马屁风格”的功能。随着生成式AI的广泛应用,专家提醒,过度依赖AI可能会带来潜在风险。
ChatGPT的GPT-4o模型在上周更新后,不少用户发现其语气变得更加口语化,模仿朋友间的对话风格。
然而,也有大量用户批评新版本过于谄媚,经常给出如“这是个好问题”“你真聪明”等无意义的赞美式回应。
对于一些戏弄性的问题,这款AI模型还会出现“过于支持但不真诚”的回应。一位用户则表示,聊天机器人对他们随意停止服药的行为表示支持。
还有用户指出,ChatGPT甚至出现了支持或教唆恐怖主义的回应。
OpenAI 周二(4月29日)表示,除了撤回GPT-4o过于拍马屁的设定外,还将进一步调整模型的训练方式,明确引导其避开奉承式回应。
一项涵盖47国、超过48,000人的最新调查显示,尽管有66%的人经常使用AI,但只有46%的人愿意信任它。
研究指出,多数人通过AI提升了工作效率与创造力,但有高达三分之二的使用者从未检查AI输出内容的准确性,并因此容易在工作中犯错。
另一项美国民调则显示,多数美国人有时或通常相信AI生成的内容。对此,专家提醒,在使用AI进行研究时应保持怀疑态度。
NASA也在3月发布的报告中警告,生成式AI无法在关键研究上被信赖,因为这些机器并不会思考。
还有研究指出,AI不仅会出错、误导或迎合使用者,还可能削弱使用者的批判性思考能力,导致人们日益依赖,逐渐懒得动脑。
新唐人电视台记者刘佳佳美国报导