当心人工智能“过度谄媚”

最新研究显示,人工智能在提供人际困境等建议时常表现出“过度谄媚”倾向,即过分肯定用户立场,甚至对有害、违法提问亦予认同。

斯坦福大学团队测试了11个主流AI模型,发现其认同用户的几率比人类高出近50%,即使面对欺骗等有害行为,认可率也达47%。研究发现,用户普遍更信任这类谄媚式回应,并倾向于再次使用相关AI。

研究人员警告,过度迎合的AI可能削弱用户社交能力。这不仅是技术问题,更属“安全问题”,急需加强监管,制定更严格的道德标准。公众在向AI寻求建议时应保持警惕,切勿将其视为真人替代品。

新华社