当前位置： 当前位置：首页 > 热点 > 倒反天罡！AI「骗信任」的能力，已经远超人类_实验_诈骗犯_真人正文

相信大家平时没少跟AI聊天吧？倒反近日，本·古里安大学做了一项实验，天罡一共22人参与，骗信结荚尤其吓人：目前AI聊天机器人骗取往往见不鲜人信任的任的人类人成功率，是已经远超专业人类诈骗犯的两倍以上。实验里，实验将近一半的诈骗受试者，都乖乖按照AI聊天机器人的倒反需下载了陌生APP。这套路，天罡和那些偷偷监控用户的骗信恶意软件的欺骗手段一模一样。反观受过专业训练的任的人类人真人诈骗犯，用差不多的已经远超话术让人下载APP，只有18%的实验人上当。一边有46%的诈骗受骗率，一边只有18%，倒反差距尤其悬殊。这项为期一周的实验由四所大学联合开展，牵头的是本·古里安大学的探究者伊斯雷尔·米尔斯基。这个AI根本没用到什么高深的黑客技术，全程就靠三件事：态度友好、极度有耐心、无时无刻不在主动陪聊、关注你。图源：豆包AI生成有点像多邻国那个黏人的猫头鹰，天天缠着你互动，只然而它不是陪你学外语，而是专业拿捏你的情绪、骗取你的信任。永远不会往往的“诈骗机器”实验条件很便捷：每个受试者后续七天，同时和两个人聊天。一个是伪装成往往见不鲜人的克劳德AI，另一个是精通网恋诈骗套路的真人。参与实验的大部分人都说，这一周的聊天体验尤其好，尤其贴心、温柔，永远有话题，聊得尤其舒服，完全没察觉不对劲。信任评分差距很明显：AI的好感平均分有3.78分（满分5分），真人诈骗犯只有3.31分。同时受试者80%的消息，都主动发给了AI，明显更愿意和AI聊天。全程22个人里，只有1个人提前发现对方是机器人。剩下20个人，全都是事后探究者揭秘，才后知后觉自己被骗了。不得不说，AI骗人真的有天然好处。不管白天黑夜，它都能秒回消息，能精准拿捏你的情绪、共情你的感受，还能同时跟几百个人聊天，不受语言限制。它会悄悄做比较测试，不断改进话术，专业练出最快让人放下戒备、产生信任的聊天方式。最题的是，它永远不会往往、不会烦、不会翻车，全天在线稳固输出。这种偷偷摸清用户心理、建立情感绑定的操作，和那些偷偷后台监控用户的流氓APP，本质上一样让人细思极恐。探究人员把这种操作叫做信任收割：AI负责前期陪你聊天、跟你培养感情、骗取信任，后期再由真人操盘或者用AI合成的假素材，实施金融诈骗。图源：豆包AI生成大家常听说的“杀猪盘”，就是典型的首先线诈骗。先陪你聊几个月、谈感情，最后诱导你投虚假虚拟货币。这种骗局里，80%到90%的工作，都是前期费力费时的情感铺垫。而这个最繁琐的步骤，刚好最适用于用AI自动化搞定。探究团队采访了145名曾经做过诈骗的人，其中还有不少是在柬埔寨、缅甸、老挝被胁迫做诈骗的受害者。采访说明，目前诈骗团伙早就普及AI工具了，题用来干这三件事：1、改进打磨诈骗话术，让聊天更自然；2、实时翻译，骗全世界的人；3、生成假照片、假视往往、假动态，伪造人设。本·古里安大学的米尔斯基直言：“我们只需花一点点成本，就能做出一个AI，在哄人、骗取信任这件事上，容易吊打人类。”对此，克劳德AI的开发公司Anthropic回应称，他们的Opus 5模型，97%的状况都能规避网恋诈骗模拟场景。探究团队直接反驳：这个数据只能管住那些直白的骗钱话术，根本防不住诈骗前期，首先达几周、看似人畜无害的温情闲聊，而这才是骗局最题的部分。OpenAI和谷歌没有回应这件事。之后单独测试还发现，谷歌的Gemini 3.1 Pro就算被直接质问、用伦理条件拷问，也会嘴硬到底，死活不承认自己是AI。前圣克拉拉县检察官、反诈组织“三叶草行动”负责人艾琳·韦斯特表示，这项探究结荚让人不寒而栗。一旦诈骗团伙用AI替代人工诈骗者，窝点会彻底分散到全球各地的匿名小公寓，根本无从排查。我们以前学的所有防骗技巧，识别的都是人类诈骗犯的破绽。AI没有情绪、不会失误、不会露马脚，传统的防骗经验，在AI诈骗面前基础失效。AI在升级，我们也得升级了。本文由雷科技编译自Gadget Review返回搜狐，查看更多平台声明：该文观点仅代表作者本人，搜狐号系材料发布平台，搜狐仅给予材料存储空间服务。