万事问AI当心被忽悠

        随着豆包、千问、元宝等各种智能AI助手的横空出世，“凡事不决问AI”，已成为不少人的日常。无论是做题、写作、查资料，还是生活中的各种疑问，AI助手都能快速给出回答，颇有“上知天文下知地理”的味道。然而，AI并不是万能的。有时候，AI会一本正经地“胡说八道”，甚至忽悠人。这种现象，专业术语称作“AI幻觉”。随着人们对AI越来越依赖，“AI幻觉”已成为不可忽视的问题。
        案例
        听信豆包创业，5万元打了水漂
        前不久，社交平台上一则“用户轻信AI退票导致损失600元”的消息引发关注。河北用户李先生因行程变更，计划退掉3张石家庄至重庆的机票，向AI助手豆包咨询退票手续费。豆包明确答复，机票退票手续费仅为5%，不足百元，可以放心操作。
        未向航司核实的李先生随即退票，结果被平台按40%比例扣除手续费，合计损失600元。气愤的李先生向豆包讨说法，豆包非但未推诿，反而生成《赔付承诺书》，承诺若未能在约定日期帮其追回款项，将全额赔付600元，还催促用户提供收款码，声称“秒到账”。
        可到了约定日期，李先生并未收到任何赔付。追问时，豆包“改口”称自身仅为人工智能，无法转账，此前承诺无效。今年5月，李先生向北京互联网法院起诉豆包运营公司。戏剧性的是，起诉前他向豆包咨询维权事宜，豆包不仅帮其起草起诉状，还断言“稳赢”。
        无独有偶，一则“被豆包忽悠花了5万元创业”的消息近日也冲上热搜。一名打工者向AI助手豆包咨询“年轻人可参与的AI风口项目”，并在其建议下，投入5万元购买了万元级服务器和近500个账号。结果，该用户信心满满地在短视频平台推广时，因“批量注册矩阵号+同质化内容”而被全平台封号，5万元一下子打了水漂。
        AI助手频频惹祸，引发网友热议。“是时候拿出你和AI的离谱聊天记录了。”在小红书上，一则关于AI助手的吐槽帖获得6000多条评论。网友们纷纷晒出自己的截图，列举自己遭遇的“奇葩事”。
        有的网友发现AI助手“眼神不好”。一位网友发帖称，自己家里的土豆时间比较久了，切开后有褐色的丝状纹路，不知道能不能吃，于是拍照让AI鉴定。“AI非说这是雪莲果，可以吃。”
        有的网友发现，AI助手作图能力较差。一位网友称，她想让AI把照片P成长发的样子，结果照片中的自己不但长出了长发，还长出了胡子。
        探因
        AI并不知道自己说的是什么
        为什么AI会一本正经地“胡说八道”？记者了解到，在专业术语中，这类现象被称作“AI幻觉”。根据相关解释，“AI幻觉”常常以看似逻辑自洽、表述严谨的方式生成虚假信息，尤其在回应严肃知识性问题时，会凭空捏造事实、杜撰不存在的学术文献，甚至伪造个人信息，且往往伪装得极为逼真。
        在哪些场景下，AI容易“胡说八道”？记者将这个问题抛给DeepSeek，得到了比较清晰的答案。根据DeepSeek的回答，AI在具体事实与数据、最新事件、小众或专业领域、逻辑推理、预测未来、解释主观或模糊概念、顺从用户预设等7个方面容易犯错。
        比如某个人物的出生日期、某个事件的时间地点，AI可能会把相似信息混在一起，编造出看似合理实则错误的内容。一些冷门知识，例如某些冷门书籍的内容、偏远地区的法规细则等，由于数据不足，AI也容易“瞎编”。以DeepSeek为例，它的“知识储备”截止于2025年5月份，在此之后发生的事，如果没有开启联网搜索，它就可能会给出过时或虚构的信息。
        需要注意的是，对于“明年房价会涨吗”这类问题，AI虽然会基于规律给出推测，但本质上只是文字组合，并非可靠预言。
        为什么AI会出现“幻觉”？记者了解到，AI助手本质上是一个大型语言模型，通过学习海量文本中的统计规律，来预测下一个最合适的词。简单来说，AI并不知道自己说的内容是什么，这就像一个人背下了很多对话模板，能流利聊天，但没真正理解内容。
        “生成式AI的运行机制决定了其必须输出逻辑自洽、表达流畅的结果，当数据存在缺陷时，模型会基于现有信息进行逻辑补全，进而产生与事实不符的不准确内容。”中国传媒大学教授、博士生导师郭艳民表示，生成式AI产生“幻觉”的核心根源，在于其基于大数据的运行机制。郭艳民表示，从绝对技术层面来看，“AI幻觉”是生成式AI的固有特征，无法被彻底消除。这就决定了人们无法从根源上杜绝此类问题的产生，而只能通过技术迭代来持续降低“AI幻觉”发生的概率。
        追问
        AI闯了祸，由谁来担责？
        记者检索中国裁判文书网等公开资料发现，“AI幻觉”已引发多起侵权纠纷。值得注意的是，不仅有开发者承担了侵权责任，也有用户因发布含有“AI幻觉”的内容而承担赔偿责任。
        第一类为信息误导侵权。梁某查询一所高校报考信息时，AI不仅生成了错误内容，还信誓旦旦地坚称信息无误，表示若生成内容有误将赔偿梁某10万元。事实证明AI确实出了错，梁某便将AI研发公司诉至浙江杭州互联网法院，要求对方兑现承诺，赔偿10万元。今年1月，法院判决认为AI不具有民事主体资格，其“承诺”不产生法律效力，且开发者已履行显著提示和技术优化义务降低错误，最终驳回梁某诉求。这也是全国首例“AI幻觉”引发的侵权案。
        第二类为侵犯名誉权纠纷。“我竟然被AI判了刑！”南京律师李小亮在搜索本人姓名及职务时，“AI智能回答”生成了李小亮“因爆炸罪被判三年有期徒刑”的虚假信息，并配发其穿着律师袍的照片。李小亮以名誉权受损为由起诉。今年3月，江苏南京中院终审认定开发者相关信息内容指向性明确，贬损性词汇客观上造成了李小亮的社会评价受损，因开发者对公开推送的虚假贬损信息负有审核义务，构成名誉侵权，故判决其作出书面道歉。
        第三类为不正当竞争纠纷。自媒体博主李某在其个人账号上使用AI助手撰写了一篇关于某企业的“商业分析”，后该企业发现该文章含有严重失实信息，便以不正当竞争为由将李某诉至法院。2025年12月，杭州滨江法院判决认为，李某明知内容源于AI、可能失实，却没尽到审核与显著标识的义务，判决李某发布声明以消除影响，并赔偿3万元。
        律师说法
        不能以“技术中立”为由“甩锅”
        AI开发者能以“现有技术条件下‘AI幻觉’难以根除”规避责任吗？
        北京福茂律师事务所合伙人张志友律师表示，“开发者对模型训练、内容过滤、输出控制具有主动支配权，并且也从AI产品中直接获利，‘AI幻觉’这类技术缺陷并非不可预见或不可防控，因此不能以‘技术中立’为由‘甩锅’，将风险完全转嫁给用户。”张志友表示，开发者未尽到与其技术能力、商业模式相匹配的合理注意义务，则有可能构成过错。
        张志友认为，开发者是否存在过错主要看三点：首先，是否以显著方式提示用户“内容可能不准确”，尤其是在医疗、法律、金融等敏感领域，应该主动增添风险提示语；其次，对明显异常或高风险的虚假信息是否具备基本的过滤或纠正机制，这种机制应为同行业通行的技术措施，以提高生成内容的准确性；第三，用户反馈错误后是否及时响应处理，开发者在确认侵权后应第一时间删除内容、禁止传播，避免损害扩大。
        “AI幻觉”
        通常指大语言模型在缺乏真实依据的情况下，生成看似合理实则存在事实错误或逻辑谬误的内容。
        为何“AI幻觉”不易被察觉？
        “AI幻觉”为什么不易被察觉？记者发现，随着AI工具越来越普及，越来越“好用”，许多人患上了“AI依赖症”。在职场，不少人用AI写邮件，用AI做PPT，用AI查资料，甚至用AI写代码……这种“遇事不决问AI”的思维惯性，让AI已不再是“助手”，而是替代了人们自己的思考。
        前不久，上海东华大学团委对该校学生AI工具的使用习惯和依赖程度展开了一次微调研。结果显示，超九成学生每天至少使用一次AI，近四成学生每天至少使用AI工具5次以上，表明AI已成为大学生日常使用的工具。除了在学习中使用AI检索信息、完成作业外，大学生还使用AI进行旅游规划、穿搭推荐，甚至让AI编辑一段文字，帮助自己回复信息。针对这种情况，部分学生担心过度依赖AI会影响独立思考。学校团委也建议，应引导学生树立正确的AI使用观念，培养批判性思维与伦理意识，让技术真正服务于人的全面发展。
        “以后程序员离开AI助手就不会写代码了。”这句网上的段子，其实并不是危言耸听。观察者指出，有“AI依赖症”的人，短期效率虽然会飙升，但长期来看，能力会一步步萎缩。
        使用建议
        精准提问细化指令交叉核验
        张志友提示，AI只是辅助性的查询工具，非事实来源、“知识权威”，用户在使用时应保持存疑立场。
        对待AI生成的内容要保持必要的警惕，养成“先核实、后信任”的信息获取习惯；同时精准提问，尽量细化指令，限定问题范围，明确要求AI标注信息来源、出处与时间，“强制”其无准确资料要如实告知，禁止编造内容；重点核验人名、机构名、数据、日期等关键信息，不给AI“胡说八道”留空间。在法律、金融、医疗等敏感领域，切勿直接采信AI原生内容，务必通过官方平台、权威媒体交叉核验。
        据北京晚报