北京协和医院专家遭 AI 换脸带货，虚假科普视频误导消费者

感谢亚汇网网友那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？对此，央视《每周质量报告》今日进行了调查报道，我们一起来看一下吧。央视表示，近期在多个社交平台及直播间，出现利用AI技术仿冒知名专家、主持人形象进行虚假营销的现象。此类行为传播虚假信息，侵害消费者权益，引发广泛关注。调查发现，一些自媒体账号发布了所谓的“科普视频”，其中“北京协和医院临床营养科主任于康教授”出镜推荐减肥食谱。经北京协和医院及于康教授本人核实，其从未参与录制此类视频。视频中的形象和声音均由AI技术伪造生成。对此，于康教授明确表示，他本人并未参与录制此类视频，视频中介绍的营养知识，毫无依据，没有得到科学验证。此类视频不仅盗用其个人形象，更传播未经科学验证的错误营养信息，误导消费者购买相关产品，对公众健康认知造成负面影响，并削弱了专业科普的公信力。北京协和医院表示，遭遇类似AI仿冒困扰的医生不在少数，包括马方教授等多名专家形象被擅自用于“养生”、“瘦身”等虚假宣传，甚至有不法分子伪造虚假医生身份，打着协和医院旗号销售商品。此类仿冒行为不仅涉及医疗专家，也波及公众人物。北京市海淀区市场监管局曾查处一起案件：某商家在直播间及短视频中，使用AI技术伪造中央广播电视总台主持人李梓萌的形象，宣称一款鱼油产品具有医疗功效。经监管部门核查及商家承认，该视频系通过剪辑加工李梓萌的公开新闻片段合成。该产品实为普通食品（糖果类），其宣传构成虚假广告，商家被处以20万元罚款。销售记录显示，该虚假视频上线半月内，带动涉事鱼油产品销售额达6万余元。调查显示，此类AI仿冒营销泛滥的原因之一在于相关技术工具获取及操作简便。手机应用商店中存在大量可免费使用的换脸、拟声App或小程序。记者测试发现，仅需上传几张照片，即可将目标视频中的人物替换为自己或他人面容。部分工具还提供“AI文生视频”、“AI对口型”等功能，能在短时间内生成特定场景（如诊室）和身份（如医生）的营销视频，并可选择不添加AI生成标识。针对AI生成内容的管理，《人工智能生成合成内容标识办法》已于2025年9月1日实施。该办法明确要求，利用AI技术生成或合成的文本、图片、音频、视频等信息，必须依法添加显性标识（使公众可识别）和隐性标识（如元数据，标明来源、用途等）。但在实际操作中，部分发布者使用不显眼字体或在画面边角添加标识，甚至故意隐匿标识。监管部门和专家指出，治理此类乱象面临挑战：AI深度伪造视频鉴别难度大、成本高；造假成本低；权利人维权周期长、程序复杂。专家建议需通过制度设计强化保护力度，并推动社会共治。平台作为内容发布渠道，应建立AI生成内容审核机制，加强对逃避标识行为的处理（如下架、限流）。亚汇网注意到，网信部门近期已重拳处置一批违规账号，同时督促平台集中整治，已累计清理8700余条违规信息、处置11000多个违规账号。网信部门表示，将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批。随着大模型在各行业深度应用，其安全风险呈现出复合化特征。网络专家指出，AI大模型安全涵盖数据、基础设施与模型本身三大层面，其中个人使用中的数据安全风险尤为突出。看似简单的图片、文字信息等内容通过AI处理，就可能泄露个人身份信息、人际关系等敏感内容。网络安全专家李虎表示：可能只是上传了一张合照，我觉得就是通过AI来帮我美化一下或者加一项特殊处理。但是其实有可能就暴露了，因为照片上传之后，它其实可以通过人像识别技术把人的身份提取出来，然后通过人物的关系，比如亲密程度，可能猜测是什么人物关系，是朋友关系还是家人关系诸如此类的，然后这些数据都被提取出来之后又可能被进一步利用，比如被诈骗分子拿来利用。除了AI大模型使用带来的数据安全外，公共场合不明来源Wi-Fi的不当连接也会造成敏感信息泄露。网络安全专家王媛媛提醒：这种免费没有密码的Wi-Fi连接，不法分子可能会利用漏洞去架设一个伪基站，诱导大家进行连接，连接之后有可能会截取你的个人信息。据介绍，只要有人接入了不法分子伪装的Wi-Fi，在使用手机等电子设备时的一些操作都可能被截取，其中包括输入用户名、密码等个人隐私信息都会被窃取。网络安全专家建议，个人用户要加强安全意识，优先选择合规大模型平台与正规渠道安装应用；另外，连接Wi-Fi时要警惕无密码热点，避免落入钓鱼陷阱。那么，我们在日常上网时还有哪些注意事项，防止个人隐私信息泄露呢？不晒自己的火车票、飞机票登机牌、车牌：发布含有个人信息的火车票、飞机票、登机牌、车牌等票证，可能会被另有图谋的陌生人获取，从而导致个人隐私泄露；不晒自己的证件照片：身份证、护照、驾驶证、结婚证等证件中，都包含重要的个人隐私，不要随意在网上发布；不晒自己的位置信息：尽量不要发自己的定位信息，这些信息容易暴露真实个人住址，有可能带来不必要的麻烦和风险；不晒老人和孩子的信息：避免发布老人和孩子的照片及姓名，以防不法分子利用这些信息进行违法活动，建议以分组的形式分享给亲人看。央视指出，技术创新必须以诚信为底线，只有让AI在法治轨道上运行，才能净化网络生态和市场生态，真正服务社会。广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，亚汇网所有文章均包含本声明。