所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
本报报道（记者王晓东）为应对人工智能合成技术滥用风险，规范电商直播行业秩序，北京市消费者协会近日鼓励京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台签署推动人工智能技术标准应用承诺书（以下简称）。它提出了六个具体步骤，从技术标签、内容审核、责任追踪、划定IT应用合规红线等​​方面建立企业自律守则。近年来，AI真人数字直播、虚拟场景分发等新技术应用日益广泛。迅速蔓延。在消费者体验不断改善的同时，一些商家的违规经营正引起消费者的广泛关注。北京市消费者协会进行了为期三个月的专项调查。通过调查、经验研究和专家讨论，我们发现了当前人工智能合成技术应用中侵犯消费者权益的三个尚未解决的问题。一是消费者知情权得不到充分保障，普遍存在真假难辨的问题。调查数据显示，近90%的受访者希望“AI生成的内容能够被清晰标记”，超过70%的受访者接受虚拟背景，但强调需要突出指示。超过60%的受访者认为AI数字人“缺乏真实情感”，近30%的受访者担心其“可能在消费决策上产生欺骗”。 其次，合成技术的滥用带来风险随着消费升级，欺骗性营销问题凸显。针对AI数字人的行为以及AI场景电商平台上的产品直播，北京市消费者协会将模拟消费者在直播间购物、线下对比实物产品的情况。对AI数码人的10个产品直播样本进行体验研究。发现5个样本存在问题，例如没有在tr界面上标注即时信息，标注为“AI生成”或“真实场景”，5个样本无法及时回复或与实验者的问题互动，6个样本不存在从事个人交易的风险。此外，一些网络直播利用公众的信任来获取不正当利益。近日，网信部门还查处了多个利用AI换脸技术冒充明星进行直播的网络账号。团队营销。三是平台审核机制存在缺陷，风险管控和防范能力有待提高。经过与专家讨论研究发现，目前部分电商平台尚未建立健全专门的人工智能内容审核系统，缺乏有效的管理规则和识别技术，对营销人员运用数字人、虚拟场景等人工智能技术进行精准化，导致消费者在购买过程中难以快速识别信息的真伪，增加了消费者决策的风险。针对上述问题，北京市消费者协会敦促8家电商平台签署“承诺书”。他提出了六项具体措施，划清人工智能技术在电子商务领域的合规应用，重点是“透明可视化、严格审核、问责可追溯”。冷杉t、遵守法律要求并定义合规限制。我们将严格遵守《消费者权益保护法》、《电子商务法》、《人工智能生成合成内容展示管理办法》等法律法规，要求会员平台、店铺应用人工智能生成合成技术，保障消费。当事人的合法权益是前提。二是强化标签义务，保护消费者知情权。营销人员和内容创作者在利用人工智能技术生成合成数字真人主播或虚拟场景时，必须清晰、显着地标明“人工智能生成”或“真实场景”等标识。必须检查。建议利用平台内置的AI内容识别功能主动申报，并利用AI合成脸部修饰技术冒充名人严禁携带产品。第三，采用后续茶查和人工审核相结合的方式，防止违规行为升级。在内容审核和传播过程中，对内容销售者或创作者的直播内容和直播场景进行监控。当发现未标记的AI数字人或AI虚拟场景存在可疑问题时，将立即采取适当行动，在发布的内容周围添加显着的警告标志。如果平台确定确实存在违规行为，将采取包括屏蔽链接在内的额外措施。四是提供工具支持，引导商户主动合规。我们为营销人员和内容创作者提供便捷的AI识别工具和清晰的操作指南，让他们能够主动规范AI识别的使用。五要严控展品造假，维护系统可靠性。我们将坚决抵制人工智能内容恶意删除、欺骗、篡改、去标识化，依法严肃处理非法账号和内容，维护人工智能相关系统的完整性。六是加强培训赋能，提高行业意识。将人工智能内容标签要求纳入平台治理体系，改进对卖家或内容创作者的合规培训，并提高平台内人工智能技术的合规水平。北京市消费者协会副秘书长吴海璐表示，下一步，北京市消费者协会将持续跟踪人工智能技术的应用趋势，组织志愿者到直播间体验购物，跟踪反馈真实感受，督促企业严格履行承诺。同时，通过多种方式开展消费者教育活动。通过线上线下多种渠道，向消费者传播人工智能技术认知，提高消费者识别虚假内容的能力，增强防范意识。通过多方合作、多方位政策，构建技术合规、平台丰富、消费者安心的网络消费环境。