3月15日，央视“3·15”晚会曝光了一条利用AI技术实施“投毒”的黑色产业链，引发科技行业高度关注。3月16日，多家互联网科技企业宣布紧急启动安全升级，加强对AI生成内容的监管，防范AI技术被滥用。
晚会曝光的AI投毒产业链主要包括三个环节：首先，不法分子利用AI技术生成虚假新闻、虚假评论等内容；其次，通过网络水军将这些虚假内容大量传播；最后，利用虚假内容实施网络诈骗、恶意营销等违法活动。据了解，该产业链已形成规模化运作，涉及多个网络平台，对网络环境和消费者权益造成严重危害。
针对这一问题，腾讯、阿里巴巴、百度等科技企业迅速做出回应。腾讯表示，已升级AI内容检测系统，加强对AI生成内容的识别和拦截，同时加大对网络水军的打击力度。阿里巴巴称，将在淘宝、天猫等平台加强对AI生成虚假商品信息的排查，严厉打击虚假营销行为。百度表示，将优化搜索引擎算法，提高对AI生成虚假信息的甄别能力，确保搜索结果的真实性和可靠性。
业内专家指出，AI投毒产业链的出现反映了AI技术在发展过程中面临的新挑战。AI技术的快速发展为社会带来了便利，但也被不法分子利用，成为实施违法犯罪的工具。因此，加强对AI技术的监管，规范AI技术的应用，已成为当务之急。
据悉，网信办已联合工信部、公安部等部门启动网络安全专项整治行动，重点打击AI生成虚假信息、网络诈骗等行为。同时，将加快推进AI技术监管法规的制定，明确AI技术开发者和使用者的责任，保障AI技术的健康发展。科技企业也表示，将积极配合监管部门的工作，加强自律，共同维护网络空间的安全和稳定。