AI深度伪造乱象频发，全球加速划定监管红线
意大利总理遭AI合成不雅照片攻击，推动欧盟修订法案明令禁止此类色情伪造内容，放眼全球，AI换脸、拟声伪造衍生出隐私侵害、网络诈骗、性剥削等诸多问题，各国纷纷出台举措，共建AI伦理与监管体系。
一、事件导火索：政界人物深陷AI伪造侵扰
意大利总理梅洛尼被反对者制作AI深度伪造性感照片，合成画面逼真度极高，肉眼难以辨别真伪。梅洛尼借此发声，指出普通民众更难维护自身权益，警示AI虚假信息危害，意大利此前也已立法打击针对女性的AI伪造图像。
受该事件推动，欧盟各方达成共识，修订《人工智能法案》，正式禁止AI生成深度伪造色情内容，严打脱衣换脸类违规应用，杜绝利用AI羞辱、侵害他人的行为。
二、欧盟监管新规：立规同时留有调整空间
此次立法是欧盟针对AI伪造色情内容的首次明确禁令，着重强化未成年人权益保护，统一区域内监管执行标准。
但新规落地节奏放缓，高风险AI系统、嵌入式AI工具的监管生效时间，均向后顺延，现有AI乱象的即时管控力度存在短板，监管完善仍有空间。
三、全球伪造乱象泛滥，危害蔓延多领域
1. 色情伪造大肆传播
AI深度伪造技术门槛低、传播快，韩国演艺圈频繁出现艺人形象被恶意合成不雅影像，衍生敲诈勒索案件；全网近九成深度伪造视频为色情内容，相关网站浏览量庞大。马斯克旗下AI工具也曾批量生成违规暴露图像，未成年影像占比触目惊心。
2. 诈骗犯罪借助技术升级
美国2025年AI相关犯罪报案达2.2万起，涉案金额超8.9亿美元。不法分子利用换脸、语音克隆制作虚假素材实施诈骗，欺骗性大幅提升，个人财产、信息安全遭受严重威胁。
四、各国应对举措，探索治理路径
- 韩国：政企警三方联动，搭建举报渠道，加急侦办伪造类案件，平台强化内容筛查处置，专项整治数字性犯罪。
- 美国：业界态度转变，超八成从业者支持政府强制监管，业内提议增设AI内容水印，区分真实影像与合成内容，防范技术滥用。
- 中国：坚持从严管控AI滥用行为，严厉打击AI换脸、拟声诈骗等网络犯罪，倡导各国协同治理，严禁AI技术武器化。
五、AI伦理共识：坚守向善底线，完善全球规制
AI深度伪造违背社会真实准则，侵犯肖像权、隐私权与名誉权，突破公序良俗与法律边界。世界各国虽国情法规存在差异，但普遍认可智能向善核心原则，划定AI不得干预政治、煽动危害社会的底线。
欧盟提出的人机监督、隐私保护、公平透明等伦理准则具备借鉴价值，当前全球AI治理正从道德倡议逐步转向法律硬性约束，未来将形成统一规范制度，约束技术滥用，让人工智能合法合规服务社会。
