上海严打AI低俗软件：网络生态遭遇的隐秘危机

近年来，随着人工智能技术的迅猛发展，特别是"AI换脸"和"AI换衣"等应用的普及，网络生态环境却逐渐暴露出了一系列低俗和不法现象。近日，上海市网信办展开了一次针对低俗内容的严厉打击行动，宣布将全面整治在网络上售卖AI低俗效果软件的行为，并对多起违法案例进行了曝光。

网络生态治理的紧迫性

根据上海市网信办发布的“清朗浦江·2024”网络生态治理报告显示，监管部门查处了一些以"程序媛**"和"小狗爱吃**"为名的账号，发布了多款“AI换脸”和“AI换衣”的视频教程，这些内容不仅低俗，还存在侵权的风险。

值得注意的是，部分低成本的AI技术应用，竟能让用户仅用一张照片就能“定制”成类似热播视频中名人的全方位表现。这种现象，不仅低俗且潜藏着较大的法律风险。

对抗低俗：政策的出击

为了有效打击这类行为，上海市网信办对属地电商平台进行了全面排查，关闭了多家违规店铺，并对多名发布低俗内容的用户账户实施了禁言等相应处理措施。专家指出，国内现有法律法规，如《民法典》第1019条规定，任何单位或个人不得侵犯他人的肖像权，若未经授权使用"AI换脸"技术冒充他人形象，便有可能构成对肖像权的侵害。

若不法分子利用这些AI技术制作淫秽视频或展开诈骗行为，便有可能触犯刑法，面临严厉的法律制裁。

###技术识别的挑战

然而，在这场与低俗内容的斗争中，技术的挑战不容小觑。当前识别AI生成图像的技术亟待完善。虽然已经有多种监测手段可以尝试验证图像的真实性，例如元数据分析和物理一致性验证，但随着生成技术的快速演变与改进，这一挑战无疑会变得愈加复杂。

随着网络安全法规的引入，国家互联网信息办公室与相关部门制定了《人工智能生成合成内容标识办法》，并于2023年9月1日正式实施，这一文件将要求所有AI生成的内容必须标明来源，尤其是针对可能涉低俗内容的应用，这将有助于进一步完善网络安全环境。

法律与教育的双重护航

为了有效遏制这种低俗行为的蔓延，专家呼吁法律和社会教育应双管齐下，构建一个全面的防控体系。目前，大多数“AI换脸/换衣”的不当行为仍处于民事诉讼的范畴，给受害者带来了难以维权的困境。因此，应完善现行法规，细化AI技术违法条款，明确侵权界限，提高违法成本，从法律层面强化对不法行为的打击力度。

在社会教育方面，提升公众的风险防范意识和辨识能力，加强反诈骗知识的普及，增强大家对人工智能潜在风险的理解显得尤为重要。实际上，越来越多的用户在享受AI技术便利的同时，往往忽略了随之而来的风险，导致了不必要的损失。

结尾

在时代发展的浪潮下，我们面临着技术带来的机遇，同时也需要时刻警惕背后可能出现的阴暗面。只有建立完善的法律体系，加强公众教育，以及搭建技术识别的方法论，才能有效打击利用AI技术进行低俗内容传播的行为，推进网络生态的良性发展，以构建健全的网络环境，使人们在信息纷繁复杂的时代中，真正做到防范和保护。返回搜狐，查看更多