AI技术造假音频需严格监管

国家互联网信息办公室、文化和旅游部、国家广播电视总局日前印发的《网络音视频信息服务管理规定》提出，利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用其制作、发布、传播虚假新闻信息;网络音视频信息服务提供者应当部署应用违法违规音视频及非真实音视频鉴别技术，应当建立健全辟谣机制。

时下，AI造假音视频技术已经成熟，操作门槛降低，甚至有一键生成的AI造假音视频软件。然而，技术是一把双刃剑，将AI技术用于影视剧生产时是有益技术，但当其被用于制造虚假新闻、有害视频时，就会产生负面效果。因此，对AI造假音视频技术不能放任不管，采取有效措施加以规范很有必要。

AI造假音视频技术的困境在于技术被非法滥用，只要技术处于可控范围内，就能有效控制风险和后果。要达到这一目标，仅靠企业和开发者的自觉性显然不够，必须制定相关法律和行业标准，对AI造假音视频技术实行有效监管，严格限制技术使用范围，对违规行为依法予以严惩。

此次3部门联合发布《网络音视频信息服务管理规定》，就是针对这些现实问题，对技术作出合理限制，要求AI造假音视频需做显著标识，禁止制作、发布虚假新闻，并将管理责任赋予平台，要求平台负责内容审查。这有利于实现监管前置，规范技术使用者的行为。只有将其落到实处，加大对违法违规行为的处罚，才能有效防范技术被滥用，减少对网民的不当侵害和干扰。(江德斌)

关键词：

AI技术造假音频需严格监管

相关推荐