短视频里的“真假美猴王”:AI生成内容必须“亮明身份”了!
想象一下,你刷短视频时看到一个历史名人“复活”了,正在讲述自己的故事;或者一段新闻视频里,某位政要说了一些话,但后来发现是AI合成的。是不是有点毛骨悚然?最近,国家网信办发布通知,要求短视频平台对虚构、AI生成等内容进行明确标注,就像给每个视频贴上一个“身份标签”。这意味着,以后你看到的AI生成或虚构内容,不能再“伪装”成真实拍摄了。
为什么需要这样的规定?随着人工智能技术突飞猛进,AI可以生成越来越逼真的视频、音频和图片。比如Deepfake技术,能把一个人的脸换到另一个人的身体上,几乎看不出破绽。一些不法分子利用这些技术制造虚假新闻、进行诈骗,甚至抹黑他人。据中国互联网络信息中心数据,截至2022年12月,我国短视频用户规模首次突破10亿,用户使用率高达94.8%。在如此庞大的用户群体面前,虚假信息一旦传播,危害极大。
网信办的通知要求,除了AI生成内容,虚构的剧情、场景也需要标注。比如一些“科普”视频,实际上是编造的故事,却让人误以为是真实发生的。这些行为不仅误导公众,还破坏了网络生态。
不过,标注规定是否会影响内容创作者的创新?其实,规定并没有禁止AI创作,只是要求诚实告知观众。就像食品包装上必须注明添加剂一样,标注是为了让观众有知情权。而且,对于一些艺术创作,比如科幻短片、历史再现,标注后反而能让观众更好地理解内容。
这项规定还涉及未成年人保护。青少年更容易被逼真的AI内容迷惑,尤其是一些不良内容可能利用AI制作。标注机制可以帮助青少年学会辨别真假,培养批判性思维。
总之,网信办的这次规范,就是要给短视频世界装上“火眼金睛”,让AI和虚构内容无处遁形。作为少年读者,我们也要保持警惕,多问几个“为什么”,不轻信、不盲从。
💡 专家观点
中国传媒大学网络法与知识产权研究中心主任王四新指出:‘标注机制是保障公众知情权、防止算法误导的基础性措施,对未成年人网络保护尤其重要。’
📊 关键数据
- 短视频用户规模 10亿
- 用户使用率 94.8%
🧠 知识点
- 网信办要求短视频平台对AI生成和虚构内容进行明确标注。 网信办是国家互联网信息办公室,负责监管互联网内容。2023年,网信办发布《关于加强短视频平台内容标注管理的通知》,要求对利用人工智能技术生成、深度合成、虚拟现实等技术制作的视频进行标识。
- AI生成技术(如Deepfake)能制作极度逼真的假视频。 Deepfake是‘深度学习’和‘伪造’的组合词,它利用AI将一个人的脸替换到另一个人的视频中,可能被用于恶搞、诈骗或制造政治谣言。
- 我国短视频用户规模巨大,虚假信息传播风险高。 根据中国互联网络信息中心(CNNIC)数据,截至2022年12月,我国短视频用户规模首次突破10亿,使用率94.8%,意味着绝大多数网民都在刷短视频。
- 标注规定不禁止创作,而是保障用户知情权。 类似食品上标注成分,短视频标注AI生成标签,让观众知道内容并非真实拍摄。这既保护观众不被误导,也鼓励创作者诚实标注,提升创作透明。
- 规范有助于未成年人识别虚假信息,培养媒介素养。 青少年更易受逼真内容影响,标注机制能帮助他们区分真实与虚构,培养质疑和验证的习惯。
❓ 常见问题
网信办是什么机构?
网信办全称国家互联网信息办公室,负责监督管理互联网内容,保障网络安全。它发布了这次短视频标注规定。
如果不标注AI生成内容会怎样?
平台可能被约谈、罚款或责令整改。具体处罚措施由网信办根据情况决定,目的是确保新规落实。
这个规定对普通用户有什么好处?
帮助用户辨别真伪,避免被虚假视频欺骗,尤其是在看到未经标注的‘历史人物复活’或‘明星发言’等容易信以为真的内容时。
想了解更多适合青少年阅读的新闻?来好奇喵·晨启10分钟看看吧。
🆕 最新阅读
舍不得离开的科学家:吴浩青与锂电池的百年之约
中国电化学家吴浩青因热爱科学而坚守锂电池研究一辈子,其精神激励青少年探索科学。
电池爷爷的“舍不得”秘密
科学家吴浩青一生研究锂电池的故事
WAIC直击:轻如鸡蛋的AR翻译眼镜实现实时翻译与录音
世界人工智能大会上,一款轻如鸡蛋的AR翻译眼镜亮相,能实时翻译40多种语言,引发对科技与隐私的思考。
WAIC直击:轻如鸡蛋的AR翻译眼镜可实时翻译录音并显示字幕
一副像鸡蛋一样轻的AR眼镜,能实时翻译和录音,让交流无障碍。
穿越420公里的“心灵感应”:中国科学家实现量子纠缠新纪录
中国科大实现量子存储器间纠缠距离420公里,为量子通信网络奠定基石。