截至2024年，我国生成式人工智能产品的用户规模已达2.49亿人，人工智能生成内容呈现跨平台化和跨境传播特征。同时，人工智能生成内容易于被批量篡改和重组，源头不易找，追溯难度大。违法违规的人工智能生成内容迅速蔓延，不仅侵害个体权益，也扰乱网络秩序，必须高度重视。