抖音严打 AI 虚假灾害画面，发布防汛期涉灾信息治理公告

IT之家 7 月 17 日消息，抖音黑板报今日发布公告，7 月 16 日起，我国正式进入“七下八上”防汛关键期，相关灾情进展和防汛动态持续受到广泛关注。在防汛避险的关键阶段，真实、准确、及时的信息不仅关系群众科学避险和应急处置，也有助于减少谣言传播带来的误导和恐慌。平台巡查发现，随着社会关注度持续攀升，近期借涉灾热点散布不实信息、博取流量的行为明显增多，部分账号通过翻炒旧闻、移花接木编造灾情，或是利用 AI 生成虚假灾害画面等手段传播不良内容，既误导公众认知，也严重干扰权威信息发布传播。抖音表示将持续加强防汛期间涉灾信息治理，对公众高度关注的热点事件及时开展事实核验，并通过求真卡、视频底部求真提示条、辟谣榜等方式提供更多权威信息参考；同时持续加强对编造灾情、伪造官方通知、恶意制造社会恐慌、借灾情博取流量等违法违规及不当内容的治理。以下为部分涉灾谣言典型案例：典型案例一：旧闻旧视频冒充最新灾情部分账号将往年洪涝、台风等历史灾害视频重新包装，配以“最新现场”“当地实拍”等文案进行传播，误导公众认为系当前灾情。例如，有账号将往年洪水淹没交通指示牌的视频包装为今年汛情视频进行传播。此类内容画面信息较少、识别难度高，平台依托 AI 技术核心能力，综合解析画面内容、账号历史传播轨迹等多维度数据开展风险智能识别，同步联动人工复核、权威信息交叉比对机制，实现违规内容快速精准处置。典型案例二：利用 AI 生成或加工灾害画面部分账号借助 AI 生成图片、视频或对真实画面进行加工，虚构受灾现场、夸大灾情，增加公众辨别难度。针对这类新型谣言，平台持续迭代 AI 识别技术，深度运用画面解析、多模态综合研判等核心能力，强化虚假灾害画面的前置识别与主动挖掘效能。近期，平台发现并处置了虚构龙卷风破坏效果的 AI 生成视频，避免不实信息进一步传播。典型案例三：编造、伪造官方通知和灾害预警信息假借政府部门、气象部门等名义，编造泄洪通知、停课通知、停水停电通知、台风预警等内容，容易引发公众恐慌。例如，近期网络流传“13 号台风白海豚、14 号台风鲸鱼将于 7 月 19 日生成”等不实信息。平台在专项巡查中主动发现相关传播内容，并结合气象部门权威信息完成真伪校验核验，核实存在虚假后即时落地处置。典型案例四：夸大灾情、虚构人员伤亡和救援情况通过杜撰灾情进展、虚构伤亡数字、编造救援信息等方式吸引关注、博取流量，对公众造成误导。针对此类信息，平台主动对接权威媒体、主管部门交叉核实情况，确认内容失实后快速处置，同时上报谣言线索。IT之家注意到，截至 7 月 17 日，抖音平台累计核验典型涉灾谣言 71 起，处置相关谣言内容 1.9 万余条，清理评论区谣言 1.6 万余条，对 20 个违规账号进行处罚。同时，抖音已上线 39 则求真卡，视频底部求真条累计曝光超 11.9 亿次。