AI生成灾难场景？西藏地震虚假视频曝光，抖音平台呼吁严惩

虚假视频曝光！抖音平台揭露西藏地震谣言，呼吁严惩

　　 1月10日消息，西藏日喀则市定日县发生地震后，灾情牵动着全国人民的心。然而，在这一关键时刻，一些居心叵测的人试图借助AI技术散布虚假信息，以吸引眼球。

　　 今日，抖音安全中心近日发布了关于治理“灾害期间不当使用AI生成内容”的公告。这一举措不仅体现了平台对于用户信息安全的高度责任感，也反映了当前技术滥用问题的严重性。在灾难发生时，真实和及时的信息传递至关重要。然而，不当使用AI生成内容可能会导致虚假信息的传播，进而加剧恐慌和社会不稳定。因此，抖音的安全措施不仅是对平台规则的完善，更是对社会公共利益的有力维护。希望这一行动能够有效遏制不良信息的扩散，为用户提供一个更加健康、可信的信息环境。

　　 公告称，近日，西藏自治区发生地震灾害，网络上出现了大量利用AI技术生成虚假灾害场景的信息，对救援工作造成了干扰。平台已经严肃处理了23652条涉及地震的不实信息，并配发了辟谣内容。 这类事件不仅暴露了部分网民缺乏基本的社会责任感，还反映出当前网络监管面临的新挑战。随着人工智能技术的飞速发展，其在信息传播中的应用日益广泛，这无疑为公众获取真实信息提供了便利。但同时，也给了别有用心的人制造虚假信息的机会。这些虚假信息不仅可能误导公众，甚至可能干扰到实际的救援行动，造成不可预估的后果。因此，加强网络监管和提高公众的媒介素养显得尤为重要。有关部门应进一步完善相关法律法规，加强对AI生成内容的监管，确保信息的真实性和准确性。同时，公众也需要增强辨别信息真伪的能力，避免成为虚假信息的传播者。只有这样，才能最大限度地减少虚假信息对社会秩序的影响。

　　 抖音发现，部分用户在社交媒体上发布由人工智能生成的灾难图片，他们认为这是一种“艺术创作”，目的是为了“祈福”。这些用户表示，他们的初衷并不是要制造恐慌或传播不实信息。 这种行为引发了广泛的讨论。一方面，有人认为这样的“艺术创作”能够引起公众对灾害预防的关注，从而激发更多人参与到防灾减灾的行动中来。另一方面，也有不少人担心，这类图片可能会被误解为真实的灾难现场照片，进而引发不必要的恐慌和社会混乱。 因此，在进行此类“艺术创作”时，创作者应该更加谨慎地考虑其可能带来的社会影响，并在发布作品时明确标注其为虚构内容，以避免不必要的误解和恐慌。同时，平台也应加强对类似内容的监管，确保信息的真实性和准确性，防止虚假信息的传播。

　　 在此，抖音重申，AI创作易让人混淆虚假与现实，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范：

　　 1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

　　 2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

　　 3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

　　 4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于侵犯肖像权、知识产权等。 一经发现，平台将严格处罚。

　　 5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。 一经发现，平台将严格处罚。

　　 2023年和2024年，抖音相继发布了《关于人工智能生成内容的平台规范暨行业倡议》和《关于不当利用AI生成虚拟人物的治理公告》。公告明确表示，平台不支持利用AI生成虚拟人物进行低质量创作，并将对违规使用AI生成虚拟人物发布违反科学常识、虚假信息及谣言的行为进行严格处罚。

　　 据了解，最近，一系列“小男孩被埋图”在网上广泛传播，并配文日喀则地震等关键词，其中，一张“戴着帽子的小男孩被压在废墟下”的图片在多个账号发布，获得大量转评赞。

　　 但事实上，这张图片并不是真实的地震现场照片，而是通过人工智能技术生成的。该图片首次发布于2024年11月18日，发布者当时并未提及与地震相关的信息，并明确表示这是由AI生成的图像。

　　 据媒体报道，经查，青海某网民为了吸引关注，将“小男孩被埋”的图片与日喀则地震的相关信息进行拼凑和篡改，导致谣言传播，误导了公众。

　　 目前，涉案人员已被属地公安机关依法行政拘留。