新华网北京9月20日电（向思敏）9月20日上午，在北京文化论坛“文化潮流：新兴业态与技术融合”论坛上，新华网副总裁张芮宁重磅发布“AIGC-Safe全域内容安全与模型安全综合服务平台”。张芮宁介绍，该平台的推出，旨在为狂飙突进的AI技术系上“安全带”，护航技术向善、数智向善。

图为新华网副总裁张芮宁现场发布AIGC-Safe平台。新华网 陈延特 摄

近年来，数字化浪潮澎湃兴起，人工智能（AI）技术正以前所未有的速度重塑世界。然而伴随这一技术革命而来的，不仅是前所未有的机遇，还有难以驾驭的风险。

世界经济论坛《2024年全球风险报告》把“信息错误和虚假信息”列为最大的短期风险。黑客利用AGI侵入性工具大幅缩短人工智能生成威胁的时间，将攻击目标从个人数字资产扩大至AI算力基础设施和大模型，甚至威胁公民人身安全与国家安全。AI“换脸”诈骗，AI伪造图文传播谣言，AI生成涉政、涉暴、涉恐、涉黄等违法违规内容……种种乱象，严重侵犯公民合法权益，扰乱社会秩序。同时，公共显示屏也因数量众多、区位分散、传统防御监管手段响应效率不高等现状，成为内容安全事故的“多发区”。

面对严峻形势，全球范围内对AIGC进行合规性监管的共识日益增强。我国在这一领域更是走在世界前列，政策、立法、伦理、标准多维度并进，不断将人工智能治理共识转化为系统性规则规范和实践举措。

图为平台发布现场。新华网 陈延特 摄

“新华网紧跟时代步伐，‘用AI守护AI，用大模型对抗大模型’，打造了AIGC-Safe全域内容安全与模型安全综合服务平台。”张芮宁介绍。网络安全的攻防从人和人之间的对抗，已经升级到AI和AI之间的对抗，只有AI驱动的防护和检测才能识别AI驱动的伪造和攻击。

该平台构筑起四大核心技术能力：在模型层面，推出国内首个伪造检测大模型，并搭建AI攻防平台和数据生成基座以保障模型持续更新；在数据层面，依托承办中国互联网联合辟谣平台的优势，积累了海量谣言大数据和不良信息特征库，针对伪造算法和合成数据进行储备与训练；在算法层面，通过算法的深度优化，确保模型在各种环境和场景下，都能高效精准部署应用；在硬件层面，适配国产芯片，优化软硬件协同和网络加速，研发出保障信创安全的一体机产品。

通过现场演示，观众直观感受到AIGC-Safe平台不仅具有强大的内容合规审核能力，能够对字、词、标点、知识性差错及通用内容和AIGC内容进行全面检测，还拥有卓越的AIGC检测能力——无论是AI生成的文本、视频还是多模态内容，平台都能迅速识别，可用于判断各类网络信息是否真实、检测学术论文是否造假；对于深度伪造的视频、图像、合成语音等，平台能快速识别并标记其伪造痕迹，可用于检测AI换脸诈骗、数据造假、虚假情报等众多安全场景。

此外，作为线上线下全域覆盖的内容安全检测平台，AIGC-Safe通过云边端一体化的方式，为公共显示屏内容及播控安全提供了全面解决方案。面对诸如公交站台显示屏被黑客攻击劫持等突发事件，平台能够迅速响应并提供整体安全解决方案，确保信息传播的稳定性和安全性。

AIGC-Safe具有广阔的场景应用前景，可广泛应用于虚假情报检测、特定人物伪造检测，AI换脸、语音合成诈骗检测，开户换脸检测、新闻真实性检测、学术作弊检测，票证鉴伪，公共显示屏内容安全管控、舆情风险管控、版权风险管控等诸多领域，在实际场景中解决AI发展伴生的实际问题。

作为中央重点新闻网站和新型数智化文化企业，新华网一直努力探索发展自身的人工智能技术创新应用。此前已推出新华AIGC应用使能平台、新华AI学术科研原创助手、“智政通”政策与公共服务AIGC自然语言交互系统等多个平台和产品。展望未来，新华网将以AIGC-Safe平台为基石，勇毅担当、创新技术、拓展场景，为AI时代每一个“你我他”的安全保驾，以扎实的全域内容安全与模型安全综合服务实力，为数字中国行稳致远护航。