清朗沙龙首期召开，探讨如何识别AIGC信息真相

7月25日下午，上海市委网信办“清朗e企来”系列惠企沙龙2024年首场活动在徐汇区举行。活动聚焦“AIGC时代的信息真相：识别与应对价值观偏见”主题，探讨交流AIGC时代信息安全建设有效路径。

沙龙现场提出，要始终坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励与引导生成式人工智能技术发展。

日前，二十届三中全会通过的《决定》明确提出“完善生成式人工智能发展和管理机制”。随着生成式人工智能的快速发展，AIGC内容价值观偏见风险愈加凸显。沙龙现场提出，要始终坚持发展和安全并重、促进创新和依法治理相结合的原则，鼓励与引导生成式人工智能技术朝着更加公正、符合伦理的方向创新发展。大模型企业和网络平台要主动承担社会责任，遵守法律法规，尊重社会公德、公序良俗，明确对AI生成内容采取有效措施确保合法合规。对于违法违规行为，监管部门要依法履职、严厉打击，着力维护信息内容生态健康与网络秩序和谐。

来自国家互联网应急中心上海分中心、百度公司、开普云的嘉宾从各自领域做了观点分享。国家互联网应急中心上海分中心介绍了生成式人工智能对网络内容建设产生的深远影响，以及如何构建全方位人工智能安全治理体系等内容；百度公司围绕大模型内容安全治理面临的新问题新挑战，分享了安全对齐、安全围栏建设的实践经验；开普云全面分析了大模型价值观偏见的隐患点，提出加强算法研究优化、做好用户教育引导、增强合作共建等应对措施。与会人员与嘉宾积极互动交流，进一步加深了对AIGC的认识和理解。

本期“清朗e企来”惠企沙龙活动由上海市委网信办主办，徐汇区委网信办、上海大模型生态有限公司共同承办。市网络协同治理联动机制成员单位以及各区网信办负责人，稀宇科技、商汤科技、蜜度科技、小红书、哔哩哔哩等属地主要互联网企业代表参与活动。

据了解，今年上海市委网信办在“清朗浦江”专项治理行动基础上，升级“清朗e企来”惠企品牌，聚焦属地互联网企业“急难愁盼”问题，重点打造“五大服务包”