生成式大语言模型的飞速发展极大推动了交互式人工智能发展和落地应用。但是，大语言模型生成的有害言论和虚假信息，以及它背后的基座模型内置的偏见性和安全性漏洞，引发了社会对人工智能伦理风险的广泛讨论。围绕大型语言模型可能存在的潜在伦理危害、人工智能技术对利益相关者的道德责任、科技公司能否在创新和盈利的同时维护社会道德准则等问题，中国中文信息学会情感计算专委会组织《科技向善：大模型从科技到伦理》专题论坛，邀请三位相关领域专家进行相关的报告和研讨。

题目：大模型：从科学解释到治理挑战

摘要：大模型的研究、应用和治理需要两种解释—科学解释和因果解释，分别面向大模型的研究者和用户。作为科学解释的一种探索，针对大模型的基础设施—关联度预测，介绍相关基础研究的部分进展，包括类Lc推衍系统的三条公理及基本性质，包括实例性、全覆盖性和基于语境扩展的传递性。利用这些性质，报告尝试对大模型近期测试中发现的反常结果进行分析和解释，以探索大模型和人工智能的原理性理解。在此基础上，讨论大模型研究和应用所面临的伦理治理挑战，并就大模型“与人类对齐”所涉及的相关研究课题加以探讨。

报告专家：陈小平，中国科学技术大学机器人实验室主任，广东省科学院人工智能首席科学家，中国人工智能学会人工智能伦理与治理工委会主委，教育部重点领域新型资源与教材建设专家组人工智能伦理与治理首席专家。曾任IJCAI-2015机器人领域主席、RoboCup-2008和 RoboCup-2015主席、Journal of Artificial Intelligence Research和Knowledge Engineering Review编委。获中科大“杰出研究校长奖”，以及最佳论文奖、行业年度十大科技进展、机器人世界杯冠军等国内外学术荣誉20余项。发表大量人工智能基础与伦理治理论文，主编教材《人工智能伦理导引》。

题目：社会科学视角下的人工智能挑战

摘要：随着人工智能在全球范围内的深入应用，其在众多领域内产生的深远影响愈发显著。我们致力于建立一个跨学科研究框架，以有效促进人工智能与社会科学的结合，确保科技进步与人类的核心价值观保持一致。本次报告将分析人工智能领域当前所面临的各种挑战，并探讨心理学与社会学在这一进程中的关键作用。通过跨学科合作，力求引领人工智能向着更加负责任、透明，且与人类利益相符的方向迈进。

报告专家：谢幸，微软亚洲研究院资深首席研究员，中国科学技术大学兼职博士生导师，中国计算机学会会士、IEEE会士、ACM杰出会员。长期从事数据挖掘、社会计算和负责任的人工智能等领域研究，发表学术论文400余篇，引用50000余次。1999年获首届微软学者奖，获ACM SIGSPATIAL十年影响力论文奖及中国计算机学会青竹，ACM SIGKDD时间检验论文奖，IEEE MDM时间检验论文奖、中国计算机学会自然科学一等奖等奖励。担任ACM Transactions on Recommender Systems、ACM Transactions on Social Computing、ACM Transactions on Intelligent Systems and Technology、CCF Transactions on Pervasive Computing and Interaction等杂志编委。

题目：生成式人工智能的伦理挑战及其治理思考

摘要：以大语言模型（LLM）为代表的生成式AI大模型，作为当前最先进的人工智能学习算法，正在快速创新和应用，有望给经济社会发展带来巨大效益，但也可能带来新的社会伦理挑战。因此，需要构建负责任的生成式人工智能生态，以价值对齐（value alignment）为核心的内在治理机制将发挥重要作用。目前，价值对齐的实现正在从人类监督（人类反馈）向AI监督（AI反馈）转变，同时训练数据干预、可解释AI、对抗测试等多种方式亦确保构建对齐的AI大模型。未来，以价值对齐为核心的人工智能内在治理机制需要在价值共识、有效监督能方面探索有效方式。

报告专家：曹建峰，腾讯研究院高级研究员，民盟广东省委员会社会与法制委员会委员。兼任上海政法学院客座教授、华东政法大学数字法治研究院特聘研究员、对外经济贸易大学数字经济与法律创新研究中心研究员。长期从事前沿数字技术与数字经济相关的政策、法律、社会伦理研究，主要关注人工智能、自动驾驶、区块链、元宇宙、数字知识产权、数据保护、平台责任等领域。多次受邀在AI领域国内外顶级会议报告。牵头策划撰写《AIGC发展趋势报告2023—迎接人工智能的下一个时代》《人工智能时代的算法治理报告2022》等研究报告。出版《数字正义》、《人工智能：国家人工智能战略行动抓手》、《产业区块链》等著作，在《光明日报》《法治日报》《华东政法大学学报》等核心权威媒体上发表论文和文章上百篇。

论坛主席：秦兵 中国中文信息学会情感计算专委会主任、哈尔滨工业大学长聘教授

哈尔滨工业大学社会计算与信息检索中心主任，自然语言处理研究所副所长。中国中文信息学会常务理事，语言与知识计算专委会副主任，社会媒体处理专委会副主任，科技部科技创新2030-“新一代人工智能”重大项目管理专家组成员，教育部重点实验室“认知智能与内容安全”重点实验室副主任。在国内外知名会议和期刊发表论文100余篇，论文累计被引17433余次（Google Scholar数据），H-index值46。入选2020年度人工智能全球女性及AI 2000最具影响力学者榜单，2020福布斯科技女性榜单，连续三年（2020-2022）入选爱思唯尔高被引学者榜单。获黑龙江省科技进步一等奖、黑龙江省技术发明二等奖、钱伟长中文信息处理科学技术奖一等奖等奖项。

论坛主席：中国中文信息学会情感计算专委会秘书长、哈尔滨工业大学（深圳）教授

现任ACL-SIGHAN中国区召集人、亚洲自然语言处理联合会亚洲语言资源委员会主席。中国人工智能学会理事、青年工作委员会副主任，中国中文信息学会理事、情感计算专委会秘书长，中国计算机学会自然语言处理专委会副秘书长，广东省人工智能安全新技术重点实验室副主任。长期从事自然语言处理、文本情感计算、社交媒体挖掘等方面的研究。获钱伟长中文信息处理科学技术奖一等奖、教育部科技进步奖二等奖、黑龙江省科学技术进步奖二等奖、中国人工智能学会优秀博士论文指导教师、深圳市优秀教师。