8月17日，首届中韩人工智能风险与治理学术会议——“人工智能时代：技术、风险与重构”在北京举办。会议由中国国家自然科学基金委员会（NSFC）与韩国国家研究基金会（NRF）资助，由中国传媒大学马克思主义学院主办，清华大学社会治理与发展研究院和韩国延世大学商学院联合主办。民政部原副部长、清华大学社会治理与发展研究院学术委员会联席主席顾朝曦和韩国延世大学商学院教授任一共同主持主论坛。中韩两国从事社会治理、人工智能、科技政策、科技风险、科技伦理等领域的20余名专家学者通过线下方式、300余人通过线上方式出席了本次会议。
张成岗致辞并作报告
开幕式上，清华大学社会治理与发展研究院院长张成岗教授代表主办方向中韩两国参会学者表示欢迎并围绕“人工智能时代的社会治理多元模式探索及启示”发表主旨演讲。他指出，随着新兴技术全面融入社会生活，新一代人工智能正在众多领域不断拓展应用版图，围绕人工智能产生的风险、伦理和社会治理问题日益引发关注。当前正处于具有高度不确定性的风险社会，在本次全球大流行的新冠肺炎疫情中，人工智能发挥突出作用。本次会议以“人工智能时代：技术、风险与重构”为主题，对于深刻理解人工智能意义、凝聚中韩两国在人工智能领域发展共识具有重要意义。他认为，与传统技术风险相比，人工智能风险具有复杂性、长期性和全球性的特征。面向人工智能与社会治理现代化进程形成历史交汇的时代坐标，社会治理面临的技术环境正在发生革命性的变革，人工智能、大数据等新兴技术正在推动社会治理变革与创新；人工智能时代正在重塑社会治理新范式。面对人工智能发展带来的风险与治理挑战，他强调，我们要在“智字”、“智知”、“智治”三个方面下功夫；处理好“善治”与“善智”的关系，加强人工智能技术发展研判和预测，更好应对人工智能技术可能导致的失控风险、伦理挑战、就业影响；发展“负责任”人工智能，构建“有温度”的人工智能治理体系，建设“高参与性”的社会组织；以社会治理的“实验主义”方式拓展公众参与，实现科技规范与治理规范的融通、法律规则与伦理规范的互补；在负责任的态度中创造、使用、审视人工智能技术。
在会议的主旨报告环节，韩国国立首尔大学法学院教授高鹤洙，中国社会科学院哲学研究所科技哲学系主任、研究员段伟文，北京理工大学特别研究员黄岩，韩国Kakao高级研究员金星焕，腾讯研究院高级研究员曹建峰分别作了报告。高鹤洙认为，如何正确利用人工智能塑造未来，是决策者最关心的问题。围绕人工智能伦理学的方方面面，政府机构、公共部门和其他私营公司应当积极参与人工智能治理，依托国际组织广泛开展人工智能合作。段伟文指出，虽然人工智能带来了对经济、社会、企业和个人福祉的积极影响，但其作为一种无处不在的授权技术，同样可能导致复杂的道德风险。随着人工智能应用蓬勃发展，普通民众和人工智能开发人员越来越对缺乏有效的法律和道德规范感到双重焦虑，开展人工智能治理的研讨与实践至关重要。黄岩介绍到，人工智能技术已广泛应用于机器人开发，而包括类人机器人、外科机器人和人工假肢和外骨骼等可穿戴机器人在内的机器人的普及也会带来潜在的社会问题。金星焕提出“用人和技术创造一个更美好的世界”的技术理念，并以“可解释的人工智能”的价值恢复社会信任、提高人工智能透明度。曹建峰认为要不断构建负责任、值得信赖和以人为中心的人工智能系统，并以人工智能的道德原则和约束框架推动科技实践。最后，任一在主论坛闭幕式上作了总结。
顾朝曦发表演讲
在下午的会议上，民政部原副部长、清华大学社会治理与发展研究院学术委员会联席主席顾朝曦围绕“推进数字化当趋利避害、循序渐进”作了专题报告。他指出，数字化是人类文明的里程碑，信息的产生、重组、分析和传输已经成为当代社会生产和生活的重要组成部分。信息化管理手段和工具构成了经济社会发展的加速器，正在从整体上引导着全球发展进程。值得注意的是，数字化发展也是一把双刃剑，它既代表了文明的符号，也象征着科技的利剑。互联网的强大说服能力能够扭曲市场、形成数字极权，数字化也弱化了人赖以生存的基本能力、降低了社会抵御风险的韧性。他强调，科技是社会进步的动力，善良是文明征程上的灯塔。社会进步应当是循序渐进的，发展数字化，我们应当趋利避害、择善而用。未来已来，我们须以敬畏蓄能量，将科技向善的理念牢固贯穿始终，数字化社会转型才能神形兼备。
会议围绕人工智能风险与治理的相关单元举办了分论坛。分论坛“人工智能技术应用面临的伦理挑战”由天津大学助理教授黄晓伟主持，共探讨了4篇论文。中国科学院自然科学史研究所副研究员王彦雨分享了“主要国家人工智能技术发展路线图规划模式及启示”的研究，基于人工智能技术和社会双重属性提出用于分析人工智能路线图规划模式的“菱形”分类图，探索凝炼出七个典型的规划模式和符合中国国情的未来AI发展路径；中国传媒大学赵瑞琦教授分享了“数字军备竞赛：人工智能的技术风险与规范建构”的报告，指出人工智能在网络安全领域的应用呈现跨越式发展，人工智能在提升网络攻防能力的同时也可能引发全新的数字军备竞赛，为化解现实与潜在风险，迫切需要建构符合更广泛利益的人工智能行为规范；中国传媒大学张寒副教授分享了“公众理解视域下的医疗AI的应用及治理”，文章梳理了国际上医疗AI的创新发展和应用前景，结合“公众理解科学”的视角，探讨医疗AI能否成功在临床应用，认为公众的认可度和接受度将起到关键的作用；烟台大学岳素芳助理教授分享了“科学数据共享的基本问题探究”的研究，指出源于知识生产模式和知识功能的演变，科学数据的使用作用于由科学与社会共同构成的二维场域，对科学数据为何共享、共享什么、由谁共享、共享原则等基本问题的研究是落实科学数据共享实践的前提和基础。最后，《中国科技论坛》副主编张九庆对以上的文章分别进行了更深层次的追问并作出了全面的评述。
分论坛“人工智能技术应用的政策视角”由北京理工大学助理教授徐源主持，共探讨了4篇论文。嘉泉大学助理教授杨毅、博士宗珂分享了“数字化背景下创新企业与制度变迁协同演化进程研究”，通过定性研究分析数字化时代背景下共享平台公司滴滴成功推动制度变迁的案例，深入研究了组织与制度边界之间的相互作用及动态演化的过程；北京邮电大学硕士研究生白雪松分享了“中国人工智能产业政策文本量化研究——基于2012-2020年34份中央政策文件的分析”的研究，以2012-2020年期间颁布的34条与人工智能产业息息相关的国家政策为分析依据，分为两个阶段探索我国中央政府对政策工具的使用分布情况以及在人工智能产业链上的应用变化情况；东南大学博士研究生李娜分享了“负责任创新视角下中韩人工智能伦理政策对比研究”，从负责任创新的视角对中韩人工智能伦理政策的比对分析和价值辨析，沟通了中韩两国政策分析的桥梁；暨南大学硕士研究生王子玥分享了“负责任创新视角下人脸识别技术的伦理风险及其治理”，将“责任伦理”与“技术创新”融合在一起，强调要充分考虑创新过程和其适销产品伦理的可接受性、社会的赞许性和发展的可持续性。最后，中国传媒大学教授王锦刚对以上文章分别进行了评述并与各位作者深入交流探讨。
分论坛“人工智能技术应用的法律视角”由嘉泉大学助理教授杨毅主持，共探讨了5篇论文。暨南大学硕士研究生邓嘉慧分享了“大数据鸿沟视域下的数字权利保障研究”，指出实现数据主体对个人数据的控制权是保护数据主体的数据隐私、有效规避风险以及构建多元数据治理体系中的重要一环；清华大学博士后鞠京芮分享了“政务聊天机器人社交属性的公民偏好：一个离散选择实验”的报告，研究以中国政务聊天机器人为研究对象，采用离散选择实验方法来探究不同社交特性的对公民偏好问题，表明情商、主动性、身份一致性和尽责性这四个社交特性对公民偏好的影响力是由高到低的，此外部分因素的影响还受到个体因素的影响；湖南省社会科学院副研究员宋春艳分享了“人机融合智能的归责风险及治理——以自动驾驶汽车为例”的报告，作者以自动驾驶汽车为例探讨人机融合智能的归责风险产生的原因，借鉴国外为规避风险在政策、法律、保险等方面先行先试的举措和效果，并据此提出我国发展自动驾驶汽车需要采取的规避风险的举措；兰州大学副教授吴烨分享了“‘智能合约’：一个正在形成的新契约秩序”的报告，指出“智能合约”对传统合同法理论带来了巨大冲击和挑战，在“智能合约”的私法构造中，应当构建以“信赖保护”为核心的救济机制，实现法律与技术的同步发展；暨南大学硕士研究生曹姗姗分享了“算法推荐视域下短视频传播主流价值观路径研究”的报告，基于算法推荐的逻辑探究主流价值观是如何基于短视频进行传播的，在传播过程中会面临哪些风险，又有哪些可以优化的路径等问题。分论坛最后，浙江大学教授刘超对以上的文章进行了细致的点评并给出了详尽的修改意见。
分论坛“人工智能技术应用的社会治理”由北京航空航天大学助理教授张正清主持，共探讨了4篇论文。清华大学博士研究生阿柔娜分享了“基于Post-ELSI的人工智能政策国际比较与经验镜鉴”的研究，深入对比中、美、日、韩和欧盟的人工智能政策，充分挖掘出我国人工智能政策所潜在的风险，进而提出走向中国特色的智慧AI政策的路径；清华大学博士研究生王宇航分享了“社会治理的技术逻辑：源流、风险及趋向”的研究，探讨从技术决定论到科技支撑论，人工智能所带来的“弱自主性”引发了对技术逻辑呈现、特征与风险的关注，面向新时代的“中国之治”要兼顾好科技和人文的辩证关系，打造有温度的社会治理体系。广西师范大学副教授练新颜分享了“AI技术在食物领域应用的伦理困境”的研究，认为电子舌的广泛应用将会导致人对自身认知的混乱，侵犯传统的人的完整性。暨南大学硕士研究生王恩媚分享了“‘古老辨析’新探：如何平衡算法影子官僚的逐利逻辑和公共问责？”，认为以公私合作介入公共管理的算法公司成为了算法影子官僚，要围绕算法影子官僚的逐利逻辑与公共问责展开讨论，发现应确保有效的公众参与和高层次的政治问责。最后，天津大学助理教授黄晓伟对以上文章分别进行了深入细致的评述。
在会议闭幕式上，中国传媒大学赵瑞琦教授主持，《南京大学学报》执行主编王浩斌和《中国科技论坛》副主编张九庆分别作了发言报告。王浩斌指出，从宏观来看，本次论坛不仅关注伦理维度，也关注政策、法律等维度，具有多学科、多层次性的特点；中观来看，关于人工智能应用的研究也涉及到技术发展路径、数据权利等，研究更为全面、广泛、多元；微观层面来看，关于自动驾驶、医疗层面、算法推荐、政务机器人等具体技术的运用的研究说明人工智能应用广泛并得到了学者的及时关注，极具前沿性。张九庆指出，学术界学者应当对科技相关政策提高预警意识，要有长远目光，实现技术界研发投入、政策推动、学术界预警三方面的融合，使得学术研究能够更好地服务社会。
会议最后，清华大学社会治理与发展研究院院长张成岗作会议总结。他指出，在人工智能可持续发展未来愿景构建中，需要各国学者加强合作跨越边界形成共识，提高反思性、参与性，不断探索可信的、向善的人工智能发展路径，努力探求底线式、合作式、协商式人工智能治理新模式。最后，张成岗教授向全体线上线下参会师生，应邀承担主持、评议工作的老师们，参与论坛组织工作的老师和学生致以衷心的感谢，并期待下次相聚。
部分中方线下参会者合影
本次会议旨在比较研究中国和韩国在人工智能风险与治理的政策与实践，以发展负责任的人工智能为目标，共商人工智能治理的最佳路径，并为开展中韩人工智能治理研究的国际合作交流提供了良好的契机。
撰稿：张寒、王宇航、王明玉、林志鑫、阿柔娜、王玉婷
