2021年5月27日下午，中财人工智能与网络法学术沙龙第10期在学院南路校区举行。中国人民公安大学法学院副教授、数据法学研究院院长苏宇应邀到访我院，在学术会堂603为我院师生作了主题为“算法治理的技术化转型”的学术沙龙报告。
北京科技大学文法学院副教授张凌寒，清华大学法学院助理研究员刘云，中央财经大学法学院讲师李敏担任与谈嘉宾。中央财经大学数字经济与法治研究中心执行主任、法学院副教授刘权担任主持人。本次学术沙龙分为报告人主讲、与谈人发言与互动交流三个环节。
在主讲环节，苏宇副教授作了精彩的主题报告。首先，苏宇副教授以一张清晰明了的图片向大家展示算法规制的谱系。接下来，苏宇副教授从技术化治理的手段示例、技术化转型的法律挑战与迈向未来法治三个方面，详细阐述算法治理的技术化转型问题。算法治理的技术性手段可以概括为七个方面。
一是算法验证，即算法应用面向用户或公众提供一个公开的查验渠道，使用户、交易者或第三方机构有机会检验算法能否实现其所宣称的目标，从而对算法的运行机理建立相当程度的了解和预期。二是算法标准，包括信息安全、网络安全、人工智能、区块链、大数据等方面的技术性标准，算法标准在未来的算法治理中将扮演越来越重要的角色。三是算法认证。具体来讲，算法认证机制可以系统地检验算法是否能够实现其所声称的目标，主要是由有资质机构的第三方认证，国内外已有相当多的实践。四是算法审计，主要是基于系统的输入、输出与流水记录检查算法是否可靠、是否存在系统性偏见等。五是算法影响评估。算法影响评估制度是指依据系统制定的衡量标准对自动化决策系统的应用流程、数据使用和系统设计等内容进行系统评判，以明确该系统的影响水平和风险等级的一种算法治理实践。六是必要安全措施，指法律规范或行政机关依据法律授权直接要求管理和运行算法应用的主体建立有效的风险控制机制。七是智能检测与预警，即通过自动化的技术机制直接发现和处理技术风险。针对以上各个方面，主讲人列举了技术性治理机制的实例，阐释技术性治理机制如何全面渗透到算法治理之中。
之后，苏宇副教授指出，技术化转型所带来的法律挑战可以归纳为对法律规则的挑战以及对法律人的挑战。在法律规则挑战层面，一方面，事实构成的判断需要越来越多地借助技术标准和技术过程，极大地考验执法者的专业性；另一方面，专业第三方意见日益重要，需要发展确保公正的专业第三方参与规则；此外，标准制定与修订的合法性与合理性也面临考验。同时，技术化转型对法律人提出了更高的要求。在解决相关问题时，法律人更需要交叉学科知识与技能的储备，包括细分的“第二专业槽”，如计算机语言和数理知识的进一步细分支撑；此外还需要有应对未充分制度化的前沿领域的能力。面对法律人在政策制定方面失声的情况，苏宇副教授提出，在当前主要通过法教义学培养法律人才的背景下，应当及早为法律人才赋能，多方面打开法律人才参与技术治理的通道，迎接未来治理的挑战。
最后，苏宇副教授对法治现代化建设的未来进行展望。他认为，我们现在的法律是写在文本上的，但未来的法律将会是写在代码里的，法律关系也将迎接全新的“函数化”的转变。我们正站在时代的风口，关键在于，我们能不能在学术研究中、在法律实践里、在法学教育上做好充足的准备，迎接未来法治的变革。
与谈人发言环节，张凌寒副教授首先作出回应。她以“硬科幻”与“软科幻”作类比，形象地评价苏宇副教授的报告内容为“硬学术”，继而谦虚地称自己对于算法的研究为“软学术”。张凌寒副教授谈到，技术标准将成为未来算法治理甚至是社会治理最重要的环节。例如，食品药品监管领域有严格的技术标准；在枪击案件的侦查和审判过程中，也会请弹道专家进行技术认定。可见，技术标准对于法律有着突出的影响，尤其在人工智能和算法大规模实施的过程中，技术越来越融入法律。继而，张凌寒副教授提出，从法学领域研究技术标准，存在以下三个问题：其一，技术标准影响主观过错；其二，标准就是权力，标准意味着程序；其三，技术标准决定了执法和司法的标准。最后，张凌寒副教授以自身经历出发，启发同学们用积极的态度对待数据和算法问题，鼓励大家不要因为缺乏学科基础而惧怕探索新的知识领域。
刘云博士谈了这次报告对他的启发。他认为，我们需要深入理解互联网结构的形成历史和未来方向，区分技术自治和法律规制，法律人不仅要从事事后的规范研究，也要致力于参与互联网底层逻辑的设计，从事网络与信息法学研究要摈弃自己是纯粹文科生的定位。接下来，他对技术标准这一问题发表自己的几点看法。第一，《标准化法》定义了标准的内涵和国家标准的范围，法律法规与技术标准应当互相支撑配合，有助于细化法律要求和降低缔约成本。第二，我们在越来越多的领域逐渐制定国家标准，标准的合规性是需要关注的问题，需要注意防范标准泛化的问题。此外，刘云博士对算法可解释性问题发表了自己的观点，他认为要区分符号主义的算法和连接主义的算法，可以划分出一些高风险领域，包括自动化领域、算法决策领域、信用领域等，对这些领域进行可解释性研究将会对我们的实践产生较大帮助。
李敏老师对苏宇副教授的部分观点十分赞同。李敏老师从金融法的角度切入，谈及对算法的治理问题。她首先回应了苏宇副教授提出的技术化转型对法律人的挑战，结合自身经历，谈到在当今技术应用越来越广泛的情况下，技术和法律更需要结合起来，因此跨学科人才培养也是一个值得重视的问题。此外，李敏老师提出了一个疑问，在大数据应用中，机器学习容易导致算法歧视的结果，我们应该怎样治理与解决这个问题？
倾听了三位与谈嘉宾的精彩发言后，苏宇副教授针对部分观点做出回应。对于引起热烈讨论的技术标准的问题，他认为，标准的制定过程在以后也将如同行政法学中所讲的“行政过程政治化”一样，将会变成一个多方利益博弈的“政治过程”，需要不断建构和完善标准制定和修订的程序。对于李敏老师提出的疑问，苏宇副教授也给予回应：根据不同标准，可以采取三种判断方式。第一，运用统计学方法，进行机器判断与人工判断的对比。第二，在涉及重要公共利益或重大个人法益的领域要求开放源代码，并检查其中是否存在不恰当的分类。第三，通过泰勒展开式拟合AI决策函数等数学机制判断，设定影响限度。
在自由讨论环节，同学们踊跃发言，纷纷提出自己的疑问与思考。法学院2020级民商法专业硕士生惠琳琳就区块链存储中个人信息的可删改性提出疑问；2020级法律法学专业硕士生李健强提出，因为算法误判造成的使用人的损失，该由谁来承担责任；2020级金融服务法专业硕士生马文洁提问，源代码公开是否会涉及商业秘密，对此如何平衡监管；2020级宪法学与行政法学专业硕士生古雪就自动化行政裁量问题提出了独到的观点和疑问。苏宇副教授对同学们的提问一一作出精彩的回应。
刘权副教授对本次学术沙龙进行总结。他谈到，人工智能靠算法，人类智能靠思维。算法无处不在，我们每个人几乎都无法逃离“算法”。正确运用算法可以增加客观性，可以提供更多的智能服务和智能产品，但算法同时会产生许多新问题。如何进行有效的算法治理，是全球法律人所面临的共同的难题。如何打破算法黑箱、进行算法解释，如何解决算法规制过程中可能产生的知识产权保护问题，如何进行算法问责，都值得深入研究。从公法角度来看，数字政府建设也大量涉及算法，如智慧立法、自动化决策、自动化行政、智慧司法。对算法的研究，需要打破学科界限，从公私法融合的角度进行系统研究。目前，各国在算法规制上采取了不同的做法；在未来，我们有必要进一步加强立法，从法律层面对算法进行规制，如制定《算法法》。
最后，刘权副教授再次衷心感谢与会嘉宾的到来，感谢大家就算法治理的技术化转型发表了许多精彩观点。第10期中财人工智能与网络法学术沙龙在热烈的掌声中结束。
文/敬玉清
