摘要:科技发展不仅给人们带来了福祉,相关的风险也随之而来。如何辩证地处理好科技与法律之间的关系,成为新时代依法治国的重要议题。具体到行政执法领域,我们在享受自动化行政带来便利的同时,也要从法律上采取有效措施,对可能造成的风险进行规制。
关键词:风险；自动化行政；依法行政；法律规制
近年来,随着互联网、大数据、人工智能、区块链等新技术的发展,国家出台一系列政策文件,积极推进先进科学技术应用于行政活动过程中。2017年国务院印发的《新一代人工智能发展规划》中提到:“开发适用于政府服务与决策的人工智能平台,在复杂社会问题研判、政策评估、风险预警、应急处置等重大战略决策方面推广应用”,明确了人工智能在新时代社会治理与依法行政方面适用的必要性。2021年,中共中央、国务院印发的《法治政府建设实施纲要(2021-2025年)》明确提出“全面建设数字法治政府”的目标要求。2022年中央全面深化改革委员会第二十五次会议通过的《关于加强数字政府建设的指导意见》明确:“创新政府治理理念和方式、形成数字治理新格局”。科技的迅速发展,给人们带来了大量福祉,在此意义上,法律应当保护新技术的发展。同时,在科技进步与公民权利保障之间,法律应当以保障公民基本权利为中心,对科技发展可能带来的风险进行必要的规制,以促进法律与技术的融洽发展。
涉及具体领域,随着先进技术在行政执法领域的普及,行政程序中的部分或全部环节,被更加智能的自动化系统所取代。如何有效利用自动化行政,保障公民的基本权利,具有重要的意义和价值。在此背景下,各地方政府进行了一系列人工智能与行政相结合的自动化行政实践探索,例如“无人干预自动审批”“电子送达”“网上办税系统”“智慧城管”等自动化行政的实践,提升了新时代依法行政的效率与水平。2019年深圳交通运输局将人工跑腿替换为“数据跑路”,开创了数据行政的新模式,更加智能化的行政许可服务得以建立；2022年,重庆市也在行政许可领域有所突破,行政许可的申请需要在人工智能的终端设备上进行提交,行政机关通过自动化系统对关键词和核心数据筛选,行政许可的智能化水平大幅提高,极大提高了行政效率。在发挥自动化优势的同时,也应采取有效举措,防止行政权的滥用以维护公民的合法权益。
以数据安全为核心保护公民个人信息。行政机关存储着大量个人数据,也应肩负起对数据安全进行保护的基本义务。在自动化行政的背景下,无所不在的监控等数据提取设备,应当与行政机关之间实现有效的接入与联通。为了对公共利益进行有效保护,对数据进行必要的提取、收集、存储以及分析评估等具有相应的正当性。但是掌握了海量信息的行政主体,也应当同时对个人信息进行有效的保护,防止被用于法律之外的目的。进一步完善自动化行政的法律规制,首先应当加强对数据安全的保护。行政机关对数据的搜集及运用等,应当坚持比例原则。比例原则包括3个子原则:首先,根据必要性原则,行政机关倘若采取损益性的自动化行政行为,必须要达到相应的行政目的,此时行政机关才能实施相关行为。第二,根据适当性原则,行政机关采取自动化行政行为时,必须要对相关的成本和收益进行必要的衡量,只有当收益大于成本时,行政机关才能实施相关的自动化行政行为。第三,根据最小损害原则,行政机关倘若有多种行政行为可以选择,应当选择对相对人损害最小的手段,而非首先考虑自动化行政行为。
在自动化行政时增加必要的人工介入机制。同传统的人工决策或行为类似,自动化系统出现某些错误是在所难免的。在自动化行政中,先进的自动化系统无法涵盖千变万化的社会生活,所作出的行政决定也不可避免地存在错误。自动化系统可能会因为缺乏对特殊情况的具体考量,得出错误或不适当的行政决定,从而损害行政相对人的合法权利。对于运用自动化系统作出的具体行政行为,必须给予行政相对人陈述和申辩的机会,保障其合法权利不因自动化行政受到侵犯。在现有的自动化系统中,并没有给相对人提供陈述意见的机会。针对此情况,在进行程序设计时应给予相对人申请人工介入的权利,从而保障其拥有陈述意见的机会。另一方面,也要增加行政机关的说明理由机制。行政机关依靠海量的数据分析,在得出更加精确结论的同时,也会因为数据本身而存在各种问题。自动化行政的前提在于事先的海量数据输入,但如果数据源本身就存在不确定性,那么得出的结论也难以让人信服。当相对人对数据本身提出质疑时,就需要行政机关采取有效的手段说明理由。
要维持公共利益和私人利益之间的平衡。自动化决策对于精准分析和高效服务新时代社会治理有着很大的益处。然而,提高社会治理能力需要更多的个人信息并进行更加深入的挖掘,这将不可避免地导致个人隐私保护和政府运用数据之间的冲突。个人利益与社会治理之间的关系需要调和,这就需要政府采取必要的措施予以解决,实现公共利益与私人利益的有效平衡。在这一环节,也要重视对不同阶段的个人数据予以有针对性的保护,并采取不同等级的监管措施。例如,为了满足智慧治理的需求,政府需要大规模地收集个人信息。建立完善的监督机制,对泄漏公民个人信息的情况予以严厉惩处。公共利益和私人利益之间的兼顾需要更加深入地调和不同主体之间的利益关系。总体而言,这一体系的构建应以保护公共利益为主,限制公权力的滥用,避免过度限制个人的权利和自由。在自动化系统的运行中,行政机关负有监督义务,避免自动化技术对公民权益造成损害。当自动化决策产生错误时,行政机关作为对公众负责的直接主体,应作为第一责任人对外承担责任。对外行政主体作为第一责任人,不论错误出现在执法过程中还是由自动化技术导致,行政机关都要对行政相对人承担责任。如果是由于企业造成的技术错误,行政机关可以根据相关的技术服务协议,在对相对人承担责任后进行进一步的责任追偿。
参考文献:
解志勇:《数字法治政府构建的四个面向及其实现》,《比较法研究》2023年第1期。
张梁、董茂云:《“数字法治政府”:概念认知、机理阐释、路径塑造与机制构建》,《求实》2023年第5期。
刘权:《数字政府建设中数字化与法治化的融合》,《当代法学》2023年第6期。
马长山:《数字法治政府的机制再造》,《政治与法律》2022年第11期。 (作者系北京市法学会食品药品安全法治研究会助理研究员)
关键词:风险；自动化行政；依法行政；法律规制
近年来,随着互联网、大数据、人工智能、区块链等新技术的发展,国家出台一系列政策文件,积极推进先进科学技术应用于行政活动过程中。2017年国务院印发的《新一代人工智能发展规划》中提到:“开发适用于政府服务与决策的人工智能平台,在复杂社会问题研判、政策评估、风险预警、应急处置等重大战略决策方面推广应用”,明确了人工智能在新时代社会治理与依法行政方面适用的必要性。2021年,中共中央、国务院印发的《法治政府建设实施纲要(2021-2025年)》明确提出“全面建设数字法治政府”的目标要求。2022年中央全面深化改革委员会第二十五次会议通过的《关于加强数字政府建设的指导意见》明确:“创新政府治理理念和方式、形成数字治理新格局”。科技的迅速发展,给人们带来了大量福祉,在此意义上,法律应当保护新技术的发展。同时,在科技进步与公民权利保障之间,法律应当以保障公民基本权利为中心,对科技发展可能带来的风险进行必要的规制,以促进法律与技术的融洽发展。
涉及具体领域,随着先进技术在行政执法领域的普及,行政程序中的部分或全部环节,被更加智能的自动化系统所取代。如何有效利用自动化行政,保障公民的基本权利,具有重要的意义和价值。在此背景下,各地方政府进行了一系列人工智能与行政相结合的自动化行政实践探索,例如“无人干预自动审批”“电子送达”“网上办税系统”“智慧城管”等自动化行政的实践,提升了新时代依法行政的效率与水平。2019年深圳交通运输局将人工跑腿替换为“数据跑路”,开创了数据行政的新模式,更加智能化的行政许可服务得以建立；2022年,重庆市也在行政许可领域有所突破,行政许可的申请需要在人工智能的终端设备上进行提交,行政机关通过自动化系统对关键词和核心数据筛选,行政许可的智能化水平大幅提高,极大提高了行政效率。在发挥自动化优势的同时,也应采取有效举措,防止行政权的滥用以维护公民的合法权益。
以数据安全为核心保护公民个人信息。行政机关存储着大量个人数据,也应肩负起对数据安全进行保护的基本义务。在自动化行政的背景下,无所不在的监控等数据提取设备,应当与行政机关之间实现有效的接入与联通。为了对公共利益进行有效保护,对数据进行必要的提取、收集、存储以及分析评估等具有相应的正当性。但是掌握了海量信息的行政主体,也应当同时对个人信息进行有效的保护,防止被用于法律之外的目的。进一步完善自动化行政的法律规制,首先应当加强对数据安全的保护。行政机关对数据的搜集及运用等,应当坚持比例原则。比例原则包括3个子原则:首先,根据必要性原则,行政机关倘若采取损益性的自动化行政行为,必须要达到相应的行政目的,此时行政机关才能实施相关行为。第二,根据适当性原则,行政机关采取自动化行政行为时,必须要对相关的成本和收益进行必要的衡量,只有当收益大于成本时,行政机关才能实施相关的自动化行政行为。第三,根据最小损害原则,行政机关倘若有多种行政行为可以选择,应当选择对相对人损害最小的手段,而非首先考虑自动化行政行为。
在自动化行政时增加必要的人工介入机制。同传统的人工决策或行为类似,自动化系统出现某些错误是在所难免的。在自动化行政中,先进的自动化系统无法涵盖千变万化的社会生活,所作出的行政决定也不可避免地存在错误。自动化系统可能会因为缺乏对特殊情况的具体考量,得出错误或不适当的行政决定,从而损害行政相对人的合法权利。对于运用自动化系统作出的具体行政行为,必须给予行政相对人陈述和申辩的机会,保障其合法权利不因自动化行政受到侵犯。在现有的自动化系统中,并没有给相对人提供陈述意见的机会。针对此情况,在进行程序设计时应给予相对人申请人工介入的权利,从而保障其拥有陈述意见的机会。另一方面,也要增加行政机关的说明理由机制。行政机关依靠海量的数据分析,在得出更加精确结论的同时,也会因为数据本身而存在各种问题。自动化行政的前提在于事先的海量数据输入,但如果数据源本身就存在不确定性,那么得出的结论也难以让人信服。当相对人对数据本身提出质疑时,就需要行政机关采取有效的手段说明理由。
要维持公共利益和私人利益之间的平衡。自动化决策对于精准分析和高效服务新时代社会治理有着很大的益处。然而,提高社会治理能力需要更多的个人信息并进行更加深入的挖掘,这将不可避免地导致个人隐私保护和政府运用数据之间的冲突。个人利益与社会治理之间的关系需要调和,这就需要政府采取必要的措施予以解决,实现公共利益与私人利益的有效平衡。在这一环节,也要重视对不同阶段的个人数据予以有针对性的保护,并采取不同等级的监管措施。例如,为了满足智慧治理的需求,政府需要大规模地收集个人信息。建立完善的监督机制,对泄漏公民个人信息的情况予以严厉惩处。公共利益和私人利益之间的兼顾需要更加深入地调和不同主体之间的利益关系。总体而言,这一体系的构建应以保护公共利益为主,限制公权力的滥用,避免过度限制个人的权利和自由。在自动化系统的运行中,行政机关负有监督义务,避免自动化技术对公民权益造成损害。当自动化决策产生错误时,行政机关作为对公众负责的直接主体,应作为第一责任人对外承担责任。对外行政主体作为第一责任人,不论错误出现在执法过程中还是由自动化技术导致,行政机关都要对行政相对人承担责任。如果是由于企业造成的技术错误,行政机关可以根据相关的技术服务协议,在对相对人承担责任后进行进一步的责任追偿。
参考文献:
解志勇:《数字法治政府构建的四个面向及其实现》,《比较法研究》2023年第1期。
张梁、董茂云:《“数字法治政府”:概念认知、机理阐释、路径塑造与机制构建》,《求实》2023年第5期。
刘权:《数字政府建设中数字化与法治化的融合》,《当代法学》2023年第6期。
马长山:《数字法治政府的机制再造》,《政治与法律》2022年第11期。 (作者系北京市法学会食品药品安全法治研究会助理研究员)