文章
专家在线
问答
我的

算法审计方法论

2024-11-12 19:28:58
# 每日一学
剩余内容，展开全文
一、引言
人工智能的发展对于提升技术水平、推动经济发展、解决社会问题、提升生产力和生产效率、改善医疗和健康、优化智能交通和城市管理等具有重要的作用。算法作为人工智能的核心，不仅是解决复杂问题的有效工具，也是提高效率、优化资源配置的关键手段。然而，算法也可能带来一些负面问题，例如，涉及隐私侵犯和数据安全风险，放大社会偏见，导致不公平的决策结果，并在伦理和道德层面提出挑战。为了应对这些负面问题，需要政府、企业、研究机构和公众共同努力，建构算法治理体系，算法审计以审计固有功能在算法治理中发挥作用。
算法审计要发挥作用，必须建构科学的算法审计制度，而制度自信的基础是理论自信，正确地认知算法审计的各个基础性问题，是科学地建构算法审计制度的基础。在算法审计诸多基础性问题中，本文从方法论的角度聚焦算法审计方法，即算法审计怎么审计。现有文献已经涉及算法审计方法的多个方面，但呈现出碎片化特征，关于算法审计方法论尚缺乏一个系统化的理论框架。本文以经典审计理论为基础，从方法论的角度提出算法审计方法论的一个理论框架，以深化对算法审计方法论的认知，并为完善算法审计方法相关制度提供理论参考。
二、文献综述
算法审计方法的核心问题是如何审计，现有文献涉及算法审计方法的多个方面，包括审计取证技术、审计组织方式、审计基本原则、审计流程、审计标准和审计准则。
关于算法审计取证技术，多数文献的共识是既有审计的大部分方法都可以用于算法审计，但是，算法审计还有自己独特的方法，主要包括：代码审计、抓取审计、马甲审计、协作式审计和非侵入式审计(张欣和宋雨鑫，2022；张永忠和张宝山，2022；刘建业，2023；王玉凤，2023；陈雄燊，2023)。此外，王兆毓(2023)将算法审计方法分为书面合规审计和技术合规审计，前者是通过被审计单位的需求设计、训练日志和验证结果等书面材料对算法合规要求的满足程度进行定性分析，后者是根据算法在特定环境中使用时表现的数据、性能、状态等，通过技术手段评估算法的合规性，通常表现为通过定量分析手段得到定量或定性的结果。
关于算法审计组织方式，张超(2021)将算法审计分为依托平台的算法审计路径和依托用户的算法审计路径。沈艳(2022)提出，在算法审计路径方面有两种思路，一种重视算法代码透明化，另一种重视对输入输出和结果的评估。Khoa Lam等(2023)将算法审计思路分为直接评估和间接验证。张欣和宋雨鑫(2022)对算法审计做了两种分类：一是区分为强制算法审计与自愿算法审计；二是区分为依托平台与依托用户的算法审计路径。刘建业(2023)认为，算法审计无法被现有审计类型所吸收，应当在未来的制度审计中确立算法审计为独立审计类型。王玉凤(2023)提出，算法审计可选择的审计模式有三种：一是将模型算法审计嵌入到信息系统审计中；二是将模型算法审计嵌入到政策跟踪审计、经济责任审计等传统审计项目中；三是将模型算法审计作为专项审计项目进行单独立项。
关于算法审计基本原则，张超(2021)提出了针对资讯类推荐算法的算法审计四项原则：公共利益原则、介入无害原则、最小必要原则和情境理解原则。王玉凤(2023)认为，模型算法审计作为特殊的审计类型，除了遵循独立性、客观公正性、依法审计等一般性原则，还要遵循分类审计、全链条审计、持续审计三项特定原则。陈雄燊(2023)提出，算法审计实操中要遵循分级分类原则、自愿性与强制性原则以及全链条持续性审计原则。
关于算法审计流程，Raji等(2020)提出了算法审计的五个阶段：范围界定、映射、证据收集、测试和反思。Beckstrom(2022)将算法审计分为七个阶段：业务理解、数据理解、数据准备、建模和开发、部署前模型评估、部署和伴随的变更管理流程、模型运行和生产绩效。张萌和杨家明(2023)认为，面向过程的日常算法审计模型聚焦于四个阶段：启动审计；算法行为观察；对观察到的算法行为进行假设，并测试一个算法系统；某种形式的补救。Khoa Lam等(2023)将算法审计流程分为四个步骤，即目标范围确定、证据收集和验证、公布审计报告、认证；其还提出，算法系统的认证审计应具有标准化的审计流程和质量控制程序。陈雄燊(2023)将算法审计的实施程序分为五个阶段：审计计划、审计准备、审计实施、审计报告、后续跟踪。Abeba Birhane等(2024)将算法审计分为四个阶段：危害发现、标准识别、绩效分析、审计沟通与宣传。
关于算法审计标准，苏宇(2020)发现，国内外实务界正在由政府、行业或企业推动形成一些初步的算法标准，这些算法标准主要可以分为技术基础型标准和表现基础型标准，二者皆有待深入发展。张永忠和张宝山(2022)提出，有必要根据基本要求设置一定的标准，这既可为算法主体设计、训练和营运算法提供指引，同时也可为审计师进行算法审计提供参照系。王玉凤(2023)提出，开展模型算法审计必须依据模型算法治理的法律法规和监管标准规范，我国关于模型算法的要求分散在《个人信息保护法》等法律法规中，很多国家均出台了模型算法专门的立法。陈雄燊(2023)提出：一方面，算法审计应当处于尊重性、安全性等算法伦理准则的指导下；另一方面，法律法规作为底线，也应被纳入审计依据之中。
关于算法审计准则，Verhulst(2022)提出，只要围绕“审计”一词的现有歧义存在，算法审计准则就难以建立。英国数字监管合作论坛认为，算法审计准则将在算法系统审计中发挥重要作用(DRCF，2022)。付冉冉(2023)提出，算法审计不属于传统的审计范围，与传统财务审计相比，其在审计属性上也有较大区别，需要制定新的审计标准，在法律层面，立法者可建立适用于大部分领域的算法审计原则和规则，在行政规章、准则中制定各领域的算法审计规范。Khoa Lam等(2023)认为，为遵守和保证规范性要求而进行的算法系统审计目前缺乏明确的规范和标准化做法。
上述文献表明，现有文献已经涉及算法审计方法的多个方面，但每个方面的讨论都是碎片化的，缺乏深度，整体来说，对于算法审计方法的研究还处于起步阶段，算法审计方法论尚缺乏一个系统化的理论框架。
三、理论框架
本文的目的是以经典审计理论为基础，从方法论的角度提出算法审计方法的一个理论框架。为此，需要阐释以下问题：算法审计组织方式、算法审计取证模式、算法审计取证方法体系、算法审计基本原则、算法审计标准、算法审计准则。
1.算法审计组织方式。前面的文献综述表明，算法审计有两种组织方式，一是单独审计模式，二是融合审计模式，这两种组织方式各有利弊，适用于不同的情形。
单独审计模式是将算法审计作为独立的审计项目来开展，这种组织模式的优点在于：第一，由于算法审计最重要的审计主题是算法系统，可以分为输入数据、算法设计和算法影响三类审计标的，根据经典审计理论，审计活动是围绕审计标的来制定和实施审计方案的，对于不同的审计标的，审计风险可能存在差别，因此，审计程序的性质、范围和时间可能不同(郑石桥，2021)，输入数据、算法设计和算法影响这些审计标的与既有审计项目的审计标的不同，有其独特的审计程序，单独审计模式可以制定更具有针对性的审计方案，获取更有证明力的审计证据，进而更能有效地发现算法系统中存在的问题，为算法审计直接目标和终极目标的实现奠定更为坚实的基础。第二，由于算法审计具有一些独特的审计程序，单独审计模式也便于建构具有专业胜任能力的审计团队，真正做到审算法懂算法，为高质量算法审计奠定基础。但是，单独审计模式也有弊端：一是审计客体要单独配合算法审计，而算法审计之外的其他审计也需要审计客体的配合，因此，整体来说，会增加审计客体的配合成本；二是如果审计客体的主要财务活动和业务活动都使用了人工智能，那么算法审计事实上成为针对该审计客体的核心审计内容，若与其他审计不能同步，则可能影响对该审计客体的整体审计效果。
融合审计模式是将算法审计与其他类型的审计业务融于一体，具体又有两种融合方式。一是将算法审计融于信息系统审计。这种融合事实上是在单独开展信息系统审计时，将信息系统中的算法也作为其审计内容。本文认为，这种融合并不是真正意义上的融合，信息系统审计本身就应该包括算法审计，如果信息系统发展到人工智能阶段，则信息系统审计也就成为人工智能审计，当然应该将算法作为人工智能审计的重要内容，因此这种融合的实质还是单独审计模式。二是真实意义上的融合审计模式，即将算法审计与财务审计、合规审计、绩效审计和制度审计等经典的基本审计业务融合起来(郑石桥，2021)，在开展这些审计业务时，同步开展相关的算法审计。对于算法审计结果，可以单独形成审计报告，此时就是“一审多果”，也可以将算法审计结果与其他方面的审计结果在同一个审计报告中描述。整合审计模式的优点是：如果审计客体的财务活动和业务活动大量依赖人工智能，那么在审计内容中将算法作为重要内容，能够对审计客体经管责任履行情况形成一个具有整体性且更为可靠的审计结果；同时，由于算法审计与其他方面的内容同步实施，审计客体不需要多次配合审计工作，不会增加其配合成本。当然，融合审计模式也有其弊端，主要是不利于建构具有算法审计专业胜任能力的审计团队，也不利于制定具有针对性的算法审计准则。
正是由于单独审计模式和融合审计模式各有利弊，本文建议：当算法风险较高、算法相对人对算法负面问题关注度较高时，适宜采用单独审计模式，由专门的算法审计机构对算法形成专门的审计结论，并向算法相对人公开；其他情形下，则可以采用融合审计模式，仅将算法作为各类审计业务的审计内容组成部分，不一定要单独报告算法审计结果。
2.算法审计取证模式。根据经典审计理论，审计取证模式可以从不同的角度分类。从确定审计重点的方式来看，审计取证模式区分为账项基础审计、制度基础审计和风险导向审计；从审计结果定位来看，审计取证模式区分为事实发现型取证模式和命题论证型取证模式(郑石桥，2021)。对于算法审计取证来说，同样需要确定审计重点和选择审计结果定位，故也存在上述取证模式的选择。
账项基础审计没有明确的确定审计重点的方法，主要依靠审计人员的经验来确定审计重点，通常要采取详细审计的方式，在算法审计中，这种取证模式是否有价值呢？算法审计最重要的审计主题是算法系统，可以分为输入数据、算法设计和算法影响三类审计标的，对于这些审计标的，凭经验的详查式审计取证思路是有一定价值的，但是审计效率可能较低，审计效果也不一定好。所以，从提高审计效率和保障审计效果角度来说，较为适宜的方法还是风险导向审计，即通过一定的方法来评估潜在的风险。不同审计标的的风险不同：输入数据的风险是数据虚假、数据偏见或不合法等；算法设计的风险是漏洞、无效率或不合法等；算法影响的风险是偏见或不合法等。在识别和分析风险的基础上，将高风险领域作为审计重点。至于制度基础审计，可以将制度缺陷作为风险的一种影响因素，因此也可以包含在风险导向审计中。整体来说，算法审计的各类审计标的都适宜采用风险导向审计，在难以评估风险时，可采用账项基础审计。
根据经典审计理论，事实发现型取证模式的审计结果定位是发现审计总体中存在的问题(郑石桥，2021)，对于算法审计来说，就是发现输入数据、算法设计和算法影响中存在的问题，这些问题是算法审计所发现的“事实”，其实质是算法系统的缺陷，通过发现这些问题，推动整改，算法责任主体的算法责任履行情况越来越好，其实质是算法系统越来越向善，这种取证模式对于推动算法向善是有价值的。但是，其缺陷是无法对审计总体形成整体性结论，即无法对算法系统及其分解形成的输入数据、算法设计和算法影响各自形成整体性结论，若利益相关者需要整体性结论，则事实发现型取证模式难以实现。
根据经典审计理论，命题论证型取证模式将审计直接目标作为要证明的总命题，首先是将总命题分解为具体命题，并落实到审计标的(与此同时，审计主题也要分解为审计标的)上，每个审计标的与每个具体审计命题组合形成一个审计事项，所有的审计标的与所有的审计具体命题的组合形成审计事项清单。在此基础上，进行命题证明，也就是对审计事项进行风险评估，并根据风险评估结果制定审计方案，为所有的审计事项获得审计证据，形成每个审计事项的审计发现，根据这些审计发现，形成审计标的和审计主题的审计结论(郑石桥，2021)。算法审计的命题论证型取证模式也由命题分解和命题证明两个逻辑步骤组成。从命题分解来说，算法审计的直接目标是健全性，需要分解为具体审计目标，不同的审计标的，具体目标不同，算法审计的审计主题是算法系统，需要分解为输入数据、算法设计和算法影响等审计标的，同时，将具体目标与审计标的匹配组合以形成算法审计事项清单。在此基础上，对算法审计事项清单进行风险评估，并基于风险评估结果，以算法审计标的为对象，设计和实施算法审计方案，获取算法审计证据，形成对每个算法审计事项的审计发现，进而对算法审计标的和算法审计主题形成结论，这个过程就是算法审计命题证明。整体来说，算法审计如果采取命题论证型取证模式，既能发现算法系统及其分解形成的输入数据、算法设计和算法影响所存在的问题，也能根据所发现的问题来推断算法系统及其分解形成的输入数据、算法设计和算法影响的整体状况，并分别形成针对上述四方面的整体性结论，更好地满足算法利益相关者的需求。
3.算法审计取证方法体系。前面的文献综述表明，既有审计的大部分方法都可以用于算法审计，但是，算法审计还有自己独特的审计取证方法。根据经典审计理论，不同的审计主题、不同的审计标的，由于其承载的审计目标不同、审计载体不同，其审计取证方法也不同(郑石桥，2021)。算法审计的审计主题是算法系统，输入数据、算法设计和算法影响是其主要审计标的，不同的审计标的，其审计程序存在差异。
就输入数据来说，对输入数据的合法性、真实性和偏见性的检查至关重要。合法性检查主要包括：合规性审查，对照相关法律法规、行业标准和内部政策，检查输入数据是否遵守了所有适用的规定；数据来源验证，确认数据的来源是否合法，是否经过了适当的授权和许可；数据处理过程审核，审查数据收集、存储、处理和传输的过程，确保这些环节均符合法律规定；权限和隐私保护检查，检查是否有适当的数据访问控制措施，并确保个人隐私得到了妥善保护。真实性检查主要包括：数据验证，通过交叉验证、逻辑检查和其他数据验证技术，确认数据是否一致、完整且无误；数据溯源，追踪数据的历史记录和变更轨迹，以验证数据的真实性和可靠性；抽样检查，对数据样本进行深入分析，以评估整体数据集的真实性；专家咨询，在必要时咨询领域专家，以确定数据是否反映了真实情况。偏见性检查主要包括：数据多样性分析，评估数据集中不同群体的代表性，确保没有忽略或排除任何重要的群体；统计分析，运用统计学方法，如方差分析、回归分析等，识别数据中的潜在偏见；算法公平性测试，设计专门的测试来评估算法在不同数据子集上的表现，以揭示可能的偏见；敏感性分析，分析输入数据中敏感属性的分布，检查算法是否对特定属性存在过度依赖或歧视。
就算法设计来说，对其合法性、安全性和效率效果性的检查是确保算法质量和合规性的关键环节。合法性检查主要包括：合规性评估，审查算法设计是否遵守了相关的法律法规、行业标准和最佳实践，特别是涉及隐私保护、数据安全和反歧视等方面的规定；伦理准则审查，评估算法设计是否符合伦理准则和社会价值观；知识产权审查，检查算法设计是否侵犯了他人的专利、版权或其他知识产权。安全性检查主要包括：代码审查，对算法的源代码进行详细审查，以发现潜在的安全漏洞；渗透测试，模拟黑客攻击，测试算法系统的防御能力，识别可能被利用的安全弱点；模糊测试，通过输入大量随机数据来检测算法是否会产生未预期的行为或崩溃，以此发现隐藏的漏洞；加密和认证机制检查，确保算法使用了合适的加密技术和认证机制来保护数据的安全。效率效果性检查主要包括：性能基准测试，通过设定性能指标，如响应时间、吞吐量和资源消耗等，来评估算法的营运效率；优化技术应用，采用各种优化技术，如算法复杂度分析、数据结构优化、并行计算等，来提升算法的营运效率；负载测试，模拟实际工作负载，测试算法在高负载情况下的表现，以评估其稳定性和效率；资源管理分析，检查算法如何管理和分配计算资源，如内存、CPU和网络带宽，以确保资源得到高效利用。
就算法影响来说，对算法在社会、经济、法律和个人权益等方面的影响进行评估是算法审计的主要内容，评估方法通常包括但不限于代码审计、抓取审计、马甲审计、协作式审计和非侵入式审计等。
代码审计是对算法实现的核心部分——软件代码进行深入检查的过程，旨在发现代码中的错误、漏洞、不一致性以及潜在的安全风险。代码审计通常包括以下几个方面：静态分析，在不执行代码的情况下，使用工具分析代码的结构和逻辑错误；动态分析，在执行代码的过程中，监控代码的行为，以发现营运时的错误和性能问题；人工审查，由经验丰富的开发者或安全专家手动检查代码，以发现自动化工具可能遗漏的问题。
抓取审计主要针对的是数据抓取和爬虫技术，这些技术经常被用于从互联网上收集数据以供算法使用。抓取审计的目的是确保数据收集过程的合法性、道德性和效率效果性，具体包括：合规性检查，确保数据抓取遵守相关的法律法规，如版权法、隐私法等；数据质量评估，检查抓取到的数据的质量，包括准确性、完整性和时效性；抓取策略分析，评估数据抓取的策略和方法，以减少对目标网站的影响和避免不必要的法律纠纷。
马甲审计是指对在线环境中使用虚假身份进行的活动进行审查，旨在揭示和防止滥用马甲账号操纵舆论、误导公众或实施其他不当行为。马甲审计可能包括：身份验证，检查账号的身份真实性，识别和清除虚假账号；行为分析，分析账号的行为模式，识别异常行为和潜在的操纵行为；内容审查，检查发布的内容，以识别、防止传播虚假信息和有害内容。
协作式审计是一种多方参与的审计方式，涉及算法的开发者、使用者、营运者、监管者及可能受算法影响的利益相关者，这种审计方式的目的是通过集合各方的知识和资源，共同对算法的设计、实施、影响进行全面评估和监督，以确保算法的公正性、透明性和安全性。协作式审计的步骤可能包括：问题识别，确定需要审计的算法及其潜在的问题点；数据收集，收集算法的相关数据，包括源代码、使用记录、影响评估等；分析评估，对收集到的数据进行分析，评估算法的性能、公平性和安全性；报告总结，编写审计报告，总结审计结果，提出改进建议；后续跟进，根据审计报告的建议，对算法进行调整和优化。
非侵入式审计允许审计人员在不干扰或改变被审计系统正常营运的前提下，对系统的功能、性能、安全性等方面进行检查和评估。其目的是确保系统的合规性、可靠性和安全性，同时最小化对系统运营的影响。非侵入式审计的技术手段通常包括：监控和日志分析，通过收集和分析系统的日志文件，了解系统的营运状态和历史行为；网络流量分析，通过监测网络流量，发现潜在的安全威胁和异常行为；被动扫描，使用被动扫描工具来探测网络上的设备和服务，而不发送任何可能被系统拦截的主动请求；代理审计，使用代理服务器来记录客户端和服务器之间的通信，以便审计人员分析通信内容。
4.算法审计基本原则。根据经典审计理论，审计要遵守的基本原则主要包括独立性原则、客观公正性原则、依法审计原则等(郑石桥，2021)，算法审计也要遵守这些原则。然而，算法审计来源于特殊的委托代理关系，有独特的情景、审计内容及方法，因此，还应该有自己独特的审计原则，主要包括分级分类审计原则、全链条审计原则、持续动态审计原则和情境理解原则(王玉凤，2023；陈雄燊，2023；张超，2021)。
分级分类审计原则是指在进行算法审计时，根据算法的不同特性和风险等级，采用不同的审计强制程度、审计频度要求、审计内容，以确保审计资源的有效分配和审计活动的针对性，协调利益相关者的多方诉求。遵守分级分类审计原则非常重要，原因如下：通过对不同风险等级的算法采取不同的审计方法，可以更加高效地识别和管理风险，避免资源浪费；有助于确保审计活动的深度和广度，从而提高审计质量，确保审计结果的准确性和可靠性；能够更好地适应算法的场景化、动态化、跨域性特征，确保审计工作的针对性和有效性；有助于平衡各方利益，确保审计工作的公正性和透明性；通过明确不同等级的算法审计标准，可以鼓励更多社会力量参与算法审计，形成合力，共同推动算法治理的进步。
全链条审计原则是指在进行算法审计时，应考虑算法的整个生命周期，包括算法的设计、开发、部署、营运和维护等各个环节。这种原则强调审计工作应该贯穿算法的始终，确保每个阶段都得到适当的审查和评估，以保证算法的安全性、公平性和透明性。遵守全链条审计原则的原因包括：通过覆盖算法的整个生命周期，可以确保审计的全面性，不遗漏任何可能影响算法性能和安全性的环节；有助于集中资源和注意力，针对关键环节进行深入审查，提高审计的效率和效果；通过早期介入和持续监控，可以及时发现和解决潜在的风险问题，防止问题恶化；可以增加公众对算法的信任，因为它显示了对数据处理和决策过程的严格监督；有助于确保算法符合相关法律法规和伦理标准，避免违规行为；通过持续的审计和评估，可以不断优化算法，提高其性能和效率。
持续动态审计原则是指应当考虑算法的动态变化和更新，以及算法在不同环境和情境下的表现来持续开展算法审计。这种原则强调审计工作应该能够适应算法的不断演化，及时捕捉和评估新出现的风险和问题，确保算法的持续安全和合规性。遵守持续动态审计原则的原因包括：算法技术快速发展，新的算法和应用场景不断出现，持续动态审计原则有助于及时应对这些变化，确保审计工作的时效性和有效性；有助于及时发现算法动态变化带来的新风险，防止它们成为安全隐患；算法的更新和迭代可能影响其合规性，持续动态审计原则有助于确保算法始终符合法律法规和伦理标准；通过持续的审计和评估，可以提高审计效率，降低因算法变化带来的额外审计成本；有助于提高算法的透明度，让用户和监管机构能够更好地理解算法的实时状态和潜在影响。
情境理解原则是指在进行算法审计时，需要充分理解算法所处的具体应用场景和上下文环境，以便更准确地评估算法的性能、安全性和合规性。这一原则强调审计工作不能脱离实际应用环境，而应考虑算法在不同情境下的表现和影响。遵守情境理解原则的原因包括：有助于审计人员更准确地识别和评估算法的潜在问题，如偏差、不公平或安全漏洞；有助于确保审计工作与算法的实际用途紧密相关，避免抽象的评估导致误解或忽视重要的实际问题；通过深入理解算法的使用环境，可以更有效地提出解决方案，改进算法的设计和实施；有助于确保算法的合规性，因为合规性往往取决于算法在特定环境下的表现和适用性；当算法审计工作能够反映算法在实际应用中的表现时，公众对算法的信任度可能会提高，因为他们看到了审计工作的实用性和相关性。
5.算法审计标准。根据经典审计理论，审计标准也被称为审计依据，是审计过程中判断被审计事项是否存在偏差的既定标准(郑石桥，2021)。算法审计标准也是如此，它是算法的既定标准，为审计人员提供了检查输入数据、算法设计和算法影响的既定标准。目前，不同国家和地区根据自身的法律体系、文化背景和技术发展水平，形成了各具特色的算法审计标准。一些发达国家和地区，如欧盟和美国，已经在这个方面取得了一定的进展，制定了相关的法律和指南。然而，全球范围内的算法审计标准尚未形成共识。
建构算法审计标准需要综合考虑法律、技术、伦理和社会等多方面因素，以下是一些关键内容：一是法律框架，即建立和完善相关的法律法规，明确对算法透明度、公平性、安全性和责任追究等方面的要求；二是技术标准，即制定技术标准和操作指南，涵盖算法的输入数据质量、处理逻辑、输出结果的可解释性和可追溯性等方面；三是伦理原则，即确立算法的伦理原则，确保算法的设计和应用符合社会伦理和道德标准，尊重人权和个人隐私。
算法审计标准的建立要遵守谦抑原则，平衡技术创新与社会责任，确保算法相关法律法规既不过度限制技术发展，又能有效保护利益相关者权益。通过遵循这一原则，社会既可以有效应对算法技术带来的挑战，也可以促进技术生态系统的健康持续发展。在算法立法中贯彻谦抑原则需要注意以下问题：第一，立法应具有前瞻性，预见技术发展趋势，避免因反应迟缓而导致法律落后；第二，法律法规应具有一定的灵活性和适应性，以便在技术迅速变化时及时进行调整；第三，应特别关注个人隐私和数据安全，确保算法的使用不会侵犯公民的基本权利；第四，应鼓励技术创新，同时确保创新成果能够造福社会，避免垄断和滥用市场力量；第五，立法过程应增加公众参与，提高立法的透明度，确保法律反映公众利益和意愿。
6.算法审计准则。根据经典审计理论，审计准则是审计过程中约束审计人员的行为规则，其目的是保障审计质量(郑石桥，2021)。算法审计准则也是如此，它是用于指导和规范算法审计活动的一系列原则和标准，旨在确保算法审计的独立性、客观性、专业性和有效性。算法审计准则的建立对于提升审计质量、增强公众信任、保护数据主体权益以及促进算法技术的健康发展具有重要意义。目前，不同国家和地区根据自身的法律环境、技术发展和文化背景，制定了一些不同的算法审计准则。然而，全球范围内尚未形成统一的算法审计准则。
从体系结构来说，未来的算法审计准则建构应包括三个层次：一是算法审计基本准则，这是算法审计的总纲，规定了算法审计必须达到的基本要求，是制定其他相关标准、规范、准则和指南的基本依据。二是算法审计具体准则，其依据基本准则制定，对如何遵循算法审计的基本标准提供详细规定和说明，是算法审计人员实施审计业务、出具审计报告的具体规范，通常应按算法审计主题甚至是审计标的分别制定。如针对算法系统审计主题，可分解为输入数据、算法设计和算法影响，分别制定算法审计具体准则。三是算法审计实施指南，其依据基本准则和具体准则制定，是算法审计的操作规程和方法，为算法审计人员实施审计业务提供具有可操作性的指导。
由于算法涉及的利益相关者较多，为保障算法审计准则的全面性、科学性和实用性，同时有助于准则的广泛接受和有效实施，算法审计准则的制定通常需要多方面的参与，主要包括：政府部门负责制定和监督执行法律法规，确保算法的合规性和安全性；行业协会代表特定行业的利益，可以提供行业内的专业知识和经验，帮助制定适应行业特点的审计准则；学术机构进行算法研究和教育，可以提供理论支持；标准制定机构负责制定国家标准或国际标准，这些标准往往被广泛认可和采纳，对算法审计准则的国际化和标准化至关重要；专业审计机构具备丰富的算法审计经验和专业技能，参与算法审计准则的制定可以提高算法审计准则的可操作性；算法开发、使用及营运单位在算法开发和应用方面具有丰富的实践经验，可以提供宝贵的实践建议和案例。
以上从方法论的角度阐释了算法审计的几个问题，审计流程也是审计方法论中的重要问题，但整体来说，基本上还是五个阶段，即审计计划、审计准备、审计实施、审计报告、后续跟踪(陈雄燊，2023)，这里不再阐释。
四、结论
本文从方法论的角度聚焦算法审计方法，以经典审计理论为基础，提出算法审计方法论的一个理论框架。算法审计有两种组织方式，一是单独审计模式，二是融合审计模式，这两种组织方式各有利弊，适用于不同的情形。算法审计的各类审计标的都适宜采用风险导向审计；当难以评估风险时，可以采用账项基础审计；当算法审计结果定位于问题导向时，可以采用事实发现型取证模式；当算法审计结果定位于结论导向时，必须采用命题论证型取证模式。既有的大部分审计方法都可以用于算法审计，但是，算法审计还有自己独特的审计方法，算法审计的审计主题是算法系统，输入数据、算法设计和算法影响是其主要的审计标的，不同审计标的的审计程序存在差异。算法审计除了要遵守独立性原则、客观公正性原则、依法审计原则等通用性审计原则，还要遵守自己独特的审计原则，主要包括分级分类审计原则、全链条审计原则、持续动态审计原则和情境理解原则。算法审计标准建构要遵守谦抑原则，其关键内容包括法律框架、技术标准和伦理原则。算法审计准则应该包括算法审计基本准则、算法审计具体准则和算法审计实施指南三个层次，由于算法涉及的利益相关者较多，算法审计准则的制定通常需要多方面的参与。

作者：郑石桥

单位：南京审计大学审计科学研究院

来源：财会月刊

转自：学习强审

  • 397 人看过
Baidu
map