几周前,欧洲议会联合报告员发布了欧盟《人工智能法案》的第一版折衷的修正案,该修正案成为了议会技术讨论的基础。
《人工智能法案》在欧洲议会内部市场委员会和公民自由委员会收到了3000多份修改意见,这些委员会都是修正案的联合牵头机构。这一版修正案是欧盟在不同政治团体之间寻求妥协的第一次尝试,但目前,它只代表了联合报告员的观点。
一位欧洲议会官员向媒体欧洲动态(EURACTIV)表示:“联合报告员在寻找争议最小的部分方面做得非常出色。”
主要的立法者希望能够在暑假前取得一些进展,并计划在秋季深入讨论那些争议更大的话题。
适用国家主管机关的程序
这一版折衷修正案中最重要的一个变化是,两位立法者完全删除了关于合格评定程序减损(derogation)的规定。
这一紧急程序将允许任何国家主管机关暂时绕过被认为在公共安全、人民健康、环境保护或关键基础设施保护方面至关重要的人工智能系统的市场授权。
其余的修改主要涉及设立公告机构的行政程序和要求。这些公告机构将在人工智能系统投放到市场之前评估其是否符合欧盟规则。
欧洲议会的议员们希望负责授权和监督这些合格性评估机构运作的国家机关能够配备有能力保护基本权利的人员。
当合格评定机构被认为符合该法案相关要求时,这些主管机关必须通知欧盟委员会。欧盟执行机构或其他成员国可在收到通知后的两周内对该机构的资格认证提出质疑。
如果有异议,欧盟委员会将与相关成员国进行协商,但布鲁塞尔的欧盟委员会总部将通过二级立法拥有最终决定权。委员会将对主管机关之间最佳实践的交流进行协调。
对公告机构的要求
公告机构必须确保能够及时评估,特别是对中小型企业的评估,严格遵守保密义务,并符合经修订的《网络和信息安全(NIS2)指令》的网络安全要求。
合格评定机构不得与被评估的人工智能服务提供商有任何利益冲突,对高风险系统提供商采取严格的“反旋转门”(anti-revolving)规则。尽管如此,他们仍将能够使用以人工智能为驱动的工具进行评估。
公告机构提供的合格证明的期限从5年缩短到4年。当这些机构发现人工智能系统不再符合要求时,可以暂停或撤销证书。
国家主管机关需要确保人工智能服务提供商可以对公告机构的决定提出申诉,包括那些与已颁发证书有关的决定。
合格文件
人工智能服务提供商必须保留针对高风险系统的欧盟合格声明,保留期限为10年或整个系统生命周期,以较长者为准。该文件必须就如何遵守人工智能规则手册和欧盟数据保护法的情况进行详细说明。
已通过人工智能和数据保护规则的合格评估的高风险人工智能系统将在其投放到市场之前拥有欧洲合格的物理或数字标志。
标志将附有能够证明系统合格的机构识别号。
关于在公共数据库注册高风险人工智能系统的要求的对象已从人工智能服务提供商扩展到使用此类系统的公共行政机构。公共数据库必须向残疾人开放。
技术标准
主要的欧洲议会议员希望欧盟委员会在该法生效后的两个月内发布关于技术标准的请求。这些请求需要具体说明的是,技术标准必须与其他欧盟规则(包括部门规则)保持一致,并易于实施。
此外,“标准化过程应确保均衡地代表各相关方的利益,并且所有有关的利益相关者都能够有效参与”,因为标准化组织一直被指责不听取公民社会的声音。
如果标准化过程出现不适当的延迟或要求被驳回,则委员会可通过二级立法针对关于健康和安全、消费者和环境保护以及其他出于公共利益原因的要求采用通用规范。
这些规范将在相关标准生效时失效。然而,如果涉及具体的基本权利问题,委员会可以随时采用上述要求。
在起草此类规范时,欧盟执行机构必须与国家主管机关、标准化机构、专家和行业代表协商,以阐明他们为什么不采用标准。
除上述内容之外,修正案文本序言中还增加了一段,规定“当人工智能系统计划在工作场所进行部署时,协调标准应仅限于技术规范和程序”。(编译自www.euractiv.com)