赵建军[1]

摘要：欧盟出台的全球第一部《人工智能法案》具有五个显著特点：基于风险预防对人工智能系统进行分类规制，对高风险人工智能系统进行重点监管，对有限风险与低风险人工智能系统采用宽松监管，建立行业规范和严格惩罚措施，重视个人权利和隐私保护。美国人工智能立法更加侧重于促进技术创新和产业发展，倾向于分散立法，并采取更加开放和包容的监管态度。借鉴欧美立法经验，我国人工智能立法应坚持鼓励创新，保障而非限制人工智能发展；应坚持促进发展，积极发挥人工智能的新质生产力作用；应坚持安全发展，重视人工智能技术的风险管控，统筹协调好发展与安全的关系。

关键词：人工智能立法；人工智能法案；促进型立法

Artificial Intelligence Legislation: Lessons from EU & US and China’s Path

Zhao Jianjun

Abstract: The world's first Artificial Intelligence Act passed by the European Union has five distinctive features: categorizing and regulating Al systems based on risk prevention, focusing on high-risk Al systems, adopting loose regulation for limited-risk and low-risk Al systems, establishing industry norms and strict penalties, and paying attention to the protection of individual rights and privacy. The U.S. Al legislation focuses more on promoting technological innovation and industrial development, tends to decentralize legislation, and adopts a more open and inclusive regulatory attitude. Drawing on the legislative experience of Europe and the United States, China's Al legislation should insist on encouraging innovation and safeguarding rather than restricting the development of Al; it should insist on promoting development and actively playing the role of the new quality productivity of Al; and it should insist on safe development, pay attention to the risk management and control of Al technology, and coordinate the relationship between development and safety.

Keywords: Artifcial Intelligence Legislation; Artifcial Intelligence Act; Promotive Legislation

一、欧美人工智能立法现状

2024年3月13日，欧盟正式通过了《人工智能法案》（Artificial Intelligence Act），其核心目的在于有效管控人工智能的利用风险。尽管美国尚未出台全国范围内的人工智能专项立法，但在2023年这一年内，美国已提出了多达170余项与人工智能相关的法案，并在同年9月发布了人工智能立法框架。面对全球范围内人工智能立法形势，我国加快人工智能立法工作的步伐显得尤为关键。为此，深入比较和研究美国与欧盟在人工智能立法方面的概况，对我国构建科学的人工智能法律体系具有重要的借鉴价值。

美国与欧盟在人工智能立法方面均表现出积极的态度，但两者在立法重点、实施方式及对待人工智能技术的态度上却存在明显差异。

首先，从立法重点来看，美国在人工智能立法方面更侧重于技术创新和产业发展，通过提供政策支持和资金投入，鼓励企业和研究机构在人工智能领域进行深入探索和创新。相较之下，欧盟更注重人工智能的伦理和社会影响。通过制订《人工智能伦理准则》等文件，强调人工智能的发展必须建立在尊重人权、保护隐私和维护公平等核心价值之。

其次，在实施方式上，美国倾向于采取分散式的立法策略，美国联邦政府和各州政府根据各自的地域特色、发展需求以及面临的具体挑战，分别制定适用于本地的人工智能法律法规。而欧盟则倾向于制定综合性立法框架。通过一系列法规和标准，为人工智能的研发、应用和管理提供了全面的法律指导。

最后，在对待人工智能技术的态度上，美国采取更为开放和包容的姿态，它深信人工智能技术蕴含着巨大的潜力和价值，因此倾向于鼓励其创新和应用。面对可能的风险，更依赖技术创新和市场竞争的力量来寻找解决方案。欧盟则秉持审慎而进取的立场。它在积极推动人工智能发展的同时，始终对潜在的风险和挑战保持高度警惕，严格限制高风险人工智能系统的应用，确保技术的安全可控。

综上所述，美国与欧盟虽然在对待人工智能发展上有着不同的侧重点，但随着人工智能技术的日益成熟和广泛应用，加强立法规范、确保技术的健康发展已成为全球共识。

二、欧盟《人工智能法案》的制度特点

人工智能具有模糊性、复杂性、自主性和无法预测性等特征，人工智能技术的发展虽然为社会提供了新型治理工具，但也给社会带来了潜在风险。欧盟《人工智能法案》是欧盟针对人工智能技术制定的一项重要的法律法规，由欧盟委员会于2021年4月21日提议并在2024年3月13日经欧洲会议全会正式批准，5月21公布于欧盟官方公报。该法案旨在为人工智能技术的规范发展提供法律框架和标准，加强对人工智能领域的监管，防范任何人工智能对健康和安全构成威胁，确保在欧洲开发和使用的人工智能完全符合欧盟的权利和价值观，包括人类监督、安全、隐私、透明度、非歧视以及社会和环境福祉。

在公布的法案内容中，按照人工智能系统可能造成伤害的风险程度，将人工智能分为四个不同的级别，从高到低依次是：不可接受的风险、高风险、有限风险、低风险或轻微风险。目前备受关注的ChatGPT，作为通用人工智能模型（GPAIS），需履行透明度义务；若应用于高风险场景，则需同时遵守高风险系统的监管要求。

欧盟《人工智能法案》的出台标志着人工智能产业进入新的历史阶段如何把握数字战略发展的时代机遇，规范人工智能技术发展，完善法律、伦理与政策体系的结合，确定监管的重心及范围，是现阶段我国面对人工智能的应有思考。

（一）基于风险预防的分类规制

欧盟《人工智能法案》基于风险预防理念，对人工智能系统制定了覆盖从入市前到入市后全过程的风险规制体系，是全球首个针对人工智能风险规制的法案。基于风险识别的方法，针对不同类型的人工智能系统，分别制定相应的监管措施，并施加不同的监管措施以及相应的提供者义务。例如，对不可接受的风险的人工智能系统，核心监管措施是禁止投放市场、投入服务或在欧盟境内使用。

（二）高风险人工智能系统的重点监管

高风险人工智能系统是指对人类的安全及基本权利产生负面影响的人工智能系统。例如自然人的生物识别和分类等领域，特点是会对健康、安全、环境或基本权利构成重大风险。欧盟《人工智能法案》对高风险人工智能系统应用设置了严格的禁止和监管机制，并建议引进CE(Conformite Européenne)认证对产品和服务进行评定，对该类系统的提供者和部署者施加了一系列义务来控制风险，核心义务包括：建立充分的风险管理系统；建立质量管理体系；透明度及信息提供义务等等。

（三）有限风险与低风险系统的宽松监管

欧盟《人工智能法案》对有限风险及低风险的人工智能系统采取了自由度较高的适当规范。对有限风险的人工智能系统，如与人类互动的系统（如聊天机器人）、情感识别系统等，核心监管措施仅是须遵守透明度义务，及时告知用户AI系统的能力和局限性，以及受影响的人关于他们的权利。例如，对于深度伪造（Deepfake），需强制标注人为生成/篡改内容；对于情感识别系统，需告知用户正在与AI交互。除上述系统之外的人工智能系统均属于低风险或轻微风险，无义务或特殊的监管规则。

（四）行业规范和严格惩罚措施的建立

欧盟《人工智能法案》要求对人工智能技术的市场进行监管，避免市场的不公正竞争等问题，同时为人工智能技术使用者提供相应的法律和行业标准以供其进行合规化操作，促进市场透明化。以监管产品的思路来监管人工智能是一种有效路径，为保障监管措施的执行，法案设定了严格的惩罚措施，市场监督机构有权要求系统提供者针对不合规的人工智能系统采取纠正措施，甚至禁止、限制、撤销或召回不符合法案要求的人工智能系统。

（五）个人权利和隐私保护的重视

欧盟《人工智能法案》在对人工智能技术进行规范的同时，强调个人数据隐私和基本人权的保护，规定对人工智能技术的使用要受到一定限制。人工智能技术在带来社会经济效益的同时，也给个人或社会带来了风险，人工智能技术的模糊性、不可预测性都可能将个人引向被技术奴役的深渊。要在数据安全与数据流动使用之间取得平衡，就必须在强调数据利用的同时，保证高水平的隐私、安全和伦理标准。

三、欧美人工智能立法对中国的启示

（一）美国立法模式的优势

首先，对技术创新与产业发展的强烈支持。通过提供政策支持和资金投入，鼓励企业和研究机构在人工智能领域进行探索和创新。有助于激发市场活力，释放创新潜能，推动人工智能技术实现跨越式发展。

其次，灵活多样的立法方式。采取分散式的立法策略，允许联邦政府和各州政府根据各自的地域特色、行业需求以及发展水平，制定适用于本地的人工智能法律法规，更好地满足不同地区的实际需求，促进人工智能技术在各行业的广泛应用与深度融合。

（二）欧盟立法模式的优势

第一，构建全面且细致的法规框架。不仅精准定义了人工智能，对其进行了科学分类，还深入规定了数据保护、算法透明度、伦理准则等关键要素。

第二，注重伦理与社会影响的考量。强调尊重人权、隐私和公平等核心价值观，有助于引导人工智能技术的健康发展，防范技术滥用和潜在风险。

第三，专门的监管机构。确保人工智能技术的合规性，对违法行为进行及时有效的处理，增强法律的执行力度，为人工智能技术的安全、稳定、可持续发展提供了有力保障。

（三）欧美人工智能立法对中国的启示

1.建立与国际接轨的人工智能法律体系，应当打造与国际接轨的人工智能行业规范。欧盟《人工智能法案》标志着欧盟人工智能行业进入统一管理、国际接轨的阶段，我国可在此基础上，与欧盟等国际主要经济体建设互联互通、协同创新的人工智能行业，共同促进人工智能行业的发展。同时，还应当建立标准化技术体系，鼓励制定人工智能技术标准，建立健全人工智能技术体系，促进人工智能产业良性发展，开创行业共识，保障产业健康发展。

2.在立法中贯彻以人为本的核心价值观

人工智能技术的模糊性、无法预测性增加了个人权利被侵害的风险。如Amazon智能音箱Alexa就曾引导用户实施自我伤害的行为。针对此类伦理规范风险，一方面，应当在立法中坚持数据隐私和权利保护。欧盟《人工智能法案》规定对人工智能技术的应用要受到一定的限制，保护个人数据隐私和基本人权。我国也应该加强相关法律法规建设，保护个人的合法权益。对于人工智能技术应用于个人隐私数据处理等方面，应当加强数据保障，结合《个人信息保护法》等数据隐私保护法，保障公民隐私和信息安全权益。另一方面，在法律中明确对算法监管的伦理规范性要求，将算法行为决策置于监管范畴，要求系统开发涉及人员明晰算法在人工智能系统中的运用，避免开发者利用AI系统实施歧视性行为（如价格歧视、消费歧视等）。

3.建全促进竞争与监管并重的法律举措

人工智能立法规范应当做到促进市场竞争与完善监管措施并重，避免出现欧洲《人工智能法案》的类似问题：因制定过于严格的监管措施，而可能对产业发展造成妨碍。

首先，欧盟《人工智能法案》要求对人工智能技术市场进行监管，避免市场的不公平竞争等问题。我国也应该加强相关法律法规的制定和执行，避免市场的垄断，促进市场的公平竞争。可以建立专门的人工智能监管机构，负责人工智能的立法、实施、监管、评估等工作。该机构应由专业人才构成，具有较高的专业素养和监管能力。

其次，在企业自治与政府规制之间进行平衡。欧盟《人工智能法案》对人工智能系统提供者附加的合规评估义务仅涉及内部程序，缺乏外部监管，EDPB(欧洲数据保护委员会)也认为可能会降低治理工具的有效性。我国应当通过对行业标准及技术规范的严格审查，对企业遵守的行为准则进行有效监督。

最后，建立创新有效的监管措施。一方面，可以参考欧盟《人工智能法案》，建立全过程的风险管控监管机制，事前风险评估，事中持续监督，事后风险监测。另一方面，可采取监管沙盒（Regulatory Sandbox）等创新监管手段，结合技术优势完成监管技术的迭代更新，设立人工智能技术安全创新平台，加快安全监管与技术创新的融合发展。

四、我国人工智能立法的现状及必要性

2017年7月国务院印发的《新一代人工智能发展规划》在战略目标中对法律体系建设提出三步走要求，其中包含：到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力；到2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。面对人工智能发展的全球化趋势，我国应当加快建立能与国际接轨的人工智能法律体系，这既是对新兴产业带来的法治挑战的现实回应，也是掌握人工智能国际话语权，提高战略地位，努力成为人工智能技术中心的必要之举。

当前我国可用于应对人工智能风险的法律规范呈现出分散化、领域化、规范层级较低等特点，多为相关政策性文件，缺乏对人工智能技术的法律规制。建议制定针对人工智能的专门综合性法律，通过统一原则性立法，在总则中提炼规范人工智能技术的共性规则，在分则中适用欧盟立法做法，按照风险等级划分不同的人工智能技术应用场景，分相应的规则。此外，对于智能产品的质量安全和检测问题等，还应制行法相配套的技术标准规范，建构完整的人工智能技术法律体系。

近年来，人工智能技术迅猛崛起，我国亦逐步增强了对人工智能立法的关注与推进力度。然而，与欧盟、美国等发达国家相比，我国在人工智能立法领域仍存在一定的差距与不足。鉴于人工智能技术的快速发展及其对社会、经济的深远影响，加快立法进程、完善法律框架已刻不容缓。

（一）我国人工智能立法的现状与不足

我国虽然已经出台了一些与人工智能相关的法律法规和政策文件，如《新一代人工智能发展规划》，《生成式人工智能服务管理暂行办法》，并且有《人工智能（示范法）》学者建议稿。然而，我国相关规范仍以部门规章为主，缺乏基础性法律，未能充分起到激励创新的作用。此外，我国在人工智能立法方面还存在一些明显的不足。首先，法律法规的体系尚不完善，缺乏统一的人工智能立法框架，导致各个领域未能形成合力。其次，对于人工智能技术的风险和挑战，我国尚未建立起有效的评估和防范机制，导致存在风险未能得到及时解决。最后，我国在人工智能立法方面的国际合作与交流还不够充分，缺乏与其他国家在人工智能治理方面的深度合作。

（二）加快我国人工智能立法的必要性

加快人工智能立法有助于促进经济产业的发展。人工智能立法在促进产业创新、保护知识产权、促进数据共享和开放等方面发挥着重要作用。通过立法明确创新成果的权益归属和利益分配机制，可以激发企业的创新活力，推动产业技术创新和模式创新。通过促进数据的共享和开放，为产业界提供更加丰富的数据资源，进一步推动人工智能技术的研发和应用。

五、完善我国人工智能立法的建议

首先，完善我国人工智能立法，应坚持鼓励创新的原则，在充分遵守现行法律法规的前提下，立法要起到保障作用而非限制作用。人工智能技术作为新一轮科技革命和产业变革的重要驱动力量，其创新和应用对提升国家竞争力、促进产业升级具有重要意义。因此，在立法过程中，应当充分考虑人工智能技术的创新性和发展性，为其创造宽松、包容的法律环境，鼓励企业、科研机构和个人在人工智能领域进行大胆的探索和创新。通过立法鼓励人工智能技术创新，可以吸引更多的资本、人才等资源投入这一领域，推动相关产业的快速发展。同时，创新成果的涌现也将为社会带来更多的便利和福祉，提升人民群众的生活品质。换言之，我国人工智能立法目标之一，就是要发挥人工智能优势，培育产业、行业、企业的创新意识，实现创新驱动式发展。

其次，完善我国人工智能立法，应坚持促进发展的原则，使人工智能技术可以作为新质生产力发挥作用。人工智能立法应当关注人工智能技术在各个行业的应用场景和潜力，推动其与传统产业深度融合，提升产业智能化水平。通过人工智能技术的广泛应用，提高生产效率、优化资源配置、降低运营成本，为经济社会发展注入新的动力。同时，还应当加快科技成果的转化和应用。通过优化政策环境、加强资金支持等措施，为人工智能技术的发展提供充足的资源和保障。

最后，完善我国人工智能立法，应坚持安全原则。无论是美国还是欧盟，在人工智能立法中都极为重视对人工智能技术的风险管控。因此，在鼓励创新和促进发展的基础上，不能忽视人工智能的潜在风险。人工智能技术的应用涉及国家安全、公共安全、个人隐私等多个方面，立法应明确人工智能技术的安全标准和要求，加强对技术应用的监管和管理，确保其在合法、安全的轨道上发展。随着人工智能技术的广泛应用，公众对数据隐私、算法公正等问题的关注度越来越高。立法应充分考虑到公众的利益和诉求，制定严格的数据保护措施和算法监管机制，防止数据滥用和算法歧视等问题的发生，保护个人的合法权益。

完善人工智能立法需要平衡创新、发展与安全之间的关系。安全并不意味着限制和阻碍技术的发展，而是要在保障安全的前提下，为技术的创新和应用提供足够的空间和支持。因此，在立法过程中，应当充分考虑到技术的特点和发展趋势，制定科学合理的法律规范，确保人工智能技术的创新、发展与安全相互促进、相得益彰。

参考文献

丁晓东：《全球比较下的我国人工智能立法》，《比较法研究》第7期，第51～66页

林子涵：《欧盟谋求AI监管领域主导权》，《人民日报》7月29日第6版

刘子婧：《欧盟(人工智能法):演进、规则与启示》,《德国研究》第3期，第101~128+151页

皮勇：《欧盟<人工智能法〉中的风险防控机制及对我国的镜鉴》，《比较法研究》第4期，第67～85页。

史凤林、张志远：《论人工智能的公法规制：美欧模式与中国路径》，《理论越看》第8期，第127~139页。

[1]赵建军，中伦文德律师事务所合伙人，民盟中央法制委员会委员，北京市律师协会数字经济与人工智能领域法律专业委员会委员，主要研究方向为数字经济与人工智能。