新质聚焦|我国构建人工智能沙箱监管的路径探索

2024/12/10

   当下,人工智能技术正引领新一轮产业革命,在国家社会经济发展中占据关键地位,是决定国家竞争力与国家安全的重要新质生产力。党的二十届三中全会通过的《中共中央关于进一步全面深化改革 推进中国式现代化的决定》明确提出要完善推动新一代信息技术、人工智能等战略性产业发展政策和治理体系,为包括人工智能在内的新质生产力发展指明了方向.


   人工智能产业政策制定与治理体系构建需遵循法治化与市场化基本原则。如何立法促进人工智能发展,防范其发展风险,是当前理论界与实业界共同关注的焦点,也是人工智能产业监督管理机构亟待解决的问题.


   作为新兴技术,人工智能发展迅猛,产业竞争激烈,对其监管立法需谨慎权衡。既要规范其可能对个体权利和公共安全造成的损害风险,又要保护和鼓励创新,防止监管给产业带来过高合规成本,抑制创新动力,阻碍产业进步.


   为在推动人工智能产业发展与防范风险间寻求最佳平衡,各国监管部门纷纷探索适宜的监管策略,沙箱监管便是当前国际上众多国家正在试验的模式之一.

沙箱监管的起源、基本理念和功能


   沙箱监管源于计算机软件测试领域,其基本思想是在计算机系统中构建测试环境,让新的或未经测试的软件在此安全运行,该测试环境即被形象地称为 “沙箱”,新软件置于其中可被隔离,仅允许系统中特定资源、程序或文件与之关联.


   金融监管领域率先引入沙箱概念。在金融监管实践中,监管部门面临着在金融科技等金融创新与金融监管间寻找平衡的难题,既要鼓励创新,又要防范重大风险,于是沙箱监管制度应运而生.


   我国目前也在金融科技领域尝试中国式金融科技沙箱监管,不过这些沙箱监管并未突破现行法律法规,更无法律法规豁免,实质是金融监管机构与申请入箱技术或服务的合作,在确保合法合规基础上进行实验,属金融监管试点而非严格意义上的沙箱.


   沙箱监管的基本操作是遴选特定领域(区域)和特定市场主体,在规定时间和范围内,使其产品或服务豁免当前立法监管1. 其基本理念和功能在于承认监管部门对新科技认知有限以及法律的滞后性与科技创新的超前性,鼓励市场主体技术创新,划定区域促进市场主体与监管部门合作,推动技术创新与监管规则同步发展,待沙箱监管有效期满,创新技术、产品、服务及同步更新的监管规则将推向全社会,实现三者同步发展.

沙箱监管的国际实践


   当前,沙箱监管理念已在全球人工智能领域广泛应用.


  • 西班牙于 2022 年建立人工智能监管沙箱,用于检验和完善欧盟人工智能法。鉴于欧盟人工智能法 2025 年正式实施,通过在成员国建立监管沙箱,对照该法检验其监管有效性,发现缺陷可边试验边完善.

  • 新加坡联合谷歌、微软、亚马逊等人工智能头部企业建立基于治理科技的监管沙箱,旨在开发人工智能技术透明性自动评估技术,入箱企业可了解自身技术是否符合国际标准.

  • 英国针对人工智能不同应用行业分别建立沙箱监管制度,如 2023 年英国医疗卫生局建立医疗人工智能沙箱,2024 年春季推出首个监管沙箱为人工智能气闸室产品服务,该沙箱集合专家与监管部门组成团队,申请主体与之合作共享信息,经分析加工后汇报监管部门,借此提升技术产品性能、降低风险并提高监管水平,实现监管与技术同步提升.

四个步骤构建人工智能沙箱监管制度


   基于人工智能监管的特殊性,借鉴国际实践经验,可通过以下四步构建完善符合我国国情的人工智能沙箱监管制度.


  1. 立法授权:全国人大授权国务院及其下属行业监管部门联合制定《人工智能沙箱监管基本条例》。因人工智能技术通用性强,应用于不同部门会产生不同伦理、风险和监管标准问题,沙箱监管需跨部门协调合作。且由于入箱市场主体及其研发的技术、产品和服务可豁免现行监管法律法规中的技术和市场准入标准,依据《中华人民共和国立法法》第九条、第十条,须经全国人大授权,行业监管部门方可制定该条例,唯有授权后的条例才能为入箱主体及其相关产品、技术和服务提供合法豁免权。

  2. 明确立法步骤与内容:我国主导机器人产业发展的工业和信息化部等十七部门 2023 年 1 月印发《“机器人 +” 应用行动实施方案》,聚焦十大重点应用领域。在此背景下,可由全国人大授权国务院制定《人工智能沙箱监管基本条例》,并指定工信部牵头相关主管部门具体制定。该条例内容涵盖:

    • 立法宗旨:以鼓励人工智能技术发展为导向,规范研发与应用,推动产业健康发展。

    • 市场主体相关规定:从事人工智能研发、生产及服务的企业可申请入箱,监管部门从多维度评估申请人材料确定结果,申请人有权与监管部门互动补充材料,并有义务披露不足与风险及改善措施。

    • 监管主体与市场主体协调互动:监管主体包括工信部及相关主管部门,需相互协调规范市场主体活动,同时双方要实时互动,市场主体及时披露创新、风险等信息及法规豁免需求,监管部门及时分析协调并提供豁免,推动技术等发展。

    • 日落条款:入箱主体不能长期滞留,监管法律应设完备退出制度,如审批时监管主体依主体特点商定退出时间或其他标准,包括技术和市场标准,若主体在一定时间内技术更新不达标或产品服务无市场前景则退出。

  3. 筛选主体:伴随《监管条例》实施,市场主体可竞争入箱享受监管豁免红利,地方政府也可参与,协助本地市场主体以人工智能研发基地等形式集体申请,此时基地内市场主体需单独提交申请材料,地方政府也要提交补充材料,证明可提供的支持,如税收、财政补贴等。

  4. 协作提升:基于上述三步实施沙箱监管,可实现市场主体与监管部门双赢。市场主体受益于监管红利,推动人工智能技术、产品和服务创新,监管部门借此提升监管水平,完善监管规则设计,为人工智能监管立法积累经验。

   

   声明:本站所使用的图片文字等素材均来源于互联网共享平台,并不代表本站观点及立场,如有侵权或异议请及时联系我们删除。