http://www.bb150.com


当前位置: 绍兴新闻网 > 财经 > 欧盟要给人工智能搞价值观了,他们是怎么做的? 欧盟要给人工智能搞价值观了,他们是怎么做的?

欧盟要给人工智能搞价值观了,他们是怎么做的?

时间:2018-05-14来源: 作者:admin点击:
  曹建峰腾讯研究院研究员付一方腾讯研究院助理研究员4月25日,欧盟委员会发布政策文件《欧盟人工智能》(ArtificialIntelligenceforEurope),欧盟人工智能战略姗姗来迟。在技术和产业不占优势的情况下,欧盟人工智能战略的重头戏放在了人工智能价值观,希望以此彰显欧盟发展人工智能

  

曹建峰 腾讯研究院研究员

付一方 腾讯研究院助理研究员

4月25日,欧盟委员会发布政策文件《欧盟人工智能》(Artificial Intelligence for Europe),欧盟人工智能战略姗姗来迟。在技术和产业不占优势的情况下,欧盟人工智能战略的重头戏放在了人工智能价值观,希望以此彰显欧盟发展人工智能的独特优势。

具有人权传统的欧盟秉持以人为本的人工智能发展理念,希望通过人工智能价值引导人工智能发展,塑造其社会影响,造福个人和社会。

  

  1

拥抱技术变革,确保技术造福个人和社会

在欧盟看来,人工智能一方面使我们的生活更加便捷和高效(比如虚拟的个人助手、自动驾驶汽车、自动化推荐等),另一方面有助于解决人类社会面临的重大挑战(比如治疗癌症、减少交通事故伤亡、减少饥饿和贫困、应对网络安全攻击等)。

正如蒸汽机和电力一样,人工智能正在重塑我们的世界、社会和工业。算力的提高、数据的积累以及算法的进步使人工智能成为了本世纪最具战略性的技术之一。我们发展人工智能的方式和路径将重塑我们生活在其中的世界。

为此,欧盟需要一个坚实的人工智能战略框架,确保发展和应用人工智能增进社会福祉,赋能所有人。

在战略意义上,欧盟需要确保其在人工智能领域具有全球竞争力,所有欧盟民众都能跟上这场数字化变革,新技术维护欧盟所秉持的价值观。欧盟可以从世界级的研究人员、实验室和创业企业,数字单一市场,工业、研究和公共部门的广泛数据分享等方面着手,打造其在人工智能领域的优势地位。

不同于中国和美国等国家,欧盟在人工智能领域虽然没有先发优势,但其将采取一个以人为本的方式来发展和应用人工智能,确保人工智能技术能够给个人和社会整体带来福利。

正如欧盟政治战略中心(EPSC)3月底发布的报告《人工智能时代:确立以人为本的欧盟人工智能战略》(The Age of Artificial Intelligence: Towards a European Strategy forHuman-Centric Machines)所表明的那样,欧盟格外强调人工智能价值观,需要确保其朝着有益于个人和社会的方向发展。

欧盟委员会提出的欧盟人工智能战略包括三大支柱:

其一,发展欧盟在人工智能领域的技术和产业能力并促进人工智能技术向整个经济领域渗透,不仅仅是私营部门,也包括政府等公共部门。

其二,迎接社会经济变革,需要让教育和培训体系跟上时代发展,密切监测劳动力市场的新变化,培育新的人才,支持过渡期劳动者并调整社会保障系统。

其三,确保欧盟具有与人工智能发展和应用相适应的伦理和法律框架,包括阐明产品责任规则的适用,仔细研究人工智能技术带来的新挑战和新问题,通过欧洲AI联盟促进利益相关方交流合作从而制定出人工智能伦理指南。

  2

三大战略支柱确立欧盟人工智能价值观

  支柱一

提高技术和产业能力并使人工智能广泛渗透到各行各业

为了加快提高欧盟的人工智能能力并使其尽快渗透到各行各业,欧盟将从以下七个方面着手。

1.加大政府投资

公共投资方面,根据“地平线2020”(Horizon 2020)研发及创新计划,到2020年底,欧盟将投入大约15亿欧元。同一时期通过公私合作计划还将投入25亿欧元。

这些投资旨在巩固人工智能技术的发展成果并促进进一步创新,鼓励企业或机构进行相关测试和试验,加强高精尖研究中心的建设,保障所有利益相关方的利益,重点关注中小企业的人工智能技术发展和应用。

2.促进科技成果从实验室走向市场

欧盟将大力支持能够开创新市场的技术创新和突破,比如人工智能技术。这可以通过欧盟创新委员会(European Innovation Council)的试点项目来实现。

欧盟已经为2018-2020年划拨了27亿欧元的预算,旨在支持1000个具有潜在突破性意义的项目以及3000个相关可行性奖项。此外,欧盟研究委员会(European ResearchCouncil)将对基础研究项目提供资助金。

3.打造世界级的欧洲人工智能研究中心

当前,各成员国已经在建设以人工智能技术为重心的研究中心,在此基础上,欧盟还将大力扶持高标准人工智能研究中心的建设,并促进激励相关研究机构在研究方面沟通合作,共享成果,共同发展。旨在把欧洲打造成全球人工智能研究和创新的前沿阵地。

4.使中小企业和潜在用户从人工智能技术中受益

欧盟将避免人工智能技术扩大数字鸿沟。只有所有人都能获取技术并从中获益,欧盟才能真正实现人工智能技术的社会潜力。

为此,欧盟委员会将采取措施确保所有的潜在用户,特别是中小企业,以及没有技术实力的公司和公共机构能够获取最新的技术并开展人工智能试验。为此,欧盟将支持“人工智能按需平台(AI-on-demand platform)”的建设,使所有用户可以单点获取最新的人工智能资源。

5.支持人工智能技术测试和实验

对人工智能产品进行测试和实验是其进入市场前的必备环节,确保其符合安全标准和规则,并使政府决策者能够对新技术形成更好的认知以便制定合适的法律框架。

为此,欧盟委员会将在欧盟范围内支持建立测试和实验的基础设施,并向所有企业开放。针对人工智能产品和服务的第一批测试和实验基础设施将集中在医疗健康、交通运输等领域。

6.吸引私人投资

充分的私人投资对于实现人工智能变革极为关键。为此,欧盟将持续吸引私人投资,支持人工智能研发和行业应用。

欧盟计划与欧洲投资银行集团(European Investment Bank Group)合作,力求使投资额在2018-2020年期间达到5亿欧元。此外,欧盟委员会和欧洲投资基金会(European InvestmentFund)刚刚推出了21亿欧元的泛欧风险投资基金计划(VentureEU),目的在于加大对欧洲创新型创业公司的投资。

如果各成员国和私企能够相互合作,加大投资力度,那么到2020年欧盟在人工智能技术上的总投资将达到200亿欧元。

到下一阶段(2021-2027年),欧盟的战略计划将转为打开大门吸引投资,通过各成员国的共同投资,支持所有的机构和部门部署和使用人工智能系统。

7.加强数据开放共享

开发人工智能系统需要大量的数据。数据是机器学习的关键。为此,需要促进数据的开放和共享。过去15年,欧盟已经推出多项举措促进公共部门数据和公共资金资助的研究成果的开放和再利用。

此外,公共政策还应鼓励更广泛地分享私人所有的数据,与此同时需要遵守关于个人数据保护的法律政策(比如GDPR)。数据共享支持中心可以为数据共享提供法律和技术支持。

为了最大程度地促进数据流转和分享,欧盟委员会将从以下方面着手:修订公共部门信息开放指令,出台私营部门数据分享指南,修订科研信息获取和保存建议,以及出台医疗健康数字化转型政策(包括分享基因数据及其他医疗数据)。

  

  支柱二

积极应对社会经济变革

欧盟在人工智能时代面临三项挑战:

第一,帮助整个社会做好迎接人工智能时代的准备;

第二,帮助因人工智能的发展而可能失业或者更换职业的人,与欧洲社会权利协会(European Pillar of Social Rights)一起为过渡期劳动者提供完善的社会保障;

最后,需要培养人工智能专业人才,吸引国外相关人才。

1.消除数字鸿沟,为每个人提供所需的数字技能

数字化正在影响劳动力市场结构,中等技能工作正在被自动化。人工智能将对低技能工作产生更显著的影响。因此,为了避免区域、产业或人群之间的不平等继续扩大,欧盟需要尽早应对这些问题。

为此,需要为受人工智能和自动化影响的劳动者提供获得新知识和新技能的机会,支持过渡期工人找到新岗位。

预测人工智能的潜在就业影响并投资于劳动者,正是以人为本的人工智能路径所要求的。为此,需要大量的投资。

欧盟在2014-2020年期间将投入270亿欧元支持技能培养,其中23亿欧元专门用于培养数字技能。可以与私营部门合作提供数字技能培训项目。

此外,欧盟委员会还将继续支持人类-人工智能互动和合作,所谓的人机协作。

2.培养多元的、跨学科的人才

人工智能带来了新的工作,总体而言,欧盟信息和通信技术专家数量自2011年以来每年增长5%,创造了180万个就业机会,并在短短五年内迅速将其总就业份额从3%增加到3.7%。

但是在欧洲,人工智能相关专业人员至少有35万个职位空缺,表明存在技能鸿沟,高端人才严重供应不足。

因此欧盟需要大力促进人工智能人才的培养并鼓励人才的多元化。此外,还应致力于培养跨学科的人工智能人才(比如鼓励人工智能领域的双学位教育)。

为此,2018年欧盟在就业和教育政策方面将推出以下举措:

其一,推出专门的培训和再培训计划,为受自动化威胁的专业人员提供新技术培训项目;

其二,监测劳动力市场变化及欧盟范围内的技能缺口,尤其是需要监测人工智能对劳动力市场的影响并提出建议;

其三,为学生和毕业生提供高级数字技能培训项目;

其四,鼓励校企合作,吸引更多人工智能人才;

其五,邀请社会合作伙伴在其联合工作计划中关注人工智能及其对就业和经济的影响,以及人工智能工作岗位多元化和性别平衡的重要性。

此外,欧盟创新和技术研究所将会把人工智能融入到学校课程中。

  

  支柱三

建立适当的伦理和法律框架

发展和应用人工智能需要一个良好的环境,至少包括信任和责任。当前,欧盟已经有了一些基本的法律框架。比如欧盟基本权利宪章,较高的安全和产品责任标准,以及保护个人数据的GDPR(就用户画像等自动化决策而言,GDPR规定了用户要求企业提供有用信息的权利),以外在数字单一市场之下欧盟委员会也推出了一系列立法举措。

此外,为了增进公众信任,人们还需要理解技术如何运作,这就要求人工智能系统具有可解释性,以便人类可以理解系统的行为。

再者,如其他技术一样,人工智能也是一把双刃剑,既可被用来服务于个人和社会的利益,也可能被滥用,具有安全、责任、网络安全、偏见、歧视等风险。

因此,需要考虑建立适当的伦理和法律框架,以便为技术创新提供法律的确定性,实现技术创新和人权保护的平衡。

1.起草并制定人工智能伦理指南(AI ethics guidelines)

人工智能伦理指南草案将于2018年年底前完成,其内容将以“欧盟基本权利宪章”为基准。

欧盟委员会将邀请所有的利益相关方一起探讨人工智能伦理原则的起草和制定。人工智能伦理指南将回应人工智能工作影响、公平、安全、网络安全、社会包容、算法透明等诸多问题。

此外还将关注人工智能对基本权利(比如隐私、尊严、消费者保护、禁止歧视等)的影响。

虽然自律性质的人工智能伦理指南可以为衡量人工智能技术的影响提供一个基准,但政府部门必须确保针对人工智能技术研发和使用的监管框架与这些价值和基本权利保持一致。

2.评估安全和责任法律框架

人工智能的出现,特别是考虑到人工智能系统的复杂性以及自主决策的特点,需要重新审视既有的安全规则和责任规则。

比如,高级的机器人和物联网产品受人工智能驱动,其行为可能超出设计者预期,因此需要重新审视一般的或具体的法律规则。

当前,欧盟委员会正在评估当前的安全和责任法律框架是否足以应对人工智能带来的法律挑战,是否存在需要予以解决的法律空白。

对相关指令(比如产品责任指令和机器指令)、责任框架的审查评估已经在进行中。欧盟将会持续关注并解决人工智能带来的法律挑战。

3.充分赋能个人和消费者

在B2C交易中使用人工智能技术需要确保公平、透明并遵守消费者保护法律要求。

个人应能知悉人工智能产品的用途、性能和特征,对使用人工智能产品过程中产生的数据享有控制权,并有权知道是在与人类还是在与机器人交流。

尤其是当个人与自动化系统交流时,需要告知用户如何向人类求援,以及如何纠正或审查系统的决定。

为此,欧盟将从以下方面着手构建合适的伦理和法律框架:

其一,成立欧洲AI联盟,起草人工智能伦理指南。指南草稿将于2018年年底形成。

其二,根据技术发展情况,在2019年年中发布关于产品责任指令解释的指导性文件,确保在缺陷产品情况下的法律明确性。

其三,在2019年年中之前发布一份关于人工智能、物联网以及机器人责任和安全框架的报告,阐明这些规则的影响以及潜在的法律空白和应对措施。

其四,支持可解释的人工智能(explainable AI)的研究,并落实欧洲议会提出的关于算法意识建设(algorithmicawareness building)的试点项目,收集坚实的证据基础并支持针对自动化决策带来的挑战制定相应的应对措施,包括偏见和歧视问题。

其五,支持成员国和欧盟消费者保护机构和数据保护机构加深对人工智能应用的理解。

4.建立多方合作机制,共同应对挑战

其一,成员国之间加深合作。

目前,一些成员国已经或正在制定人工智能发展的战略计划。2018年3月29日,法国在Villani报告的基础上出台了国家人工智能战略。德国以“工业4.0”为基础,建立了一个学习系统平台,以实现学术界、工业界和政府之间的战略对话,并提出了关于自动驾驶和互联驾驶伦理的报告。

欧盟鼓励各个成员国制定人工智能战略,设定投资计划。此外,彼此之间分享实践经验,协同合作并确保行动一致能够帮助欧盟在人工智能领域的国际竞争力。

当然在互操作性、数据集等方面展开合作,并协同制定法律规则将避免欧盟内部的碎片化监管,利于人工智能创业公司涌现。

24个成员国和挪威已经于今年4月10日签署了合作宣言,承诺在人工智能领域形成合力,与欧盟委员会开展战略对话。

其二,融入利益相关方,建立欧洲人工智能联盟。

发展人工智能需要调动企业、消费者组织、工会以及其他民间团体代表在内的多元参与者。欧盟将促成建立广泛的多利益相关方平台和欧洲AI联盟(将于2018年7月成立),在所有人工智能相关问题上展开合作和交流。

欧盟委员会还将促进欧洲AI联盟与欧洲议会、成员国、欧洲经济与社会委员会、地区委员会以及国际组织之间的交流互动。

其三,监测人工智能发展和应用情况。

欧盟委员会将监测人工智能在整个经济活动中的应用和渗透,从中寻找人工智能的应用给产业价值链带来的潜在变化,对社会及法律发展的影响以及对劳动力市场的影响。

欧盟还将对人工智能产品和系统的技术能力进行基准测试,了解技术的实际发展情况,并将定期对欧盟人工智能战略所设定的目标的实施进展情况进行评估。

其四,开展国际合作。

人工智能具有易于跨境交易的特点,在全球范围内探讨解决方案才能促进其持续发展。G7、G20、联合国以及OECD等已经着手探讨如何规制人工智能,包括伦理问题。

欧盟支持国际社会就人工智能及其各个方面(研究、创新、合作及竞争)进行讨论。欧盟关于人工智能价值观与基本权利的观点使得欧盟能在全球范围的讨论中作出独特贡献。

  

  3

国际人工智能政策分歧凸显

今年4月,先是英国议会发布了一份长达180页的人工智能报告,后是欧盟委员会发布战略文件,提出了欧盟人工智能发展路径。近两年来,欧盟官方及其智库出台了多份报告和政策文件,素来强调人权的欧洲开始密集阐明自己的人工智能价值观。

无论是英国还是欧盟,都把人工智能价值观提到了战略的高度,确立了以人为本的人工智能价值观,发展人工智能应当有益于个人和社会。

其中,制定人工智能伦理准则或指南是欧洲人工智能战略的重头戏,被赋予了向国际社会系统阐明欧盟人工智能价值观的使命,承担着塑造人工智能发展方向的重大责任。

其实,欧盟在互联网领域长期落后于美国和中国,在人工智能领域亦是如此。严格的法律和监管是其中的一个主要原因,GDPR被认为会巩固谷歌、Facebook等硅谷巨头的优势,因为GDPR创造的较高法律门槛将阻碍欧盟本土企业取得竞争优势。

包括欧盟委员会最近已经开始准备提议人工智能民事法律规则,考虑赋予机器人法律人格地位,也在行业引发了不小的震荡。

显然,在技术占劣势的情况下,欧盟希望能够向国际社会输出欧盟的人工智能价值观,引领人工智能的发展方向,当然不是技术的发展方向,而是塑造人工智能在社会中的积极角色。

然而,占据技术高地的美国的人工智能政策却是另一番景象,国家层面更多着力于技术发展和创新层面,较少谈论所谓的人工智能伦理问题,对立法和监管也更为谨慎。

比如,在美国交通部的自动驾驶政策中,自动驾驶汽车伦理问题曾被轻描淡写地作为一个安全标准,但后来却不再作为一项安全评估标准,被放置在了一边。反倒是行业和私营企业对此较为关注,反映了美国一贯的行业自律思路。

比如,未来生命研究院(FLI)主导的阿西洛马人工智能原则(所谓的“23条人工智能军规”)、IEEE全球人工智能伦理倡议,以及谷歌、微软等科技公司内部的人工智能伦理委员会和提出的伦理原则,都代表着行业自律的经验探索。

反观欧盟,其已经开始急冲冲地制定人工智能法律和伦理规则,希望用正确的价值观约束人工智能技术研发和应用。而美国仅有的几个人工智能法律提案更多涉及如何促进技术创新和应用,如何通过设立人工智能技术咨询委员会为政府和社会提供政策和战略咨询建议,等等,即使对自动驾驶汽车的监管,也更多采取了事后监管和行业自律的方式。

在监管和价值观方面,美国并没有欧盟那么心急,更多采取多利益相关方(multi-stakeholder)共同合作交流的机制,通过行业自律性质的指南、最佳实践等回应新技术带来的挑战。

人工智能需要价值观,也需要创新观,恰如其分地平衡好两者是人工智能政策制定的关键。就像美国的立场,监管是为了促进创新,应避免产生抑制创新的效果。

综观各国的人工智能战略和政策,分歧是看得见的。而在伦理层面,已经有国家呼吁达成国际共识,这是值得期待的,至少共识将慢慢形成。因为技术从来都不是中立的,技术需要价值观,需要伦理约束,就像核技术一样。

所以欧盟才提出了人工智能价值观,并自信地认为这将可能是欧盟对国际社会的独特贡献。

回到我国,其实我国对人工智能的态度和立场更接近于欧盟,去年的人工智能战略文件多有涉及法律、伦理等反映人工智能价值观的制度安排。

在英国、欧盟等已经开始着手起草、制定人工智能准则或伦理指南的情况下,我国适时地提出中国人工智能价值观和伦理观,在技术和产业优势之外,有机会影响并帮助塑造国际人工智能政策制定。

  Communication Artificial Intelligence for Europe下载地址:

  https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe

------分隔线----------------------------
相关内容
推荐内容