网站首页

产品中心

新闻中心

关于必威

公司概况 核心优势

联系我们

官方微信 官方微博
主页 > 产品中心

必威伦理先行:持续推进人工智能伦理治理

发布时间:2023-12-08 20:11浏览次数: 来源于:网络

  必威作者:汤志伟(电子科技大学公共管理学院教授、博士生导师,电子科技大学(深圳)高等研究院执行院长)

  10月18日,中央网信办发布《全球人工智能治理倡议》(下称《倡议》),围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的中国方案。《倡议》就各方普遍关切的人工智能发展与治理问题提出了建设性解决思路,在人工智能伦理治理方面,提出:“坚持伦理先行,建立并完善人工智能伦理准则、规范及问责机制,形成人工智能伦理指南,建立科技伦理审查和监管制度,明确人工智能相关主体的责任和权力边界,充分尊重并保障各群体合法权益,及时回应国内和国际相关伦理关切。”

  人工智能是人类发展的新领域。人工智能技术被视作第四次科技革命的核心驱动力,在全球掀起了新一轮产业变革浪潮,对经济社会发展和人类文明进步产生深远影响。根据中国信息通信研究院测算,2022年我国人工智能核心产业规模达到了5080亿元,同比增长18%,企业数量近4000家,国内人工智能已形成完整的体系,成为新的增长引擎。

  人工智能技术给经济社会发展带来巨大福利,也带来难以预知的各种风险和复杂挑战。人工智能技术发展的不确定性、技术应用的数据依赖性以及算法可解释性可能导致技术失控、隐私失密、公平失衡等问题,冲击着伦理规范。推动人工智能的健康发展必须重视其对社会伦理的影响,防范和治理其潜在伦理风险。对此,《倡议》也提到:“研发主体不断提高人工智能可解释性和可预测性,提升数据真实性和准确性,确保人工智能始终处于人类控制之下必威,打造可审核、可监督、可追溯、可信赖的人工智能技术。”

  习强调;“科技是发展的利器,也可能成为风险的源头。要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战,完善相关法律法规、伦理审查规则及监管框架。”2017年,国务院发布《新一代人工智能发展规划》,指出到2025年初步建立人工智能法律法规、伦理规范和政策体系。2019年,《新一代人工智能治理原则——发展负责任的人工智能》发布,提出和谐友好、公平公正、敏捷治理等在内的八条原则。2020年,国家科技伦理委员会正式成立,是新时代国家科技伦理治理的重大战略决策。2021年,《新一代人工智能伦理规范》发布,分别阐述了人工智能的管理规范、研发规范、供应规范和使用规范。2022年,《关于加强科技伦理治理的意见》发布,提出五项基本要求与五项科技伦理原则,部署四大重点任务,为进一步完善科技伦理治理体系作出指导。2023年,《生成式人工智能服务管理暂行办法》发布,成为我国人工智能产业首份监管文件。种种举措表明,我国在人工智能伦理治理上持续发力。基于《倡议》内容,我们未来仍需要继续坚持伦理先行,做好风险防范,形成具有广泛共识的人工智能治理框架和标准规范。

  人工智能的可控性风险。这种风险来源于对技术失控的担忧,指的是人工智能技术的发展超出人类控制范围而产生的风险。人工智能技术的发展日新月异,人工智能算法已经融入自主性、情感性、意向性等人格要素,理论上存在着从弱人工智能发展到强人工智能、超人工智能的可能性。以智能机器人为代表的“人工生命”普遍出现,使人类较以往更担心技术脱离控制,但从现有人工智能成果的技术条件来说,人工智能技术只能应用于强力法封闭原则与训练法封闭原则下的场景,出现不可控技术仍属于“远虑”。

  人工智能的使用性风险。这种风险指应用人工智能而存在的风险,主要源于人工智能技术的非正当使用,比如技术滥用与技术误用。以人脸识别技术为例,人脸识别算法可以帮助警方搜寻在逃罪犯,但人脸识别技术是否完全可靠,结果是否百分百准确,在现阶段并不能保证。美国纽约、新泽西两大州的调查人员,通过面部识别软件,找到与嫌疑人照片高度匹配的人,但是最终却抓错并将“罪犯”关押十天。还有研究团队利用唇曲率、眼内角距以及口鼻角度等面部识别系统预测某些人具有犯罪倾向,得出黑人的犯罪概率远远高于其他人,引起极大争议,以机器学习相面极有可能得到“可能的假象”与“客观的谬误”。此外,“换脸”等深度伪造问题层出不穷,而面部信息关系到个人隐私与财产安全,人脸识别技术何时、何处、该在何种程度使用都还需要进一步规范。

  人工智能的社会效应风险。这种风险来自于与人工智能治理相关的重大社会问题,是人工智能技术对社会产生的负面效应。人工智能广泛的商业化应用带来一系列的产业变革,当负效应超过正效应后,将对社会产生巨大影响。比如在经济就业方面,取代大量劳动力、导致失业浪潮、产生“无用阶层”;在国家治理方面,利用人工智能技术优势操纵舆论,网络窃密、网络勾连威胁政治安全;在文化艺术方面,人工智能写作、绘画等技术形成的作品多处拼凑抄袭,看似降低“创作”门槛背后,却可能让艺术的创新探索止步不前;在生态环境方面,人工智能技术下的数据作为生产要素,可以减少自然资源和资本等传统要素的依赖,但是人工智能发展依赖的基础设施消耗并未减少。

  健全人工智能伦理风险评估机制,增强风险防范能力。当前人工智能技术已经产生或即将产生各类伦理风险,需要得到正视与重视。一方面,正视伦理风险的客观性,正确认识人工智能技术带来的伦理风险,不盲目地悲观或者片面地乐观,引导理性认知,加强人工智能伦理风险教育,客观全面地评估人工智能伦理风险。

  另一方面,建立伦理风险评估机制,梳理风险源头、风险类型、风险强度,思考风险产生原因、风险解决措施,防范未发生的风险,对人工智能应用的负面影响开展预见性风险评估,提前做好风险预案。面对人工智能技术的不确定性,优化人工智能伦理风险评估机制,需要集合多方力量、采用多种方法,科学开展风险评估工作。政府、高校、研究院所等机构可以联合起来,建立风险评估指标,为人工智能技术应用划定风险等级,针对不同风险等级使用不同的安防策略和技术。开展人工智能伦理风险防范的前瞻性研究,可以采用“技术制约技术”的方式,建立对抗性学习算法研究,建立人工智能伦理风险防控系统,预防人工智能技术在应用场景中的潜在伦理风险。

  打造人工智能伦理风险治理群落,促进多方协同共治。人工智能的伦理风险涉及面广,复杂程度高,风险治理涉及智能技术、伦理哲学、公共管理等多领域,需要政府、企业、高校、行业组织、公众等多主体搭建多方协同共治的组织网络,明确不同主体的权责义务,建构多主体合作治理的紧密关系,形成集群治理效应。

  政府作为管理部门需要发挥政策引导与监督审查作用,比如政策制定者在制定人工智能伦理治理的相关政策时可以面向社会公众、企业、科研团体等其他主体,开展听证、征询和协商活动,提高其他主体在政策制定过程的参与度。人工智能企业作为技术前线需要提高自律自治能力,增强风险意识与责任意识,在企业内部设立人工智能伦理委员会,培养人工智能伦理研究员,开展伦理风险自查,落实人工智能技术可信可靠要求。人工智能行业组织需要针对行业发展情况建立行业伦理规范,在政府引导下制定相关技术标准,促进企业落实主体责任。高校、科研院所等科研共同体可以积极参与伦理规范制定,研究人工智能伦理风险治理的算法工具,还可以发挥教育作用,开展人工智能伦理教育以及人工智能技术的科普活动。

  完善人工智能伦理风险治理体系,推动敏捷治理。除《倡议》外,《新一代人工智能治理原则》《新一代人工智能伦理规范》与《关于加强科技伦理治理的意见》的治理要求中都提到了“敏捷治理”。推动“敏捷治理”,要尊重人工智能发展规律,持续优化管理机制、完善治理体系。一方面,完善人工智能伦理风险监管机制,将伦理风险监管融入人工智能全生命周期,实现全流程全链条监管,建立问责机制,明确问题责任人;另一方面,将人工智能伦理风险治理标准化、规范化,形成多级制度配套体系,以具体的标准将宽泛的治理原则可操作化。

  此外,还需要根据人工智能技术发展,动态调整伦理风险处理方式,针对人工智能商业化应用的新兴问题,及时制定伦理风险治理办法。欧盟在2021年提出了《人工智能法》提案,促使人工智能治理从软性约束向实质硬性要求转变。目前我国出台了《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》等数字技术领域的专门立法,为个人隐私安全风险治理填补立法空白,但相关立法较为零散,并且具有滞后性。因此,还需要推动人工智能伦理风险治理的法治化进程,增强立法前瞻性,建立一套规范的法律体系。

  (电子科技大学智慧治理研究院研究员叶昶秀、龚泽鹏对此文亦有贡献。本文系国家社会科学基金重点项目“人工智能商业化应用的社会影响与治理体系研究”(22AZD135)的阶段性成果。)

  我国始终主动实行扩大进口的战略和政策,连续举办进口博览会,倡导开放合作,与既往的贸易保护理论和政策主张存在根本差异,为维护开放的世界经济注入了强大动力。

  面向未来,要进一步扩大“朋友圈”,绘制好“工笔画”,对接好“硬联通”与“软联通”,秉持包容、合作、共赢的原则,为实现民族复兴和推进全人类的福祉而努力奋斗。

  文化交流很重要,我们在讲“一带一路”的时候,也需要讲“共建国家”给我们带来的好处。其实我们面临着如何正确对待自己的问题,“一带一路”不是单方面的施与,而是双向的或多向的互利。

  我们必须要全面把握东北向北开放的历史使命,通过推动东北亚次区域、国别合作,破解东北亚各国战略意图和利益不同、战略互信缺失的困境。

  2022年我国数字经济规模达50.2万亿元,总量稳居世界第二,同比名义增长10.3%,占国内生产总值比重提升至41.5%,数字经济成为我国稳增长促转型的重要引擎。

  坚持以习法治思想和总体国家安全观为指导,准确把握完善国家安全法治体系的时代内涵和实现路径,是新时代新征程把中国特色国家安全法治建设推向前进的必由之路。

  习进一步推进马克思主义基本原理同中国具体实际、同中华优秀传统文化相结合,创造性回答了关系党和国家事业发展的重大问题,形成一系列原创性理论成果。

  深刻的理论来源于人民大众的实践,只有不断拓展理论的深度和广度,用“大众话语”说清“理论话语”,理论才能真正变成人民群众手中的尖锐武器。

  “千万工程”把村庄整治与发展经济结合起来,以乡村经营为抓手,持续打通“绿水青山就是金山银山”转化通道,将生态红利变为民生福利。

  区域国别学是典型的交叉学科,只有从不同学科视角贡献知识增量,通过融合、碰撞和创新,才能最终形成学科共识。

  我们仍需抢抓“十四五”应对窗口期,战略上保持定力,战术上灵活机动。在强化养老、托幼、家庭支持政策基础上,进一步优化房地产市场调控。

  中国正在打破西方对现代化标准垄断,探索出一条不同于西方的社会主义现代化新路,创造属于自己的发展经验,为现代化理论作出重要贡献。

  人是经济社会发展全要素投入中最具活力、最具创造性、最具能动性的要素,人的全面发展和人口高质量发展是经济社会可持续的内在要求。

  五个坚持明确了现代化产业体系建设中处理实体经济与虚拟经济、产业发展与转型升级、一二三次产业结构、传统产业与新兴产业、国内与国际间关系的重大原则,是建设现代化产业体系的行动指南。

  统筹粮食安全与活化乡村经济是未来农业农村发展面临的重大课题,亟待通过深化耕地保护模式的创新,探索面向多元价值诉求的耕地保护新途径。

  在稳经济政策措施的持续发力下,无论是需求还是供给都处在逐步恢复中。鉴于需求不足是一个时期以来影响经济运行的明显制约因素,因此需求改善较之供给改善更能有利于经济运行。

  通过建构共同体记忆和一定的情感叙事策略,彰显出我们党对百年奋斗重大成就、历史经验和新时代新征程的新赶考之路具有坚定的历史自信。

  十年来的网络立法,涵盖数字中国、数字社会、数字政府等各个领域,辐射企业、社会组织、个体等各类主体。网络立法的进程与网络深度嵌入经济社会生活的步履同频共振。

  平台经济在推动高质量发展、创造就业、拓展消费市场、创新生产模式、国际竞争中大有作为。平台经济是数字经济的典型业态,是引领经济增长和推动社会发展的新引擎。

  中国特色第三次分配是在道德力量、文化因素、价值追求等因素的综合影响下,实现社会财富资源在劳动人民各阶层、社会各主体之间,由盈余方向短缺方流动或盈余方与短缺方共享的资源配置活动。

下一篇:必威手机AI自动直播软件:一部手机解决直播痛点实现无人!
上一篇:必威人工智能会不会让很多人丢饭碗?AI人才缺口高达400万

咨询我们

输入您的疑问及需求发送邮箱给我们