360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
师恩难忘******
刘末利
1960年,对于当下,已是十分遥远。对于我,那时从学校毕业,加入中新社大家庭的情景,还是如此清晰在目。那时的我,即使与同时进中新社的同学相比,也显得非常稚嫩。我的第一个工作岗位是在专稿部通讯组。资深同事们对我关爱有加,社领导、部门领导对我的点滴表现,都给予鼓励、赞许。
记得1961年的春天,我奉命出差,地点是天津市区。组内资深记者张益常陪我同行,她侧重采访天津郊区。这样的安排体现了良苦用心。当时兼部主任的副社长王纪元说过:“要是刘末利一个人出门,还分不清东南西北呢。”
几十年来,这个“评语”一直牢记在心。1963年初,我奉调至上海记者站。第二年的春天,浙江省侨务工作会议在杭州召开。总社指定我前往采访是次会议。第一次采访大型会议,我毫无把握。到了杭州,得知张帆社长也将应邀赴会,更使我忐忑不安,心想千万不能在社领导面前“出洋相”。张帆社长抵达杭州后,抽空了解了我的采访计划。他当即给我出题目,约请与会的杭州、宁波、温州等市侨务部门负责人座谈,他也参加。社长手把手的指导,真是十分难得的学习机会。一切安排妥当,座谈就在晚上。趁那天下午休会,常驻杭州的摄影记者沈鸣陪张帆社长游虎跑,我也随行。我们在虎跑山上喝茶、聊天。后又驱车前往梅家坞,品尝龙井新茶。我倒是先把握了这个“机会”,享受龙井的美妙,一杯接一杯,忘乎所以。返程途中,自我感觉不妙——晕车了。回到宾馆,免去晚饭还不行。待到座谈会即将开始,与会者陆续到达。我却因胃里“翻江倒海”,忍不住奔进卫生间一阵呕吐。多少年来,无论我怎样努力,也想不起那次座谈的主题以及写稿过程,永远记得的是张帆社长曾经说过:“你这种身体,怎么当记者呀!”
这个“洋相”出得够可以的了。晕车固然是因为“内耳前庭平衡感受器受运动刺激而影响神经中枢的症状”,算不上疾病,但对一个记者确实很麻烦。“杭州事件”使我明白必须与那个平衡感受器“对着干”。后来,我因采访而海、陆、空都“晕”过了。印象最深的是上世纪80年代前期,上海决定恢复经过台湾海峡的上海至福州航班,我参加首航采访。事先我一心要在船上“现场采访”。没料到船刚出吴淞口,我就晕得躺倒了。眼看完成任务有难,幸好一位同行大力支持。他根据我的要求在旅客中物色采访对象,再陪着我前去。我就在“采访—躺下—再采访—再躺下”的节奏中完成“首航”。
岁月流逝。时至上世纪70年代末,终于盼来中新社恢复建制。我从上海某出版社回归中新社。1979年初,上海分社“开张”,包括分社负责人,人员只有七八个,我包揽了上海全部的经济报道工作。那时国家进入“以经济建设为中心”的新时期。上海曾经是远东经济发达的大城市,又是全国工业基地;在执行国家经济体制改革、对外开放的方针中,自有许多符合经济规律的创新之举。何况还有引进30万吨乙烯工程的上海石油化工总厂、以进口矿砂为原料的宝山钢铁总厂正在加紧建设。在这样的背景下,上海分社的经济报道应该做得有声有色,实际上却是将近3年没有达到总社的要求。上海分社“经济报道没做好”,使我承受巨大压力。我感到迷惘,无所适从。某年,总编室主任徐曰琮来上海分社。我不知道他此行的“任务”。但是他私下对我说,上海分社经济报道没有做好,责任不在于我,我已经尽职了。此话使我得到极大宽慰。1982年春,当时的副社长王士谷率总社新闻部、专稿部及广东、福建等分社的各路精英云集上海,召开经济报道工作会议。会议下达了总社对经济报道的方针和思路,交流了经济采编的经验。会下有关部门领导对我更有针对性地点拨和指导,特别鼓励我要敢于采访重大题材。于我,真是醍醐灌顶!总社领导在多年没有做好经济报道的上海分社召开经济工作会议,目的明确,效果显见。我走出了“中新社是新华社的补充”、“上海分社以报道侨务、文艺、体育等‘三宝’为主”等中新社初创时期办社和报道思想的局限,在报道思想和业务能力上都进入了一个新阶段。
也是在1982年,总社召开专稿工作会议,明确了“面向中间,反映现实”的专稿工作新方针。这是针对国内外形势的变化,针对海外读者迫切希望了解中国新时期政治、经济新动向而拟定的。其时香港《明报》、《快报》等常见署名“宗涓”的专电,评述中国时政。文笔挥洒自如,读得我如痴如醉,不胜钦羡。我本专稿部出身,于是学样“跟进”。专稿部负责人时来电话,给我鼓励。1984年底,我赴总社参加工作会议期间,还当面请教,受益匪浅,为我此后坚持专稿写作打下基础。上述时期,除了总社和相关部门领导之外,我的多位老同事,也给我莫大支持和鼓励,他们是我的益友,更是良师。我永远感谢他们。挂一漏万,在此不一一列举姓名了。
1984年底,各地方分社换班。总社委任我为上海分社采编主任。我毫无思想准备,心中茫然。刚卸任的上海分社社长姚凡对我关心又支持。他“面授机宜”道:不要脱离采编第一线。一来采编业务是我的“强项”;二来只有身在“第一线”才能指挥和组织分社的采编活动。后来,我一直按照他提示的原则去做。虽然辛苦,于我个人、于分社都足见成果,毋庸多言。
在中新社40年一路跋涉之中,得到多位领导、资深同事们的培养、帮助,十分难得;唯有满怀感激,永远念叨:“师恩难忘”!
(历史资料)
(文图:赵筱尘 巫邓炎)