张欣:算法公平具有多维动态性,应依场景制定优先级清单

  中新经纬7月15日电 (王玉玲 实习生 郭西子)近日,由对外经济贸易大学数字经济与法律创新研究中心举办的“算法公平治理与实现”研讨会在线上举行。对外经济贸易大学数字经济与法律创新研究中心执行主任张欣在会议上表示,算法公平具有多维动态性,应根据场景制定公平价值观的优先级清单。

  会议伊始,张欣就数字经济与法律创新研究中心撰写的《算法公平性分类与实现》研究报告进行了汇报。报告指出,算法公平是一个具有多维动态性的概念,对算法公平性的目标追求和要求不能泛泛而论和求全责备,在人工智能语境下,任何关于算法公平的主张都需要在特定场景下结合法律规范、技术伦理和社会影响展开评判和预估。

  报告共分为四部分。第一部分为算法公平的定义与界分。对算法公平划分主要从以下四个方面进行:基于主体,基于参与者,基于主观感知和基于算法生命周期。

  报告指出,从参与者角度分析,平台算法公平是多方主体的公平,需要超越单一的用户视角。分析工业界实践表明,企业是可以在这些方面做出积极探索并在公共利益和商业利益之间建立良性平衡的。例如,TikTok推荐算法兼顾了需求方(短视频观看者)和供给方(短视频发布者)两个角度的公平,使得普通用户发布的内容也有可能受到明星般的关注,迅速流行起来;具有小众或细分需求的用户,也能看到自己感兴趣的内容。

  第二部分为算法公平的衡量与判据。报告显示,为提升算法的公平性,国内外互联网企业做了不同探索。比如,2018年,IBM推出AI Fairness 360,用以减少软件偏见并提高其公平性。Facebook(Meta)公开了Fairness Flow诊断工具包,帮助诊断和分析算法模型和标签的公平性问题。阿里巴巴、字节跳动、美团、京东等国内互联网企业也积极探索解决方案,积极规避造成算法不公平的潜在因素,发展无偏推荐系统。

  第三部分为算法公平实现层次。首先,从预处理、中间处理和后处理去做算法公平设计;其次,从算法公平运行的角度讨论到底如何构建更加全面的数据集,使算法具有更加公平和可解释的特性;接下来是进行算法公平输出;最后,讨论如何从短期、中期、长期实现算法公平。

  第四部分为算法公平的实现周期。算法歧视和不公是技术与社会互动的结果,是根植于社会结构中深层和隐形的不平等在算法系统中的表现,算法实现周期对应着四个不同特质:一是算法公平具有场景化特质,并且有着严格的约束条件和给定条件,所以相对应的算法治理是相对有限。二是算法公平具有动态演进性,公平的伦理内容及规范内容具有时代性,目的和部署场景具有差异性。在某一时期中算法公平,在另一时期由于历史、社会的发展可能就不再公平。三是算法公平具有多维性特征,通过算法和技术完全消除社会当中的不公平是不切实际的。四是算法公平具有过程沟通性,通过主观感知进行划分。

  张欣表示,短期算法公平治理,应该从三个方面展开。一是建立算法公平目标体系,包括感知公平性、统计公平性和因果公平性,同时要鼓励和尊重不同平台、不同场景下,依据算法功能定位,各个平台主营业务特征,运行场景利益相关主体,制定公平价值观的优先级清单;二是完善数据公平治理;三是创建公平解释机制。

  而针对中期算法公平治理,报告建议,完善算法公平审计制度;建立算法影响评估制度,包括算法影响评估的分类和分级;推动算法公平认证制度落地。对于长期算法公平治理,应从法律上构建算法公平的法律规范体系,培育算法公平治理文化,同时培育算法公平向善的运行生态。

  最后,张欣指出,算法公平的认知和行业实践仍处于起步阶段,算法公平治理是涉及个体、企业行业、公共机构等多元主体复杂互动的重要议题,需要以适宜的运行生态作为基础协同推进,以获得制度实效最大化,共筑“算法公平向善”的运行生态。(更多报道线索,请联系本文作者王玉玲:wangyuling@chinanews.com.cn)(中新经纬APP)

  (文中观点仅供参考,不构成投资建议,投资有风险,入市需谨慎。)

  中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其它方式使用。

责任编辑:李中元

万喜堂平台,万喜堂官网,万喜堂网址,万喜堂下载,万喜堂app,万喜堂开户,万喜堂投注,万喜堂购彩,万喜堂注册,万喜堂登录,万喜堂邀请码,万喜堂技巧,万喜堂手机版,万喜堂靠谱吗,万喜堂走势图,万喜堂开奖结果

Powered by 万喜堂 @2018 RSS地图 HTML地图