欢迎来到大众彩票

朱倩男:算法公平受数据、模型和人共同影响,治理需多方协同

  中新经纬7月15日电 (王玉玲)近日,由对外经济贸易大学数字经济与法律创新研究中心主办的“算法公平治理与实现”研讨会在线上举行。中国人民大学高瓴人工智能学院博士后朱倩男从推荐算法原理出发,对算法公平性问题的主要成因以及未来可能的治理方向进行了分析。

  朱倩男表示,从算法原理的角度讲,推荐算法主要是用户-数据-算法模型三者之间循环交互的过程,整个推荐流程分为三个阶段,一是用户-数据,二是数据-推荐模型,三是推荐模型-用户。基于算法原理性分析,算法公平性问题实际上与数据、算法和人三大要素有关。

  第一,从数据层面,数据是社会价值观念的反映,如果数据包含了现实世界的歧视和不公平,则会产生有偏的结果,进而带来公平性问题。因数据有偏而带来公平性问题的情形包括但不限于以下几种可能:第一,出于保护用户数据隐私等原因,实际场景下通常无法获得与用户相关的全样本数据,很难挖掘用户全面的偏好,因而可能带来算法有偏;二是人为伪造的点赞量、转发量等数据可能对算法造成“欺骗”,从而使得算法结果不公平;三是获取数据过程中可能受到流行度偏见,选择偏见以及曝光偏见等因素的影响,使得算法产生有偏的结果。

  第二,从算法角度,算法更多是拟合大多数群体的需求,对少数群体的需求代表性和建模程度不够,可能带来不公平问题。第三,从人类角度,算法设计者自身的偏见有可能被嵌入到算法中而带来不公平性问题。

  在前述的推荐流程中,朱倩男表示,每个阶段都可能产生不公平性现象。比如用户-数据阶段,就可能存在选择偏见、从众偏见、曝光偏见和位置偏见等。

  对于推荐算法中存在的不公平现象,朱倩男从以下几个层面提出建议。

  第一,要定义清晰的公平性适用范围、对象和场景;第二,从数据、算法建模以及算法相关主体(算法设计者,用户等)三个层面来规避算法不公平性问题;第三,建立通用的公平性评测标准、平台及数据集,利用公平性的评测结果对算法进行改进和修正。第四,从法律法规和社会监管角度来避免算法公平性问题。“我强调一点,希望能根据不同场景下的不同任务和问题,科学制定公平性相关的算法应用规则和标准规范,探索形成一系列的制度机制。同时,考虑到人工智能产业长远发展,可以通过设立一些性能标准、预测标准、算法开发标准等来规避不公平性问题。”朱倩男说道。(更多报道线索,请联系本文作者王玉玲:wangyuling@chinanews.com.cn)(中新经纬APP)

  (文中观点仅供参考,不构成投资建议,投资有风险,入市需谨慎。)

  中新经纬版权所有,未经书面授权,任何单位及个人不得转载、摘编或以其它方式使用。

责任编辑:李中元

大众彩票平台,大众彩票官网,大众彩票网址,大众彩票下载,大众彩票app,大众彩票开户,大众彩票投注,大众彩票购彩,大众彩票注册,大众彩票登录,大众彩票邀请码,大众彩票技巧,大众彩票手机版,大众彩票靠谱吗,大众彩票走势图,大众彩票开奖结果

Powered by 大众彩票 @2018 RSS地图 HTML地图