2023-01-13 04:41:09 来源:程序员客栈
作者:贾恩东本文约2000字,建议阅读9分钟本文为你介绍更公平分配利益权重的一种算法——Shapley值方法。
本篇文章是数据派一文读懂系列的新年第一篇原创,在这里祝贺大家新年学业有新成就,生活有新气象!这次带大家了解一种有趣的从数学角度计算合作博弈贡献从而更公平分配利益权重的算法——Shapley值方法。
相信大家在日常生活中都接触过这样一个现象,那就是1+1不等于2。好了,不开玩笑,作者想说的是,很多时候多个主体分别产生的影响和共同产生的影响是不具备严格加性的。有句俗语,一个和尚挑水吃,两个和尚抬水吃,三个和尚没水吃。分开的三个和尚每个每天都挑水,但放在一起“协作”反而就没有水产出了。这里是一个关于协作的负面例子,但更多的是协作的正面例子,就是1+1大于2的效应。以下用一个案例具体来说明。
(相关资料图)
某公司有三个程序猿,分别是屌丝A,大佬B,美女C,如果大家不合作,A每个季度可以完成3个项目,B每个季度可以完成10个项目,C每个季度只能完成1个项目。但是老板小王为了充分挖掘员工潜力,合理配置公司资源,让A,B,C尝试了各种合作模式。王老板观察发现,屌丝都是潜力股,美女都是催化剂:屌丝A和大佬B合作每个季度可以完成15个项目,合作效果提升还行;屌丝A和美女C合作每个季度可以完成50个项目,合作效果爆炸;大佬B和美女C合作每个季度仅完成了12个项目,看来对大佬来说不影响拔刀的速度就不错了;ABC一起合作每个季度可以完成70个项目。最终王老板拍板让ABC以后就一起工作,按照小组完成的项目数额外发放项目奖金。请问聪明的读者,按照最公平正义的分配方法,哪位员工获得的奖金是最多的呢?
说A的同学:明显屌丝是潜力股,虽然单独工作表现一般,但是和美女一起合作,大大激发了工作热情,肯定是A贡献最多!说B的同学:应该是大佬贡献最大,因为单独来看,大佬本身能力是最强的!说C的同学:应该是美女贡献最大,虽然美女单独工作没什么效率,但显然对团队的影响无法替代!
请先别急,我们接下来使用理性的数学思维分析这个问题,可以顺便推导出shapley值的公式。
设想我们顺序将ABC放到合作队伍中(合作队伍一开始为空),那么合作的组合会有3!=6 种,如下表:
加入顺序 | A加入的贡献 | B加入的贡献 | C加入的贡献 |
A+B+C | 3-0=3 | 15-3=12 | 70-15=55 |
A+C+B | 3-0=3 | 70-50=20 | 50-3=47 |
B+A+C | 15-10=5 | 10-0=10 | 70-15=55 |
B+C+A | 70-12=58 | 10-0=10 | 12-10=2 |
C+A+B | 50-1=49 | 70-50=20 | 1-0=1 |
C+B+A | 70-12=58 | 12-1=11 | 1-0=1 |
表中的贡献计算方法可以举个例子来说明,B+C+A的顺序组合中,A的贡献是ABC的合作扣除BC的合作,即70-12=58;B的贡献就是B加入空的贡献,即10-0=10。其他类推。
但最终的加入顺序只有一种,而各个顺序都是等可能的。因此, A的贡献可以计算期望:(3+3+5+58+49+58)/6=176/6 B的贡献可以计算期望:(12+20+10+10+20+11)/6=83/6 C的贡献可以计算期望:(55+47+55+2+1+1)/6=161/6
这些贡献期望加在一起,(176+83+161)/6=70也恰是ABC的整体合作效果,验证了我们计算的合理性。做个简单除法,得出最终A的贡献占比是29.33%,B的贡献占比是13.83%,C的贡献占比是26.83%。A的贡献是最多的,C也很多,B最少。同学你猜对了吗?
我们接下来把问题抽象化。假设有n 位合作人,任何一种合作组合例如第1位和第2位合作组合记为{1,2},是一个有序集合的概念,对于组合 s 来说,它的收益表现记作 v(s)。假如某集合 s 包含 第 i 位合作人,则第 i 位 合作人在这种情形下的贡献为 v(s)−v(s\textbackslash{i}),解释为集合 s 的效益减去 集合 s 扣除第 i 位合作人后的新集合的效益。
因此我们可以得到第i 位合作人的贡献期望为:
这里Si 是所有包含 i 的所有子集的集合, P(s)是对应合作顺序组合 s 的出现概率。可以这样计算该概率,首先 s 中 前|s|−1 合作人顺序进入合作集合,然后是合作人 i 加入集合,最后是后 n−|s|个合作人加入合作集合。这样构成了该种顺序组合,这样有(|s|−1)!×1×(n−|s|)! 种,一共则有 n! 种顺序组合,所以有:
最终的shapley值公式即:
到这里,关于shapley值方法的公式就已经推导完毕了。
值得一提的是,Shapley值方法是有严格的公理化体系支持的,感兴趣的同学可以自行检索学习。Shapley值方法很公平,在经济、金融、管理、政治中都有不少的推广应用。比如多方金融投资合作如何分配利润;不同人数的党派团体如何更科学地设置投票通过票数;安全管理团队中按照重要性对事故中的不同责任方进行责任判定等等。在机器学习中,也可以使用Shapley值方法对不同的特征进行重要性评价,进行特征的筛选工作,即使是深度神经网络这种黑盒模型也可以获悉不同特征对于整个算法的贡献分布。
在文章的最后,需要多提一句,Shapley值方法虽然很好,但对于n 值很大的情况,计算很不友好,因为需要获悉所有组合集合的获益,这种组合集合一共有 2^n 种,不论是数据获得还是后续计算,都有不小的成本开销,所以有几种补救办法,有的是将合伙人分成若干组,按照组为最小合作单位进行计算;有的则是只考虑 n−1 大小的组合上增加合伙人带来的边际贡献等。无论是何种方法,本质上都和本文核心内容类似。
编辑:黄继彦数据派研究部介绍
数据派研究部成立于2017年初,以兴趣为核心划分多个组别,各组既遵循研究部整体的知识分享和实践项目规划,又各具特色:
算法模型组:积极组队参加kaggle等比赛,原创手把手教系列文章;
调研分析组:通过专访等方式调研大数据的应用,探索数据产品之美;
系统平台组:追踪大数据&人工智能系统平台技术前沿,对话专家;
自然语言处理组:重于实践,积极参加比赛及策划各类文本分析项目;
制造业大数据组:秉工业强国之梦,产学研政结合,挖掘数据价值;
数据可视化组:将信息与艺术融合,探索数据之美,学用可视化讲故事;
网络爬虫组:爬取网络信息,配合其他各组开发创意项目。
点击文末“阅读原文”,报名数据派研究部志愿者,总有一组适合你~
转载须知
如需转载,请在开篇显著位置注明作者和出处(转自:数据派THUID:DatapiTHU),并在文章结尾放置数据派醒目二维码。有原创标识文章,请发送【文章名称-待授权公众号名称及ID】至联系邮箱,申请白名单授权并按要求编辑。
未经许可的转载以及改编者,我们将依法追究其法律责任。
点击“阅读原文”加入组织~
- 加快虚拟仿真实训基地建设 启动职业学校信息化建设试点很必要
- “双减”后如何在满足学生多样需求方面做“加法”?
- 处于生理活跃期且心理发展不成熟 高校开设公共卫生必修课很必要
- 价格低于相应蔬菜零售价 西安投放约1万吨政府储备蔬菜
- 深受年轻消费群体所青睐 国潮风商品成为年货新选择
知识
- 他把银行卡卖给骗子,“黑吃黑”“截胡”十万元
- “老司机”4S店试驾豪车 结果油门当刹车撞了
- 新开工改造城镇老旧小区5.34万个
- 发动巡河志愿者2万余名 “用心护好每一条河”
- 假客服的套路:伪装成大平台客服,层层布局引人上钩
人物
- 原创 | 一文读懂机器学习中的shapley值方法-每日速看
- 今日报丨盈科资本钱明飞荣膺“2022年度中国股权投资领军人物”殊荣
- 盘龙药业:公司取得了陕西省药品监督管理局换发的《药品生产许可证》,已正式开始投产
- 当前滚动:天舟文化:?公司目前暂无此计划
- 国网新源、国网蒙东、国网西北分部招标计划! 当前独家
- 世界快看:吉安市永新县交通违章处理去哪?
- 51岁“央视一哥”康辉,现状曝光:他活成这样,我一点都不意外......|世界聚看点
- 开州区11岁孩子抚养费明细 焦点快看
- 融e贷借款逾期十二个月延迟还款会上征信系统吗
- 男子拆一箱泡面经历多次“反转”:品牌不一样、生产日期相差3年,制造商:可能工厂混装
- 中国厂商2022年12月全球手游发行商收入榜TOP100占4成,三七互娱稳居前四
- A股临近关键阻力位,沪指窄幅震荡微跌,闯关能否顺利展开?|当前关注
- 太空“牧星人”:联通天地 守护中国空间站
- 港股异动丨金隅集团AH齐跌 预计2022年度净利同比降低59.1%-52.3%
- 银行的抵押合同纠纷请律师要多少费用
- 质押贷借款逾期6年不还征信有什么影响 天天快看
- 当前看点!车e贷贷款逾期七年多久会上征信系统
- 【聚看点】HIFI音质也能做的小而美,HIK X5蓝牙耳机测评
- 阔别三年的春运大迁徙终于再现!“沿海向内陆”客流趋势明显
- 网传“有关领导干部生活作风问题”,扬州通报
- 可惜错过
- 火电利好预期频现,盈利修复或在眼前?
- 省呗贷款逾期42年延迟还款征信有什么影响
- 交银安享稳健养老一年(FOF)A基金经理变动:增聘刘兵为基金经理
- 得助智能:智能音视频如何构建远程服务? 天天头条
- 赣南脐橙、富硒产品文化周启动仪式在北京举行|天天日报
- 广东发布征求意见: 2025年底前水泥企业实现超低排放 NOx达50mg/m3 天天热讯
- 环球要闻:民办大学毕业证有用吗?
- 热点评!2023青岛市博物馆开放时间、范围
- *ST宜康(000150)1月5日主力资金净卖出31.59万元 全球要闻
- 全球今日报丨THESHY直播回应自己放弃大乱斗原因:改版之后没意思,没以前好玩
- 央行2023工作重点来了,涉及货币政策、房地产、平台经济、数字人民币等
- 整改过渡期结束 现金管理类理财产品吸引力不减 规模增速仍将保持稳健_今日最新
- 今亮点!天津机动车摇号申请网站登录入口
- 全球焦点!热气腾腾 央视新闻透过烟火气看新年新消费新项目
- 易联众董秘回复:截至股权登记日2022年12月30日,公司股东总户数为29,359户_焦点热门
- 【天天时快讯】鲁抗医药债务29亿应收账款8亿存货14亿 毛利率仅22%扣非低位徘徊
- 【手慢无】31.5寸4K显示器限时999元秒杀 天天观天下
- 中达集团控股(00139.HK)与广州嘉凡电子商务拟共同出资设立一家控股合资企业_每日观察
- 2023年之前无锡医保账户是怎么注资的?
- 环球今头条!医患故事 十年脑膜瘤再复发三博专家让我重获光明
- 台湾5G渗透率28% 5G资费依旧高企
- 格林美董秘回复:公司生产的三元锂电池材料、磷酸铁锂电池材料、钠电池材料均可用于储能电池制造 世界关注
- 连拉八涨停!股东赚大了:减持
- 要闻速递:为什么requests不是python标准库?
- 【快播报】打架斗殴后判刑最少要判多久
- 84消毒液怎么配置 84消毒液配比方法
- Nacos 支持Oracle数据库持久化插件使用|精选
- 【世界速看料】山煤国际拟斥19亿元战略入股山西银行 将持有其7.33%股权
- 大麦植发医疗向港交所递交上市申请 为中国一线城市最大的毛发诊疗服务医疗集团-世界关注
精彩阅读
- 热议:电视盒子专用!无需折腾,超清秒播不卡顿!
- 价格前线|12月29日多晶硅现货异动提示
- 诗尼曼拟在深交所创业板上市募资4.81亿元,投资者可保持关注|环球消息
- 电子发票板块12月29日涨1.07%,远光软件领涨,主力资金净流出3039.69万元
- 退烧药、抗原、血氧仪需求旺盛!工信部回应最新供应情况
- 每日热点:2022年不幸去世的8位主持人,最年轻的39岁,个个都让人惋惜
- 2022年新城市户外运动产业研究报告(附下载) 每日短讯
- 世界快看:乌克兰防长称法国将继续向乌提供武器
- 12月28日基金净值:交银施罗德启欣混合最新净值0.6884,跌0.1%-世界实时
- *ST海伦(300201):签署《新型智能军工产品研发制造合作协议》
- 刺头菜的种植方法 刺头菜的如何种植
- 出入境政策优化 国际机票瞬时搜索量增10倍 滚动
- 高少凡:美国动作等于宣告台湾准战争状态
- 天天要闻:新股公告 | GUANZE MEDICAL(02427.HK)公开发售获认购约14.23倍 每股发售价0.53港元
- 2022年12月27日电子商务涨停板梳理
- 环球动态:北京国安回应“弃权”:缺员严重,将赔偿相关方损失
- 为城市发展夯实平安基石-全球观天下
- 公司前线|川宁生物新增“转融券标的”概念
- 世界今日报丨俊发地产2.37亿美元债违约,此前利息发生逾期
- 全国铁路今起实行新列车运行图 根据市场需求及时恢复列车开行_天天关注
- 优信巴士网贷逾期8年会影响征信吗
- 订单多人手少 快递外卖行业“迎峰”保民生
- 29家科创板公司年终收逾5亿红包|焦点关注
- TCL华星13.3英寸定制全隐私屏研发成功!全屏防窥、防窃听
- 东宝生物(300239)12月23日主力资金净卖出486.50万元
- 德固特董秘回复:谢谢您的宝贵建议,如果公司有相关决定,将会根据要求及时披露
- 又有国企股东计划出售永诚财险7.6%股权,这次能如愿吗 环球速读
- 世界播报:今日股票行情快报:丽江股份(002033)主力资金净买入1339.70万元 积成电子(002339)主力资金净卖出1529.28万元
- 今日聚焦!三花智控:12月21日融券卖出金额217.38万元,占当日流出金额的0.96%
- 西子洁能: 公司独立董事关于第五届董事会第三十八次临时会议相关事项的独立意见
- *ST易尚引入新战投:系中国华能体系成员,将为上市公司提供2亿借款
- 【天天时快讯】五洲新春(603667)12月20日主力资金净买入234.53万元
- 世界今日报丨国民信托·慧金87号集合资金信托计划延兑
- 异动快报:ST三圣(002742)12月20日9点25分触及跌停板
- 全球快讯:来钱花贷款逾期1天不还会怎么样?
- 全球头条:江苏句容成功入选2022“长三角高铁旅游小城”
- 杜国楹为什么能够创业成功,来揭秘他的成功秘诀 当前观点
- 每日消息!红薯为什么可以通便
- 腾景科技: 兴业证券股份有限公司关于腾景科技股份有限公司首次公开发行部分限售股上市流通的核查意见
- 速递!国美易卡网贷逾期11天还不起征信会怎么样
- 求教,在全体股东协商一致的情况下如何撤销股东会决议 新消息
- 12月16日美亚光电跌5.31%,东方红启盛三年持有混合A基金重仓该股
- 黄山旅游董秘回复:为做好投资者关系管理工作,回馈广大投资者
- 环球实时:珠海周边配套最好的别墅
- 焦点快看:Grab(GRAB.US)推出削减成本措施
- 国家统计局:1—11月份固定资产投资保持稳定增长-全球快资讯
- 环球动态:中红医疗: 关于公司及子公司2023年度向银行申请综合授信额度暨公司为子公司申请综合授信额度提供担保的公告
- 华平股份(300074)12月14日主力资金净卖出614.74万元
- 环球热头条丨青岛食品:公司暂无电解质饮料的生产和销售
- 天天头条:瑞丰高材:拟向控股股东定增募资不超1.05亿元