机器学习竞赛分享:NFL大数据碗(上篇)

程序员怎样出版一本技术书,程序员副业那些事:聊聊出书和录视频

kaggle竞赛分享:NFL大数据碗 – 上

竞赛简介

一年一度的NFL大数据碗,今年的预测目标是通过两队球员的静态数据,预测该次进攻推进的码数,并转换为该概率分布;

竞赛链接

https://www.kaggle.com/c/nfl-big-data-bowl-2020

项目链接,该项目代码已经public,大家可以copy下来直接运行

https://www.kaggle.com/holoong9291/nfl-big-data-bowl

github仓库链接,更多做的过程中的一些思考、问题等可以在我的github中看到

https://github.com/NemoHoHaloAi/Competition/tree/master/kaggle/Top61%25-0.01404-zzz-NFL-Big-Data-Bowl

一些基本概念

  • 美式足球:进攻方目的是通过跑动、传球等尽快抵达对方半场,也就是达阵,而防守方的目的则是相反,尽全力去阻止对方的前进以及尽可能断球;
  • 球场长120码(109.728米),宽53码(48.768米),周长是361.992米;
  • 球员:双方场上共22人,进攻方11人,防守方11人,进攻方持球;
  • 进攻机会:进攻方共有四次机会,需要推进至少十码;
  • 进攻方:进攻方的职责是通过四次机会,尽可能的向前推进10码或者达阵,以获得下一个四次机会,否则就需要交出球权;
  • 防守方:防守方则是相反,尽可能的阻止对方前进,如果能够断球那更好,直接球权交换;
  • handoff:传球;
  • snap:发球;
  • 橄榄球基本知识点我了解
  • QB:四分卫,通常是发球后接球的那个人,一般口袋阵的中心,但是也不乏有像拉马尔-杰克逊这样的跑传结合的QB,目前古典QB代表是新英格兰爱国者NE汤姆-布雷迪
  • RB:跑卫,通常发球后进行冲刺、摆脱等,试图接住本方QB的传球后尽可能远的冲刺;

球场码线图

机器学习竞赛分享:NFL大数据碗(上篇)

一个常见的开球前站位图

机器学习竞赛分享:NFL大数据碗(上篇)

数据字段介绍、绘图分析

机器学习竞赛分享:NFL大数据碗(上篇)

字段信息:

  • GameId – a unique game identifier – 比赛ID
  • PlayId – a unique play identifier –
  • Team – home or away – 主场还是客场
  • X – player position along the long axis of the field. See figure below. – 在球场的位置x
  • Y – player position along the short axis of the field. See figure below. – 在球场的位置y
  • S – speed in yards/second – 速度,码/秒
  • A – acceleration in yards/second^2
  • Dis – distance traveled from prior time point, in yards
  • Orientation – orientation of player (deg) 球员面向
  • Dir – angle of player motion (deg) 球员移动方向
  • NflId – a unique identifier of the player – NFL球员ID
  • DisplayName – player’s name – 球员名
  • JerseyNumber – jersey number – 球衣号码
  • Season – year of the season
  • YardLine – the yard line of the line of scrimmage
  • Quarter – game quarter (1-5, 5 == overtime) – 当前是第几节比赛,5为加时
  • GameClock – time on the game clock – 比赛时间
  • PossessionTeam – team with possession – 持球方
  • Down – the down (1-4) – 达阵
  • Distance – yards needed for a first down – 距离拿首攻所需距离
  • FieldPosition – which side of the field the play is happening on
  • HomeScoreBeforePlay – home team score before play started – 赛前主队分数
  • VisitorScoreBeforePlay – visitor team score before play started – 赛前客队分数
  • NflIdRusher – the NflId of the rushing player
  • OffenseFormation – offense formation
  • OffensePersonnel – offensive team positional grouping
  • DefendersInTheBox – number of defenders lined up near the line of scrimmage, spanning the width of the offensive line
  • DefensePersonnel – defensive team positional grouping
  • PlayDirection – direction the play is headed
  • TimeHandoff – UTC time of the handoff – 传球时间
  • TimeSnap – UTC time of the snap – 发球时间
  • Yards – the yardage gained on the play (you are predicting this) – 目标
  • PlayerHeight – player height (ft-in) – 球员身高
  • PlayerWeight – player weight (lbs) – 球员体重
  • PlayerBirthDate – birth date (mm/dd/yyyy) – 生日、岁数
  • PlayerCollegeName – where the player attended college – 大学
  • Position – the player’s position (the specific role on the field that they typically play) – 场上位置
  • HomeTeamAbbr – home team abbreviation – 主队缩写
  • VisitorTeamAbbr – visitor team abbreviation – 客队缩写
  • Week – week into the season
  • Stadium – stadium where the game is being played – 体育场
  • Location – city where the game is being player – 城市
  • StadiumType – description of the stadium environment – 体育场类型
  • Turf – description of the field surface – 草皮
  • GameWeather – description of the game weather – 比赛天气
  • Temperature – temperature (deg F) – 温度
  • Humidity – humidity – 湿度
  • WindSpeed – wind speed in miles/hour – 风速
  • WindDirection – wind direction – 风向

定义问题

回归预测,Target是码数,但是最终结果需要转换为条件概率分布;

Evaluation Function

Continuous Ranked Probability Score (CRPS);

项目流程分享

定义模型输出结果到概率分布的转换类

这里竞赛需要的并不是具体的码数,而是码数对应的概率分布,也就是所有码数在一次进攻中的概率,所以需要这样一个转换类,如下:
机器学习竞赛分享:NFL大数据碗(上篇)

【UWP】使用 LiteDB 存储数据

缺失值处理

训练数据上看,缺失情况不严重,缺失字段如下:
机器学习竞赛分享:NFL大数据碗(上篇)

这里对缺失的处理根据不同类型的字段采取不同的方式:

  1. 天气相关字段,由于天气具有连续性,因此采用前向填充较为合理:
    机器学习竞赛分享:NFL大数据碗(上篇)
  2. 体育场类型,严格来说应该是通过baidu、google等去搜索,但是NFL的相关信息baidu搜到的太少,google上看也没找到,所以用取值最多的来填充:
    机器学习竞赛分享:NFL大数据碗(上篇)
  3. FieldPosition,这个字段的缺失不同于以上两个,通过对数据的分析,它的缺失源于在中线开球时,此时没法明确指出是在哪个半场,所以缺失,这里用一个特别的值来填充,“Middle”;
  4. OffenseFormation,进攻队形,实际缺失了5条,统一用取值最多的来填充即可;
  5. DefendersInTheBox,防守方在混战线附近的人数,通过观察数据可以通过球队、对手、以及防守组成员来填充DefendersInTheBox:
    机器学习竞赛分享:NFL大数据碗(上篇)
  6. Orientation 球员方位-角度,Dir 球员移动-角度,只有一条缺失,且该球员正常上场了的,应该是技术型缺失,用mean填充即可;

异常、重复等处理

  1. StadiumType:存在不同名但是同意思的情况,这里要整理后归一处理,避免对模型产生干扰;
    机器学习竞赛分享:NFL大数据碗(上篇)
  2. 存在PossessionTeam既不是HomeTeamAbbr也不是VisitorTeamAbbr,共有120场比赛中出现这种情况;
    机器学习竞赛分享:NFL大数据碗(上篇)
  3. 草皮字段处理;
    机器学习竞赛分享:NFL大数据碗(上篇)
  4. Location字段也存在重复含义但是不同值的情况需要归一;
    机器学习竞赛分享:NFL大数据碗(上篇)

EDA:探索性数据分析

下面是通过matplotlib绘制的一场比赛中的多个进攻防守回合的展示图,黑色三角形是QB,红色是进攻方,淡蓝色是防守方:
机器学习竞赛分享:NFL大数据碗(上篇)

可以清楚的看到每次进攻不同的站位,以及整个推进的过程,这里我记录的一份NFL比赛手记,爱国者vs乌鸦,新老QB的正面交锋,非常精彩,可以对照着看一下;

特征工程

这里由于我个人对橄榄球的了解也并不是很多(强推电影弱点),所以特征工程部分做的并不是很好,从结果看Top61%也反映除了这个问题,但是我依然觉得具有一定的参考意义,下面我会分析每个新特征构建的目的,以及我的想法;

  1. WindSpeed,WindDirection:直观看,对比赛影响应该不大,可能存在某些传球手喜欢顺风或者逆风,但是影响应该很小,所以我这里选择丢弃;
  2. PlayerHeight:转为球员身高,身高无疑对比赛是有关系的;
  3. PlayerBirthDate:生日转为岁数,岁数可以表示一个球员的身体状况是否处于巅峰等;
  4. 开球到传球的时间 – (TimeHandoff-TimeSnap):我认为这一时间的长短一定程度上决定了战术的选择,而战术肯定是影响了进攻码数的;
    机器学习竞赛分享:NFL大数据碗(上篇)
  5. 比赛进行时间 – (15-GameClock+Quarter*15):比赛进行了多久对球员们的体力、战术选择等都有很大影响;
    机器学习竞赛分享:NFL大数据碗(上篇)
  6. Position_XX:用于统计当前进攻中场上各个角色的人数组成,这也跟战术选择密切关系;
    机器学习竞赛分享:NFL大数据碗(上篇)
  7. goal区:码线对方半场10码或10码内,此时距离达阵不到10码,一般这种情况下战术选择会变得与之前不太一样,不管是防守方还是进攻方;
    机器学习竞赛分享:NFL大数据碗(上篇)
  8. 首攻危险:这是我自己定义的,即当目前进攻方仅有一次进攻机会,而所需继续进攻的码数大于5时,我认为是有首攻危险的,此时很可能丢失球权,down为4,且distance大于5;
    机器学习竞赛分享:NFL大数据碗(上篇)
  9. 距离达阵还有多少码:一般距离的不同,防守方的防守策略会有不同,距离较远一般会较为保守,距离较近则会比较激进;
    机器学习竞赛分享:NFL大数据碗(上篇)
  10. 其余object特征做label encode处理;

聚合数据并整理聚体统计特征

这里要注意,训练数据每一行表示的是一次进攻中一个球员的情况,我们预测的是每次进攻,因此需要把每22条数据聚合为1条,这个过程中会有一些数据统计特征的产生,下面简介整个流程:

  1. 延迟特征:即每个球员分别在之后0.5s,1s,2s,3s后的位置信息;
  2. 平均特征:分为进攻方和防守方,平均速度、平均加速度、平均身高、平均体重、平均年龄;
  3. 持球人为中心特征:当前、延迟0.5s,1s,2s,3s时,进攻方和防守方球员与他的平均距离;
  4. 持球人为中心特征2:当前、延迟0.5s,1s,2s,3s时,进攻方和防守方球员在持球人3码、5码内的人数估计;

一次进攻的成败,大部分情况下取决于四分卫的发挥,而对其发挥其重要作用的,除了他自己,就是他身边的队友以及对手的数量,这一定程度上影响了他的可选择空间大小;

这一段的处理代码较多,只截取了一部分,如下:
机器学习竞赛分享:NFL大数据碗(上篇)

测试数据处理

测试数据处理与训练数据保持一致即可;

建模

到此,数据处理完毕,后续就是建模、调参、combine等优化处理了,这一步我没有花太多精力,模型选择ExtraTreesRegressor,由于其使用了oob,因此不需要CV,结果如下:
机器学习竞赛分享:NFL大数据碗(上篇)

最后

大家可以到我的Github上看看有没有其他需要的东西,目前主要是自己做的机器学习项目、Python各种脚本工具、数据分析挖掘项目以及Follow的大佬、Fork的项目等:
https://github.com/NemoHoHaloAi

150行代码打造.net core生产力工具,你值得拥有

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享