Kaggle 面向 解决特征工程与验证两大难题 nyaggle 附代码 和离线比赛实用工具库 (kaggle官网)

在大多数机器学习竞赛中,特诊工程的质量通常决定着整个作品的得分与排名,也是参赛者们非常看重的一部分。在 GitHub 上,作者 Nomi(专注于计算机视觉与嵌入式技术,也是 tiny-dnn 的原作者)向我们介绍了一个面向 Kaggle 数据科学和离线竞赛的实用工具库 nyaggle,可供开发者专用于特征工程与验证。

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

在机器学习和模式识别中,特征工程的好坏将会影响整个模型的预测性能。其中特征是在观测现象中的一种独立、可测量的属性。选择信息量大、有差别性、独立的特征是模式识别、分类和回归问题的关键一步,可以帮助开发者最大限度地从原始数据中提取特征以供算法和模型使用。

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

而 nyaggle 就是一个特定于 Kaggle 和离线比赛的实用工具库,它主要作用于四个部分,即:特征工程、模型验证、模型实验以及模型融合,尤其在特征工程和模型验证方面有较强的性能。

其中,在特征工程方面,nyaggle 包含了 K 个特征目标编码和 BERT 句子向量化。目标编码使用的是目标变量的均值编码类别变量,为训练集中的每个分组计算目标变量的统计量,之后会合并验证集、测试集以捕捉分组和目标之间的关系。BERT 句子向量化则是对 Bert 模型的输入做一个向量化,提取词句的三维信息。

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

API 详情说明: nyaggle.experiment 类,实现模型实验的各个功能

在典型的表格数据竞赛中,开发者可能会通过交叉验证重复进行评估,并记录参数和结果以跟踪实验。

其中,run_experiment()正是用于此类交叉验证实验的高级 API,它在指定目录下输出参数、指标、异常预测、测试预测、功能重要性和 Submitting.csv。

它可以与 mlflow 跟踪结合使用,如果使用 LightGBM 作为模型,则代码将非常简单如下所示:

值得注意的是,默认的验证策略是包含了 5 个特征的计算机视觉,开发者可以通过传递 cv 参数来更改此行为(可参阅 API 参考,)。

之后,run_experiment API 执行交叉验证后,会将工件存储到日志目录。输出文件存储如下:

而如果要使用 XGBoost、CatBoost 或其他 sklearn 估计器,则需要在代码开头指定算法类型,其中的参数将传递给 sklearn API 的构造函数(例如 LGBMClassifier)。

如果想让 GUI 仪表板管理实验,开发者则可以通过只设置 with_mlfow = True 来将 run_experiment 与 mlflow 一起使用(需要预先安装 mlflow)。然后在与执行脚本相同的目录中,运行即可。

然后在与执行脚本相同的目录中,运行即可,相关结果(带有 CV 得分和参数的实验列表)可在 http:// localhost:5000 页面上查看。

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

注意:如果要自定义日志记录的行为,可以在 mlflow run 上下文中调用 run_experiment;如果正在运行,则 run_experiment 将使用当前正在运行的运行,而不是创建新的运行。

nyaggle.feature 类——以特征格式管理运行系列功能

nyaggle.validation 类——对抗性验证,其中的验证拆分器与 sklearn 兼容

nyaggle.Hyper_parameters 类——从以往的解决方案中选取 Hypara 相关参数

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

雷锋网 AI 开发者

原创文章,未经授权禁止转载。详情见 转载须知 。

面向  和离线比赛实用工具库 nyaggle,解决特征工程与验证两大难题(附代码)

全局中部横幅
电影大全

影视快搜电影频道-提供最新电影,好看的电影,最新电影排行榜,涵盖喜剧片、科幻片、战争片、武侠片、爱情动作片、等电影大全在线观看或下载,精细分类让您发现好看的电影大片。

CE认证

上海沃证机电技术服务有限公司是欧盟CE认证技术服务机构,可协助申请CE认证,包括机械CE认证、电梯CE认证、压力容器CE认证(PED认证)等,同时也提供EAC认证、EN1090认证、EN15085认证等技术服务。

汇流高科机电设备有限公司

manfield孟斐德泵业创建于2010年,专注别墅住宅地下室污水提升泵,产品获得出口欧美CE认证、SGS认证等各项顶级认证。十余年服务了上万家别墅客户。拥有铬镍电机、超低滞留,一机三挡,自洁净等多项独特设计,其独创的紧凑型双泵型号深获高端别墅客户的好评。

商用健身器材批发

美国潘赛源自纽约,美式设计台湾工艺,健身器材厂家批发,厂价直销,高性价比,为健身房器材配置,提供规划,安装,施工,售后全方位服务,承接30-3000平米健身房器材采购!

中国投资界

中国投资界是投资与创业资讯第一门户网站,本网以专业的投资视角和丰富的信息资源,为投资创业人士、兴趣爱好者,客观快速提供国际国内焦点新闻、投资资讯、产业新闻、行业分析、社会热点等全覆盖的资讯服务。

阅报栏灯箱

龙喜宣传栏精神堡垒价值观标牌标识科技有限公司拥有厂房面积5000多平米是专业的阅报栏灯箱生产厂家,外形美观,价格公道,并支持来图订制,欢迎广大客户来电咨询。

商河招聘网

商河在线招聘平台,汇聚了大量兼职|保安|司机等岗位信息,为您提供临时工|事业单位等多元化招聘需求。商河招聘网人才市场动态一手掌握,找工作|求职信息尽在掌握,济南商河地区招聘首选平台,助您快速找到理想工作!

新开网页游戏排行榜

45游戏集网页游戏,h5游戏,手游为一体的综合游戏平台,为游戏爱好者提供最全手游,并提供2023最新最全的网页游戏,今日新开网页游戏开服表信息,游戏攻略。

埃及旅游

埃及旅游-埃及包车-埃及接机-开罗机场接机包车-埃及旅游团

中国政法大学诉讼法学研究院

中国政法大学,中国政法大学法律信息中心,中国政法大学司法文明协同创新中心

诸葛金融

诸葛金融提供专业全面、及时的财经新闻资讯,力求为广大网友提供最新最快最全面的财经资讯。

全局底部横幅