登录社区云,与社区用户共同成长
邀请您加入社区
XGBoostCatBoost和LightGBM等提升决策树算法是非常强大的回归任务机器学习方法。要获得最佳预测性能,需要进行超参数调优,例如网格搜索来探索数千种参数组合。虽然暴力技术可以完成任务,但它们很快就会变得计算量过大,并且可能导致过拟合模型,使其无法泛化到未见过的数据。另一方面,贝叶斯优化提供了一个更高效的替代方案,通过智能地导航超参数空间来减少计算负担。值得注意的是,仅仅使用贝叶斯技术
信用卡欺诈检测案例摘要 本案例使用欧洲持卡人2013年9月的信用卡交易数据,包含284,807笔交易,其中仅492笔为欺诈(占比0.172%)。数据经过PCA处理,包含28个主成分特征(V1-V28)以及时间和金额两个原始特征。案例展示了数据读取、探索性分析(EDA)和模型构建过程,使用Adaboost、Gradient Boosting和XGBoost等算法处理高度不平衡的分类问题。测试集比例为
LightGBM训练时的boosting_type核心参数介绍,以及参数选择与xgboost模型训练的差异对比
本文复盘了垃圾焚烧工业时序工况识别项目的建模过程。项目初期尝试深度学习方法进行时序建模,但受异常样本少、类别不平衡、工况边界模糊和可解释性要求影响,效果与落地性受限。随后转向 LightGBM 建立强基线,并进一步采用 CatBoost 提升少数类识别稳定性。最终结合工艺规则、状态约束和结果校验,形成更适合工业场景的模型融合方案。
本文介绍了使用XGBoost进行金融预测的实战过程。主要内容包括:1)导入必要的Python库并设置环境;2)生成金融数据并提取11个技术指标特征;3)使用默认参数的XGBoost模型进行训练,在测试集上获得58.15%的准确率和0.591的AUC值;4)分析特征重要性,识别关键预测指标。实验结果表明XGBoost在金融时间序列预测中具有一定潜力,后续可通过参数调优进一步提升模型性能。
本文介绍了使用AdaBoost和GBDT算法进行金融预测的实战过程。首先导入必要的Python库,然后生成包含技术指标(如RSI、MACD、均线等)的金融数据。接着详细讲解了AdaBoost算法的原理并手动实现了一个简化版本,包括样本权重初始化、弱学习器训练、误差计算和权重更新等关键步骤。最后使用sklearn的AdaBoostClassifier和GradientBoostingClassifi
定义:Boosting 是一种将多个弱学习器串行组合成强学习器的集成方法,每个新模型都关注前一个模型犯错的样本。核心思想:三个臭皮匠,通过递进式学习变成诸葛亮。与 Bagging 的核心区别特性Bagging (随机森林)训练方式并行训练串行训练样本权重均匀采样动态调整权重模型权重平等投票根据性能加权目标降低方差降低偏差过拟合风险较低较高(需调参)
搭建四辆车在carsim和simulink进行协同式自适应巡航,其中间距策略考虑领航车速的影响,各个车辆采用分层式控制,分层式控制器主要分为下层控制(使用车辆逆纵向动力学模型(包括逆发动机模型 ))和上层控制(模糊MPC算法对相对距离,相对速度,加速度等进行调节,其中模糊逻辑对MPC的权重系数进行在线调整,stateflow进行模式切换),实现定速巡航和车队跟随工况。附带详细学习资料,适合入门自适
对于需要无传感器、低成本、高性能的异步电机驱动场景,本方案可直接量产落地,并为后续 PMSM 无感 FOC 提供一致的软件架构与工程方法论。异步电机无传感器矢量控制的算法,matlab,仿真模型,采用转子磁链定向控制算法,转子磁链观测器采用电压模型+电流模型补偿算法。异步电机无传感器矢量控制的算法,matlab,仿真模型,采用转子磁链定向控制算法,转子磁链观测器采用电压模型+电流模型补偿算法。所有
全桥LLC谐振电压电流双环竞争控制仿真模型参考文献《基于半桥谐振变换器的控制策略研究》附带一份说明文档:包括对轻载,满载进行仿真实验,对比使用增益曲线,以及matlab siulink搭建LLC模型的相关工作频率和输出电压关系的说明分析。详细仿真内容如下图所示在电力电子领域,全桥LLC谐振变换器因其高效、高功率密度等优点备受关注。
利用蜣螂优化(DBO)算法求解分布式置换流水车间调度问题(Distributed permutation flow-shop scheduling problem, DPFSP)其中:main.m是主函数运行即可;DBO.m是算法的代码;color_selection用于获得甘特图的颜色配置;gantt_chart.m绘制每个工厂的甘特图;objective.m是目标函数,即计算每个工厂的Make
一般来说,损失函数具有线性可加性。设我们有数据集D{(xiyii1n,估计模型F,损失函数L,那么Ly1yn;Fx1Fxn))i1∑nLyiFxi))直观的,损失函数在数据集的损失等于损失函数在数据集的所有样本之和。理解可加性对于理解基于梯度的boosting方法至关重要。下面给出两种常见的损失函数,请读者自行验证其具有可加性。
摘要 本文系统介绍了集成学习的核心技术与实践应用。首先阐述了集成学习的理论基础,包括Bagging、Boosting和Stacking三大范式。重点讲解了随机森林的Bootstrap采样与OOB评估机制,详细推导了AdaBoost和GBDT算法原理。通过对比XGBoost、LightGBM和CatBoost的特性差异,提供了完整的代码实现框架。文章包含丰富的数学推导和Python代码示例,涵盖从理