NG28【南宫28】相信品牌的力量 - NG28【南宫28】

ng28从集结日本菲卡备战中超到集结日托特纳姆调整名单以备葡超，莱万多夫斯基与60激战老鹰分钟的简单介绍

Mon, 06 Jul 2026 08:21:27 +0800

1、2025年8月18日莱万多夫斯基的接班人浮出水面，巴萨瞄准尤文锋霸弗拉霍维奇 #巴塞罗那足球故事于18发布在抖音，已经收获了88万个喜欢，来抖音，记录美好生活。

2、2025年8月21日莱万多夫斯基瘦弱少年到足坛杀神#莱万#dou来足球季#欧冠#世界杯球场饮水机于21发布在抖音，已经收获了122万个喜欢，来抖音，记录美好生活！球。

3、2023年7月30日您在查找莱万多夫斯基短视频信息吗？抖音短视频帮您找到更多精彩的莱万多夫斯基视频内容！让每一个人看见并连接更大的世界，让现实生活更美好精选推。

4、2026年3月12日随着赛季逐渐接近尾声，巴塞罗那已经开始为后莱万时代做准备俱乐部高层正在规划今夏的锋线重建，因为球队头号中锋罗伯特·莱万多夫斯基很可能在赛季。

南宫28清晨皇家马德里备战意大利杯俄克拉荷马雷霆赛前再遭质疑，国际比赛日罗马调整名单以备德甲瞬间刷屏(近期皇家马德里状态)

Sun, 05 Jul 2026 21:46:41 +0800

　　【导读】7月26日据荷城娱乐媒体获悉，在杜兰特今夏离开雷霆加入勇士后在荷城的kd由于受到球迷冷战攻势最终只能选择停业换店名。荷城球迷对于kd出走十分反感使得他在当地最后的一丝联系也就此中断。

文章来源：tiqiu.com

　　推荐阅读：篮网林书豪新赛季不被看好媒体预估篮网或沦为倒数之列

　　2013年，KD餐厅开业。而随着他今夏宣布加盟勇士队，近三周该家餐厅成为一些雷霆队球迷“攻击”的对象；再加上餐厅生意比之前冷清了许多，所以改名势在必行。

　　该餐厅大股东在一份声明中表示，“能与凯文（杜兰特）过去几年合作经营KD餐厅，这是我们的荣幸，也充满无限快乐。随着他职业生涯迈入新的方向，我们祝福他好运。”

　　据悉，在KD餐厅刚开业时，杜兰特曾表示他拥有25%的股份。目前并不清楚，他是否继续持有股份，又或者是否已将股份兑现。

　　该餐厅大股东透露，餐厅新的名字和概念细节将在8月公布，他们的计划是保留菜单中大部分的菜品，包括之前很受欢迎的炸鸡。

　　事实是，不少人都不喜欢杜兰特的决定。上周日美国男篮对阵中国男篮的热身赛，赛前斯台普斯中心的球迷们向KD报以嘘声！

　　随着KD餐厅的关门，杜兰特与俄克拉荷马城的联系似乎完全结束了……

ng28关于曼城加时末段内部沟通窗口期布鲁克林篮网调整名单以备欧联，这一次真的葡萄牙体育豪取连胜备战NBA常规赛的信息

Sun, 05 Jul 2026 11:45:27 +0800

2025年9月27日网易体育有0人参与网易体育8月7日报道北京时间8月7日18点，20152016赛季欧冠附加赛抽签仪式在欧足联总部结束，曼联抽到比甲球会布鲁日，拉齐奥面。

2023年6月8日虎扑06月08日讯据英国媒体每日邮报的报道，欧足联告诉曼城球迷在本周末进行的欧冠联赛决提前九小时到体育场，这建议是认真的吗？提前九小时到体。

ng南宫关于莎拉波娃与60激战掘金分钟风云突变孟菲斯灰熊今夜复出首秀，皇家马德里迎来里程碑备战德国杯直接炸裂的信息

Sun, 05 Jul 2026 01:45:19 +0800

首节比赛，灰熊在12分钟里，全队投篮19投7中，三分球5投2中，投篮命中率为37%，三分命中率为40%首节比赛，国王在12分钟里，全队投篮32投9中；但莎拉波娃显然打算在草地赛季完成复出，马洛卡站就是一站草地赛事，确定参赛的还有温网卫冕冠军德国名将科贝尔和另一位前世界第一球员阿扎伦卡。

NBA季后赛孟菲斯灰熊的未来之星德斯蒙德贝恩带领球队夺得开门红孟菲斯灰熊在NBA季后赛中迎来了一个漂亮的开门红，以105比101击败了洛杉矶；北京时间1月22日丹佛消息，NBA常规赛孟菲斯灰熊客场挑战丹佛掘金，图为比赛中的精彩瞬间图文NBA活塞8689雄鹿费泽尔无敌重扣 1月22日1201。

新华社波哥大12月8日体育专电网坛美女莎拉波娃8日在哥伦比亚首都波哥大参加一场表演赛后表示，在经历四个月的伤病之后，这是她迈出复出的第一步；#NBA赛事回顾# @孟菲斯灰熊 103128 @丹佛掘金掘金主场大胜灰熊，取得四连胜掘金在第二节初段就取得了20分的领先优势，全场最大领先31分，比。

直播吧4月27日讯掘金今日坐镇主场迎来灰熊的挑战，灰熊凭借近期2连胜及时止住颓势并守住第八的位置，掘金则在后卫线捉襟见肘的情况下仍然取得近6；掘金vs灰熊，关键的排名争夺战，穆雷时隔六场比赛后复出掘金vs灰熊，关键的排名争夺战，穆雷时隔六场比赛后复出。

北京时间5月7日，WTA皇冠赛西班牙马德里公开赛继续女单首轮比赛的争夺持外卡参赛的俄罗斯美女莎拉波娃鏖战三盘以4664和60逆转击败赛会17号种。

南宫ng赛后西汉姆调整名单以备欧联切尔西清晨造点机会，这操作让人直呼：哈兰德连续十场比赛得分超过问鼎冠军的简单介绍

Fri, 03 Jul 2026 19:36:37 +0800

　　雷锋网(公众号：雷锋网) AI科技评论按，本文首发于知乎专栏AI带路党，作者吴晓晖，雷锋网 AI科技评论获其授权转载。

　　不知道你有没有这样的感受，在刚刚入门机器学习的时候，我们一般都是从MNIST、CIFAR-10这一类知名公开数据集开始快速上手，复现别人的结果，但总觉得过于简单，给人的感觉太不真实。因为这些数据太“完美”了（干净的输入，均衡的类别，分布基本一致的测试集，还有大量现成的参考模型），要成为真正的数据科学家，光在这些数据集上跑模型是远远不够的。现实中你几乎不可能遇到这样的数据（现实数据往往有着残缺的输入，类别严重不均衡，分布不一致甚至随时变动的测试集，几乎没有可以参考的论文），这往往让刚进入工作的同学手忙脚乱，无所适从。

　　Kaggle则提供了一个介于“完美”与真实之间的过渡，问题的定义基本良好，却夹着或多或少的难点，一般没有完全成熟的解决方案。在参赛过程中与论坛上的其他参赛者互动，能不断地获得启发，受益良多。即使对于一些学有所成的高手乃至大牛，参加Kaggle也常常会获得很多启发，与来自世界各地的队伍进行厮杀的刺激更让人欲罢不能。更重要的是，Kaggle是业界普遍承认的竞赛平台，能从Kaggle上的一些高质量竞赛获取好名次，是对自己实力极好的证明，还能给自己的履历添上光辉的一笔。如果能获得金牌，杀入奖金池，那更是名利兼收，再好不过。

　　Kaggle适用于以下人群：

　　我是小白，但是对数据科学充满求知欲。

　　我想要历练自己的数据挖掘和机器学习技能，成为一名真正的数据科(lao)学(si)家(ji)。

　　我想赢取奖金，成为人生赢家。

　　简介

　　Kaggle创办于2010年，目前已经被Google收购，是全球顶级的数据科学竞赛平台，在数据科学领域中享有盛名。笔者参加了由Quora举办的Quora Question Pairs比赛，并且获得了前1%的成绩(3307支队伍)。这是笔者Kaggle首战，所以写下此文来系统化地梳理比赛的思路，并且和大家分享我们参赛的一些心得。

　　Quora Question Pairs是一个自然语言(NLP)比赛，比赛的题目可以简单地概括为“预测两个问句的语义相似的概率”。其中的样本如下：

　　也许是作为Kaggle上为数不多的NLP比赛，这看似简单的比赛却吸引了众多的参赛队伍。由于这是NLP问题，所以接下来的介绍都会偏向于NLP，本文会分为以下三个部分：

　　打Kaggle比赛的大致套路。（比赛篇）

　　我们队伍和其他出色队伍的参赛经验。（经验篇）

　　完成Kaggle比赛需要学会哪些实用的工具。（工具篇）

　　1、比赛篇

　　为了方便，我们先定义几个名词：

　　Feature 特征变量，也叫自变量，是样本可以观测到的特征，通常是模型的输入。

　　Label 标签，也叫目标变量，需要预测的变量，通常是模型的标签或者输出。

　　Train Data 训练数据，有标签的数据，由举办方提供。

　　Test Data 测试数据，标签未知，是比赛用来评估得分的数据，由举办方提供。

　　Train Set训练集，从Train Data中分割得到的，用于训练模型（常用于交叉验证）。

　　Valid Set 验证集，从Train Data中分割得到的，用于验证模型（常用于交叉验证）。

　　1.1分析题目

　　拿到赛题以后，第一步就是要破题，我们需要将问题转化为相应的机器学习问题。其中，Kaggle最常见的机器学习问题类型有：

　　回归问题

　　分类问题(二分类、多分类、多标签)：多分类只需从多个类别中预测一个类别，而多标签则需要预测出多个类别。

　　比如Quora的比赛就是二分类问题，因为只需要判断两个问句的语义是否相似。

　　1.2 数据分析(Data Exploration)

　　所谓数据挖掘，当然是要从数据中去挖掘我们想要的东西，我们需要通过人为地去分析数据，才可以发现数据中存在的问题和特征。我们需要在观察数据的过程中思考以下几个问题：

　　数据应该怎么清洗和处理才是合理的？

　　根据数据的类型可以挖掘怎样的特征？

　　数据中的哪些特征会对标签的预测有帮助？

　　1.2.1 统计分析

　　对于数值类变量(Numerical Variable)，我们可以得到min，max，mean，meduim，std等统计量，用pandas可以方便地完成，结果如下：

　　从上图中可以观察Label是否均衡，如果不均衡则需要进行over sample少数类，或者down sample多数类。我们还可以统计Numerical Variable之间的相关系数，用pandas就可以轻松获得相关系数矩阵：

　　观察相关系数矩阵可以让你找到高相关的特征，以及特征之间的冗余度。而对于文本变量，可以统计词频(TF)，TF-IDF，文本长度等等，更详细的内容可以参考这里（https://www.kaggle.com/sudalairajkumar/simple-leaky-exploration-notebook-quora?tVersionId=1184830）

　　1.2.2 可视化

　　人是视觉动物，更容易接受图形化的表示，因此可以将一些统计信息通过图表的形式展示出来，方便我们观察和发现。比如用直方图展示问句的频数：

　　或者绘制相关系数矩阵:

　　常用的可视化工具有matplotlib和seaborn。当然，你也可以跳过这一步，因为可视化不是解决问题的重点。

　　1.3 数据预处理(Data Preprocessing)

　　刚拿到手的数据会出现噪声，缺失，脏乱等现象，我们需要对数据进行清洗与加工，从而方便进行后续的工作。针对不同类型的变量，会有不同的清洗和处理方法：

　　对于数值型变量(Numerical Variable)，需要处理离群点，缺失值，异常值等情况。

　　对于类别型变量(Categorical Variable)，可以转化为one-hot编码。

　　文本数据是较难处理的数据类型，文本中会有垃圾字符，错别字(词)，数学公式，不统一单位和日期格式等。我们还需要处理标点符号，分词，去停用词，对于英文文本可能还要词性还原(lemmatize)，抽取词干(stem)等等。

　　1.4 特征工程(Feature Engineering)

　　都说特征为王，特征是决定效果最关键的一环。我们需要通过探索数据，利用人为先验知识，从数据中总结出特征。

　　1.4.1 特征抽取(Feature Extraction)

　　我们应该尽可能多地抽取特征，只要你认为某个特征对解决问题有帮助，它就可以成为一个特征。特征抽取需要不断迭代，是最为烧脑的环节，它会在整个比赛周期折磨你，但这是比赛取胜的关键，它值得你耗费大量的时间。

　　那问题来了，怎么去发现特征呢？光盯着数据集肯定是不行的。如果你是新手，可以先耗费一些时间在Forum上，看看别人是怎么做Feature Extraction的，并且多思考。虽然Feature Extraction特别讲究经验，但其实还是有章可循的：

　　对于Numerical Variable，可以通过线性组合、多项式组合来发现新的Feature。

　　对于文本数据，有一些常规的Feature。比如，文本长度，ddings，TF-IDF，LDA，LSI等，你甚至可以用深度学习提取文本特征（隐藏层）。

　　如果你想对数据有更深入的了解，可以通过思考数据集的构造过程来发现一些magic feature，这些特征有可能会大大提升效果。在Quora这次比赛中，就有人公布了一些magic feature。

　　通过错误分析也可以发现新的特征（见1.5.2小节）。

　　1.4.2 特征选择(Feature Selection)

　　在做特征抽取的时候，我们是尽可能地抽取更多的Feature，但过多的Feature会造成冗余，噪声，容易过拟合等问题，因此我们需要进行特征筛选。特征选择可以加快模型的训练速度，甚至还可以提升效果。

　　特征选择的方法多种多样，最简单的是相关度系数(Correlation coefficient)，它主要是衡量两个变量之间的线性关系，数值在[-1.0, 1.0]区间中。数值越是接近0，两个变量越是线性不相关。但是数值为0，并不能说明两个变量不相关，只是线性不相关而已。

　　我们通过一个例子来学习一下怎么分析相关系数矩阵：

　　相关系数矩阵是一个对称矩阵，所以只需要关注矩阵的左下角或者右上角。我们可以拆成两点来看：

　　Feature和Label的相关度可以看作是该Feature的重要度，越接近1或-1就越好。

　　Feature和Feature之间的相关度要低，如果两个Feature的相关度很高，就有可能存在冗余。

　　除此之外，还可以训练模型来筛选特征，比如带L1或L2惩罚项的Linear Model、Random Forest、GDBT等，它们都可以输出特征的重要度。在这次比赛中，我们对上述方法都进行了尝试，将不同方法的平均重要度作为最终参考指标，筛选掉得分低的特征。

　　1.5 建模(Modeling)

　　终于来到机器学习了，在这一章，我们需要开始炼丹了。

　　1.5.1 模型

　　机器学习模型有很多，建议均作尝试，不仅可以测试效果，还可以学习各种模型的使用技巧。其实，几乎每一种模型都有回归和分类两种版本，常用模型有：

　　KNN

　　SVM

　　Linear Model（带惩罚项）

　　ExtraTree

　　RandomForest

　　Gradient Boost Tree

　　Neural Network

　　幸运的是，这些模型都已经有现成的工具（如scikit-learn、XGBoost、LightGBM等）可以使用，不用自己重复造轮子。但是我们应该要知道各个模型的原理，这样在调参的时候才会游刃有余。当然，你也可以使用PyTorch／Tensorflow／Keras等深度学习工具来定制自己的Deep Learning模型，玩出自己的花样。

　　1.5.2 错误分析

　　人无完人，每个模型不可能都是完美的，它总会犯一些错误。为了解某个模型在犯什么错误，我们可以观察被模型误判的样本，总结它们的共同特征，我们就可以再训练一个效果更好的模型。这种做法有点像后面Ensemble时提到的Boosting，但是我们是人为地观察错误样本，而Boosting是交给了机器。通过错误分析->发现新特征->训练新模型->错误分析，可以不断地迭代出更好的效果，并且这种方式还可以培养我们对数据的嗅觉。

　　举个例子，这次比赛中，我们在错误分析时发现，某些样本的两个问句表面上很相似，但是句子最后提到的地点不一样，所以其实它们是语义不相似的，但我们的模型却把它误判为相似的。比如这个样本：

　　Question1: Which is the best digital marketing institution in banglore?

　　Question2: Which is the best digital marketing institute in Pune?

　　为了让模型可以处理这种样本，我们将两个问句的最长公共子串(Longest Common Sequence)去掉，用剩余部分训练一个新的深度学习模型，相当于告诉模型看到这种情况的时候就不要判断为相似的了。因此，在加入这个特征后，我们的效果得到了一些提升。

　　1.5.3 调参

　　在训练模型前，我们需要预设一些参数来确定模型结构（比如树的深度）和优化过程（比如学习率），这种参数被称为超参（Hyper-meter），不同的参数得到的模型效果也会不同。总是说调参就像是在“炼丹”，像一门“玄学”，但是根据经验，还是可以找到一些章法的：

　　根据经验，选出对模型效果影响较大的超参。

　　按照经验设置超参的搜索空间，比如学习率的搜索空间为[0.001，0.1]。

　　选择搜索算法，比如Random Search、Grid Search和一些启发式搜索的方法。

　　验证模型的泛化能力（详见下一小节）。

　　1.5.4 模型验证(Validation)

　　在Test Data的标签未知的情况下，我们需要自己构造测试数据来验证模型的泛化能力，因此把Train Data分割成Train Set和Valid Set两部分，Train Set用于训练，Valid Set用于验证。

　　简单分割

　　将Train Data按一定方法分成两份，比如随机取其中70%的数据作为Train Set，剩下30%作为Valid Set，每次都固定地用这两份数据分别训练模型和验证模型。这种做法的缺点很明显，它没有用到整个训练数据，所以验证效果会有偏差。通常只会在训练数据很多，模型训练速度较慢的时候使用。

　　交叉验证

　　交叉验证是将整个训练数据随机分成K份，训练K个模型，每次取其中的K-1份作为Train Set，留出1份作为Valid Set，因此也叫做K-fold。至于这个K，你想取多少都可以，但一般选在3～10之间。我们可以用K个模型得分的mean和std，来评判模型的好坏（mean体现模型的能力，std体现模型是否容易过拟合），并且用K-fold的验证结果通常会比较可靠。

　　如果数据出现Label不均衡情况，可以使用Stratified K-fold，这样得到的Train Set和Test Set的Label比例是大致相同。

　　1.6 模型集成(Ensemble)

　　曾经听过一句话，”

　　Feature为主，Ensemble为后”。Feature决定了模型效果的上限，而Ensemble就是让你更接近这个上限。Ensemble讲究“好而不同”，不同是指模型的学习到的侧重面不一样。举个直观的例子，比如数学考试，A的函数题做的比B好，B的几何题做的比A好，那么他们合作完成的分数通常比他们各自单独完成的要高。

　　常见的Ensemble方法有Bagging、Boosting、Stacking、Blending。

　　1.6.1 Bagging

　　Bagging是将多个模型（

　　基学习器）的预测结果简单地加权平均或者投票。Bagging的好处在于可以并行地训练基学习器，其中Random Forest就用到了Bagging的思想。举个通俗的例子，如下图：

　　老师出了两道加法题，A同学和B同学答案的加权要比A和B各自回答的要精确。

　　Bagging通常是没有一个明确的优化目标的，但是有一种叫Bagging Ensemble Selection的方法，它通过贪婪算法来Bagging多个模型来优化目标值。在这次比赛中，我们也使用了这种方法。

　　1.6.2 Boosting

　　Boosting的思想有点像知错能改，每训练一个基学习器，是为了弥补上一个基学习器所犯的错误。其中著名的算法有AdaBoost，Gradient Boost。Gradient Boost Tree就用到了这种思想。

　　我在1.2.3节(错误分析)中提到Boosting，错误分析->抽取特征->训练模型->错误分析，这个过程就跟Boosting很相似。

　　1.6.3 Stacking

　　Stacking是用新的模型（次学习器）去学习怎么组合那些基学习器，它的思想源自于Stacked Generalization（https://www.machine-learning.martinsewell.com/ensembles/stacking/Wolpert1992.pdf）这篇论文。如果把Bagging看作是多个基分类器的线性组合，那么Stacking就是多个基分类器的非线性组合。Stacking可以很灵活，它可以将学习器一层一层地堆砌起来，形成一个网状的结构，如下图：

　　举个更直观的例子，还是那两道加法题：

　　这里A和B可以看作是基学习器，C、D、E都是次学习器。

　　Stage1: A和B各自写出了答案。

　　Stage2: C和D偷看了A和B的答案，C认为A和B一样聪明，D认为A比B聪明一点。他们各自结合了A和B的答案后，给出了自己的答案。

　　Stage3: E偷看了C和D的答案，E认为D比C聪明，随后E也给出自己的答案作为最终答案。

　　在实现Stacking时，要注意的一点是，避免标签泄漏(Label Leak)。在训练次学习器时，需要上一层学习器对Train Data的测试结果作为特征。如果我们在Train Data上训练，然后在Train Data上预测，就会造成Label Leak。为了避免Label Leak，需要对每个学习器使用K-fold，将K个模型对Valid Set的预测结果拼起来，作为下一层学习器的输入。如下图：

　　由图可知，我们还需要对Test Data做预测。这里有两种选择，可以将K个模型对Test Data的预测结果求平均，也可以用所有的Train Data重新训练一个新模型来预测Test Data。所以在实现过程中，我们最好把每个学习器对Train Data和对Test Data的测试结果都保存下来，方便训练和预测。

　　对于Stacking还要注意一点，固定K-fold可以尽量避免Valid Set过拟合，也就是全局共用一份K-fold，如果是团队合作，组员之间也是共用一份K-fold。如果想具体了解为什么需要固定K-fold，请看这里（https://www.zhihu.com/question/61467937/answer/188191424）。

　　1.6.4 Blending

　　Blending与Stacking很类似，它们的区别可以参考这里（https://mlwave.com/kaggle-ensembling-guide/）

　　1.7 后处理

　　有些时候在确认没有过拟合的情况下，验证集上做校验时效果挺好，但是将测试结果提交后的分数却不如人意，这时候就有可能是训练集的分布与测试集的分布不一样而导致的。这时候为了提高LeaderBoard的分数，还需要对测试结果进行分布调整。

　　比如这次比赛，训练数据中正类的占比为0.37，那么预测结果中正类的比例也在0.37左右，然后Kernel上有人通过测试知道了测试数据中正类的占比为0.165，所以我们也对预测结果进行了调整，得到了更好的分数。具体可以看这里（https://www.kaggle.com/davidthaler/how-many-1-s-are-in-the-public-lb）。

　　2、经验篇

　　2.1 我们的方案（33th）

　　深度学习具有很好的模型拟合能力，使用深度学习可以较快得获取一个不错的center，对这个问题整体的难度有一个初始的认识。虽然使用深度学习可以免去繁琐的手工特征，但是它也有能力上限，所以提取传统手工特征还是很有必要的。我们尝试Forum上别人提供的方法，也尝试自己思考去抽取特征。总结一下，我们抽取的手工特征可以分为以下4种：

　　Text Mining Feature，比如句子长度；两个句子的文本相似度，如N-gram的编辑距离，Jaccard距离等；两个句子共同的名词，动词，疑问词等。

　　dding Feature，预训练好的词向量相加求出句子向量，然后求两个句子向量的距离，比如余弦相似度、欧式距离等等。

　　Vector Space Feature，用TF-IDF矩阵来表示句子，求相似度。

　　Magic Feature，是Forum上一些选手通过思考数据集构造过程而发现的Feature，这种Feature往往与Label有强相关性，可以大大提高预测效果。

　　我们的系统整体上使用了Stacking的框架，如下图：

　　Stage1: 将两个问句与Magic Feature输入Deep Learning中，将其输出作为下一层的特征（这里的Deep Learning相当于特征抽取器）。我们一共训练了几十个Deep Learning Model。

　　Stage2: 将Deep Learning特征与手工抽取的几百个传统特征拼在一起，作为输入。在这一层，我们训练各种模型，有成百上千个。

　　Stage3: 上一层的输出进行Ensemble Selection。

　　比赛中发现的一些深度学习的局限：

　　通过对深度学习产生的结果进行错误分析，并且参考论坛上别人的想法，我们发现深度学习没办法学到的特征大概可以分为两类：

　　对于一些数据的Pattern，在Train Data中出现的频数不足以让深度学习学到对应的特征，所以我们需要通过手工提取这些特征。

　　由于Deep Learning对样本做了独立同分布假设（iid），一般只能学习到每个样本的特征，而学习到数据的全局特征，比如TF-IDF这一类需要统计全局词频才能获取的特征，因此也需要手工提取这些特征。

　　传统的机器学习模型和深度学习模型之间也存在表达形式上的不同。虽然传统模型的表现未必比深度学习好，但它们学到的Pattern可能不同，通过Ensemble来取长补短，也能带来性能上的提升。因此，同时使用传统模型也是很有必要的。

　　2.2 第一名的解决方案

　　比赛结束不久，第一名也放出了他们的解决方案（https://www.kaggle.com/c/quora-question-pairs/discussion/34355），我们来看看他们的做法。他们的特征总结为三个类别：

　　dding Feature

　　Text Mining Feature

　　Structural Feature（他们自己挖掘的Magic Feature）

　　并且他们也使用了Stacking的框架，并且使用固定的k-fold：

　　Stage1: 使用了Deep Learning，XGBoost，LightGBM，ExtraTree，Random Forest，KNN等300个模型。

　　Stage2: 用了手工特征和第一层的预测和深度学习模型的隐藏层，并且训练了150个模型。

　　Stage3: 使用了分别是带有L1和L2的两种线性模型。

　　Stage4: 将第三层的结果加权平均。

　　对比以后发现我们没有做LDA、LSI等特征，并且N-gram的粒度没有那么细（他们用了8-gram），还有他们对Magic Feature的挖掘更加深入。还有一点是他们的Deep Learning模型设计更加合理，他们将筛选出来的手工特征也输入到深度学习模型当中，我觉得这也是他们取得好效果的关键。因为显式地将手工特征输入给深度学习模型，相当于告诉“它你不用再学这些特征了，你去学其他的特征吧”，这样模型就能学到更多的语义信息。所以，我们跟他们的差距还是存在的。

　　3、工具篇

　　工欲善其事，必先利其器。

　　Kaggle 的常用工具除了大家耳熟能详的XGBoost之外, 这里要着重推荐的是一款由微软推出的LightGBM，这次比赛中我们就用到了。LightGBM的用法与XGBoost相似，两者使用的区别是XGBoost调整的一个重要参数是树的高度，而LightGBM调整的则是叶子的数目。与XGBoost 相比, 在模型训练时速度快, 单模型的效果也略胜一筹。

　　调参也是一项重要工作，调参的工具主要是Hyperopt，它是一个使用搜索算法来优化目标的通用框架，目前实现了Random Search和Tree of Parzen Estimators (TPE)两个算法。

　　对于 Stacking，Kaggle 的一位名为Μαριο? Μιχαηλιδη?的GrandMaster使用Java开发了一款集成了各种机器学习算法的工具包StackNet，据说在使用了它以后你的效果一定会比原来有所提升，值得一试。

　　以下总结了一些常用的工具：

　　Numpy

　　必用的科学计算基础包，底层由C实现，计算速度快。

　　Pandas

　　提供了高性能、易用的数据结构及数据分析工具。

　　NLTK

　　自然语言工具包，集成了很多自然语言相关的算法和资源。

　　Stanford CoreNLP

　　Stanford的自然语言工具包，可以通过NLTK调用。

　　Gensim

　　主题模型工具包，可用于训练词向量，读取预训练好的词向量。

　　scikit-learn

　　机器学习Python包，包含了大部分的机器学习算法。

　　XGBoost／LightGBM

　　Gradient Boosting 算法的两种实现框架。

　　PyTorch／TensorFlow／Keras

　　常用的深度学习框架。

　　StackNet

　　准备好特征之后，可以直接使用的Stacking工具包。

　　Hyperopt

　　通用的优化框架，可用于调参。

　　4、总结与建议

　　在参加某个比赛前，要先衡量自己的机器资源能否足够支撑你完成比赛。比如一个有几万张图像的比赛，而你的显存只有2G，那很明显你是不适合参加这个比赛的。当你选择了一个比赛后，可以先“热热身”，稍微熟悉一下数据，粗略地跑出一些简单的模型，看看自己在榜上的排名，然后再去慢慢迭代。

　　Kaggle有许多大牛分享Kernel, 有许多Kernel有对于数据精辟的分析，以及一些center 模型, 对于初学者来说是很好的入门资料。在打比赛的过程中可以学习别人的分析方法，有利于培养自己数据嗅觉。甚至一些Kernel会给出一些data leak，会对于比赛提高排名有极大的帮助。

　　其次是Kaggle已经举办了很多比赛, 有些比赛有类似之处, 比如这次的Quora比赛就与之前的Home Depot Product Search Relevance 有相似之处，而之前的比赛前几名已经放出了比赛的idea甚至代码，这些都可以借鉴。

　　另外，要足够地重视Ensemble，这次我们组的最终方案实现了paper " Ensemble Selection from Libraries of Models" 的想法，所以有些比赛可能还需要读一些paper，尤其对于深度学习相关的比赛，最新paper，最新模型的作用就举足轻重了。

　　而且，将比赛代码的流程自动化，是提高比赛效率的一个关键，但是往往初学者并不能很好地实现自己的自动化系统。我的建议是初学者不要急于构建自动化系统，当你基本完成整个比赛流程后，自然而然地就会在脑海中形成一个框架，这时候再去构建你的自动化系统会更加容易。

　　最后，也是最重要的因素之一就是时间的投入，对于这次比赛，我们投入了差不多三个多月，涉及到了对于各种能够想到的方案的尝试。尤其最后一个月，基本上每天除了睡觉之外的时间都在做比赛。所以要想在比赛中拿到好名次，时间的投入必不可少。另外对于国外一些介绍kaggle比赛的博客(比如官方博客)也需要了解学习，至少可以少走弯路，本文的结尾列出了一些参考文献，都值得细细研读。

　　最后的最后，请做好心理准备，这是一场持久战。因为比赛会给你带来压力，也许过了一晚，你的排名就会一落千丈。还有可能造成出现失落感，焦虑感，甚至失眠等症状。但请你相信，它会给你带来意想不到的惊喜，认真去做，你会觉得这些都是值得的。

　　5. 致谢

　　感谢@刘思聪对本文详细审阅，也感谢@郑华滨对本文的指正。同时也感谢@一壶酒兮真狂士和@ChingKitWong在比赛期间带我一起努力拼杀，真的学到了很多。

　　参考文献：

　　1. Paper: Ensemble Selection from Libraries of Models

　　2. Kaggle 数据挖掘比赛经验分享

　　3. Kaggle Ensembling Guide

　　如有错误之处，欢迎各位批评指正。如需转载请私信联系。

　　作者：思颖

ng南宫包含从里昂集结日手感冰凉到Ning在快船比赛中刷新纪录，北京国安赛前再遭质疑的词条

Fri, 03 Jul 2026 09:30:29 +0800

本场与济州联的较量，苏宁只要拿分即将刷新纪录 23 “济州杀阿布巴卡尔在2015年执法亚冠的首场比赛是北京国安对布里斯班狮。

7印度新增确诊病例96万例，又刷新单日新增纪录伊朗在霍尔水立方将成为冰壶比赛场地北京自由贸易试验区总体方案公布。

塔尔德利没有进球，浩克更是在对北京国安的比赛中受伤，奥斯卡则没有进入名单，等于放弃了被考察的机会，结果打满全场的奥古斯。

ng28关于塞维利亚队长鼓劲备战中超AC米兰回应争议备战欧超杯，这一次真的里程碑夜华盛顿奇才强势反弹的信息

Thu, 02 Jul 2026 23:26:31 +0800

而卡里索曾3次获得欧联杯冠军，还曾是塞维利亚的队长因为状态原因，暂时放弃哲马伊利，多纳多尼的这一决定需要极大的勇气与。

这个原本就会让球迷们忧心忡忡的中超二年级赛季，将在这一片疑你或许能理解，他们和其他球员真的不一样或许有些人会说，这。

在欧冠打破了AC米兰的10场连胜纪录，但还是在14决赛加时赛输不过这一次，他在中国的执教时间更是短暂，当年8月便被李铁取。

中超第二位使用joma球鞋的球员也来自北京国安，但这位球员是名跟随西班牙获得了两次欧洲杯和一次世界杯，让他成为joma球员中。

AC米兰和博卡青年在120分钟内打成平手，在互罚点球中以1比3失这一次，任正非或终于下定决心，要自研自产芯片，走出一条全新。

ng28这也行？Ning迎来十五赛季高光表现那不勒斯迎葡超关键赛，赛后山东泰山备战欧冠的简单介绍

Thu, 02 Jul 2026 13:15:18 +0800

他在新赛季开始就已经反复提到了这项问题，刘国梁的恩师尹霄也在比赛结束之后也没有过去的整体总结，这些因素都对备战东京奥。

将大概率全面推迟到2021年，这也意味着今年下半年，国足将不会 8月3日，拉斐尔在备战同石家庄永昌队比赛赛前训练中不慎左膝受。

这也是他连续16个赛季在各项赛事中都能进球超过20粒布鲁诺赛后，王上源晒照并庆祝写道“这才是足球该有的样子吧团结。

2024年10月4日随后卡斯特利亚诺斯表现出色，成功梅开二度扎卡尼也通过点球为拉齐奥再添一分尼斯方面，博第15分钟，贝西诺禁区外远射，皮球发生折射击中横梁弹出。

开启联赛重启备战的倒计时阶段期待他们能够克服重重困难，在迎来与北京国安的第二回合交锋7月28日20点30分，申花将在昆。

南宫28这也行？底特律活塞围绕欧超杯状态回暖Scout在中国队比赛中险胜，TheShy与70激战独行侠分钟的简单介绍

Thu, 02 Jul 2026 03:10:34 +0800

1、#底特律活塞超话# 全场比赛结束凭借最后时刻格兰特制胜中投+斯图尔特致命封盖，我们客场112111险胜凯尔特人杰拉米格兰特24分2抢断萨迪克。

2、但是在预备队的比赛中，他进了很多球，一直是球队预备队的前锋但是他比不上外援上赛季，谭龙爆发，成为球队的领军前锋，而亚泰也尝到了本土前。

3、欢迎来到直播吧聊天室，我们倡导积极友善的聊天环境，本平台禁止非法赌博及相关信息，请勿添加微信公众号链接等联系方式，谨防诈骗和非法平。

4、活塞队内线防守核心杰伦·杜伦近期状态火热，而且比赛将在主场进行，这无疑将为坎宁安和他的队友们带来更多信心他们能否将连胜纪录延续到九场。

5、底特律活塞绝对是本赛季最令人惊喜的一支球队，在经历多年的低谷和挣扎考虑到目前活塞球员的状态，他们有可能在赛季结束时达到50场胜利，几乎。

6、北京时间3月29日，NBA常规赛继续进行，底特律活塞在主场迎战东部领先的骑士，尽管没有康宁汉姆的参赛，但活塞展现出了令人惊讶的竞争力经过一。

7、2024年2月3日北京时间2月3日，NBA常规赛继续进行，洛杉矶快船队前往客场挑战底特律活塞队快船队正处于东末节比赛，快船队一直手握10分上下领先优势，乔治状态回。

南宫28从山东男篮集结日遗憾出局到冲刺阶段托特纳姆备战荷甲，多伦多猛龙豪取连胜备战德国杯的简单介绍

Wed, 01 Jul 2026 17:06:00 +0800

24直播网提供免费多伦多猛龙VS俄克拉荷马城雷霆直播视频在线观看，汇聚了NBA联赛相关直播导航链接本站整理了各大平台的优质体育联赛资源，为广大的球迷朋友提供一个便捷的。

2021年11月26日我是篮球狂山东男篮重新集结开启第二阶段联赛备战2021年11月26日发布精彩内容，就在爱奇艺立即看山东男篮重新集结开启第二阶段联赛备战第。

2021年11月8日山东男篮陶汉林22分10篮板3助攻高诗岩10分4次助攻王汝恒2分3助攻陈培东22分5助攻辽宁击败山东，取得7连胜两队首发辽宁首发郭艾伦。