这篇博客翻译自国外的深度学习系列文章的第四篇，想查看其他文章请点击下面的链接，人工翻译也是劳动，如果你觉得有用请打赏，转载请打赏:

记录自己读过的对提升自己有帮助的书，对学习也好，生活也好，更好的理解这个世界:):books:

• Finish my changes
• Push my commits to GitHub
• Open a pull request

今天程序员圈流传着一篇新闻，25倍稀释股权，蘑菇街员工“财富自由梦”破灭，里面提到的很多概念我不是很清楚，什么是期权、股票？为什么很多人通过公司上市后实现财富自由？为什么蘑菇街这位员工的期权对应的股票被稀释了25倍？首先我们需要理清楚这些资本概念。

SQL JOIN 用于把来自两个或多个表的数据或行基于它们的公共字段结合起来。有四种不同的JOIN方式:

• INNER JOIN
• LEFT JOIN
• RIGHT JOIN
• FULL JOIN

SEO (Search Engine Optimization)，即搜索引擎优化。简单来说，SEO就是您可以使用提升网站排名的所有方法的总称，SEO用于确保您的网站及其内容在搜索引擎结果页面（SERP）上的可见性。

算法工程师常见面经问题(机器学习基础题 + 数据结构算法题 + 实践题)

这是一篇十一年前的文章，从房地产角度解读经济发展规律，其道出的资本本质依然适用于今天的贸易战打法。 中国：严把汇率关、限制资产流动性. 美国：投资、出口等各方面对中国施加压力

如何用动态规划求解背包问题（Knapsack problem）

Python中的super()方法有什么用？如何用它来初始化父类属性

如何用Python手写一个基于朴素贝叶斯算法的中文垃圾邮件分类器

Trie，即字典树，又称前缀树，是一种有序树形结构。它的优点是最大限度地减少无谓的字符串比较，查询效率比较高。典型应用是用于统计和排序大量的字符串（但不仅限于字符串），所以经常被常用于搜索提示。如当输入一个网址，可以自动搜索出可能的选择。当没有完全匹配的搜索结果，可以返回前缀最相似的可能。

简介

当今社会的每个人都面临着各种各样的选择。例如，如果我漫无目的想找一本书读，那么关于我如何搜索就会出现很多可能。这样一来，我可能会浪费很多时间在网上浏览，并且在各种各样的网站上搜寻，希望能找到有价值的书籍。这个时候我可能寻找别人的推荐。

支持向量机，因其英文名为support vector machine，故一般简称SVM，通俗来讲，它是一种二分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。

机器之心：254页PPT！这是一份写给NLP研究者的编程指南

References: https://zhuanlan.zhihu.com/p/38517948

1、 背景

      CTR预估（Click-Through Rate Prediction）是互联网计算广告中的关键环节，预估准确性直接影响公司广告收入。CTR预估中用的最多的模型是LR（Logistic Regression），LR是广义线性模型，与传统线性模型相比，LR使用了Logit变换将函数值映射到0~1区间，映射后的函数值就是CTR的预估值。LR这种线性模型很容易并行化，处理上亿条训练样本不是问题，但线性模型学习能力有限，需要大量特征工程预先分析出有效的特征、特征组合，从而去间接增强LR的非线性学习能力。

      LR模型中的特征组合很关键， 但又无法直接通过特征笛卡尔积解决，只能依靠人工经验，耗时耗力同时并不一定会带来效果提升。如何自动发现有效的特征、特征组合，弥补人工经验不足，缩短LR特征实验周期，是亟需解决的问题。Facebook 2014年的文章介绍了通过GBDT（Gradient Boost Decision Tree）解决LR的特征组合问题[^1]，随后Kaggle竞赛也有实践此思路[4][5]，GBDT与LR融合开始引起了业界关注。

      GBDT（Gradient Boost Decision Tree）是一种常用的非线性模型，它基于集成学习中的boosting思想，每次迭代都在减少残差的梯度方向新建立一颗决策树，迭代多少次就会生成多少颗决策树。GBDT的思想使其具有天然优势可以发现多种有区分性的特征以及特征组合，决策树的路径可以直接作为LR输入特征使用，省去了人工寻找特征、特征组合的步骤。这种通过GBDT生成LR特征的方式（GBDT+LR），业界已有实践（Facebook，Kaggle-2014），且效果不错，是非常值得尝试的思路。下图1为使用GBDT+LR前后的特征实验示意图，融合前人工寻找有区分性特征（raw feature）、特征组合（cross feature），融合后直接通过黑盒子（Tree模型GBDT）进行特征、特种组合的自动发现。

Wide and deep 模型是 TensorFlow 在 2016 年 6 月左右发布的一类用于分类和回归的模型，并应用到了 Google Play 的应用推荐中。wide and deep 模型的核心思想是结合线性模型的记忆能力（memorization）和 DNN 模型的泛化能力（generalization），在训练过程中同时优化 2 个模型的参数，从而达到整体模型的预测能力最优。