DNN反向传播首先回顾DNN的反向传播算法。在DNN中，首先计算出输出层的δL:利用数学归纳法，用δl+1的值一步步的向前求出第l层的δl，表达式为：有了δl的表达式，从而求出W,b的梯度表达式：有了...

文本分类任务介绍文本分类是自然语言处理的一个基本任务，试图推断出给定的文本（句子、文档等）的标签或标签集合。文本分类的应用非常广泛。如：1）垃圾邮件分类：二分类问题，判断邮件是否为垃圾邮件2）情感分析...

深度学习常常需要大量的时间和机算资源进行训练，这也是困扰深度学习算法开发的重大原因。虽然我们可以采用分布式并行训练加速模型的学习，但所需的计算资源并没有丝毫减少。而唯有需要资源更少、令模型收敛更快的最...

这篇文章介绍了作者GidiSheperber在greenScreen.AI项目中所做的工作和研究。在机器学习方兴未艾的过去几年里，我一直想要亲自开发具有实用价值且基于机器学习的产品。然后几个月前，在我...

原文发布于微信公众号 - 小小挖掘机（wAIsjwj） 原文发表时间：2018-04-29 1、原理 PNN，全称为 Product-based Neural Network，认为在 embedding 输入到 MLP 之后学习的交叉特征表达并不充分，提出了一种 product layer 的思想， ....

原文发布于微信公众号 - 小小挖掘机（wAIsjwj） 原文发表时间：2018-04-15 1、背景 特征组合的挑战 对于一个基于 CTR 预估的推荐系统，最重要的是学习到用户点击行为背后隐含的特征组合。在不同的推荐场景中，低阶组合特征或者高阶组合特征可能都会对最终的 CTR 产生影响。 之前介绍的 ....

章立 美团点评算法工程师 未经许可 禁止转载 这是本系列的第一篇文章，期待大家关注我，跟进后续哦 ～ 注意力机制与 Transformer 模型分享 注意力机制 什么是注意力 注意力 的原型很容易理解，例如图片 [图片] 这张图里的要素很多，对于抱有不同目的或者习惯的人。会有注意到不同的内容。 如果 ....

作者：Alireza Dirafzoon 编译：ronghuaiyang 导读 在单 GPU 上就可以运行的 Transformer 模型，而且几乎不损失精度，了解一下？ [图片] 如果你一直在开发机器学习算法用于处理连续数据 —— 例如语言处理中的文本，语音信号，或视频 —— 你可能听说过或使用过 ....

作者： 陈 扬 编辑：赵一帆 简 介 分层表示高效的架构搜索(HIERARCHICAL REPRESENTATIONS FOR EFFICIENT ARCHITECTURE SEARCH)这篇文章讲的是如何利用高效的搜索算法来搜索网络的拓扑结构。用一个简单但功能强大的演化算法。 这个方法可以发现具有 ....

[图片] 前两天教师节，人工智能头条的某个精神股东粉群里，大家纷纷向当年为我们启蒙、给我们带来快乐的老师们表达感激之情。 很多人表示，他们的硬盘里，至今还保留着当时她们上课时候的视频。有一些现在网站上已经很难找到了，于是大家又纷纷开始互相交流跟随这些老师学习实践的心得体会。 [图片] 禅师最喜欢的教 ....

简介： 整理自 5 月 29 日 阿里云开发者大会，秦江杰和刘童璇的分享，内容包括实时推荐系统的原理以及什么是实时推荐系统、整体系统的架构及如何在阿里云上面实现，以及关于深度学习的细节介绍本文整理自

问题一：Batch-norm 作用和参数batch norm 的作用batch norm 对于输入数据做了零均值化和方差归一化过程，方便了下一层网络的训练过程，从而加速了网络的学习。不同 batch

作者：爱奇艺推荐中台随着深度学习浪潮的兴起，embedding 技术也随之快速发展。embedding 自身表达能力的增强使得直接利用 embedding 生成推荐列表成了可行的选择。因此，利用 em

文末免费送电子书：七月在线干货组最新 升级的《名企 AI 面试 100 题》免费送！问题一：你常用的优化算法？有什么特点？为什么？梯度下降：在一个方向上更新和调整模型的参数，来最小化损失函数。随机梯度

文末免费送电子书：七月在线干货组最新 升级的《2021 最新大厂 AI 面试题》免费送！项目一： vectorai 一个用于构建基于向量的应用程序的平Vector AI 是一个框架，旨在使构建基于生产

文末免费送电子书：七月在线干货组最新 升级的《名企 AI 面试 100 题》免费送！项目一：EssayKiller_V2 基于开源 GPT2.0 的初代创作型人工智能EssayKiller 是基于 O

RIDIC系统使用后，半年成本即可回收，企业技术岗位人员可申请省部级科技进步一二等奖，还可根据行业申请当地政府工信部门或者科技部门的政策性奖励。对于单位技术型领导和技术人员都有帮助，对评审职称等级帮助很大，同时对企业利润增加更是贡献巨大. 荣峰正见，经过8年的技术积累，在智能（智慧）工厂（企业集团） ....

文末免费送电子书：七月在线干货组最新 升级的《2021最新大厂AI面试题》免费送！ 问题 1 ：芝麻信用分的主要计算维度？ 主要维度 个人属性：职业类型、学历学籍等； 稳定性：手机稳定性、地址稳定性、账户活跃时长等； 资产状况：账户资产、有无住房、有无车辆； 消费能力：消费金额、消费层次、消费场景丰 ....

文末免费送电子书：七月在线干货组最新 升级的《2021最新大厂AI面试题》免费送！ 问题1：过拟合 怎么解决 过拟合：是指训练误差和测试误差之间的差距太大。换句换说，就是模型复杂度高于实际问题，模型在训练集上表现很好，但在测试集上却表现很差。 欠拟合：模型不能在训练集上获得足够低的误差。换句换说，就 ....