作者：Tivadar Danka 编译：ronghuaiyang 导读: 知识蒸馏的简单介绍，让大家了解知识蒸馏背后的直觉。 如果你曾经用神经网络来解决一个复杂的问题，你就会知道它们的尺寸可能非常巨大，包含数百万个参数。例如著名的 BERT 模型约有 1 亿 1 千万参数。 为了说明这一点，参见下图 ....

作者 | 张俊林@新浪微博 目录 知识蒸馏典型方法 知识蒸馏在推荐系统中的三个应用场景 知识蒸馏在三类推荐排序中的方法介绍 联合训练召回、粗排及精排模型的设想 随着深度学习的快速发展，优秀的模型层出不穷，比如图像领域的 ResNet、自然语言处理领域的 Bert，这些革命性的新技术使得应用效果快速提 ....

[图片] 分享嘉宾：申站 知乎 算法工程师 编辑整理：许宴铭 出品平台：DataFunTalk 导读： 大家好，我是申站，知乎搜索团队的算法工程师。今天给大家分享下知乎搜索中文本相关性和知识蒸馏的工作实践，主要内容包括： 知乎搜索文本相关性的演进 BERT 在知乎搜索的应用和问题 知识蒸馏及常见方案 ....