Datawhale 学术 作者：太子长琴，Datawhale 意向成员 如何在有限数据下训练出高效的深度学习模型？本文深入研究了预训练的前世今生，并带领读者一起回顾 PTM 取得的最新突破，与未来的研究方向（文末附 90 分钟解读视频）。 利用深度学习自动学习特征已经逐步取代了人工构建特征和统计方法 ....

[图片] 分享嘉宾：李雅亮博士 阿里巴巴 编辑整理：陈东 东南大学 出品平台：DataFunTalk 导读： 本次分享的主题为大规模预训练模型的压缩和蒸馏，主要是从自动机器学习的角度，介绍大规模预训练模型的压缩和蒸馏。将介绍阿里巴巴达摩院关于模型压缩的三个连续承接性的工作： 工作1：AdaBERT： ....

罗强 字节跳动技术团队 稿 人工智能的三个层次： 运算职能：数据的存储和计算能力，机器远胜于人类。 感知职能：视觉、听觉等能力，机器在语音识别、图像识别领域已经比肩人类。 认知智能：自然语言处理、常识建模与推理等任务，机器还有很长的路要走。 自然语言处理属于认知智能范畴，由于自然语言具有抽象性、组合 ....