你是什么时候对深度学习失去信心的？
让你失去信心的不是深度学习，是你自己，换个其他领域，你依然会跑来问类似问题。 现在随便找一个NLP的基准任务，用2022年模型不是吊打BERT前的模型？深度学习没发展能吊打吗？BERT前也许太古早了，就说BERT类模型，绝大部分任务性能都是 deberta > roberta > bert ，这个性能提升不是只停留在论文表格里面，是大家工作、比赛、科研下游任务广泛实践得到的结论，是真真切切的提升。 实践才是检验真理的唯一标准，Kaggle上每年CV/NLP比赛的Top Model一样吗？你用之前的模型就是打不赢今年的SOTA，你告诉我没提升？那有本事不用BERT类模型拿个NLP比赛winner给我看看，我自费给你双倍奖金。 也有拿数据说事情的，数据当然重要，但是你用一个LR，你告诉我，给你无限的数据你能翻天吗？金子埋在数据里面，挖不到也不是你的，对不对？ 每个研究都遵循边际效应，大家发现DL性能和数据size 正相关，用更多的数据不是应有之义吗？有标签数据用完了，最近SimCLR/Moco/BERT等无监督/自监督不也开始发展了吗？ 尊重下客观事实好不好。 现在的问题不是DL信心的问题，是大量小众领域根本就在乱搞，特别是一些交叉领域。 我的建议是，多找自己的问题，优先选择有大型且广泛认可数据集、benchmark的领域。 深度学习入门 & 进阶，欢迎看看我的建议： 