算法工程师面试问题汇总 [持续更新]

机器学习

1. LR算法基本原理？交叉熵损失函数？L1,L2正则化？
2. HMM, CRF区别？基本原理？优化方法&目标函数？
3. 什么是维特比算法？
4. 逻辑回归，softmax回归的主要区别？
5. 常用的决策树有哪些？主要区别？
6. GBDT, XGBoost, LightGBM的主要区别？XGBoost, LightGBM中做了哪些优化？

深度学习

1. batch norm和layer norm的主要区别？训练，测试bn？
2. 常用优化器有哪些？SGD, ftrl, Adam, Adagrad等区别？
3. 加快模型训练的策略有哪些？
4. 学习率的含义？应该怎么设置较好？

自然语言处理

• transformer模型基本结构？transformer encoder层参数？decoder层mask的作用？
• transformer相比rnn, cnn结构区别与优缺点？
• greedy search和beam search算法的区别？如何理解beam search算法？
• 序列标注模型的理解？
• CRF++中特征模板的设置？CRF基本原理？
• word2vec基本原理？层次softmax, 负采样是如何做的？
• word2vec, fasttext有什么区别？
• BERT及其改进模型是否了解？

信息检索

• pointwise, pairwise, listwise排序算法的区别是什么？应该如何选择？
• NDCG计算公式是怎样的？为什么搜索常使用ndcg指标？
• BM25计算公式是怎样的？
• 商品搜索中，商品信息发生修改如何在线生效？正排，倒排都发生修改？
• 深度语义匹配模型有哪些？DSSM，CDSSM等？DSSM损失函数是怎样的？
• LSA, LDA模型是否了解？

推荐系统

• LR, FM, GBDT, DNN模型的优缺点？
• FM中二阶交叉项计算复杂度？如何化简？
• wide&deep模型中，哪些特征放在wide部分，哪些放在deep部分？如何选择？
• AUC, GAUC的主要区别？
• ALS, Swing, Graph Embedding算法的优缺点？
• 推荐系统其他模型的理解？多目标优化ESMM, MMoE？Attention机制在推荐系统的应用？
• 模型的优化目标是什么？CTR, CVR？多目标？
• 推荐系统中冷启动怎么做？
• 双塔召回模型大体结构？
• 实时信息如何用在推荐系统中？用户序列信息引入DNN模型？
• 推荐系统模型更新？天级别，增量更新，在线学习？

Graph Embedding&GCN

• DeepWalk, Node2vec的主要区别？其他graph embedding模型是否了解？
• GraphSAGE的主要改进？

开发语言相关

• C++中的虚函数？
• C++中const关键字的作用？
• Python中深拷贝，浅拷贝主要区别？