基于随机变分推断的贝叶斯神经网络算法的设计与实现任务书

 2022-01-01 10:01

全文总字数:3217字

1. 毕业设计(论文)主要内容:

神经网络以其卓越的非线性拟合能力和灵活的模块化解耦架构,推动了深度学习的快速发展和广泛应用,是第三次人工智能研究浪潮中的核心技术热点之一。然而,经典神经网络仍然存在两方面亟待解决的关键问题:1)容易陷入过拟合;2)无法度量不确定性。因此,经典神经网络愈加难以适用于越来越复杂和精妙的动态学习任务。

为了进一步推动神经网络取得更加深入的发展,本课题拟提出基于随机变分推断的贝叶斯神经网络。该方案首先采用概率分布对神经网络参数进行统计建模,利用参数的不确定性来刻画网络的不确定性,并采用贝叶斯近似推断的方法,对网络中的参数分布进行高效优化。基于该方案构建的神经网络,不仅可以描述输出的不确定性,而且可以利用不确定性来缓和过拟合,具有深刻的研究意义与应用价值。

剩余内容已隐藏,您需要先支付后才能查看该篇文章全部内容!

2. 毕业设计(论文)主要任务及要求

(1)查阅15篇相关文献(不少于3篇外文文献),并每篇书写200—300字文献摘要(装订成册,带封面);

(2)认真填写周记,完成至少1500字开题报告(“设计的目的及意义”至少800汉字);“基本内容和技术方案”至少400汉字;进度安排应尽可能详细;教指导教师意见应包含:学生的调研是否充分?基本内容和技术方案是否已明确?是否已经具备开始设计(论文)的条件?能否达到预期的目标?是否同意进入设计(论文)阶段?);

剩余内容已隐藏,您需要先支付后才能查看该篇文章全部内容!

3. 毕业设计(论文)完成任务的计划与安排

(1)2020/1/13—2020/2/28:确定选题,查阅文献,外文翻译和撰写开题报告;

(2)2020/3/1—2020/4/30:系统架构、程序设计与开发、系统测试与完善;

(3)2020/5/1—2020/5/25:撰写及修改毕业论文;

剩余内容已隐藏,您需要先支付后才能查看该篇文章全部内容!

4. 主要参考文献

  1. Blundell C, Cornebise J, Kavukcuoglu K, et al. Weight uncertainty in neural networks[J]. arXiv preprint arXiv:1505.05424, 2015.
  2. Pawlowski N, Brock A, Lee M C H, et al. Implicit weight uncertainty in neural networks[J]. arXiv preprint arXiv:1711.01297v2, 2018.
  3. Ranganath R, Gerrish S, Blei D. Black box variational inference[C]//Artificial Intelligence and Statistics. 2014: 814-822.
  4. Glorot X, Bengio Y. Understanding the difficulty of training deep feedforward neural networks[C]//Proceedings of the thirteenth international conference on artificial intelligence and statistics. 2010: 249-256.
  5. Welling M, Teh Y W. Bayesian learning via stochastic gradient Langevin dynamics[C]//Proceedings of the 28th international conference on machine learning (ICML-11). 2011: 681-688.
  6. Ma Y A, Chen T, Fox E. A complete recipe for stochastic gradient MCMC[C]//Advances in Neural Information Processing Systems. 2015: 2917-2925.
  7. Graves A. Practical variational inference for neural networks[C]//Advances in neural information processing systems. 2011: 2348-2356.
  8. Kingma D P, Welling M. Auto-encoding variational bayes[J]. arXiv preprint arXiv:1312.6114, 2013.
  9. Hernández-Lobato J M, Adams R. Probabilistic backpropagation for scalable learning of bayesian neural networks[C]//International Conference on Machine Learning. 2015: 1861-1869.
  10. Gal Y, Ghahramani Z. Bayesian convolutional neural networks with Bernoulli approximate variational inference[J]. arXiv preprint arXiv:1506.02158, 2015.
  11. Shi J, Sun S, Zhu J. Kernel Implicit Variational Inference[J]. stat, 2018, 1050: 23.
  12. Lample G, Conneau A, Denoyer L. Unsupervised Machine Translation Using Monolingual Corpora Only[J]. 2018.
  13. Louizos C, Welling M. Structured and efficient variational deep learning with matrix gaussian posteriors[C]//International Conference on Machine Learning. 2016: 1708-1716.
  14. Krueger D, Huang C W, Islam R, et al. Bayesian hypernetworks[J]. arXiv preprint arXiv:1710.04759, 2017.
  15. Louizos C, Welling M. Multiplicative normalizing flows for variational bayesian neural networks[C]//Proceedings of the 34th International Conference on Machine Learning-Volume 70. JMLR. org, 2017: 2218-2227.

剩余内容已隐藏,您需要先支付 10元 才能查看该篇文章全部内容!立即支付

以上是毕业论文任务书,课题毕业论文、开题报告、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。