服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

PRX 速递:模拟退火算法在解决稀疏硬推理问题中的局限性

日期: 来源:集智俱乐部收集编辑:集智编辑部


关键词:模拟退火法算法,图着色问题,玻璃相变,非平衡统计物理,复杂系统


论文题目:Limits and Performances of Algorithms Based on Simulated Annealing in Solving Sparse Hard Inference Problems
论文来源:Physical Review X
论文链接:https://journals.aps.org/prx/abstract/10.1103/PhysRevX.13.021011

种植着色问题(the planted-coloring problem,图着色算法的一种)是一个典型的推理问题,对此,贝叶斯最优算法的阈值,如置信度传播(belief propagation, BP)可以解析计算。模拟退火法(simulated annealing,SA)是一种基于蒙特卡罗的算法,比置信度传播更加通用和稳健,因此具有更广泛的适用性。

这篇 Physical Review X 文章分析了模拟退火法的局限性和性能。作者表明,模拟退火在恢复种植解方面是次优的,因为它被玻璃态所吸引,而玻璃态并不影响置信度传播算法。与以前的猜想不同,该研究通过比较顺磁相的拐点和动态临界温度,提出了对模拟退火法算法阈值的解析估计。这是热力学相变和 Glauber 动力学的失衡行为之间的一个基本联系。

作者还研究了模拟退火法的改进版本,称为副本模拟退火法(replicated SA, RSA),其中几个弱耦合的副本被一起冷却。副本模拟退火法的算法阈值与贝叶斯最优阈值相吻合。最后,该研究发展了一个近似解析理论,解释了副本模拟退火法的最佳性能,并预测了在非常多副本的极限下,向种植解转变的位置。对副本模拟退火法的研究结果支持这样的观点,即先验参数与生成模型的参数不匹配可能会产生一种最佳的、非常稳健的算法。

图1. 玻璃态和种植态示意图。

图2. 副本模拟退火中,改变复制的数量y,能量密度是温度的函数。

图3. 不同问题大小的种植着色,模拟退火过程中能量密度与温度的函数。

图4. 寻找种植着色信号的退火过程所面临的一般情景的示意图。




编译|刘志航

图神经网络与组合优化读书会


详情请见:
加速经典算法效率,突破现实技术瓶颈:图神经网络与组合优化读书会启动

推荐阅读

1. 汪劲:生命系统中的非平衡物理学
2. AI生成艺术的底层原理:非平衡物理的扩散模型
3. PRL前沿:探究非平衡态输运主导路径新方法——圈流排序
4. 《张江·复杂科学前沿27讲》完整上线!
5. 成为集智VIP,解锁全站课程/读书会
6. 加入集智,一起复杂!


点击“阅读原文”,报名读书会

相关阅读

  • Nature Physics 速递:自然集群,3.99维?

  • 关键词:集体行为,重整化群,临界相变,统计物理,生物物理学论文题目:Natural swarms in 3.99 dimensions论文来源:Nature Physics论文链接:https://www.nature.com/articles/s41567-02
  • 下一个万亿美元级赛道!

  • (一)AIGC解决内容生成瓶颈问题2022 年,AIGC引爆市场。红杉美国报告认为AIGC会代表新一轮范式转移的开始,有潜力产生下一个万亿美元级赛道。百度李彦宏多次力推AIGC,并提出AIGC发
  • 基于YOLO的无人机技术:研究综述及其应用

  • 点击下方卡片,关注“新机器视觉”公众号重磅干货,第一时间送达来源:无人机网目前,无人机(UAV)或空中机器人正处于快速发展时期,基于YOLO算法的目标检测性能在工业上已达到较高水平,
  • 【CC讲坛】建筑你的模式语言

  • 活动名称:建筑你的模式语言报告嘉宾:邱小石视频通道蔻享学术识别二维码,即可观看视频。邱小石“读易洞”书店创办人“阅读邻居”读书会发起人每个人的模式语言肯定都不一样,每个
  • 更新至第三章!Unidbg 模拟执行精讲

  • 本周内容更新在当今移动应用开发领域,Android Native 应用已经成为大量应用的核心。攻防双方都经常采用反调试、加壳、加密等一系列安全措施来保护Android Native 应用的核心
  • 探析人工智能对网络安全的真正潜在影响

  • 要想人工智能和机器学习的水平“更上一层楼”,诸如破解最佳加密算法等重大挑战,仍需要进一步发展——有更大的规模和更复杂的符号模型。人工智能会变得更加智能吗?足以颠覆计算

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四
  • 美国对华2000亿关税清单,到底影响有多大?

  • 1 今天A股大跌,上证最大跌幅超过2%。直接导火索是美国证实计划对华2000亿美元产品加征25%关税。 听起来,2000亿美元数目巨大,我们来算笔账。 2000亿美元,按现在人民币汇率

最新文章

  • Nature Physics 速递:自然集群,3.99维?

  • 关键词:集体行为,重整化群,临界相变,统计物理,生物物理学论文题目:Natural swarms in 3.99 dimensions论文来源:Nature Physics论文链接:https://www.nature.com/articles/s41567-02