Loading...
Loading...
Techub News 消息，Sakana AI 研究人员提出了一种名为“增强拉格朗日预测编码”（PC-ALM）的新算法，作为反向传播的替代方案。该算法能在保持层间更新局部化的同时，恢复与反向传播对齐的信用信号。研究团队报告称，使用该算法成功训练了高达1000层的残差MLP网络，在MNIST数据集上的性能与反向传播相比差距在约2个百分点内。 PC-ALM 是一种训练方法，而非模型，目前仅在小型图像基准测试中进行了验证。该团队提供了基于 JAX 的 MIT 许可参考实现代码，可在 CPU 上运行并复现论文中的宽度-深度网格实验结果。（MarkTechPost）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，Sakana AI 研究人员提出了一种名为“增强拉格朗日预测编码”（PC-ALM）的新算法，作为反向传播的替代方案。该算法能在保持层间更新局部化的同时，恢复与反向传播对齐的信用信号。研究团队报告称，使用该算法成功训练了高达1000层的残差MLP网络，在MNIST数据集上的性能与反向传播相比差距在约2个百分点内。 PC-ALM 是一种训练方法，而非模型，目前仅在小型图像基准测试中进行了验证。该团队提供了基于 JAX 的 MIT 许可参考实现代码，可在 CPU 上运行并复现论文中的宽度-深度网格实验结果。（MarkTechPost）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Skanska 美国高管 Dean Lewis（迪恩·刘易斯）与 Mark Chen（马克·陈）：现代建筑中的可持续性与重型木结构本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
