Nature Machine Intelligence最新AI科学研究进展

 

大脑网络存在于资源限制的范畴内。因此，大脑网络必须克服在其物理空间内生长和维持网络的代谢成本，同时实现其所需的信息处理。在这里，为了观察这些过程的影响，我们引入了空间嵌入递归神经网络（seRNN）。seRNN在三维欧几里得空间中学习与任务相关的基本推断，其中组成神经元的通信受到稀疏连接体的约束。我们发现，seRNN集中在灵长类动物大脑皮层中常见的结构和功能特征上。具体而言，他们使用模块化小世界网络来解决推理，在模块化小天地网络中，功能相似的单元在空间上自我配置，以利用能量有效的混合选择性代码。由于这些特征是一致出现的，因此seRNN揭示了有多少常见的大脑结构和功能基序紧密交织在一起，并可归因于基本的生物优化过程。seRNN将生物物理约束纳入一个完全人工的系统中，可以作为结构和功能研究社区之间的桥梁，推动对神经功能的理解。

 

 

 

 

 

复杂材料特性的加速逆向设计——例如识别在非线性变形路径上具有给定应力-应变响应的材料——在应对从软机器人到生物医学植入物和冲击缓解的挑战方面具有巨大潜力。尽管机器学习模型已经提供了这样的逆映射，但它们通常局限于线性目标特性，如刚度。在这里，为了调整非线性响应，我们表明，在周期性随机单元结构的全场数据上训练的视频扩散生成模型可以成功地预测和调整其在大应变区压缩下的非线性变形和应力响应，包括屈曲和接触。成功的关键是打破从属性到设计直接学习映射的常见策略，并扩展框架以从本质上估计预期变形路径和全场内应力分布，这与现场单元模拟非常一致。因此，这项工作有可能简化和加速具有复杂目标性能的材料的识别。

 

 

 

 

 

持续学习旨在增强人工智能对现实世界的适应性。为此，一个理想的解决方案应该适当地平衡记忆稳定性和学习可塑性，并获得足够的兼容性来捕捉观察到的分布。现有的进展主要集中在保持记忆稳定性以克服灾难性遗忘，但仍很难像生物智能那样灵活地适应增量变化。在这里，通过建模一个强大的果蝇学习系统，该系统通过多个学习模块主动调节遗忘，我们提出了一种通用方法，该方法可以适当地衰减参数分布中的旧记忆，以提高学习可塑性，并相应地协调多学习者架构，以确保解决方案的兼容性。通过广泛的理论和实证验证，我们的方法不仅提高了持续学习的性能，特别是在任务增量环境中的突触正则化方法，而且有可能促进对神经适应机制的理解。

 

 

 

 

 

 

基于序列线表示法（例如，简化的分子输入线输入系统）或图形表示的分子生成模型在基于结构的药物设计领域引起了越来越多的兴趣，但它们难以捕捉重要的三维（3D）空间相互作用，并经常产生不期望的分子结构。为了应对这些挑战，我们引入了Lingo3DMol，这是一种基于口袋的3D分子生成方法，结合了语言模型和几何深度学习技术。开发了一种新的分子表示，即具有局部和全局坐标的基于片段的简化分子输入线输入系统，以帮助该模型学习分子拓扑结构和原子空间位置。此外，我们训练了一个单独的非共价相互作用预测器，为生成模型提供必要的结合模式信息。Lingo3DMol可以有效地穿过类药物的化学空间，防止形成不寻常的结构。使用“有用诱饵增强目录”数据集进行评估。Lingo3DMol在药物相似性、合成可及性、口袋结合模式和分子生成速度方面优于最先进的方法。

 

 

 

为了在分类问题中实现接近零的训练误差，前馈网络的层必须解开具有不同标签的数据点的流形，以便于区分。然而，过度的类分离可能导致过拟合，因为良好的泛化需要学习不变量特征，这涉及一定程度的纠缠。我们报告了数值实验，显示了优化动力学如何找到平衡这些相反趋势与非单调趋势的表示。在快速分离阶段之后，较慢的重排（在数据集和体系结构中保持不变）会增加类纠缠。反演处的训练误差在子采样下以及在网络初始化和优化器之间是稳定的，这将其表征为仅数据结构的性质和（非常弱的）体系结构的性质。反转是由被称为“掉队者”的训练集中定义明确且最大稳定的元素引发的权衡的表现，这些元素对泛化特别有影响。