6月 AGI技术月报 下篇
输入“/”快速插入内容
6月 AGI技术月报 下篇
6月 AGI技术月报 下篇
飞书用户81902024年9月10日修改
6月30日
专访 OmniH2O 项目发起人何泰然：探索人形机器人遥操作通向具身智能的可行之路
OmniH2O 项目通过人形机器人的全身遥操作和自主学习，探索具身智能的实现路径。项目采用 VR 头盔作为接口，实现对机器人的精确控制，并结合强化学习算法，提升机器人的自主决策能力。何泰然博士强调，遥操作技术可以有效地收集数据，为机器人的自主学习提供支持。OmniH2O-6 数据集的发布，包含六个日常任务，证明了机器人在复杂环境中的应用潜力。此外，何泰然提出了通过仿真数据收集形成数据飞轮的概念，以促进具身智能的快速发展。项目的成功展示了人类大脑认知和控制能力在机器人遥操作中的应用，并为机器人技术的进一步研究和工业界的应用提供了新的思路和方法。
实时AI视频生成：Pyramid Attention Broadcast
Pyramid Attention Broadcast (PAB) 是一种打破 AI 视频生成速度瓶颈的技术，它通过分析 attention 输出的 U 型变化规律，发现中间步骤的 attention 差异稳定且小，存在明显冗余。利用这一特点，PAB 通过 broadcast 机制将前一步骤的 attention 结果直接传递给后续步骤，避免了重复计算。此外，PAB 根据不同 attention 类型的变化差异采用了不同的广播策略，进一步提升了速度。同时，PAB 改进了动态序列并行技术，减少了 GPU 工作负载和通信开销，实现了高效的分布式推理。实验结果表明，单卡加速达到 1.31 倍，八卡时可达 10.6 倍加速，显著提高了视频生成的实时性和效率。这一技术在多种 DiT 模型上都取得了稳定的加速效果，展现了其在 AI 视频生成领域的巨大潜力。
决策智能与强化学习（4）：多任务强化学习
多任务强化学习（MTRL）旨在训练智能体同时应对多个任务，提升样本效率和模型泛化能力。MTRL 实现了架构设计的创新，如共享主干加独立 head（Scale Q-learning）、模块化设计（Soft Modularization 和 PaCo），以及使用最新的 Transformer 架构和混合专家系统（HarmoDT 和 MoE）。优化技术如多任务梯度矫正（CAGrad 和 MoCo）和损失均衡（HarmonyDream），解决了梯度冲突和任务不平衡问题，提高了训练效率和整体性能。在任务自适应方面，优先级关卡重放（Prioritized Level Replay）和基于上下文的表示学习（CARE）探索了智能选择训练任务的方法，增强了样本效率和泛化能力。预训练与微调技术，尤其是 Learning-to-Modulate（L2M），通过调整预训练模型的信息流，避免了灾难性遗忘，使模型能够适应新任务的同时保持原有能力。总体而言，MTRL 在架构设计、优化技术和预训练微调方面取得了显著进展，为实现更高效、更强泛的强化学习模型提供了新的视角和方法。
从RTL到GDS（七）：布局
VLSI 芯片设计中的布局（Placement）阶段是确定芯片性能的关键环节。布局分为全局布局和详细布局，其中全局布局关注整体布局的框架和结构，目标是减少不同区域之间的连接数量，考虑布局密度和平衡；详细布局则为每个单元实例提供一个合法的位置，优化连线长度，减少信号延迟和功耗。
在布局优化中，随机布局是一种简单的初始方法，通过随机交换 gate 位置来最小化 wire length。分析布局采用数学模型进行数值求解，通常使用半周线长（HPWL）作为 wire length 的近似估计，它通过找到最小的矩形框来评估 net 长度。为了进一步优化，递归分区方法被用来避免门电路聚集，提高布局效率。
在实际布局中，还需要考虑时序优化和阻塞最小化。时间驱动的布局将关键路径相关的 Cell 放置在优先位置，以减少 RC 参数和充放电时间。拥塞驱动的布局则尽量减少 wire length 通道数的密度，避免布线拥塞问题。
通义灵码智能编码助手技术解密