专栏 / 0111 篇文章
多模态与视觉
从图像与视频理解,到视觉语言模型和图像生成。
博客以介绍为主,不求甚解:沿着不同专栏的话题,认识一个概念、方法或工具。
博客目录 →从图像与视频理解,到视觉语言模型和图像生成。
理解模型结构、学习方法,以及训练与推理中的工程取舍。
围绕机器人如何感知、行动与预测,串起数据、模型和控制。
记录网站搭建、网络原理,以及日常工具的使用经验。
从 Transformer 为什么需要位置,到 RoPE 的旋转、ALiBi 的线性偏置和视觉 2D-RoPE 的行列坐标,理解图像与多模态模型如何知道 token 在哪里。
从潜空间想象、像素级生成到抽象表征预测,理解世界模型如何预测未来、学习动作与支持规划。
从机器人遥操作、仿真合成、UMI 手持夹爪到 Ego 第一视角数据,梳理具身智能数据采集的技术演变、适用场景与主要取舍。
梳理 PID、LQR、iLQR、MPC、模仿学习与强化学习的关系,并比较 Isaac Sim/Isaac Lab、MuJoCo、SAPIEN 和 PyBullet 的定位、优势与适用场景。
以 SimCLR、VACoT、MIDAS、VISTA 和 Cosmos-Drive-Dreams 为线索,理解数据增强如何从改变像素发展到保持模态关系、扩展长视频并生成稀有场景。