第五章
视频感知元素结构理论
Video Perception Element Structure Theory
作者:东塬一老翁
技术支持:WSaiOS多模态智能技术研发工作室
资料来源:wsaios.cn
5.1 视频在视觉认知中的作用
视频是视觉信息在时间维度上的连续表现形式。
图片描述:
某一个时间点的空间状态。
视频描述:
一个对象或环境随时间产生的变化过程。
例如:
一张图片:
门
只能表示:
Door Exists
而视频:
门关闭
↓
门移动
↓
门打开
表示:
Door State Change
因此,WSaiOS认为:
视频不是图片的简单集合,而是由时间关系连接起来的连续视觉元素结构。
视频感知过程:
视频输入
↓
连续视觉帧
↓
视频元素
↓
对象状态变化
↓
事件元素
↓
认知元素
5.2 视频感知元素概念
Video Perception Element
定义:
视频感知元素是 WSaiOS 对连续视觉信息中的对象、状态、变化和时间关系进行结构化表达后形成的信息单元。
视频感知元素包含:
对象存在;
对象运动;
状态变化;
时间关系;
事件过程。
基本结构:
Video Element
{
Object
State
Motion
Time
Change
Event
}
5.3 视频与图片的区别
图片:
关注:
空间结构
视频:
关注:
时间变化
二者关系:
图片
↓
描述状态
视频
↓
描述状态变化
例如:
图片:
机器
只能知道:
Machine Exists
视频:
机器运行
↓
速度下降
↓
停止
可以形成:
Machine State Change
5.4 视频时间元素
视频区别于图片的核心:
是时间。
WSaiOS引入:
Time Element
时间元素。
结构:
Time Element
{
Timestamp
Sequence
Duration
Order
}
例如:
视频:
第一阶段:
Time 01
Machine Running
第二阶段:
Time 02
Machine Slow
第三阶段:
Time 03
Machine Stop
形成:
Running
↓
Slow
↓
Stop
时间元素使视觉系统能够理解:
过程。
5.5 视频对象元素
视频中的对象与图片对象一致。
但是增加:
动态属性。
结构:
Video Object Element
{
Entity
Attribute
Position
State
Motion
}
例如:
人员:
Entity:
Person
Attribute:
Uniform
Position:
Entrance Area
State:
Walking
车辆:
Entity:
Vehicle
State:
Moving
Motion:
Forward
5.6 视频运动元素
运动是视频的重要信息。
WSaiOS定义:
Motion Element
运动元素。
描述:
对象位置随时间的变化。
结构:
Motion Element
{
Object
Direction
Distance
Speed
Path
}
例如:
车辆:
初始位置:
A Point
之后:
B Point
形成:
Vehicle
Moving_To
B Point
运动元素不是动作识别。
它描述:
空间变化过程。
5.7 视频状态变化元素
视频理解的核心:
不是动作。
而是:
状态变化。
State Change Element
结构:
State Change
{
Object
Previous State
Current State
Time
}
例如:
设备:
原状态:
Normal
变化:
Temperature Increase
新状态:
Warning
形成:
Normal
↓
Warning
5.8 视频事件元素
多个状态变化组合后:
形成事件。
Event Element
定义:
事件元素是由对象状态变化、时间关系和环境关系共同形成的动态认知单元。
结构:
Event Element
{
Object
Action
Change
Time
Environment
}
例如:
监控视频:
视觉变化:
Person Appears
↓
Person Moves
↓
Person Leaves
形成:
Person Enter Room Event
工业场景:
Machine Temperature Increase
↓
Machine Stop
形成:
Equipment Failure Event
5.9 视频关系元素
视频中的对象关系会随着时间变化。
例如:
开始:
Person
Far_From
Machine
之后:
Person
Near
Machine
最后:
Person
Operating
Machine
因此:
视频关系具有:
动态性。
结构:
Dynamic Relation
{
Object A
Relation
Object B
Time
}
5.10 视频场景元素
多个视频元素组合:
形成动态场景。
结构:
Video Scene Element
{
Environment
Objects
Relations
Events
State Changes
}
例如:
智能工厂视频:
对象:
Worker
Robot
Machine
关系:
Worker Operating Machine
状态:
Machine Running
变化:
Machine Stop
最终:
形成:
Factory Operation Scene
5.11 视频元素到认知元素转换
视频感知最终目标:
不是记录变化。
而是形成理解。
转换:
Video Element
↓
State Analysis
↓
Event Organization
↓
Semantic Mapping
↓
Cognitive Element
例如:
视频:
Person
Walking
Entering
Building
转换:
人员进入建筑事件
视频:
Machine
Temperature Rising
Stopping
转换:
设备异常风险
5.12 视频感知在 WSaiOS 中的位置
WSaiOS视频感知属于:
动态感知层。
完整链路:
视频输入
↓
视频感知元素
↓
状态变化元素
↓
事件元素
↓
认知元素
↓
知识网络
↓
推理系统
↓
决策系统
5.13 图片与视频统一视觉结构
WSaiOS统一视觉体系:
视觉输入
|
|
-----------------
| |
图片 视频
| |
静态元素 动态元素
| |
场景元素 事件元素
| |
认知元素
图片:
回答:
是什么?
视频:
回答:
发生了什么?
5.14 本章总结
本章建立 WSaiOS 视频感知元素结构理论。
核心观点:
视频是时间连续的视觉信息;
视频不是图片简单堆叠,而是状态变化过程;
视频元素由对象、状态、运动、时间、变化和事件组成;
视频理解核心是状态变化,而不是动作分类;
状态变化通过时间组织形成事件;
视频元素最终转换为认知元素,为推理和决策提供基础。
最终结构:
Video
↓
Video Element
↓
Object Element
↓
State Change Element
↓
Event Element
↓
Cognitive Element
下一章:
第六章
视觉元素与认知系统连接理论
Visual Element Cognitive Integration Theory
重点:
视觉元素如何进入认知系统;
感知到认知的转换机制;
视觉知识结构;
视觉推理基础;
WSaiOS视觉认知闭环。