For the complete documentation index, see llms.txt. This page is also available as Markdown.

视觉快速开始

通过 SDK 的自动组件设置,将 Vision 添加到现有 Convai 场景中,让角色能够看见并响应实时摄像头输入。

只需三步即可为现有的 Convai 场景添加 Vision。SDK 会在你将 ConvaiRoomManager 设置为视频模式。

前提条件

开始前,请确认:

1

将 Connection Type 设置为 Video

选择 ConvaiRoomManager 层级视图中的 GameObject。在 Inspector 中,将 连接类型视频.

Connection Type set to Video on ConvaiRoomManager in the Inspector
ConvaiRoomManager 上的 Connection Type 设置为 Video。

会立即出现一个对话框:

Convai Vision 设置 — Connection Type 已设为 Video,但缺少必需的视觉组件。添加 ConvaiVisionPublisherCameraVisionFrameSource 到这个 ConvaiRoomManager 下?

点击 添加组件.

Convai Vision Setup dialog prompt
Convai Vision 设置对话框提示。

SDK 会创建一个名为以下名称的子 GameObject: ConvaiVisionRoot 下的 ConvaiRoomManager 并添加以下两个组件: ConvaiVisionPublisherCameraVisionFrameSource 到其中。

2

指定一个摄像头

选择 ConvaiVisionRoot GameObject(作为……的子对象 ConvaiRoomManager)。在 CameraVisionFrameSource 组件中,找到 目标摄像机 字段。

  • 如果你的场景中有一个 摄像机 带有 MainCamera,请将该字段留空——该组件会在运行时自动解析。

  • 要捕获特定摄像头(俯视视角、监控摄像头等),请将该摄像头拖到 目标摄像机 字段。

默认的 捕获预设均衡 (1280 × 720,15 fps),适用于大多数场景。

如果 目标摄像机 为空,并且场景中没有任何摄像头带有 MainCamera,则帧源会进入 失败 状态。请始终显式指定一个摄像头,或确保有一个摄像头具有 MainCamera 标签。

Target Camera assigned on CameraVisionFrameSource in the Inspector
在 CameraVisionFrameSource 上指定的 Target Camera。
3

使用调试预览进行验证

在任意场景 GameObject 上,点击 添加组件Convai/Vision/Vision Debug Preview(仅限编辑器).

按下 Play。游戏视图中会出现一个覆盖层,显示实时摄像头画面和统计面板。房间连接后,FPS 计数器会递增,帧计数也会增加。

Vision Debug Preview component added to a scene GameObject
已添加 Vision Debug Preview 组件。

手动设置组件

如果你点击了 稍后 对话框中的该选项,或者想将组件放置到特定 GameObject 上,请手动添加:

  1. 选择目标 GameObject(任何持久化场景对象——通常位于你的 NPC 上或附近)。

  2. 添加组件 → 搜索 Convai Vision Publisher.

  3. 在同一个 GameObject(或其子对象)上, 添加组件Convai/视觉/摄像机视觉帧源.

  4. 分配 目标摄像机 如果不使用 Camera.main.

  5. 请将 Source 字段在 ConvaiVisionPublisher 留空——发布器会自动发现 CameraVisionFrameSource 运行时同一 GameObject 上的它。只有在场景中有多个帧源时,才需要显式指定它。

Manual vision setup showing ConvaiVisionPublisher and CameraVisionFrameSource components
手动视觉设置——发布器和帧源组件。

下一步

视觉如何工作视觉帧源发布策略视觉故障排查

最后更新于

这有帮助吗?