安装¶

本页介绍 TeleFuser 基础包。模型权重、LiveKit Server 和可选的 tf-kernel 分发包需要单独安装。

环境要求¶

组件	要求
操作系统	推荐 Linux
Python	3.10 至 3.13
PyTorch	2.6 或更高版本
CUDA Toolkit	当前 CUDA 开发路径要求 12.8 或更高版本
ROCm	AMD GPU 使用 ROCm 7.x 与 PyTorch `+rocm` 构建，详见验证安装一节的说明
GPU	取决于所选模型，以对应 Cookbook 为准

具体示例可能要求更严格的软件版本或 GPU 架构。特别是本地构建的 tf-kernel 产物与其记录的 PyTorch、 CUDA、ABI 和 GPU 架构族绑定。

安装 TeleFuser¶

已发布包仓库源码开发环境

python -m pip install --upgrade pip
python -m pip install telefuser

git clone https://github.com/Tele-AI/TeleFuser.git
cd TeleFuser
python -m pip install -e .

git clone https://github.com/Tele-AI/TeleFuser.git
cd TeleFuser
python -m pip install -e ".[dev]"
pre-commit install

可选依赖组包括 ui、distributed、docs 和 dev。只安装当前工作流需要的依赖，例如使用 Ray 分布式执行时运行 python -m pip install -e ".[distributed]"。

验证安装¶

python -c "import torch, telefuser; print(torch.__version__); print(torch.cuda.is_available())"
telefuser --help

模型执行要求 torch.cuda.is_available() 输出 True。否则应先检查 PyTorch CUDA 构建和 NVIDIA 驱动，再排查 TeleFuser。

AMD ROCm 主机应安装 PyTorch +rocm 构建，而非 CUDA Toolkit 路径。HIP 构建下 torch.cuda.is_available() 同样输出 True（可通过 torch.version.hip 区分），TeleFuser 平台层会先检测 ROCm 再检测 CUDA。以 _rocm.py 结尾的示例（例如 examples/wan_video/wan21_1_3b_text_to_video_rocm.py）是已验证的入口；各平台能力与后端可用性见硬件平台。

模型权重¶

TeleFuser 不随软件包分发模型权重。支持的模型页面会链接到各模型的 Cookbook，其中记录经过验证的 Hugging Face、ModelScope 地址、目录布局和附加权重。只有明确支持 Hub 加载的示例才能直接使用 Hugging Face 模型 ID。

可选组件¶

TF-Kernel介绍独立的 Makefile 构建流程和兼容性检查。
注意力机制列出可选注意力后端及硬件要求。
流式服务介绍需要单独运行的 LiveKit 服务。

下一步进入LingBot-World v2 WebRTC 核心体验，或使用更轻量的基础推理快速上手验证单卡流水线和批量 API。