SAE Visualizer 项目使用教程

SAE Visualizer 项目使用教程

sae_vis Create feature-centric and prompt-centric visualizations for sparse autoencoders (like those from Anthropic's published research). 项目地址: https://gitcode.com/gh_mirrors/sa/sae_vis

1. 项目的目录结构及介绍

本项目 sae_vis 是一个用于生成稀疏自动编码器视觉化的工具，其目录结构如下：

• .github/：包含项目的 GitHub 工作流文件。
• sae_vis/：主模块，包含项目的主要代码和脚本。
  • demos/：示例脚本和笔记本，用于展示如何使用 sae_vis。
  • tests/：单元测试文件，用于确保代码的稳定性和可靠性。
• .gitignore：指定 Git 忽略的文件和目录。
• CHANGELOG.md：记录项目的版本更新和变更历史。
• LICENSE：项目的许可协议文件，本项目采用 MIT 许可。
• Makefile：构建脚本，用于自动化项目的某些操作。
• README.md：项目的自述文件，包含项目介绍和使用说明。
• pyproject.toml：项目配置文件，用于定义项目信息和依赖。

2. 项目的启动文件介绍

项目的启动主要是通过运行 sae_vis 目录下的脚本。例如，demos/demo.py 是一个示例脚本，它展示了如何使用本项目生成视觉化图像。用户可以通过以下命令运行该脚本：

python sae_vis/demos/demo.py

此外，如果用户希望使用 Jupyter Notebook 进行交互式操作，可以将 sae_vis 安装为 Python 包，然后导入相应的模块。

3. 项目的配置文件介绍

项目的配置主要通过 pyproject.toml 文件进行。以下是配置文件的主要内容：

[tool.poetry]
name = "sae-vis"
version = "0.3.6"
description = "Create feature-centric and prompt-centric visualizations for sparse autoencoders."
authors = ["Callum McDougall <callum.mcdougall@protonmail.com>"]

[tool.poetry.dependencies]
python = "^3.8"

[tool.poetry.dev-dependencies]
pytest = "^6.2"
pytest-cov = "^3.0"
pyright = "^1.1"

[build-system]
requires = ["poetry-core>=1.0.0"]
build-backend = "poetry.core.masonry.api"

在这个配置文件中，定义了项目的名称、版本、描述、作者、依赖和开发依赖等信息。用户可以通过修改这个文件来更新项目信息或添加新的依赖。

在安装依赖时，可以使用以下命令：

poetry install

这将根据 pyproject.toml 文件中定义的依赖来安装所需的 Python 包。

sae_vis Create feature-centric and prompt-centric visualizations for sparse autoencoders (like those from Anthropic's published research). 项目地址: https://gitcode.com/gh_mirrors/sa/sae_vis