产品简介
sae_vis 这是一个Python库，可可视化稀疏自编码器的特征，支持特征中心和提示中心视图，帮助研究人员理解模型行为。适合需要探索Anthropic模型特征的研究人员和开发者。
核心功能
- 特征中心可视化：查看单个特征在数据集上的激活情况
- 提示中心可视化：输入自定义提示，查看哪些特征得分最高
- 支持Anthropic发布的稀疏自编码器模型
- 提供Colab演示笔记本，方便快速上手
- 通过pip安装，简单易用
快速开始
- 使用pip安装：`pip install sae-vis`
- 查看Colab演示笔记本了解用法
- 在代码中导入并使用库创建可视化
界面预览
与其他方案对比
| 对比项 | sae_vis | 同类方案 |
|---|---|---|
| 功能范围 | 专注于稀疏自编码器的特征和提示可视化 | SAELens提供更全面的SAE工具套件 |
适合谁用
- 需要可视化稀疏自编码器特征的研究人员
- 分析Anthropic模型行为的数据科学家
下载与版本
当前最新版本为 v0.2.19，发布于 2024-06-12。支持 Linux。点击页面「下载软件」按钮即可下载打包好的版本，根据你的电脑/手机系统来选择对应的软件。
注意事项
- 本工具仅供学习和研究使用，请遵守相关法律法规。
- 请尊重内容创作者版权，勿将下载内容用于商业或非法传播。
- 项目源码地址：https://github.com/callummcdougall/sae_vis