$ cat ~/map/pi-arena.md
pi-arena
为 pi 编码 agent 办一场可复现的公平比赛:同一任务、隔离工作区、客观评分,外加浏览器回放控制台。
tools✓ 11月1日
事实速查
- GitHub Stars
- ★ 0
- Forks
- 0
- 许可证
- MIT
- npm / 月
- —
- 最后推送
- 2026年10月30日
安装
克隆仓库,跑 npm run demo 观看确定性的三选手本地比赛(不耗 API),再打开 arena-demo/index.html 查看回放控制台;按 SKILL_USAGE.md,pi install <本地克隆路径> 可把包装进 pi,会话内用 /skill:arena 加载 skills/arena/SKILL.md 里的比赛协议。## 速览
面向 pi 编码 agent 的比赛框架:各选手在隔离工作区里跑同一任务,由必备测试与可度量信号评分,可分享的浏览器报告回放每一步——为模型、供应商、提示词与 agent 策略之间的公平比较而建,自带无需 API key 的确定性本地演示。
## 要点
- $公平由代码保证,不托付给模型:skills/arena/SKILL.md 里的比赛契约锁定相同起点、隔离工作区、统一提示词与模型无关的工具策略。
- $不是披着基准测试外衣的 LLM 裁判:必备测试是客观的,模型评判可选,且裁判分永远压不过失败的必备测试。
- $演示的评分契约:70% 必备评测项、20% 基于记录动作的效率、10% 含避免改测试在内的范围纪律;真实项目在版本化的评测文件里自定义权重。
- $回放控制台把每次运行变成一场小赛道竞速,附操作时间线与评测项检查;报告将客观结果与可选评判分开呈现。
- $只有任务、起始修订、评测器与预算完全一致时,分数才可比;分数是所声明评测器的证据,不是整体软件质量的证明。
- $安全边界:联网、凭据与破坏性命令都需要显式的用户策略,凭据绝不进入工作区或报告,隔离建立不起来时运行器按 fail closed 处理。
- $首个发布面向本地 Node.js 固定装置与 Linux/macOS 开发环境;演示以三个确定性本地选手跑完,全程不花 API。
- $路线图:pi JSONL RPC 选手适配器、git worktree 隔离、面向 npm test、pytest 与类型检查的可插拔评测器、带签名报告清单的盲评,以及发布静态报告的 GitHub Action。
## 常见问题
Q 分数高就能证明某个模型最强吗?
不能。pi-arena 只报告在声明任务与预算下发生了什么,不声称任何模型全面领先。
Q 试用需要 API key 吗?
不需要。npm run demo 用三个确定性本地选手跑完整场比赛,不花 API。
Q 模型裁判能让失败的测试过关吗?
不能。模型评判是可选项,裁判分永远不能覆盖失败的必备测试。
Q 选手能以真实 pi 进程参赛吗?
还不能——JSONL RPC 选手适配器列在路线图首位;当前发布面向本地 Node.js 固定装置。
Q 什么时候两个分数才可比?
仅当任务、起始修订、评测器与预算完全一致时。
## 参考链接
## 相关条目
## 教程
最后更新: 2026年10月30日