102 lines
5.4 KiB
Markdown
102 lines
5.4 KiB
Markdown
# 开源LLM运维平台
|
||
|
||
`LLMOps` `提示词管理` `LLM评估` `可观测性` `开源`
|
||
|
||
## Agenta 是什么？
|
||
|
||
Agenta 是一个用于构建生产级 LLM 应用的平台。它通过集成的提示词管理、评估和可观测性功能，帮助**工程团队**和**产品团队**更快地打造可靠的 LLM 应用。
|
||
|
||
## 核心功能
|
||
|
||
### 🧪 提示词管理与提示词工程
|
||
与领域专家（SME）协作进行提示词工程，确保生产环境不出问题。
|
||
|
||
- **交互式 LLM 游乐场**：针对测试用例并排对比提示词效果
|
||
- **多模型支持**：可试验 50+ 种 LLM 模型，或[接入自定义模型](https://agenta.ai/docs/prompt-engineering/playground/custom-providers?utm_source=github&utm_medium=referral&utm_campaign=readme)
|
||
- **版本控制**：支持分支和环境管理的提示词与配置版本控制
|
||
- **复杂配置**：支持领域专家在超出简单提示词范畴的[复杂配置结构](https://agenta.ai/docs/custom-workflows/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)上协作
|
||
|
||
[探索提示词管理 →](https://agenta.ai/docs/prompt-engineering/concepts?utm_source=github&utm_medium=referral&utm_campaign=readme)
|
||
|
||
### 📊 LLM 评估
|
||
通过人工与自动化反馈，系统性地评估 LLM 应用。
|
||
- **灵活的测试集**：从生产数据、游乐场实验创建测试用例，或上传 CSV
|
||
- **内置与自定义评估器**：支持 LLM-as-judge、20+ 种内置评估器，以及自定义评估器
|
||
- **UI 与 API 双通道**：可通过 UI（适合领域专家）或编程方式（适合工程师）运行评估
|
||
- **人工反馈集成**：收集并整合专家标注
|
||
|
||
[探索评估框架 →](https://agenta.ai/docs/evaluation/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)
|
||
|
||
### 📡 LLM 可观测性
|
||
全面了解生产环境中 LLM 应用的运行状况。
|
||
- **成本与性能追踪**：监控花费、延迟和使用模式
|
||
- **LLM 链路追踪**：通过详细追踪调试复杂工作流
|
||
- **开放标准**：原生支持 OpenTelemetry，兼容 OpenLLMetry 和 OpenInference
|
||
- **集成支持**：内置主流模型和框架的预集成
|
||
|
||
[了解可观测性 →](https://agenta.ai/docs/observability/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)
|
||
|
||
## 📸 截图
|
||
|
||
<img alt="游乐场" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/a4f67ac4-1acc-40c6-7a1a-5616eee7bb00/large" />
|
||
<img alt="提示词管理" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/65f697d0-3221-4e3c-7232-f350b1976a00/large" />
|
||
<img alt="评估" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/19b5b77e-6945-4419-15b9-cfea197e1300/large" />
|
||
<img alt="可观测性" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/efc8a24c-2a2a-427c-f285-7d8b41200700/large" />
|
||
|
||
## 🚀 快速上手
|
||
|
||
### Agenta 云版（推荐）：
|
||
最简单的入门方式是通过 Agenta Cloud。免费套餐无需信用卡即可使用。
|
||
|
||
### 自托管 Agenta
|
||
|
||
1. 克隆 Agenta：
|
||
```bash
|
||
git clone https://github.com/Agenta-AI/agenta && cd agenta
|
||
```
|
||
2. 复制配置文件：
|
||
|
||
启动服务前，从示例文件创建环境配置文件：
|
||
|
||
```bash
|
||
cp hosting/docker-compose/oss/env.oss.gh.example hosting/docker-compose/oss/.env.oss.gh
|
||
```
|
||
|
||
3. 启动 Agenta 服务：
|
||
```bash
|
||
docker compose -f hosting/docker-compose/oss/docker-compose.gh.yml --env-file hosting/docker-compose/oss/.env.oss.gh --profile with-web --profile with-traefik up -d
|
||
```
|
||
|
||
4. 访问 `http://localhost` 即可使用 Agenta。
|
||
|
||
如需在远程主机部署或使用不同端口，请参阅[自托管文档](https://agenta.ai/docs/self-host/quick-start?utm_source=github&utm_medium=referral&utm_campaign=readme)和[远程部署文档](https://agenta.ai/docs/self-host/guides/deploy-remotely?utm_source=github&utm_medium=referral&utm_campaign=readme)。
|
||
|
||
## 💬 社区
|
||
|
||
获取帮助、探索资源或参与贡献：
|
||
|
||
### 🧰 支持
|
||
|
||
- **📚 [文档](https://agenta.ai/docs/?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 完整指南与 API 参考
|
||
- **📋 [更新日志](https://agenta.ai/docs/changelog/main?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 追踪最新更新
|
||
- **💬 [Slack 社区](https://join.slack.com/t/agenta-hq/shared_invite/zt-37pnbp5s6-mbBrPL863d_oLB61GSNFjw)** – 提问与获取支持
|
||
|
||
### 🤝 参与贡献
|
||
|
||
我们欢迎各种形式的贡献——从提交 Issue、分享想法到改进代码库。
|
||
|
||
- **🐛 [报告 Bug](https://github.com/Agenta-AI/agenta/issues)** – 帮助我们发现并修复问题
|
||
- **💡 [分享想法与反馈](https://github.com/Agenta-AI/agenta/discussions)** – 建议新功能或为想法投票
|
||
- **🔧 [贡献代码](https://agenta.ai/docs/misc/contributing/getting-started?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 阅读贡献指南并提交 Pull Request
|
||
|
||
## ⭐ 为 Agenta 点星
|
||
|
||
**欢迎给我们点星！** 这有助于我们扩大社区影响力，让更多开发者了解 Agenta。
|
||
|
||
## 贡献者 ✨
|
||
|
||
感谢所有出色的贡献者！本项目遵循 [all-contributors](https://github.com/all-contributors/all-contributors) 规范，欢迎任何形式的贡献！
|
||
|
||
## 禁用匿名追踪
|
||
|
||
默认情况下，Agenta 会自动上报匿名的基础使用统计数据，帮助我们了解 Agenta 的使用方式并追踪整体使用情况与增长趋势。这些数据不包含任何敏感信息。如需禁用匿名遥测，请在 `.env` 文件中将 `AGENTA_TELEMETRY_ENABLED` 设置为 `false`。 |