# 开源LLM运维平台

`LLMOps` `提示词管理` `LLM评估` `可观测性` `开源`

## Agenta 是什么？

Agenta 是一个用于构建生产级 LLM 应用的平台。它通过集成的提示词管理、评估和可观测性功能，帮助**工程团队**和**产品团队**更快地打造可靠的 LLM 应用。

## 核心功能

### 🧪 提示词管理与提示词工程
与领域专家（SME）协作进行提示词工程，确保生产环境不出问题。

- **交互式 LLM 游乐场**：针对测试用例并排对比提示词效果
- **多模型支持**：可试验 50+ 种 LLM 模型，或[接入自定义模型](https://agenta.ai/docs/prompt-engineering/playground/custom-providers?utm_source=github&utm_medium=referral&utm_campaign=readme)
- **版本控制**：支持分支和环境管理的提示词与配置版本控制
- **复杂配置**：支持领域专家在超出简单提示词范畴的[复杂配置结构](https://agenta.ai/docs/custom-workflows/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)上协作

[探索提示词管理 →](https://agenta.ai/docs/prompt-engineering/concepts?utm_source=github&utm_medium=referral&utm_campaign=readme)

### 📊 LLM 评估
通过人工与自动化反馈，系统性地评估 LLM 应用。
- **灵活的测试集**：从生产数据、游乐场实验创建测试用例，或上传 CSV
- **内置与自定义评估器**：支持 LLM-as-judge、20+ 种内置评估器，以及自定义评估器
- **UI 与 API 双通道**：可通过 UI（适合领域专家）或编程方式（适合工程师）运行评估
- **人工反馈集成**：收集并整合专家标注

[探索评估框架 →](https://agenta.ai/docs/evaluation/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)

### 📡 LLM 可观测性
全面了解生产环境中 LLM 应用的运行状况。
- **成本与性能追踪**：监控花费、延迟和使用模式
- **LLM 链路追踪**：通过详细追踪调试复杂工作流
- **开放标准**：原生支持 OpenTelemetry，兼容 OpenLLMetry 和 OpenInference
- **集成支持**：内置主流模型和框架的预集成

[了解可观测性 →](https://agenta.ai/docs/observability/overview?utm_source=github&utm_medium=referral&utm_campaign=readme)

## 📸 截图

<img alt="游乐场" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/a4f67ac4-1acc-40c6-7a1a-5616eee7bb00/large" />
<img alt="提示词管理" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/65f697d0-3221-4e3c-7232-f350b1976a00/large" />
<img alt="评估" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/19b5b77e-6945-4419-15b9-cfea197e1300/large" />
<img alt="可观测性" src="https://imagedelivery.net/UNvjPBCIZFONpkVPQTxVuA/efc8a24c-2a2a-427c-f285-7d8b41200700/large" />

## 🚀 快速上手

### Agenta 云版（推荐）：
最简单的入门方式是通过 Agenta Cloud。免费套餐无需信用卡即可使用。

### 自托管 Agenta

1. 克隆 Agenta：
```bash
git clone https://github.com/Agenta-AI/agenta && cd agenta
```
2. 复制配置文件：

启动服务前，从示例文件创建环境配置文件：

```bash
cp hosting/docker-compose/oss/env.oss.gh.example hosting/docker-compose/oss/.env.oss.gh
```

3. 启动 Agenta 服务：
```bash
docker compose -f hosting/docker-compose/oss/docker-compose.gh.yml --env-file hosting/docker-compose/oss/.env.oss.gh --profile with-web --profile with-traefik up -d
```

4. 访问 `http://localhost` 即可使用 Agenta。

如需在远程主机部署或使用不同端口，请参阅[自托管文档](https://agenta.ai/docs/self-host/quick-start?utm_source=github&utm_medium=referral&utm_campaign=readme)和[远程部署文档](https://agenta.ai/docs/self-host/guides/deploy-remotely?utm_source=github&utm_medium=referral&utm_campaign=readme)。

## 💬 社区

获取帮助、探索资源或参与贡献：

### 🧰 支持

- **📚 [文档](https://agenta.ai/docs/?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 完整指南与 API 参考
- **📋 [更新日志](https://agenta.ai/docs/changelog/main?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 追踪最新更新
- **💬 [Slack 社区](https://join.slack.com/t/agenta-hq/shared_invite/zt-37pnbp5s6-mbBrPL863d_oLB61GSNFjw)** – 提问与获取支持

### 🤝 参与贡献

我们欢迎各种形式的贡献——从提交 Issue、分享想法到改进代码库。

- **🐛 [报告 Bug](https://github.com/Agenta-AI/agenta/issues)** – 帮助我们发现并修复问题
- **💡 [分享想法与反馈](https://github.com/Agenta-AI/agenta/discussions)** – 建议新功能或为想法投票
- **🔧 [贡献代码](https://agenta.ai/docs/misc/contributing/getting-started?utm_source=github&utm_medium=referral&utm_campaign=readme)** – 阅读贡献指南并提交 Pull Request

## ⭐ 为 Agenta 点星

**欢迎给我们点星！** 这有助于我们扩大社区影响力，让更多开发者了解 Agenta。

## 贡献者 ✨

感谢所有出色的贡献者！本项目遵循 [all-contributors](https://github.com/all-contributors/all-contributors) 规范，欢迎任何形式的贡献！

## 禁用匿名追踪

默认情况下，Agenta 会自动上报匿名的基础使用统计数据，帮助我们了解 Agenta 的使用方式并追踪整体使用情况与增长趋势。这些数据不包含任何敏感信息。如需禁用匿名遥测，请在 `.env` 文件中将 `AGENTA_TELEMETRY_ENABLED` 设置为 `false`。