Mutant-AI

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
Mutant-AI
访问
2
23609

扩展评估覆盖范围,并使用红队代理来攻破AI系统


Mutant-AI 是一个开源 Python 库,专注于大语言模型的自动化红队测试、合成数据增强与行为评估。它能够针对 LLM、RAG 和 AI Agent 系统扩展评测覆盖范围,借助"红队代理"模拟对抗场景,主动发现模型的安全漏洞与异常行为。