AWS Machine Learning Blog· Deniz Yilmaz·· 2 小时前AI 评分36
Orca Security 用 Amazon Bedrock 打造自然语言安全查询，成本降 90%、延迟降 75%
Natural language security queries at Orca Security using Amazon Bedrock
AI 导读
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI，可将自然语言问题转换为 Sonar 查询。相比最初将完整 schema 塞进单个提示词的方案，其查询成本降低 90%、输入 token 减少 93%、延迟降低 75%，目前每天处理数千次查询，响应时间 15 秒。
价值洞察
✦ 价值点
自然语言查询大模型从概念验证走向生产级，靠的是分阶段模型分配与检索重排，而非单一强模型
⚡ 转化点
做企业级NL2Query的团队应照搬'小模型选模型+大模型生成+重排示例'的分层架构，先建评测集再调参
来源：AWS Machine Learning Blog · aws.amazon.com