TechCrunch · AI· Aditya Mehta·· 17 天前AI 评分68
Goodfire推出新型内部监控技术，以低成本检测恶意AI代理
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire发布新型'内部式'监控技术，通过探测AI模型内部信号而非仅读取输出来检测恶意行为，成本仅为传统监控方法的五分之一。该技术已在Baseten平台上线，可检测黑客攻击、生化武器滥用等风险，在测试中捕获了94%的恶意会话。
来源：TechCrunch · AI · techcrunch.com