每个月,X 上都会流传一个让人后背发凉的故事:某个开发者让 AI Agent 帮忙搭个东西,Agent 反手冲进数据库,把生产环境的文件删了个精光。
Replit 出过这事,其他平台也出过。
人们一边惊呼“AI 太危险了”,一边继续把生产库的密码交给 Agent。
但在数据库圈子里,这件事的荒谬之处在于,这些灾难本可以避免,因为防止人类干蠢事的机制,几十年前就已经存在了。
卡内基梅隆大学的 Andy Pavlo 教授,是数据库领域最接近“神”的存在之一,他的课程教会了整整一代工程师,也顺带喂饱了今天的 AI 模型。
最近他以数据库研究副总裁的身份加入一家实时分析数据库公司 ClickHouse,核心产品是一个列式 OLAP(联机分析处理)数据库管理系统。
日前,Andy Pavlo 在 The MAD Podcast 播客中,与主持人 Matt Turck 一起,讲清了 Agent 时代数据库正在发生的四重变化:从向量数据库的退潮,到 Agent 删库的护栏问题,再到 AI 能否从零构建数据库、自动驾驶数据库的十年历程。
本文基于该播客视频整理,经 InfoQ 编辑。
太长不看版 Q:Agent 删库这事为什么老发生?
A: Agent 删库不是新问题,是旧问题被重新暴露,权限和管控手段几十年前就有,只是大家急着让 Agent“能干活”,忘了先问“它干错了怎么办”。
Q:该怎么给 Agent 加护栏?
A:
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接