金磊 发自 凹非寺量子位 | 公众号 QbitAI当ChatGPT被黑客“入侵”时，OpenAI会如何应对？掐断API，不让他们用？不不不。这帮极客们采取的做法可谓是剑走偏锋——反手一记《无间道》。故事是这样的。OpenAI虽然在发布ChatGPT之前做了大量的安全性检测，但当开放API之后，还是防不住一些居心叵测的黑客们拿它搞事情。然后有一天，团队中的一个工程师突然发现ChatGPT端点上的流量有些不太正常；在经过一番调查之后，确定了大概率是有人在反向工程API（盗版API）。不过OpenAI并没有选择立即阻止这些黑客，因为如果团队这样做了，黑客们就会马上发现异样，然后改变策略继续攻击。这时，团队里一个“大聪明”就支了个妙招：我们搞成“catGPT”，每个token都是“meow”……“陷阱”布置成功后，黑客大兄弟再向ChatGPT提问时，画风就是这样婶儿的了：没错，不管问啥，回答都是“喵言喵语”：喵，我不知道。我是只猫，不是只鸟！这位黑客大兄弟起初还不知道自己早已落入“陷阱”，还发帖描述了自己神奇的经历