人工智能聊天机器人可能成为安全灾难的三种方式
Greshake 在他创建的网站中隐藏了一个提示。 Bing 聊天机器人已集成到 Microsoft Edge 中，他用它来访问该网站。 提示注入导致聊天机器人生成文本，使其看起来好像微软员工正在销售打折的微软产品。 该推介用于尝试从用户那里获取信用卡详细信息。 让 Bing 上弹出骗局的唯一要求是用户访问带有隐藏提示的网站。
过去，黑客不得不诱使计算机用户运行有害代码来获取信息。 Greshake 说，大型语言模型消除了对此的需求。
来源和详细信息：
https://www.technologyreview.com/2023/04/03/1070893/three-ways-ai-chatbots-are-a-security-disaster/