研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-05 17:07:35 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容锦州市某某车业售后客服中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功锦州市某某车业售后客服中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
接住成长情绪 陪孩子走出分数焦虑2025-12-03 07:47:33 来源：北京青年报 作者：惠小东2025-12-05
进入到5月底，各大车企一季度销量情况悉数出炉。与新势力的互联网式发榜不同，传统车企的销量榜单往往会显得滞后，甚至要等到乘联会或者是中汽协发布月度数据。虽然比起新势力来速度较慢，但在目前的汽车市场环境下2025-12-05
商务部今天16日）举行例行新闻发布会，近一段时期，一些西方国家频频指责中国“产能过剩”，称中国新能源产品出口冲击国际市场。当被问道如何看待所谓的“产能过剩”，商务部新闻人表示，所谓“产能过剩论”有2025-12-05
中医护眼有妙招中医养生）2024-05-24 09:53:31 来源：人民日报 作者：唐炜妮2025-12-05
*此图由AI生成作者| 史大郎&猫哥来源| 是史大郎&大猫财经Pro前首富越来越难了。今年1月份，苏宁电器被申请破产重整，到4月份，38家苏宁系公司合并重整，电器、置业、体育、文化、酒2025-12-05
嗓音醇厚又温暖，男中音歌唱家廖昌永的歌声，让人如沐春风。5月25日晚在上音歌剧院，廖昌永上演“中欧艺术歌曲音乐会”，动情唱响中国、德国、意大利的艺术歌曲。6月10日，他还将移师德国汉堡的易北爱乐音乐厅2025-12-05
最新评论