研究：用诗歌就能让AI说违禁内容，成功率达62%
2026-01-01 09:27:23 [时尚] 来源：文昌市某某软件科技教育中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容萍乡市某某建筑工程运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功萍乡市某某建筑工程运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：休闲)
最常见的蔬菜，涨的比肉都贵了？
美国新泽西州两架直升机相撞 致2名飞行员死亡
“爱你老己”全网刷屏！2026年，请对照这8个方法来爱自己
社区团购血战终局：多多买菜“闷声”收割3000亿战场 五巨头集体“撤退”推荐文章
-
当地时间12月27日，乌克兰基辅响起爆炸声。 此前，乌克兰基辅拉响防空警报。 乌克兰空军当日凌晨在社交媒体发文说，俄罗斯军队米格-31战机已升空，乌全境面临导弹袭击威胁。 基辅市军事管理局局
...[详细]
-
每经记者|熊嘉楠每经编辑|肖芮冬 12月28日，在“坚持以消费者为中心，全面推进茅台酒营销市场化转型”贵州茅台酒全国经销商联谊会上，茅台集团党委书记、董事长陈华谈到了社会普遍关心的茅台价格问题。
...[详细]
-
加拿大爱德华王子岛省首府夏洛特敦一栋公寓楼12月28日清晨发生火灾，造成两人死亡，三人受伤送医。 消防部门当地时间7时左右接到火警。事发公寓楼为一栋两层建筑，约有20个单元。消防员抵达现场后在一
...[详细]
-
每经记者|熊嘉楠每经编辑|肖芮冬 12月28日，在“坚持以消费者为中心，全面推进茅台酒营销市场化转型”贵州茅台酒全国经销商联谊会上，茅台集团党委书记、董事长陈华谈到了社会普遍关心的茅台价格问题。
...[详细]
-
文/解红娟 编辑/张广凯） 作为首家完成境内债与境外债重组流程的头部房企，融创的债务风险已在法律和金融层面实现阶段性出清。 12月23日晚间，融创中国公告宣布，全面境外债务重组的所有先决条件均
...[详细]
-
目前部分省份已经发布了2026年硕士研究生初试成绩查询时间，我们赶紧来看一看！已公布的省份江西江西省教育厅前日公布，2026考研初试成绩在2月24日后公布！广西我区2026年研考评卷工作将于2026年
...[详细]
-
作者：主创团·丹丹妈妈朋友前几天跟我吐槽，她家上初二的儿子，在期中考试的一道数学大题上，理解错了题目，丢了整整15分。成绩出来的那晚，孩子到家一句话也不说，直接甩上房门。她在门外，听着里面的抽泣声，心
...[详细]
-
据日本气象厅12月30日消息，当地时间当天17时12分左右，日本鹿儿岛县奄美大岛附近海域发生5.6级地震，最大震感为震度4，震源深度为极浅。本次地震没有引发海啸的风险。 总台记者 何欣蕾 报道员
...[详细]
-
据央视新闻微博消息，国防大学教授孟祥青介绍：“此次‘正义使命-2025’演习，我们成体系、成建制地出动了歼-20、大型两栖攻击舰战略平台、无人机预警机等。这些都发出了明确的信号，也从侧面展示了我军
...[详细]
-
△黎巴嫩真主党领导人纳伊姆·卡西姆资料图） 当地时间12月28日，黎巴嫩真主党领导人纳伊姆·卡西姆发表电视讲话称，解除黎巴嫩真主党武装的举措是“以色列和美国的计划”，以色列和美国正在利用解除真主党武
...[详细]
热点阅读
