研究：用诗歌就能让AI说违禁内容，成功率达62%
2026-01-01 09:50:27 [热点] 来源：文昌市某某软件科技教育中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容萍乡市某某建筑工程运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功萍乡市某某建筑工程运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：热门资讯)
豪华大平层得房率91.8% 吉利银河V900开启预订
正能量微短剧《寻AI高考》
山东辟谣因吃牛羊肉一两百人被隔离
巴菲特再捐53亿美元股票，称子女将管理99%遗产
泰国执政党自豪泰党提名2名总理候选人推荐文章
-
睡前一个小动作，居然可能让你远离老年痴呆？2025-12-26 11:31:02 来源：科普中国微信公众号
...[详细]
-
中新健康|专家：三阴性乳腺癌一线治疗迎新标准2024-06-26 19:04:44 来源：中国新闻网 作者：
...[详细]
-
十四届全国人大常委会第十次会议6月28日表决通过《中华人民共和国农村集体经济组织法》，自2025年5月1日起施行。 本法所称农村集体经济组织，是指以土地集体所有为基础，依法代表成员集体行使所有权
...[详细]
-
当地时间6月29日，印度拉杰科特机场航站楼顶棚因暴雨损毁，暂未收到人员伤亡的报告。 这是继28日新德里一机场航站楼部分屋顶坍塌，造成1人死亡、多人受伤之后，印度又一起因暴雨引发的机场航站楼设施损
...[详细]
-
据日本气象厅12月30日消息，当地时间当天17时12分左右，日本鹿儿岛县奄美大岛附近海域发生5.6级地震，最大震感为震度4，震源深度为极浅。本次地震没有引发海啸的风险。 总台记者 何欣蕾 报道员
...[详细]
-
十四届全国人大常委会第十次会议6月28日表决通过《中华人民共和国农村集体经济组织法》，自2025年5月1日起施行。 本法所称农村集体经济组织，是指以土地集体所有为基础，依法代表成员集体行使所有权
...[详细]
-
据日本朝日新闻网报道，26日，救援人员在日本富士山顶火山口附近发现3名意识不明人员，随后确认3人均已死亡。 此外，当天还在山梨县一侧的八合目登山道发现了1名死者，累计死亡人数增至4人，均是在富士
...[详细]
-
来源：央视频 △AI科技守护历史，重现永乐宫壁画近八百年前真貌 在《2024中国·AI盛典》的舞台上，永乐宫壁画保护研究院院长席九龙、AMD超威半导体公司）大中华区总裁潘晓明以及生数科技首席执
...[详细]
-
来源：中国新闻周刊 作为叶菜里最常见、最受欢迎的蔬菜之一，生菜是许多消费者多次回购的产品，但最近有不少网友调侃，自己马上要吃不起生菜了。各大商超平台的罗马生菜已经卖到八九元一斤，球生菜、有机生菜
...[详细]
-
6月28日，全球首座风渔融合浮式平台——国家能源集团龙源电力“国能共享号”投产，在浮式海上风电领域开创了“水下养鱼、水上发电”的海洋经济开发应用新场景，为深远海绿色能源立体化开发、海洋资源集约利用
...[详细]
热点阅读
