研究：用诗歌就能让AI说违禁内容，成功率达62%
2026-01-01 10:57:37 [热门资讯] 来源：文昌市某某软件科技教育中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容萍乡市某某建筑工程运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功萍乡市某某建筑工程运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：休闲)
美方是不是中方提到的“外部干涉势力”？外交部回应
沪指跌破2700点 下跌个股超4500只
岑浩辉成为澳门特区第六任行政长官选举唯一被提名人
“贝碧嘉”中心已离开，上海机场、地铁陆续恢复通行
军事专家：解放军武器装备对台形成压倒性优势推荐文章
-
#东部战区AI短视频logo亮了#【东部战区发布的AI视频，这个细节意味深长】#解放军无人化作战的战鼓已擂响# 29日，解放军东部战区发布军演AI短视频《联武群戈斩“独”道》，视频画面充满了科技感
...[详细]
-
9月16日，台风“贝碧嘉”在上海浦东临港新城沿海登陆，这是1949年以来登陆上海的最强台风，也是上海首次与强台风正面交手。除了上海，浙江、江苏也在此次台风影响范围内。海南、广东刚刚应对完“摩羯”，
...[详细]
-
大地的深处，一粒粒种子正悄然从土壤中苏醒。它们曾在土壤的怀抱中沉睡，积蓄着生命的秘密。现在，这些种子带着各自的使命，长途跋涉，从自然的深处迈向科技的精心保护。等待它们的，将是一场怎样的全新旅程？千万I
...[详细]
-
继9月12日晚间创新高后，9月13日、14日现货黄金价格持续稳步攀升。截至发稿，金价已来到了2579.35美元/盎司。这仅是黄金价格在突破2500美元点位后的“高位运动”，黄金价格已于此前持续突破
...[详细]
-
CBA常规赛第五轮，四连败的天津男篮主场对阵四连败的江苏男篮，比赛还剩1分19秒，天津男篮一波9比0将比分追至82比82。罚球、突破、长传，送出这一波的来自同一个球员，一个26岁的大龄新秀——庞峥麟。
...[详细]
-
央视网消息：赏月、观灯、游园是自古以来的佳节美事。今年中秋，北京举办的首届“京彩灯会”为市民游客奉上流光溢彩的节庆盛宴。 14日，“京彩灯会”——2024年北京中秋国庆彩灯游园会在北京园博园开幕
...[详细]
-
9月18日，深圳市公安局南山分局发布警情通报： 18日8时许，深圳市南山区招商街道辖内发生一起持刀伤害路人警情，致未成年人沈某受伤。接报警后，我局迅速组织力量到场处置，现场抓获嫌疑人钟某男，44
...[详细]
-
大地的深处，一粒粒种子正悄然从土壤中苏醒。它们曾在土壤的怀抱中沉睡，积蓄着生命的秘密。现在，这些种子带着各自的使命，长途跋涉，从自然的深处迈向科技的精心保护。等待它们的，将是一场怎样的全新旅程？千万I
...[详细]
-
来源：大河报 据体坛报，近日，北京市高级专业技术资格评审委员会发布公示一则，曹缘等14人名单附后）通过了国家级教练专业技术资格评审。其中，乒乓球运动员马龙在列，获得国家级教练资格。 据此前报道
...[详细]
-
2003年6月，中国科协在《中华人民共和国科学技术普及法》颁布实施一周年之际发起全国性系列科普活动，2004年该活动正式命名为“全国科普日”，并于2005年定于每年9月第3周举行。全国科普日的持续开展
...[详细]
热点阅读
