研究：用诗歌就能让AI说违禁内容，成功率达62%
我要评论IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容成都市某某国际贸易服务中心便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功成都市某某国际贸易服务中心实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
11月28日，一段模特衣着暴露、站在广州车展小鹏汽车展台旁的视频引发热议。28日晚，小鹏汽车法务部发文称，车展未邀请任何模特及演艺人员，也一贯坚决抵制、反对以不良内容展开宣传的行径。小鹏汽车晒出报警回2026-01-07
由特斯拉技术班底“组团”加盟，Sunday Robotics携家用机器人正式亮相
来源：环球网【环球网科技综合报道】12月1日消息，据businessinsider报道，新兴机器人初创公司Sunday Robotics于11月19日正式结束隐秘运营状态，并发布了其首款家用机器人产品2026-01-07
李小恒总结2025赛季：从艰难中吸取教训，并以更强的姿态回归
日前，效力于山东泰山的港脚李小恒在社交媒体里晒出视频并发文总结自己的2025赛季：“真是跌宕起伏的一个赛季，从艰难中吸取教训，并以更强的姿态回归。好好休息一下，渴望在2026年迎接更多挑战。”李小恒写2026-01-07
张帅复仇夺冠达成两项个人成就，36岁中国老将陷不讲武德引争议
当张帅在日本横滨顺利夺冠后，球迷和网友们再次对这位36岁的中国金花竖起了大拇指！虽说以张帅的排名和实力底蕴，亮相横滨这种50级别的赛事，被认为夺冠概率极大，可是看到她决赛的对手是韩国姑娘具妍玗后，大家2026-01-07
来源：环球网【环球网报道】据路透社11月29日援引两名美国官员消息称，美国国务卿鲁比奥计划缺席下周在比利时首都布鲁塞尔举行的北约外长会议。报道称，作为美国最高外交官，缺席这一关键跨大西洋会议的情况“实2026-01-07
甩锅内地，吃相难看！香港火灾后，甄子丹老婆一个举动，全网翻车
«——【·前言·】——»香港遇着难处，两岸三地同胞都揪心，国家也特别重视赶紧伸援手，各界捐款捐物一起渡难关，这就是中国人刻在骨子里的团结！可谁能想到，一直说自己爱国、根正苗红的甄子丹，老婆汪诗诗居然在2026-01-07
最新评论