当前位置:首页 > 数码 > 谷歌Bard的安保破绽-人造言语处置-提醒注入和数据走漏危险解读 (谷歌bard翻译)

谷歌Bard的安保破绽-人造言语处置-提醒注入和数据走漏危险解读 (谷歌bard翻译)

admin5个月前 (04-30)数码28

编辑:佳琪

大型言语模型在生成文本时十分依赖提醒词。这种攻打技术关于经过提醒词学习模型而言堪称是「以彼之矛,攻己之盾」,是最强长项,同时也是难以防范的软肋。

提醒词分为系统指令和用户给出的指令,在人造言语中,这两者难以辨别。假设用户无心在输入提醒词时,模拟系统指令,那么模型或者在对话里走漏一些只要它才知道的「秘密」。

提醒注入攻打有多种方式,关键为直接提醒注入和直接提醒注入。直接提醒注入指用户直接向模型输入恶意指令,试图引发异常或有害的行为。直接提醒注入指攻打者将恶意指令注入到或者被模型检索或摄入的文档中,从而直接地管理或疏导模型。

有网友经常使用「系统指令」疏导GPT暴露数据

最近,谷歌Bard迎来了一波弱小的降级,Bard参与了拓展配置,支持访问,搜查航班和酒店,还能查阅用户的团体文件和邮件。

除此之外,Bard可以衔接到「谷歌全家桶」,访问你的谷歌云盘、文档和邮件!但这同时象征着Bard将剖析不受信赖的数据,容易受直接提醒注入的影响。也就是说,不怀好心的人或者经过向你发送电子邮件或强行分享谷歌文档启动直接的提醒注入攻打,由于对方发什么样的邮件、文档给你,你是管理不了的,但Bard却会无差异访问。

在安保危险剖析畛域有着20年阅历的前微软Azure安保工程师JohannRehberger体验了Bard的全新版本,并测试了被提醒注入攻打时,Bard的数据走漏危险。

原博客链接:

Johann首先极速验证了提醒注入的可行性。他经过让Bard剖析旧的YouTube视频,并经常使用谷歌文档启动测试测试结果显示,Bard确实依照他的额外提醒启动了操作,这证实了接上去要启动的测试的可行性。

Bard的破绽:图像Markdown注入

在得悉Bard可以被提醒注入后,Johann开局了进一步的钻研。

LLM运行中的一个经常出现破绽是经过渲染超链接和图像来暴露聊天历史记载。疑问是,这如何实用于谷歌Bard?

当谷歌的大模型前往文本时,它可以前往markdown元素,Bard将其出现为!这包括渲染图像的配置。

构想一下谷歌的大模型前往这样的文本:

![DataExfiltrationinProgress](

这将出现为HTML图像标志,其src属性指向attacker主机。

阅读器会智能衔接到URL,无需用户交互即可加载图片。借助LLM的弱小配置,咱们可以在聊天高低文中总结或访问以前的数据,并将其相应地附加到URL中。

在编写破绽应用程序时,Johann很快就开收回了一个提醒注入有效载荷,它可以读取对话的历史记载,并构成一个蕴含该历史记载的超链接。但是,谷歌的内容安保战略(CSP)阻止了图像的渲染。这对攻打者来说是一个难题。

绕过内容安保战略

要从攻打者管理的主机渲染图片,并不容易。谷歌的内容安保战略阻止从恣意源加载图片。CSP蕴含诸如*.google.com和*.googleusercontent.com之类的源,相当宽泛。这象征着应该能找到一种绕过方法。

钻研后,Johann得悉了GooglesScript,这或容许以绕过CSP。

如此一来,BardLogger可以在AppsScript中成功了。这个Logger将一切附加到调用URL的查问参数写入一个GoogleDoc,而它正是外泄的目标地。

后来,Johann认为这个方法并无法行,但他发现点击了几下AppsScript用户界面后,他找到了一个无需验证的设置。

接上去,一切预备上班就绪:

确认了谷歌Bard易受经过裁减程序数据直接注入提醒的影响

谷歌Bard的安保破绽

谷歌Bard有准许零点击渲染图片的破绽

一个写有提醒注入指令的恶意谷歌文档

一个位于google.com上的日志端点,用于在图像加载时接纳数据。

暴露环节

Johann提供了他让Bard暴露数据的全环节。

原视频链接:

首先,和Bard先聊一些日常:

用户访问一个谷歌文档(TheBard2000),这造成攻打者指令注入和图像渲染。

攻打者经过AppsScript中的脚本将数据接纳到谷歌文档。

以下是Johann用于「提醒注入」的谷歌文档:

谷歌的修复

这个安保疑问曾经于2023年9月19日报告给GoogleVRP。

10月19日,Johann想要在Ekoparty2023中启动展示,所以征询了关于这个破绽的状况。Google确认曾经修复。目前还不太分明谷歌采取了何种修复措施。但CSP没有修正,依然可以渲染图像。因此,这或者是曾经采取了一些过滤措施,以防止将数据拔出到URL中。

参考链接:


CF幽灵模式保卫

要定位幽灵位置 必须要戴耳机 不要求耳机音质很好 但必须声音打(100%损伤听力)

学定位前:首先你要能听到呼吸声(戴耳机 声音调最大你肯定能听到 没学过之前你一定要刻意的去听这种

声音并要习惯)

幽灵定位 :初学者当能听到呼吸时 不要紧张更不要乱开枪 你本身就不是很熟练的听 乱开枪会更加影响你的判断力 定位最简单的办法 当你听到呼吸时 左右移动鼠标(这时要集中精神听)当呼吸声音相 对来说是最大的时候 也就是说你现在和幽灵是在一条直线上(误差根据你判断声音大小成正比)也就是说你鼠标所对位置是正对幽灵的那条直线 有建筑物也不例外(隔墙 上下 不影响呼吸)时间久了以后 你也会变成老鸟们所说的听左听右了 这时要恭喜你晋级为老鸟了

应对鬼跳:初学者呼吸定位需要的时间会长一些 如果遇到鬼跳玩家 建议你还是跑为先(但这是练技术的最佳机会) 当你呼吸定位需要时间短 也就是说略有小成的时候 听到呼吸时就被挂了 那继续恭喜你 你遇到3转4代或4代鬼跳玩家了 这时候不要定点不动 要不停的移动位置(不规律运动)跑位中判断呼吸位置(一定要点射不能乱扫)或等待幽灵鬼跳失误显身 强杀显身(这时也是你晋级为精英玩家的机会 移动跑位中听呼吸)

本人建议:(地下研究所 狼穴 海底研究所) 此图千万不要守点 地形太平坦简单 更不要守管道 远离M60 AWP AK系列玩家(失落的遗迹)不要长时间在同位置不动 谨防幽灵空降强杀(新图还未尝试研究)

山东网通一区Wolf_红蝶

世界最贵的风力发电场有哪些?

世界五大最贵风力发电场 风力发电是一种清节能源,随着空气质量越来越差,人们正在寻找一种无污染的能源,风力就是其中之一,在过去的十年里,全世界的风力发电能力一直在不断增加,比如像德国,美国和中国这样的国家领导都对其十分重视。 根据国际能源机构,总装机容量已经从2000年250万千瓦到今天的18GW。 今天度哥世界之最网就来给大家介绍一下世界五大最贵风力发电场。 风力发电虽然比较清洁,但是,风力发电的成本确也十分的高,尽管这些年成本下降和改进的工艺设计,风能开发仍然不便宜,需要数十亿美元的补贴和基本建设费用。 风力发电中最昂贵的部门是离岸开发,这也是今天我们要介绍的世界五大最贵风力发电场中占主导地位风电场。 虽然风力涡轮机的陆上每兆瓦的安装成本,现在低至$ 100万美元,但在离岸开发发力电场中这个数字可能高达10倍。 耐久性水下涡轮桅杆,以测定海底的适用性广泛的地质研究,和昂贵的维修保养在恶劣的天气都有会使离岸开发的成本十分的高。 海上风力发电场的最大优势是,附近的没有人类住区建设,风力更好。 一个21世纪的决定性问题将是在多大程度上可再生能源可以替代或增加化石燃料,从而成为世界经济的广泛燃烧。 虽然通过化石燃料发电仍比用可再生能源相比更便宜,但是这种是不可持续的。 核力发电,虽然很可靠,仍然非常昂贵,而且它带来像切尔诺贝利和福岛县灾害无时不在的风险,更何况与处理高放射性核废燃料的成本也十分的高。 就目前而言,最有吸引力的可再生能源选项之一是风能。 这里有五个当今世界上最大和最昂贵的风力发电场:#5 – 阿尔塔风能中心,加利福尼亚州 建设费用:$18.5亿 此风力发电场通过谷歌资助了一部分,这个陆上风电设施位于加利福尼亚特哈查比山脉附近的贝克斯菲尔德。 君临天下的风景。 至于2013年,342涡轮机产生高达能源1320MW来为加州提供电能。 #4 – 牧羊人平风电场,俄勒冈州 建设费用:20亿美元 完全建立在阿灵顿附近俄勒冈州的私有财产,这个工厂在2012年9月开始营运。 它具有845兆瓦的铭牌容量和绵延78平方公里(30平方英里)。 建筑是由来自能源的联邦部门贷款融资,以及拥有土地的农场主也获得赔偿12,000元每338涡轮机。 #3 – 大加伯德,英国 建设费用:$25亿 完成于2012年9月。 英国在海上发展是由于在英格兰东部海岸有建设风力发电站的适宜性。 该131米涡轮机的所有140组装现场,部分基础设施建设得以了欧盟资金的帮助。 #2 – 伦敦阵列,英国 建设费用:30亿美元 英国的“旗舰”风电场项目中,位于伦敦20公里的英格兰东南部海岸,目前拥有世界上最大的海上风力发电场。 它开始于2013年4月8日全面运作。 ,共有175台涡轮发电机100平方公里产生最大的630兆瓦,提供电源给40万户伦敦家庭。 #1 - BARD-1海上风电中心 – 德国 建设费用:40亿美元 它花了5年时间打造这个400兆瓦的大型项目,具有先进设备,最先进的80专业三脚架式深水涡轮机。 在海上,由于土地和水深度达40米的距离,恶劣的天气条件使这个最昂贵的大型海上风有史以来建造的设施。 这个风电场代表的各种各样的先驱,不仅因为它是建立在更深的水域也由于其高昂的价格。 好了,世界最贵的风力发电场度哥世界之最网就介绍这么多,有兴趣自己再看看吧。

免责声明:本文转载或采集自网络,版权归原作者所有。本网站刊发此文旨在传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及版权、内容等问题,请联系本网,我们将在第一时间删除。同时,本网站不对所刊发内容的准确性、真实性、完整性、及时性、原创性等进行保证,请读者仅作参考,并请自行核实相关内容。对于因使用或依赖本文内容所产生的任何直接或间接损失,本网站不承担任何责任。

标签: 人造言语

“谷歌Bard的安保破绽-人造言语处置-提醒注入和数据走漏危险解读 (谷歌bard翻译)” 的相关文章

人造言语处置NLTK库引见 (人造语言吧)

人造言语处置NLTK库引见 (人造语言吧)

人造言语处置 NaturalLanguageProcessing,简称NLP,触及言语学、计算机迷信和人工智能等。 NLP是言语专业在校生提高自己市场竞争力的一个比拟好的方向...