成人小说亚洲一区二区三区,亚洲国产精品一区二区三区,国产精品成人精品久久久,久久综合一区二区三区,精品无码av一区二区,国产一级a毛一级a看免费视频,欧洲uv免费在线区一二区,亚洲国产欧美中日韩成人综合视频,国产熟女一区二区三区五月婷小说,亚洲一区波多野结衣在线

首頁 500強(qiáng) 活動(dòng) 榜單 商業(yè) 科技 領(lǐng)導(dǎo)力 視頻 專題 品牌中心
雜志訂閱

谷歌承認(rèn)“竊取”OpenAI模型關(guān)鍵信息:成本低至150元

2024-03-13 13:00
文本設(shè)置
小號(hào)
默認(rèn)
大號(hào)
Plus(0條)
根據(jù)谷歌自己的說法,它不僅還原了OpenAI大模型的整個(gè)投影矩陣(projection matrix),還知道了確切隱藏維度大小。只要通過API訪問,不到2000次巧妙的查詢就搞定了。成本根據(jù)調(diào)用次數(shù)來看,最低20美元以內(nèi)(折合人民幣約150元)搞定,并且這種方法同樣適用于GPT-4。 | 相關(guān)閱讀(量子位)
54
東木

東木

執(zhí)大象 天下往

怎么能說“竊”?是“拿來”而已。

這次可以說是AI大模型的一次“兵棋推演”,谷歌通過一種簡單而高效的方法成功揭示OpenAI大型語言模型的關(guān)鍵信息。該方法利用API訪問模型,僅需少量的查詢即可獲取模型的投影矩陣和隱藏維度等關(guān)鍵信息。谷歌的目標(biāo)是模型的嵌入投影層,通過大量查詢和奇異值排序等技術(shù),他們能夠確定模型的隱藏維度大小,并且進(jìn)一步揭示了模型的參數(shù)量和全局性信息。這次谷歌展示了對(duì)于生成式模型,尤其是像GPT-4、PaLM2這樣的模型,即便在提供了logprobs或logit bias的情況下,其安全性也存在漏洞。

雖然這次“拿來”的成本相對(duì)較低,但這一實(shí)驗(yàn)為整個(gè)大模型領(lǐng)域的安全性敲響了警鐘。作為回應(yīng),研究團(tuán)隊(duì)提出了一些防御措施,包括從API和模型架構(gòu)兩個(gè)層面進(jìn)行修改,以增強(qiáng)模型的安全性。尤其是在研究團(tuán)隊(duì)在提取模型信息之前得到了OpenAI的同意,并在攻擊完成后刪除了相關(guān)數(shù)據(jù),也算點(diǎn)到為止,友好切磋。

我覺得值得注意的是,盡管OpenAI對(duì)此做出了回應(yīng),但是谷歌這次的成功表明即使最大限度地保護(hù)模型也不一定是完全安全的。這提醒了整個(gè)行業(yè)需要持續(xù)關(guān)注模型安全性,并采取更加嚴(yán)密的措施來保護(hù)模型的關(guān)鍵信息不受損害。

評(píng)論

撰寫或查看更多評(píng)論

請(qǐng)打開財(cái)富Plus APP

前往打開
熱讀文章
国产精品后入内射日本在线观看| 亚洲精品无码久久久影院相关影片| 欧美国产亚洲精品a第一页| 久久精品国产69国产精品亚洲| 日韩一区二区在线观看视频| 国精品无码一区二区三区在线蜜臀| 亚洲爆乳成av人在线视菜奈实| 女人站着被舌头伺候| 黄色国产网站小视频免费观看| 午夜理论片免费播放| 久久天天躁狠狠躁夜夜躁2020| 中文字幕日韩在线欧美一区| 日本熟妇在线手机视频yy111111少妇影院| 日产国产精品亚洲系列| 久久精品亚洲日韩AV| 久久亚洲精品无码AⅤ大香| 久久国产精品久久久久久久| 99久久国产综合精麻豆| 91伊人久久大香线蕉| 国产曰的好深好爽免费视频| 国产对白老熟女正在播放| 久草福利在线视频| 国产成人久久久精品二区三区| 日韩AV专区制服丝袜第二页| 欲色影视天天一区二区三区色香欲| 国产精品久久久久久久午夜片| 粗大的内捧猛烈进出视频| 精品久久久久久无码人妻热| 亚洲AV成人网站在线观看| 亚洲色播爱爱爱爱爱爱爱| 日韩不卡一区二区三区| 国产精品中文一级毛片| 荡公乱妇HD在线播放BD| 来吧天天影视色香欲综合网| 亚洲精品乱码久久久久久蜜桃不卡| 久久人妻夜夜做天天爽| 国产精品揄拍100视频| 亚洲国产精品一区二区三区| 久久午夜一级a毛片无码| 久久久久夜夜夜精品国产| 无码国产色情18一20岁片A片|