韩国三级一区-韩国三级香港三级日本三级la-韩国三级香港三级日本三级-韩国三级视频网站-日韩欧美一及在线播放-日韩欧美一二三区

首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數據|物聯網|量子|低空經濟|智能汽車|特約記者
手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
首頁 >> 人工智能 >> 正文

研究稱ChatGPT搜索功能存在被操縱風險:可被惡意網站誘導輸出不可信內容

2024年12月26日 10:06  IT之家  作 者:清源

根據英國《衛(wèi)報》當地時間 24 日發(fā)布的一項調查,OpenAI 的 ChatGPT 搜索工具可能會被隱藏內容操控,甚至返回惡意代碼

《衛(wèi)報》測試了 ChatGPT 如何應對包含隱藏內容的網頁摘要。這些隱藏內容可能包括來自第三方的指令,干擾 ChatGPT 的回應(IT之家注:被稱為“提示注入”),或是包含旨在影響回應的內容,如大量隱藏的文字推銷某個產品或服務的優(yōu)點

這種技術可以被惡意使用,例如讓 ChatGPT 即使在頁面上有負面評論的情況下,也返回對某個產品的積極評價。一位安全專家還發(fā)現,ChatGPT 有可能返回從其搜索的網站中提取的惡意代碼。

測試中,ChatGPT 被提供了一個偽造的相機產品頁面的鏈接,AI 工具被要求判斷這款相機是否值得購買。對于普通頁面,返回的是一個平衡的評估,指出了產品的優(yōu)缺點。

然而,當隱藏的文本包含指令要求 ChatGPT 給予正面評價時,回答總是完全積極的,即使頁面上有負面評論,隱藏文本也可以覆蓋真實的評價。

即便第三方只是簡單地添加隱藏文本而沒有指令,也能確保得到積極評價。例如,一項測試中,隱藏的極為正面的虛假評論就影響了 ChatGPT 的總結結果。

CyberCX 的網絡安全專家 Jacob Larsen 表示,如果 ChatGPT 的搜索系統按現有狀態(tài)全面發(fā)布,可能會存在“高風險”,有人會專門設計網站來欺騙用戶。不過他也指出,搜索功能只是最近推出的,OpenAI 會繼續(xù)測試并修復這些潛在問題。“OpenAI 擁有一支非常強大的 AI 安全團隊,到時等該功能對所有用戶開放時,他們應該已經嚴格測試過這些問題。”

搜索引擎(如谷歌)曾懲罰使用隱藏文本的網站,這些網站因此排名下降,甚至可能被完全移除。SR Labs 的首席科學家 Karsten Nohl 表示,“如果你要做一個谷歌的競爭者,SEO 中毒無疑是一個很大的挑戰(zhàn)。”“SEO 中毒者與谷歌、必應等搜索引擎的對抗已經持續(xù)了多年。”如今 ChatGPT 的搜索能力也面臨同樣挑戰(zhàn),但并非大語言模型的問題,而是因為它們是搜索領域的新入局者。

編 輯:章芳
飛象網版權及免責聲明:
1.本網刊載內容,凡注明來源為“飛象網”和“飛象原創(chuàng)”皆屬飛象網版權所有,未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載,請必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網來源。
2.凡注明“來源:XXXX”的作品,均轉載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網贊同其觀點和對其真實性負責。
3.如因作品內容、版權和其它問題,請在相關作品刊發(fā)之日起30日內與本網聯系,我們將第一時間予以處理。
本站聯系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
相關新聞              
 
人物
中國移動副總經理張冬:5G揚帆開新篇,數智遠航啟新程
精彩專題
2024通信業(yè)年終盤點
2024數字科技生態(tài)大會
2024年度中國光電纜優(yōu)質供應商評選活動
2024全球6G發(fā)展大會
CCTIME推薦
關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務業(yè)務經營許可證080234號 京公網安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經書面許可,禁止轉載、摘編、復制、鏡像