來看下OpenAI怎麼「扭轉在客戶遇到資安攻擊卻無法正常使用下,還能收割GLM5.2 成果的公關發文」與「這件事帶來備援模型需求」
雖然OpenAI寫的都是事實,但帶了太強烈的誤導,難怪貼文下面嘲諷不斷,但這也凸顯了我們需要找備案的兩個現實:
1. 正版受害者:遇到被攻擊的資安問題時「安全護欄」反而讓你不能用且浪費寶貴時間
2. 有規模才有服務:不夠巨型的企業或網站,只能自求多福,因為你根本不會再所謂的[trusted access program]可信名單中
簡述一下這件事情的時間線:
1.首先事主HuggingFace被網路攻擊,當下試著用「最強大的模型」來分析Log想阻斷攻擊,但被安全護欄擋著,因為他分不清你是要攻擊還是要保護自己(這其實不是OpenAI專屬問題,Claude其實也一樣,我也常莫名被切模型)
2.HuggingFace在沒法之下,用了也是很強的開源模型GLM 5.2,自架環境來跑,最後問題被正確解決,並正式公告說明遇到的狀況
3.OpenAI 今天發文說正協助 HuggingFace 一起解決資安攻擊的問題,有把它們加入了[trusted access program]中
雖然,你說後續協助也是協助,但被攻擊當下分秒必爭時,能幫你解決的才是功勞最大者,OpenAI當下沒幫到忙,後續才跑出來說,我們很強的幫客戶處理了問題,急著來收割成果難怪被笑
不過今天如果HuggingFace用的是Claude,我相信只要你沒有被加入所謂的[trusted access program],那結果大概是一樣只能乾瞪眼,不給你結果還好,最怕是故意給你不正確或不完全的結果,反而更可怕
我自己使用上本來就比較少針對資安去問問題,因此自己是沒被ChatGPT擋過,但因為我都會讓Claude也Review一樣的事情,倒是被Fable5莫名被說議題有風險被降Opus 4.8
我看Reddit貼文,原來還有那種Fable5->Opus4.8->Sonet5 這種一個對話連降兩次的…說真的這種出來的結果我是都不會相信的
最後回到主題,OpenAI這樣寫當然沒問題,也不是所有人都會知道實情,加上媒體的大量宣傳後,就會變成OpenAI救世界棒棒,這很正常
而對我們來說最有價值的是,「要找個備用開源模型的警鐘!」
相信大多數人與公司,哪怕你是台灣上市企業,基本上在[trusted access program]的機率也微乎其微,因為「模型太強了!怕你攻擊別人喔,咪啾」
所以建議大家哪怕你用的模型再強還是要找下備案,誰也沒法保證,你會不會在緊急問題下變成「正版受害者」,安全護欄的範圍我相信只會越來越詭異,大家就別鐵齒了,多少關注下開源模型的能力,才不會遇到狀況時被「安全柵欄」困的束手無策
OpenAI 公關稿
https://openai.com/index/hugging-face-model-evaluation-security-incident/