OpenAI 招募紅隊演練團隊 確保人工智慧技術安全

2023.09.20 02:24PM

OpenAI也計畫推出多模大型自然語言模型GPT-Vision,後續更準備推出代號Gobi的更大規模多模大型自然語言模型,藉此與Google等業者計畫推出的多模大型自然語言模型抗衡。

OpenAI宣布將在全球地區招募紅隊演練團隊成員,預計透過外部人才挖掘人工智慧系統潛在問題與安全風險。另一方面,相關消息更指稱OpenAI計畫推出其多模大型自然語言模型GPT-Vision,後續更準備推出代號Gobi的更大規模多模大型自然語言模型,藉此與Google等業者計畫推出的多模大型自然語言模型抗衡。

如同許多資安業者會透過紅隊演練 (Red Teaming)找出系統潛在安全風險與漏洞問題,OpenAI同樣也計畫透過紅隊演練方式找出人工智慧技術運作時的潛在問題,以及可能被用於惡意行為的情況。

由於人工智慧技術存在許多不確定性,因此必須確定人工智慧基礎運作安全,同時也必須確保人工智慧在不同領域是否會有應用問題,其中包含知識認知、政治、人文社會、教育、法律、金融、數據隱私,以及道德方面是否有潛在影響。

目前OpenAI已經針對不同領域招募專家,希望能透過更多人才技能與紅隊演練過程確保其人工智慧服務安全無慮,並且降低應用潛在風險問題。

而所有參與紅隊演練的團隊成員均必須簽署保密協議,或是在相關技術對外公布前禁止透露任何細節。

實際上,OpenAI在先前公布的大型自然語言模型正式推出前,其實都曾進行一定程度的紅隊演練,藉此確保模型使用安全。此次擴大在全球地區招募紅隊演練,顯然也是希望能讓其人工智慧技術有更多安全保障。

此外,The Information網站取得消息指稱,OpenAI可能會趕在Google正式推出其多模大型自然語言模型Gemini之前,公布其多模大型自然語言模型GPT-Vision,後續更可能推出規模更大的多模大型自然語言模型,代號為Gobi。

在接下來的人工智慧技術競爭,多模大型自然語言顯然會成為關鍵,讓人工智慧能同時接受多種資訊輸入,並且自動生成不同資訊內容輸出,相較早期人工智慧僅能單次針對單一內容進行回覆,預期未來的人工智慧技術將能同時進行多項內容運算回應。

相關消息

遊戲天堂
FCC電檢照片顯示華碩將推出一黑一白兩款ROG Ally 2電競掌機,增強握柄人體工學、黑色機型可能為Xbox認證機型
Chevelle.fu
1 個月前
在地生活
吉伊卡哇廠商限定圖片外流 日方決定取消台灣訂單
討喜小姐
1 個月前
開箱評測
Cooler Master NCORE 100 Air直立式ITX風冷機殼評測,超小占地面積能容高規格系統的精緻機殼
Chevelle.fu
1 個月前
產業消息
Sony將在5月13日公布Xperia 1 VII,首支預告聚焦Alpha相機技術
Chevelle.fu
1 個月前
開箱評測
不想要耳塞 Sony無線降噪耳機折590元 平價降噪耳罩式耳機可選它
Tandee
1 個月前
產業消息
三星旗下HARMAN收購持有B&W、天龍馬蘭士的Sound United
Chevelle.fu
1 個月前
關於android播放3gp內含AAC無法撥放問題
hanawa
15 年前
人物專訪
GPS導航發明前計程車怎麼找路?以前載客常遇到霸王車、靈異事件?本篇就讓「老司機」親自說給你聽!
丹費特
1 個月前
遊戲天堂
吉伊卡哇袋著走聽見玩家心聲大更新 期待退坑玩家回流
討喜小姐
2 個月前