OPENAI宣布招募多種學(xué)科的專家加盟紅隊(duì) 幫助開發(fā)團(tuán)隊(duì)提升AI安全性 – 藍(lán)點(diǎn)網(wǎng)
OPENAI 今天宣布面向全球廣泛招募各種學(xué)科的宣布學(xué)科專家，這些專家加盟 OPENAI 紅隊(duì)幫助開發(fā)團(tuán)隊(duì)在 AI 模型訓(xùn)練時(shí)提高安全性。招募助開
在安全領(lǐng)域，多種的專隊(duì)幫隊(duì)提紅隊(duì)一般指的家加是發(fā)起攻擊的一方，包括尋找安全漏洞或利用其他手段進(jìn)行攻擊；藍(lán)隊(duì)則是盟紅防守方，要抵御紅隊(duì)發(fā)起的發(fā)團(tuán)攻擊。
在 OPENAI 這個(gè)案例中開發(fā)團(tuán)隊(duì)就是全性藍(lán)隊(duì)，專家組就是藍(lán)點(diǎn)紅隊(duì)，專家組要利用自己的宣布學(xué)科專業(yè)知識(shí)對(duì) AI 模型進(jìn)行攻擊，例如誘導(dǎo) AI 模型進(jìn)行一些違規(guī)行為。招募助開
需要提醒的是紅隊(duì)專家都不是全職，按照 OPENAI 的家加說法，在 AI 模型開發(fā)和訓(xùn)練的盟紅不同階段，公司會(huì)評(píng)估并選擇一部分紅隊(duì)專家參與進(jìn)來，發(fā)團(tuán)并非每個(gè)成員都會(huì)參與到新模型或產(chǎn)品中，全性有時(shí)候一年里紅隊(duì)專家可能只需要花費(fèi) 5~10 小時(shí)。
至于報(bào)酬，OPENAI 會(huì)給參與實(shí)際的紅隊(duì)專家發(fā)放報(bào)酬，OPENAI 也不會(huì)限制專家成員在參與之后發(fā)表學(xué)術(shù)研究成果，但參與時(shí)成員需要簽署保密協(xié)議，有的保密協(xié)議是長期的，那么就不能發(fā)布研究成果了、不能向任何人透露這些訓(xùn)練內(nèi)容。
OPENAI 對(duì)諸多領(lǐng)域感興趣，包括但不限于以下領(lǐng)域：
認(rèn)知科學(xué)、化學(xué)、生物學(xué)、物理、計(jì)算機(jī)科學(xué)、隱寫術(shù)、政治學(xué)、心理學(xué)、勸說、經(jīng)濟(jì)學(xué)、人類學(xué)、社會(huì)學(xué)、人機(jī)交互、公平與偏見、結(jié)盟、教育、衛(wèi)生保健、法律、兒童安全、網(wǎng)絡(luò)安全、金融、錯(cuò)誤 / 虛假信息、政治用途、隱私、生物識(shí)別技術(shù)、語言和語言學(xué)。
可以看到 OPENAI 感興趣的不僅是一些學(xué)科，還包括一些非學(xué)科但在人類世界中確實(shí)存在且需要的東西，畢竟 AI 模型面向所有人，這么多人可能有無數(shù)種想法，所以各個(gè)領(lǐng)域都需要進(jìn)行紅藍(lán)對(duì)抗。
更多信息請(qǐng)?jiān)L問：https://openai.com/blog/red-teaming-network
相關(guān)文章：
- 《上古卷軸3：晨風(fēng)》畫質(zhì)優(yōu)化mod公布 顯示效果大提升
- GT評(píng)比2013最等候戰(zhàn)略摹擬游戲 真幻4做品上榜
- 網(wǎng)飛喜劇《十日談》曝劇照 在意大利鄉(xiāng)間縱酒放浪！
- 歐洲家電業(yè)下滑！海爾智家為何成逆增典范？
- 短篇科幻審問冒險(xiǎn)《It was a human.》現(xiàn)已上線Steam
- 東南DX8申報(bào)圖曝光 換標(biāo)捷途X70
- DS 7盧浮典藏版國內(nèi)上市 售32.99萬元
- 1批次“圖形（榮鑫）”180迷你臺(tái)夾扇不合格
- 中國音數(shù)協(xié)第一副理事長張毅君在中國音數(shù)協(xié)游戲博物館開館儀式上的致辭
- 新款起亞Xceed官圖發(fā)布 造型細(xì)節(jié)調(diào)整/9月海外開售
相關(guān)推薦：
- 植物球吃僵尸！《球球大年夜做戰(zhàn)》x《植物大年夜戰(zhàn)僵尸2》聯(lián)動(dòng)開啟！
- 《街頭霸王6》豪鬼角色公布 5月22日巔峰對(duì)決即將上演
- 萬佳集團(tuán)為您保駕護(hù)航，才能舒適出行
- 明微電子表示預(yù)計(jì)2022年推出第一代Mini背光智能設(shè)備
- 《飆酷車神2》6月底上線 可選擇solo和聯(lián)機(jī)玩法
- 北海免費(fèi)景區(qū)有哪些景面
- 潮電新品觸手可及 京東小魔方黑科技館亮相京東電器線下門店體驗(yàn)區(qū)
- 非短焦激光投影迎發(fā)展浪潮，當(dāng)貝X3在激光長焦組合中出貨量第一
- 《三國殺名將傳》新漢將流螢張星彩于耀夜退場(chǎng)
- 現(xiàn)代N品牌發(fā)布兩款概念車 量產(chǎn)車IONIQ 5 N將于2023年發(fā)售
- 《堡壘之夜》50v50 V2版回歸 百人團(tuán)戰(zhàn)其樂無窮
- 冠軍閃耀全服！《劍俠世界：起源》手游“江湖名俠”獎(jiǎng)勵(lì)全覽
- 《Zombie Police：圣誕節(jié)與僵尸共舞》將于8月8日發(fā)售
- 《展開那三國3》魔窟將啟 驅(qū)逐應(yīng)戰(zhàn)
- FromSoftware官方招聘暗示《裝甲核心6》或?qū)⑼瞥鯠LC
- Steam星際夏日特賣活動(dòng)開啟 最低折扣降價(jià)84%
- 剪塊云朵做衣服的故事
- 《古墓麗影：暗影》預(yù)告視頻 9月中旬正式發(fā)售
- 分析師推測(cè)：Xbox調(diào)價(jià)策略將在來年實(shí)現(xiàn)55億美元收益
- 《F1 2018》發(fā)售日期確定 比利時(shí)F1大獎(jiǎng)賽同期推出