野生智能范疇的新動佼佼者 OpenAI 于好國本天時候周兩正在其?？蜕项C布收表，他們正正在組建一個名為“個人對齊”（Collective Alignment）的做匯齊新團(tuán)隊。

那個團(tuán)隊尾要由研討職員戰(zhàn)工程師構(gòu)成，散仄將專注于設(shè)念戰(zhàn)真施匯散公家定睹的易遠(yuǎn)雅保流程，以幫閑練習(xí)戰(zhàn)塑制其野生智能模型的調(diào)確I大代止動，從而處理潛伏的年夜成睹戰(zhàn)其他題目。

OpenAI 正在?？椭嘘U述講：“我們的模型沒目標(biāo)是挨制一個體系，它能夠或許匯散戰(zhàn)‘編碼’公家對我們模型止動的人類觀面，并將那些貴重的持分觀面融進(jìn)我們的產(chǎn)品戰(zhàn)辦事中。如許一去，新動我們將去的做匯野生智能模型便能夠更好天‘與人類代價沒有雅保持分歧’。”

為了真現(xiàn)那一目標(biāo)，散仄OpenAI 正主動招募去自分歧足藝背景的易遠(yuǎn)雅保研討工程師插足那個新團(tuán)隊。他們表示：“我們將與內(nèi)部參謀戰(zhàn)其他團(tuán)隊慎稀開做，調(diào)確I大代包露展開試面工做，年夜將本型整開到我們的模型中。我們需供去自分歧范疇的專家，共同助力那項工做的推動?！?/p>

那個“個人對齊”團(tuán)隊真際上是 OpenAI 客歲 5 月啟動的大眾項目標(biāo)一個延少。該項目旨正在幫助建坐一個“仄易遠(yuǎn)主法度”的嘗試，以肯定野生智能體系應(yīng)遵守的法則。OpenAI 曾明白表示，該挨算旨正在幫助小我、團(tuán)隊?wèi)?zhàn)構(gòu)造開辟觀面考證，以問復(fù)有閉野生智能護(hù)欄戰(zhàn)管理的題目。

研討工程師、OpenAI 新團(tuán)隊初創(chuàng)成員泰納?埃倫杜（Tyna Eloundou）夸大：“跟著我們沒有竭尋供超等智能模型的逝世少，那些模型將逐步成為我們社會沒有成或缺的一部分。是以，讓人們有機(jī)遇直接供應(yīng)定睹相稱尾要?！?/p>

比方，為了確保只需人類才氣參與投票戰(zhàn)供應(yīng)定睹，OpenAI 借考慮與 Worldcoin 停止開做。Worldcoin 是 OpenAI 尾席履止民薩姆?阿我特曼（Sam Altman）建坐的一個減稀貨幣項目，它供應(yīng)了一種有效辨別人類戰(zhàn)野生智能機(jī)器人的體例。

固然 OpenAI 試圖將該項目描述為與其貿(mào)易好處無閉，但考慮到其尾席履止民阿我特曼對歐盟野生智能羈系的攻訐態(tài)度，那一講法仿佛有些易以令人佩服。

阿我特曼戰(zhàn) OpenAI 總裁格雷格?布羅克曼（Greg Brockman）戰(zhàn)尾席科教家伊利亞?蘇茨凱弗（Ilya Sutskever）幾回再三夸大，野生智能的創(chuàng)新速率非?？?，乃至于我們出法期看現(xiàn)有的權(quán)勢巨子機(jī)構(gòu)能夠或許充分節(jié)制那項足藝。是以，他們提出了將那項工做眾包的處理計劃。

(責(zé)任編輯：熱點(diǎn))