8月1日消息，據(jù)外電報(bào)道，Sam Altman 在推文中透露，OpenAI 將向美國人工智能安全研究所提供其下一代模型的早期使用權(quán)，作為其安全工作的一部分。

顯然，該公司一直在與該聯(lián)盟合作推動(dòng)人工智能評(píng)估的科學(xué)發(fā)展。美國國家標(biāo)準(zhǔn)與技術(shù)研究所 (NIST) 已于今年早些時(shí)候正式成立人工智能安全研究所，盡管副總統(tǒng)卡馬拉·哈里斯 (Kamala Harris)早在 2023 年英國人工智能安全峰會(huì)上就宣布了這一消息。

根據(jù)NIST 對(duì)該聯(lián)盟的描述，它旨在制定基于科學(xué)和經(jīng)驗(yàn)支持的人工智能測(cè)量和政策指南和標(biāo)準(zhǔn)，為全球人工智能安全奠定基礎(chǔ)。

該公司與 DeepMind去年同樣承諾與英國政府共享 AI 模型。

正如TechCrunch指出的那樣，人們?cè)絹碓綋?dān)心 OpenAI 在尋求開發(fā)更強(qiáng)大的 AI 模型時(shí)，安全性不再是首要任務(wù)。

有人猜測(cè)，董事會(huì)出于安全方面的考慮，決定將 Sam Altman 踢出公司——他很快就恢復(fù)了原職。然而，該公司當(dāng)時(shí)在一份內(nèi)部備忘錄中告訴員工，這是因?yàn)闇贤ㄖ袛唷?/p>

今年 5 月，OpenAI 承認(rèn)解散了其創(chuàng)建的超級(jí)對(duì)齊團(tuán)隊(duì)，以確保在公司推進(jìn)生成人工智能工作的同時(shí)，人類的安全。

在此之前，OpenAI 聯(lián)合創(chuàng)始人兼首席科學(xué)家 Ilya Sutskever離開了公司，他是該團(tuán)隊(duì)的領(lǐng)導(dǎo)者之一。同樣是該團(tuán)隊(duì)領(lǐng)導(dǎo)者之一的 Jan Leike 也辭職了。

他在一系列推文中表示，他長(zhǎng)期以來一直與 OpenAI 領(lǐng)導(dǎo)層在公司的核心優(yōu)先事項(xiàng)上意見不一，并且安全文化和流程已經(jīng)讓位于閃亮的產(chǎn)品。

OpenAI在 5 月底成立了一個(gè)新的安全小組，但由包括 Altman 在內(nèi)的董事會(huì)成員領(lǐng)導(dǎo)，引發(fā)了人們對(duì)自我監(jiān)督的擔(dān)憂。