“草莓”圖片的謎底，讓不少深夜等待的人直呼“被鴿了”。

編輯|易瑾

8月9日，各大AI相關(guān)的群聊里，都有OpenAI創(chuàng)始人SamAltman發(fā)的一張草莓圖片，猜測(cè)圖片背后是不是暗示OpenAI此前被曝光的“Strawberry”模型要正式浮出水面，也有網(wǎng)友猜測(cè)是不是期待已久的GPT-5，尤其是ChatGPT官方推文開始“草莓”隊(duì)形后，讓不少人堅(jiān)信有新的東西到來。

由于期待值很高，即便隔著13個(gè)小時(shí)的時(shí)差，也絲毫沒有阻擋大家熬夜等待的熱情。直到8月9日01:11，一份32頁的安全報(bào)告公布，給大家潑了一盆冷水，畢竟年初放出的Sora視頻、去年立下的GPT-5的flag、5月GPT-4o展示的實(shí)時(shí)語言對(duì)話，都吊了大家太久的胃口。

該報(bào)告概述了在發(fā)布GPT-4o前開展的安全工作，包括外部“紅隊(duì)”合作。所謂“紅隊(duì)”通俗來說就是專業(yè)“挑毛病”的人，旨在發(fā)現(xiàn)系統(tǒng)漏洞和問題。

報(bào)告內(nèi)坦言，這些測(cè)試人員發(fā)現(xiàn)了模型在未經(jīng)授權(quán)的語音生成、說話者識(shí)別、生成受版權(quán)內(nèi)容等方面存在潛在風(fēng)險(xiǎn)，并且公布了一些失控行為，比如在某些特定提示下，容易弄出些讓人心理不安或者不太合適的音效，如色情呻吟、暴力尖叫，還有槍聲等。

神秘的“Strawberry”

7月13日，路透社報(bào)道OpenAI正在一個(gè)代號(hào)為“草莓”的項(xiàng)目中研究人工智能模型的新方法，進(jìn)一步延伸去年11月宣布的Q*項(xiàng)目，不斷提高AI推理能力，讓其更接近人類的智力。

有知情人士表示，“草莓”涉及一種處理人工智能模型的專門方式，該模型在非常大的數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練?！安葺卑ㄒ环N被稱為“后訓(xùn)練”（post-training）的OpenAI生成式人工智能模型專門方法，即在對(duì)大量生成數(shù)據(jù)進(jìn)行“訓(xùn)練”后，對(duì)基礎(chǔ)模型進(jìn)行調(diào)整，以特定方式提升性能。

當(dāng)被問及“草莓”及其相關(guān)細(xì)節(jié)時(shí)，OpenAI一位發(fā)言人在一份聲明中表示，“我們希望我們的人工智能模型能像我們一樣看到和理解這個(gè)世界。不斷研究新的人工智能能力是業(yè)界的一種普遍做法，大家相信，隨著時(shí)間的推移，這些系統(tǒng)將在推理方面得到改進(jìn)。”發(fā)言人并未直接回答有關(guān)“草莓”的問題。

彼時(shí)，特斯拉CEO馬斯克在獲悉該項(xiàng)目后，在社交媒體上嘲諷稱：“我們?cè)疽詾锳I末日是‘回形針最大化器’（一個(gè)關(guān)于AI威脅的假設(shè)理論），但沒想到它實(shí)際上是‘永遠(yuǎn)的草莓地’（一首搖滾歌曲）?！?/p>

關(guān)于“草莓”項(xiàng)目的猜測(cè)、期待在這一個(gè)月的時(shí)間里，一直沒有停止過。尤其是8月9日，SamAltman突然在社交平臺(tái)發(fā)文——我愛花園里的夏天，并配圖5顆草莓的圖。接著OpenAI研究院Trevor Creech的發(fā)文中，配圖也含有草莓，這直接導(dǎo)致網(wǎng)友們認(rèn)為OpenAI在暗示什么。

不可否認(rèn)的是，一張圖讓不少人化身“福爾摩斯”，有人發(fā)現(xiàn)5顆草莓其中一顆還未成熟，接著就去搜索草莓的生長周期，發(fā)現(xiàn)開花之后需要4-6周，由此判斷GPT-5可能在未來4-6周后發(fā)布。

另外，著名爆料人Jimmy apples發(fā)帖稱發(fā)現(xiàn)了LYSMS競(jìng)技場(chǎng)中，閃現(xiàn)一個(gè)新模型——anonymous-chatbot。他表示經(jīng)過一些粗略和有限的個(gè)人測(cè)試，“我沒有看到任何推理方面的改進(jìn)，但我看到了數(shù)學(xué)方面的一些改進(jìn)。

anonymous-chatbot屬于誰？這個(gè)問題很快被拋出來，也很快和OpenAI聯(lián)系在了一起。因?yàn)樵贘immy apples曬出的圖片中，anonymous-chatbot稱是基于OpenAi的GPT-4的架構(gòu)的模型。再加上Sam Altman和Trevor Creech的草莓配圖，似乎謎底就被揭開了。

觀察到安全問題、會(huì)不受控制模仿人類聲音

最后的結(jié)果，確實(shí)是讓大家再一次失望了。OpenAI在凌晨發(fā)布的是GPT-4o的系統(tǒng)卡，據(jù)介紹是一份“端到端的安全評(píng)估”。

這份32頁的PPT，首先丟給了騰訊元寶，因?yàn)閾?jù)介紹在最新版本的騰訊元寶中，當(dāng)用戶上傳論文、財(cái)報(bào)、研報(bào)等專業(yè)內(nèi)容的URL 鏈接或文件，除獲得文字概括總結(jié)外，還可進(jìn)入深度閱讀模式，對(duì)長文進(jìn)行精讀。該模式可提供核心內(nèi)容概覽及模塊化解析，生成總結(jié)性圖表，輔助用戶快速理解關(guān)鍵信息。

騰訊元寶提煉出了文檔中6個(gè)主要內(nèi)容，并總結(jié)這份文檔詳細(xì)介紹了GPT-4o模型的能力、局限性和安全評(píng)估，展示了其在多模態(tài)處理方面的顯著進(jìn)步以及在多個(gè)領(lǐng)域的潛在應(yīng)用和社會(huì)影響。

具體看這篇文檔，主要是記錄了對(duì)GPT-4o模型優(yōu)勢(shì)和風(fēng)險(xiǎn)的調(diào)查，其中包含了GPT-4o的一些“特殊癖好”。比如在某些罕見情況下，尤其是當(dāng)人們?cè)诟弑尘霸胍舡h(huán)境中與GPT-4o對(duì)話時(shí)，如行駛中的汽車內(nèi)，GPT-4o會(huì)“模仿用戶的語音”。OpenAI表示，這可能是因?yàn)槟Ｐ碗y以理解畸形的語音。

GPT-4o還傾向于在特定方式的提示下，生成令人不安或不適當(dāng)?shù)摹胺茄哉Z聲音”和音效，比如色情呻吟、暴力尖叫和槍聲。OpenAI表示，有證據(jù)表明該模型通常會(huì)拒絕生成音效的請(qǐng)求，但承認(rèn)確實(shí)有一些請(qǐng)求通過了。

此外，OpenAI還察覺到，如果沒有設(shè)置好過濾器，GPT-4 就會(huì)容易抄襲一些知名藝術(shù)家的風(fēng)格、語調(diào)或者音色?！翱紤]到GPT-4o可能出現(xiàn)的怪癖，我們更新了某些基于文本的過濾器來處理音頻對(duì)話。同時(shí)，我們還構(gòu)建了過濾器，用來檢測(cè)和阻止輸出音頻?！監(jiān)penAI在報(bào)告中寫道，“一如既往地，我們訓(xùn)練GPT-4o拒絕對(duì)版權(quán)內(nèi)容（包括音頻）的請(qǐng)求?！?/p>

在版權(quán)問題上，這不是OpenAI最近第一次提，前不久演示的SearchGPT，不僅在演示視頻中單獨(dú)展示鼠標(biāo)指向AI總結(jié)中的參考鏈接，還在官宣博文中強(qiáng)調(diào)可信來源的重要性和信息源需要得到保護(hù)。

7月31日，OpenAI宣布向部分ChatGPT Plus用戶推出高級(jí)語音模式，并計(jì)劃于秋季向所有ChatGPT Plus用戶開放。這份報(bào)告出來后，關(guān)心內(nèi)容的同時(shí)，不少人也在催促什么時(shí)候所有用戶都能使用上GPT-4o的語言功能。

綜合自O(shè)penAI、IT之家、量子位等。

相關(guān)知識(shí)

吃草莓能降血糖嗎
全球與中國巴西莓行業(yè)分析報(bào)告
全球及中國巴西莓粉行業(yè)未來發(fā)展前景預(yù)估調(diào)研報(bào)告
草莓怎么種？一份完整的草莓栽培管理方案送給你，建議收藏
5款草莓果汁酸奶對(duì)比平測(cè)
2023年 全球人工智能的六大醫(yī)療創(chuàng)新
常吃草莓可降低心臟病風(fēng)險(xiǎn)
消費(fèi)者報(bào)告
泗縣：全產(chǎn)業(yè)鏈托起“莓好生活”
現(xiàn)制酸奶Blueglass宣稱養(yǎng)顏被罰6萬，功能暗示語仍可見

網(wǎng)址: “草莓暗示”等來一份OpenAI的安全報(bào)告，GPT http://m.u1s5d6.cn/newsview722813.html