每經(jīng)記者｜李孟林    每經(jīng)編輯｜蘭素英    

據(jù)媒體3月2日?qǐng)?bào)道，蘋果公司上周阻止了一款使用ChatGPT功能的電郵應(yīng)用的更新，因?yàn)閾?dān)心其可能生成不適合青少年兒童的內(nèi)容。

如何避免AI做出違反倫理道德的回答一直是生成式AI面臨的挑戰(zhàn)。

而在上述報(bào)道的前一天，OpenAI推出了官方的ChatGPT應(yīng)用程序接口（API），成本直降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更準(zhǔn)確、更強(qiáng)大”。OpenAI同時(shí)還推出了語(yǔ)音轉(zhuǎn)文字的Whisper API，一分鐘只需要0.006美元。

OpenAI表示，公司在ChatGPT API中引入了新的語(yǔ)言，希望能通過(guò)加入更多提示限制來(lái)過(guò)濾不當(dāng)內(nèi)容。

暫停BlueMail更新

面對(duì)生成式AI熱潮，蘋果似乎要小心謹(jǐn)慎得多。據(jù)路透社報(bào)道，蘋果上周阻止了采用ChatGPT功能的電郵應(yīng)用程序BlueMail的更新，因?yàn)閾?dān)心其產(chǎn)生對(duì)青少年兒童不當(dāng)?shù)膬?nèi)容。

據(jù)悉，BlueMail的新AI功能以ChatGPT為基礎(chǔ)，能夠基于先前電郵的內(nèi)容和日歷事件自動(dòng)編寫郵件。

“你的應(yīng)用程序包含人工智能生成的內(nèi)容，但目前似乎不包含內(nèi)容過(guò)濾，”蘋果應(yīng)用程序?qū)彶閳F(tuán)隊(duì)上周在給開發(fā)者的消息中表示。

應(yīng)用程序?qū)彶閳F(tuán)隊(duì)認(rèn)為，BlueMail要么將其年齡限制提高到17歲及以上，要么加入內(nèi)容過(guò)濾程序。蘋果設(shè)置17歲及以上用戶的年齡限制針對(duì)的是可能包含攻擊性語(yǔ)言、性內(nèi)容和提及毒品等內(nèi)容的應(yīng)用程序類別。

BlueMail開發(fā)公司Blix Inc。的聯(lián)合創(chuàng)始人Ben Volach表示，BlueMail具有內(nèi)容過(guò)濾的功能，目前將年齡設(shè)置在4歲及以上。Volach認(rèn)為蘋果的做法不公平，因?yàn)槠渌愃艫I功能的應(yīng)用沒(méi)有設(shè)置年齡限制卻得到了批準(zhǔn)。

“Apple讓我們很難為用戶帶來(lái)創(chuàng)新，”他表示，“我們要的是公平。如果我們要設(shè)置17歲以上的年齡限制，其他應(yīng)用也該如此。”他同時(shí)稱，BlueMail的安卓版在谷歌應(yīng)用市場(chǎng)就可以更新，無(wú)需設(shè)置年齡限制，也不需要進(jìn)一步的內(nèi)容過(guò)濾機(jī)制。

蘋果發(fā)言人表示，開發(fā)者可通過(guò)蘋果應(yīng)用程序?qū)彶槲瘑T會(huì)的上訴程序發(fā)起申訴，蘋果方面正在調(diào)查Blix的申訴。

投資了ChatGPT開發(fā)公司OpenAI的微軟近日上線了融合ChatGPT功能的新版搜索引擎必應(yīng)。該程序在蘋果應(yīng)用市場(chǎng)設(shè)置了17歲及以上的年齡限制，但也沒(méi)有在谷歌應(yīng)用市場(chǎng)設(shè)置年齡限制。微軟發(fā)言人表示，之所以設(shè)置17歲及以上的年齡限制，是因?yàn)楸貞?yīng)可以找到成人內(nèi)容。

新模型或更好過(guò)濾內(nèi)容

在媒體爆出蘋果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及語(yǔ)音轉(zhuǎn)換文本模型Whisper的應(yīng)用程序接口（API）。兩個(gè)API價(jià)格低廉，功能強(qiáng)大，第三方開發(fā)人員可以通過(guò)API 的方式將 ChatGPT 集成到他們的應(yīng)用程序和服務(wù)中。

據(jù)OpenAI，ChatGPT API接入的模型名為 gpt-3.5-turbo，這是許多非聊天用例的最佳模型，而且比 ChatGPT和背后的GPT- 3.5 模型“更快、更準(zhǔn)確、更強(qiáng)大”，且每輸出100萬(wàn)個(gè)單詞，價(jià)格才2.7美元（約18元人民幣），比之前的GPT-3.5便宜了10倍。Whisper API可以用來(lái)轉(zhuǎn)錄或翻譯音頻，費(fèi)用為每分鐘0.006美元。

目前，已經(jīng)有多個(gè)應(yīng)用程序通過(guò)API的方式把ChatGPT和Whisper融入到服務(wù)之中，如社交軟件SnapChat，購(gòu)物軟件Instacart，學(xué)習(xí)軟件Quizlet和Speak等。

此前，ChatGPT爆火之后，各種「自制API」層出不窮，但效果欠佳且成本較高。此次OpenAI開放官方的低價(jià)API，為各類中小型開發(fā)者打開了新的大門。

官方API雖然在功能和價(jià)格上又上了一層樓，但在ChatGPT API推出后，有網(wǎng)友馬上發(fā)現(xiàn)，這個(gè)API的內(nèi)容過(guò)濾機(jī)制是比較松散的，可以生成暴力和色情內(nèi)容，只是對(duì)“如何制造炸彈”一類的問(wèn)題拒絕回答。

實(shí)際上，圍繞生成式AI的道德?tīng)?zhēng)議一直是OpenAI面臨的挑戰(zhàn)。此前就有用戶引導(dǎo)ChatGPT生成種族和性別歧視的回答，更有許多網(wǎng)友聚在一起做“越獄”嘗試，希望找出繞過(guò)OpenAI的安全機(jī)制，讓ChatGPT執(zhí)行超出其原初目標(biāo)的任務(wù)。比如，初創(chuàng)公司Scale AI的一名員工就曾讓ChatGPT透露了其內(nèi)部的技術(shù)細(xì)節(jié)信息。

對(duì)于重視品牌形象的客戶而言，這樣的風(fēng)險(xiǎn)當(dāng)然是必須回避的。OpenAI在這方面也做了很多工作，除了讓廉價(jià)的肯尼亞工廠做數(shù)據(jù)標(biāo)注外，在技術(shù)上也做了一些努力。

據(jù)科技媒體TechCrunch報(bào)道，ChatGPT的API采用了一種名為Chat Markup Language（ChatML）的語(yǔ)言，這種語(yǔ)言將輸入文本視為一連串信息和“元數(shù)據(jù)”的結(jié)合。開發(fā)者在接收提問(wèn)提示（prompt）時(shí)，可以加入額外的提示，如“你需要誠(chéng)實(shí)回答”，或者“你只是一個(gè)機(jī)器人”。這些額外提示可以讓ChatGPT更好地過(guò)濾生成的內(nèi)容。

“我們正在轉(zhuǎn)向一種更高級(jí)的API。如果你能夠以更加結(jié)構(gòu)化的方式將輸入內(nèi)容放進(jìn)系統(tǒng)，比如‘這是來(lái)自開發(fā)者’或者‘這是來(lái)自用戶’……我想，作為開發(fā)者，你（使用ChatML）可以更好地抵御那些通過(guò)提示進(jìn)行攻擊的行為，”OpenAI的主席和董事長(zhǎng)Greg Brockman表示。

此外，ChatGPT API還向用戶提供付費(fèi)的專屬算力（Dedicated capacity），付錢的大公司不僅可以擁有更加流暢快速的應(yīng)答，還可以獲得更高的文字輸入上限，這樣可以讓ChatGPT記住更多的上下文提示，將減少回答中的偏見(jiàn)和有害內(nèi)容。據(jù)Brockman，專屬算力用戶可以在gpt-3.5-turbo模型中輸入高達(dá)1.6萬(wàn)的token，是現(xiàn)有標(biāo)準(zhǔn)ChatGPT模型的四倍。