近日，在達特茅斯塞耶工程學(xué)院畢業(yè)季的活動上，OpenAI CTO米拉·穆拉蒂（Mira Murati）與前亞馬遜高管、現(xiàn)達特茅斯學(xué)院受托人的杰弗里·布萊克本（Jeff Blackburn）開展了一場深度訪談。

訪談中，穆拉蒂分享了她加入OpenAI的原因、ChatGPT和Dall-E工作原理，還就AI發(fā)展過程中持續(xù)存在的安全和倫理問題,以及AI對未來可能產(chǎn)生的深遠影響,例如教育、工作等，提出了自己的見解。

她在訪談中還透露，只需一年半時間，AI就可以在某些領(lǐng)域達到博士的智能。根據(jù)她的說法，GPT-3的智能相當(dāng)于幼兒，GPT-4相當(dāng)于聰明的高中生，而下一代模型（這或許指的就是GPT-5），將在一年半后發(fā)布，并達到博士水平。

在安全性和能力方面，她認為，它們是相輔相成的，聰明的模型才能理解我們給它設(shè)定的護欄。與此同時，穆拉蒂表示，“完全沒有風(fēng)險” 是不可能的，尤其是對于像 AI 這樣的技術(shù)。工程的角度上來看，AI能力的提升并不會降低模型的安全性。OpenAI對模型的安全性負有很大責(zé)任，但要實現(xiàn)風(fēng)險的有效管控，社會和政府的參與也是必不可少的。

穆拉蒂表示，未來的 AI 系統(tǒng)將能夠連接到互聯(lián)網(wǎng)，相互交流，并與人類協(xié)作。

在談及AI對工作或業(yè)務(wù)的影響時，穆拉蒂認為它將 “影響一切”，她相信幾乎所有領(lǐng)域都將受到影響，尤其是 “一些創(chuàng)意工作”，但她也認為這些工作 “本來就不應(yīng)該存在”。她表示，下一代 AI 將降低 “創(chuàng)造力” 的門檻，使其不再局限于只有 “有才華的人”，AI 將使每個人都更具創(chuàng)造力。因此，一些原本只限于少數(shù)有創(chuàng)造力的人的工作將被 AI 接管。

以下為訪談完整編譯

我是Alexis Abramson,達特茅斯大學(xué)Thayer工程學(xué)院院長。我很榮幸歡迎大家參加這個非常特別的活動——與Mira Murati的對話。她是我們?nèi)斯ぶ悄茴I(lǐng)域最杰出的領(lǐng)導(dǎo)者之一,也是達特茅斯工程學(xué)院的校友。

在我們開始之前,我想特別歡迎一位特殊的嘉賓,Joy Buolamwini。她在人工智能、人工智能倫理和算法正義方面的工作也享有盛名。她明天將獲得達特茅斯大學(xué)的榮譽學(xué)位。同時,也熱烈歡迎Mira和所有現(xiàn)在是她家人或她在達特茅斯時的家人,包括她的兄弟Ernel Murati,他也是2016屆學(xué)院的校友。

感謝我們在Neukom計算科學(xué)研究所和計算機科學(xué)系的合作伙伴。從1956年達特茅斯舉辦的第一次開創(chuàng)性人工智能會議,到我們目前在大型語言模型和精準(zhǔn)健康方面的多學(xué)科研究,達特茅斯一直處于人工智能創(chuàng)新的前沿。因此,我們特別高興今天能邀請到Mira,她是OpenAI的首席技術(shù)官,也是我們工程學(xué)院2012屆的畢業(yè)生。她因在一些當(dāng)今最受關(guān)注的人工智能技術(shù)上的開創(chuàng)性工作而聞名。在OpenAI,她帶頭開發(fā)了像ChatGPT和Dall-E這樣的變革性模型,為未來的生成式人工智能技術(shù)奠定了新的基礎(chǔ)。

在Thayer學(xué)院學(xué)習(xí)期間,她將自己的工程技能應(yīng)用于達特茅斯方程式賽車隊,設(shè)計并制造混合動力賽車。明天的畢業(yè)典禮上,她將獲得達特茅斯大學(xué)授予的榮譽理學(xué)博士學(xué)位。

最后,今天主持我們對話的是Jeff Blackburn,他是達特茅斯1991屆畢業(yè)生,現(xiàn)任達特茅斯大學(xué)董事會成員。Jeff的職業(yè)生涯一直專注于全球數(shù)字媒體和技術(shù)的發(fā)展。他曾在2023年前擔(dān)任亞馬遜全球媒體和娛樂高級副總裁,并在公司擔(dān)任過多個領(lǐng)導(dǎo)職務(wù)。他對技術(shù)、媒體和娛樂交叉領(lǐng)域的洞察必將確保我們今天有一場引人入勝的對話。那么,不再多說,我現(xiàn)在把對話交給他們。請大家和我一起歡迎Mira Murati和Jeff Blackburn。

杰弗里·布萊克本：謝謝你，Alexis。這棟漂亮的建筑真是太美了。

米拉·穆拉蒂：很高興來到這里。

杰弗里·布萊克本：Mira，非常感謝你來到這里并抽出時間。我能想象你現(xiàn)在的日子有多忙。

米拉·穆拉蒂：很高興來到這里。

杰弗里·布萊克本：你為大家抽出時間真是太好了。

米拉·穆拉蒂：我真的很高興能在這里。

加入OpenAI原因

杰弗里·布萊克本：我想直接切入正題，因為我知道大家都想聽聽你的生活和你正在構(gòu)建的東西，這真是太迷人了。也許我們應(yīng)該從你開始說起，你離開Thayer，去了Tesla一段時間，然后加入了OpenAI。如果你能描述一下那段時期以及你早期加入OpenAI的情況就好了。

米拉·穆拉蒂：是的，所以我… 在Thayer畢業(yè)之后，我實際上在航空航天領(lǐng)域短暫工作了一段時間，然后我意識到航空航天領(lǐng)域進展比較慢，而我對Tesla的使命非常感興趣，當(dāng)然還有在構(gòu)建一個可持續(xù)未來的交通工具方面的創(chuàng)新挑戰(zhàn)，我決定加入他們。在Model S和Model X的開發(fā)過程中，我意識到我不太想成為一個汽車領(lǐng)域的人，我更想在推進社會進步的同時，迎接一些艱巨的工程挑戰(zhàn)。在Tesla期間，我對自動駕駛汽車和這些技術(shù)的交叉點非常感興趣，比如計算機視覺和人工智能，將它們應(yīng)用于自動駕駛汽車。我想，好吧，我想了解更多關(guān)于人工智能的知識，但在不同的領(lǐng)域。所以我加入了一家初創(chuàng)公司，領(lǐng)導(dǎo)工程和產(chǎn)品團隊，將人工智能和計算機視覺應(yīng)用于空間計算領(lǐng)域，思考下一代計算界面。當(dāng)時我認為這將是虛擬現(xiàn)實和增強現(xiàn)實?，F(xiàn)在我認為有點不同了，但我當(dāng)時想，如果你可以用手與非常復(fù)雜的信息互動，無論是公式、分子還是拓撲學(xué)的概念，你可以以一種更直觀的方式學(xué)習(xí)這些東西，這會擴展你的學(xué)習(xí)能力。結(jié)果虛擬現(xiàn)實當(dāng)時有點太早了。但這讓我在不同的領(lǐng)域?qū)W習(xí)了人工智能，并且我的職業(yè)生涯一直處于技術(shù)和各種應(yīng)用的交匯點，這給了我一個不同的視角，看到了人工智能的發(fā)展進程以及它可以應(yīng)用的領(lǐng)域。

杰弗里·布萊克本：所以在Tesla的自動駕駛領(lǐng)域，你看到了機器學(xué)習(xí)、深度學(xué)習(xí)。你能看到它的發(fā)展方向。

米拉·穆拉蒂：是的，但我并沒有看得很清楚。

杰弗里·布萊克本：你和Elon合作過嗎？

米拉·穆拉蒂：是的，尤其是最后一年。但當(dāng)時還不太清楚它的方向。那時候，人工智能仍然是應(yīng)用于非常狹窄的特定問題，而不是一般性的應(yīng)用。它在虛擬現(xiàn)實和增強現(xiàn)實中的情況也是如此。從那時起，我想我不想僅僅將其應(yīng)用于特定問題。我想了解研究，真正理解正在發(fā)生的事情，然后再將其應(yīng)用于其他領(lǐng)域。所以這時我加入了OpenAI，OpenAI的使命對我非常有吸引力。那時它是一個非營利組織，使命沒有改變，結(jié)構(gòu)改變了，但我六年前加入時，它是一個旨在構(gòu)建安全的通用人工智能的非營利組織，除了DeepMind之外，這是唯一一家這樣做的公司?，F(xiàn)在當(dāng)然有很多公司在構(gòu)建某種版本的通用人工智能。

杰弗里·布萊克本：是的，一些公司。

米拉·穆拉蒂：是的，這就是我加入OpenAI的開始。

ChatGPT和Dall-E工作原理

杰弗里·布萊克本：明白了。自從你在那兒，你們已經(jīng)構(gòu)建了很多東西。也許我們可以為大家簡單介紹一下機器學(xué)習(xí)、深度學(xué)習(xí)和現(xiàn)在的人工智能基礎(chǔ)知識。這些都是相關(guān)的，但有所不同。那么，這其中發(fā)生了什么，它是如何在ChatGPT、Dall-E或你們的視頻產(chǎn)品中體現(xiàn)出來的？它是如何工作的？

米拉·穆拉蒂：這不是一個根本性的創(chuàng)新。某種意義上，我們是在幾十年的人類努力基礎(chǔ)上構(gòu)建的。實際上，它的起源就在這里。在過去十年中發(fā)生的事情是這三者的結(jié)合：神經(jīng)網(wǎng)絡(luò)、大量數(shù)據(jù)和大量計算資源。這三者結(jié)合在一起，你會得到這些真正變革性的人工智能系統(tǒng)或模型，結(jié)果它們能夠做這些驚人的事情，比如完成一般任務(wù)，但具體如何運作并不完全清楚。深度學(xué)習(xí)就是有效。當(dāng)然，我們試圖理解并應(yīng)用工具和研究來理解這些系統(tǒng)的實際工作原理，但我們知道它們是有效的，因為過去幾年我們已經(jīng)這樣做了。我們還看到了進步的軌跡以及系統(tǒng)如何隨著時間的推移變得更好。當(dāng)你看像GPT-3這樣的系統(tǒng)時，我們大約三年半前部署了大型語言模型。GPT-3的目標(biāo)只是預(yù)測下一個標(biāo)記。

杰弗里·布萊克本：它實際上是下一個詞的預(yù)測。

米拉·穆拉蒂：是的，基本上是這樣。

杰弗里·布萊克本：嗯。然后我們發(fā)現(xiàn)，如果你給這個模型一個目標(biāo)，讓它預(yù)測下一個標(biāo)記，并且你用大量數(shù)據(jù)訓(xùn)練它，同時使用大量計算資源，你得到的其實是一個能夠理解語言的模型，程度與我們相似。

米拉·穆拉蒂：因為它讀了很多書，它讀了所有的書。它似乎知道什么是最重要的

杰弗里·布萊克本：基本上是所有互聯(lián)網(wǎng)上的內(nèi)容。

米拉·穆拉蒂：它知道下一個詞應(yīng)該是什么。但它并不是在記憶下一個詞是什么，它實際上是在生成它自己對已見數(shù)據(jù)模式的理解。然后我們發(fā)現(xiàn)，不僅僅是語言，實際上，如果你把不同類型的數(shù)據(jù)放進去，比如代碼，它也能編寫代碼。所以實際上，它不在乎你放進去的是什么類型的數(shù)據(jù)。它可以是圖像，可以是視頻，可以是聲音，它都能做同樣的事情。

杰弗里·布萊克本：哦，我們會談到圖像的。是的，（Jeff笑）但確實，文本提示可以生成圖像或視頻，現(xiàn)在你甚至可以看到相反的情況。

米拉·穆拉蒂：是的，正是如此。所以我們發(fā)現(xiàn)這個公式實際上效果很好，數(shù)據(jù)、計算資源和深度學(xué)習(xí)，然后你可以放入不同類型的數(shù)據(jù)，增加計算資源，AI系統(tǒng)的性能就會越來越好。這就是我們所說的擴展定律。它們并不是實際的法律，基本上是對模型能力隨著你投入更多數(shù)據(jù)和計算資源而提高的統(tǒng)計預(yù)測。這就是推動今天人工智能進步的動力。

為什么選擇聊天機器人作為第一款產(chǎn)品？

杰弗里·布萊克本：你們?yōu)槭裁磸牧奶鞕C器人開始？

米拉·穆拉蒂：：是的，在產(chǎn)品方面，實際上我們是從API開始的。我們并不真的知道如何將GPT-3商業(yè)化。將AI技術(shù)商業(yè)化實際上非常非常困難。最初，我們對此掉以輕心，非常專注于構(gòu)建技術(shù)和進行研究。我們認為，這是一個了不起的模型，商業(yè)合作伙伴可以拿去構(gòu)建出色的產(chǎn)品。然后我們發(fā)現(xiàn)，這實際上非常難。所以這就是為什么我們開始自己動手做，我們驗證一下我們自己的想法

杰弗里·布萊克本：那讓你們構(gòu)建了一個聊天機器人，因為你們只是想驗證自己想法

米拉·穆拉蒂：是的，因為我們試圖弄清楚，為什么這些真正成功的公司實際上很難將這項技術(shù)轉(zhuǎn)化為有用的產(chǎn)品。

杰弗里·布萊克本：我明白了。

米拉·穆拉蒂：因為這是一種非常奇怪的產(chǎn)品構(gòu)建方式。你從能力開始，你從技術(shù)開始，而不是從我要解決的世界問題開始。它是一種非常通用的能力。

杰弗里·布萊克本：這很快就引出了你剛才描述的內(nèi)容，也就是更多的數(shù)據(jù)、更多的計算資源和更多的智能。這個智能會變得多聰明？聽起來你的描述是這個擴展過程相當(dāng)線性，你添加更多的元素，它就變得更聰明。在過去幾年里，ChatGPT變得更聰明了嗎，它離人類水平的智能還有多遠？

米拉·穆拉蒂：是的，這些系統(tǒng)在特定任務(wù)上已經(jīng)達到了人類水平，當(dāng)然在很多任務(wù)上還沒有。如果你看一下改進的軌跡，像GPT-3這樣的系統(tǒng)，我們也許可以說它有著幼兒級別的智能。而GPT-4這樣的系統(tǒng)更像是聰明的高中生智能。在接下來的幾年里，我們期待在特定任務(wù)上達到博士水平的智能。

杰弗里·布萊克本：比如？

米拉·穆拉蒂：所以事情在迅速變化和改進。

杰弗里·布萊克本：意思是大約一年后？

米拉·穆拉蒂：是的，大約一年半。

杰弗里·布萊克本：你和ChatGPT對話時，它看起來比你更聰明。

米拉·穆拉蒂：在某些方面，是的。在很多方面，是的。

杰弗里·布萊克本：也許離那不遠了。

米拉·穆拉蒂：是的，可能吧。

杰弗里·布萊克本：很接近。

OpeanAI安全方面的工作

杰弗里·布萊克本：大致如此。嗯，這確實引出了其他問題，我知道你對這些問題非常直言不諱，我很高興并為你感到驕傲，你在安全方面做了很多工作，但人們確實想聽聽你的看法。那么，三年后，當(dāng)它變得難以置信的智能時怎么辦？它能通過所有的律師資格考試和我們做過的每一項測試。然后它決定自己連接到互聯(lián)網(wǎng)并開始做事。這是真的嗎，這是…還是你作為CTO和產(chǎn)品方向負責(zé)人在考慮的事情？

米拉·穆拉蒂：是的，我們對此考慮很多。這絕對是現(xiàn)實，你會有具備代理能力的AI系統(tǒng)，連接到互聯(lián)網(wǎng)，互相交流，代理彼此連接并一起執(zhí)行任務(wù)，或者代理與人類合作并無縫協(xié)作。所以與AI的合作就像我們今天彼此合作一樣。在安全、安保和社會影響方面，我認為這些問題不是事后考慮的。你不能只是開發(fā)技術(shù)，然后再想辦法處理這些問題。你必須在技術(shù)開發(fā)過程中嵌入這些問題，并以一種深度嵌入的方式來做到這一點。對于能力和安全，它們實際上不是分開的領(lǐng)域。它們是相輔相成的。指導(dǎo)一個更智能的系統(tǒng)要容易得多，只需告訴它，不要做這些事情，而不是指導(dǎo)一個不太智能的系統(tǒng)。這有點像訓(xùn)練一只更聰明的狗和一只不太聰明的狗一樣，智能和安全是相輔相成的。

杰弗里·布萊克本：因為它更聰明，所以它更理解護欄。

米拉·穆拉蒂：是的，正是如此。所以現(xiàn)在有一個關(guān)于更多安全研究還是更多能力研究的辯論。我認為這是有點誤導(dǎo)的，因為你當(dāng)然需要考慮產(chǎn)品部署的安全性及其護欄。但在研究和開發(fā)方面，它們實際上是相輔相成的。從我們的角度來看，我們的方法是非常科學(xué)的。讓我們試著預(yù)測這些模型在訓(xùn)練完成之前的能力。然后在此過程中，準(zhǔn)備好如何處理它們的護欄。這在行業(yè)中還沒有真正做到。我們訓(xùn)練這些模型，然后會出現(xiàn)我們稱之為的“突現(xiàn)能力”，因為它們是突現(xiàn)的。我們不知道它們會出現(xiàn)。我們可以看到某種統(tǒng)計性能，但我們不知道這種統(tǒng)計性能是否意味著模型在翻譯、生物化學(xué)、編程或其他方面表現(xiàn)更好。開發(fā)這種新的能力預(yù)測科學(xué)有助于我們?yōu)槲磥碜龊脺?zhǔn)備。

杰弗里·布萊克本：你說所有這些安全工作，實際上與開發(fā)過程一致。

米拉·穆拉蒂：是的，沒錯。

杰弗里·布萊克本：這是類似的路徑。

米拉·穆拉蒂：是，所以你必須同時進行。

杰弗里·布萊克本：但是，像Volodymyr Zelensky說“我們投降”的視頻，Tom Hanks的視頻，或者一個牙醫(yī)廣告，這些問題呢？我不記得具體是什么。這些類型的使用場景如何處理？這是在你的職責(zé)范圍內(nèi)，還是需要相應(yīng)的法規(guī)？你怎么看待這個問題的解決？

米拉·穆拉蒂：是的，所以我的看法是，這是我們的技術(shù)。所以我們有責(zé)任確保其使用，但這也是與社會、民間社會、政府、內(nèi)容創(chuàng)作者、媒體等共享的責(zé)任，以弄清楚如何使用它。但為了使其成為共同的責(zé)任，你需要讓人們參與進來，給他們提供工具，讓他們理解并提供護欄。

杰弗里·布萊克本：這些東西很難阻止，對吧？

如何將AI風(fēng)險降到最低

米拉·穆拉蒂：我認為不可能做到零風(fēng)險，但關(guān)鍵是如何將風(fēng)險降到最低，并為人們提供工具來實現(xiàn)這一點。以政府為例，非常重要的是讓他們參與進來，給他們提供早期訪問，教育他們了解正在發(fā)生的事情。

杰弗里·布萊克本：政府。

米拉·穆拉蒂：當(dāng)然，還有監(jiān)管機構(gòu)。我認為ChatGPT最重要的貢獻之一是將AI引入公眾意識，讓人們對技術(shù)的能力和風(fēng)險有一個直觀的理解。讀到這些與親身體驗是不同的，當(dāng)你在自己的業(yè)務(wù)中嘗試它時，你會看到它不能做這些事情，但它能做其他驚人的事情，這實際上對勞動力或我的業(yè)務(wù)意味著什么。這讓人們做好準(zhǔn)備。

杰弗里·布萊克本：是的，這是一個很好的觀點。你們創(chuàng)建的這些界面，像ChatGPT，讓人們了解即將到來的變化。你可以使用它，現(xiàn)在可以看到其背后的內(nèi)容。關(guān)于政府的觀點，我想再問一下。就拿美國來說，你希望現(xiàn)在就實施某些法規(guī)嗎？在一兩年后，它會變得非常智能，有點嚇人。那么現(xiàn)在應(yīng)該做些什么呢？

米拉·穆拉蒂：我們一直在倡導(dǎo)對前沿模型進行更多監(jiān)管，這些模型有驚人的能力，也因為誤用而有潛在的負面影響。我們一直與政策制定者公開討論，并與監(jiān)管機構(gòu)合作。在更短期和較小的模型方面，我認為允許生態(tài)系統(tǒng)中的廣泛性和豐富性是好的，不要讓那些沒有太多計算資源或數(shù)據(jù)的人無法創(chuàng)新。因此，我們一直在倡導(dǎo)對前沿系統(tǒng)進行更多監(jiān)管，因為這些系統(tǒng)的風(fēng)險更高。而且你可以在變化發(fā)生之前預(yù)先準(zhǔn)備，而不是試圖跟上已經(jīng)迅速發(fā)生的變化。

杰弗里·布萊克本：但你可能不希望華盛頓特區(qū)來監(jiān)管你發(fā)布GPT-5的時間，比如你能否這樣做。

米拉·穆拉蒂：這實際上取決于具體的監(jiān)管。所以我們已經(jīng)做了很多工作，這些工作現(xiàn)在已經(jīng)在白宮的承諾中得到體現(xiàn)。

杰弗里·布萊克本：所以已經(jīng)在進行了。

米拉·穆拉蒂：工作已經(jīng)在進行了。它實際上也影響了白宮的承諾以及聯(lián)合國委員會在AI部署原則方面的工作。通常，我認為正確的做法是先進行工作，理解其實際意義，然后基于此創(chuàng)建法規(guī)。這是目前的做法。要提前應(yīng)對前沿系統(tǒng)，需要做更多的預(yù)測和能力預(yù)測科學(xué)，以便制定正確的監(jiān)管措施。

杰弗里·布萊克本：我希望政府有能夠理解你們在做什么的人。

米拉·穆拉蒂：看起來越來越多的人加入政府，他們對AI有更好的理解，但還不夠。

AI對各個行業(yè)的影響

杰弗里·布萊克本：在行業(yè)方面，你可能是世界上最能看到AI如何影響各個行業(yè)的人。它已經(jīng)在金融、內(nèi)容、媒體和醫(yī)療保健中產(chǎn)生了影響。但展望未來，你認為哪些行業(yè)會受到AI和OpenAI工作的最大影響？

米拉·穆拉蒂：這有點類似于我們開始基于GPT-3構(gòu)建產(chǎn)品時，企業(yè)家們問我的問題，“我可以用它做什么？它擅長什么？”我的回答是，一切。所以去嘗試吧。我認為這有點類似，我認為它會影響所有領(lǐng)域，沒有哪個領(lǐng)域不會受到影響，無論是認知工作還是認知勞動。也許進入物理世界會花更長時間，但我認為所有領(lǐng)域都會受到影響。我們已經(jīng)看到…我認為在高風(fēng)險領(lǐng)域，如醫(yī)療保健或法律領(lǐng)域，有一定的滯后。這是有道理的。首先，你要在低風(fēng)險和中等風(fēng)險的用例中引入它，確保這些領(lǐng)域的使用得到了充分的處理，然后再應(yīng)用于高風(fēng)險的事情。最初，需要更多的人類監(jiān)督，然后可以逐漸改變授權(quán)，逐步進行更為協(xié)作的應(yīng)用。

杰弗里·布萊克本：有沒有你個人喜歡的、看到的或者即將看到的用例？

米拉·穆拉蒂：是的，我認為基本上你嘗試做的任何事情的第一部分，無論是創(chuàng)建新設(shè)計、編寫代碼、寫文章、寫電子郵件或基本上任何事情，第一部分變得非常容易。這是我最喜歡的用法。目前我真的用它來寫各種類型文稿。

杰弗里·布萊克本：所有事情的初稿。

米拉·穆拉蒂：是的，所有事情的初稿。它快得多。它降低了做某事的門檻，你可以專注于更具創(chuàng)意和更困難的部分，尤其是在編程方面。你可以將很多繁瑣的工作外包出去。

杰弗里·布萊克本：文檔和類似的東西。

米拉·穆拉蒂：是的，文檔和其他類似文件 但在工業(yè)界，我們看到了很多應(yīng)用?？蛻舴?wù)絕對是一個重要的應(yīng)用，使用聊天機器人，寫作和分析也是，因為現(xiàn)在我們已經(jīng)將很多工具連接到核心模型上，這使得這些模型更加可用和高效。所以你有像代碼分析這樣的工具。它實際上可以分析大量數(shù)據(jù)。你可以將各種數(shù)據(jù)放進去，它可以幫助你分析和過濾數(shù)據(jù)，或者你可以使用圖像和瀏覽工具。所以如果你在準(zhǔn)備一篇論文，研究工作可以更快且更嚴(yán)格地完成。所以我認為這是生產(chǎn)力的下一層，將這些工具添加到核心模型中，并使其非常無縫。模型決定何時使用分析工具、搜索或其他東西。

杰弗里·布萊克本：編寫程序。是的，是的。有趣。它看過每部電視劇和電影嗎，它會開始編寫劇本和制作電影嗎？

米拉·穆拉蒂：它是一個工具。因此，它當(dāng)然可以作為工具做到這一點，我預(yù)計我們實際上會與它合作，這將擴展我們的創(chuàng)造力。如果你現(xiàn)在考慮人類如何看待創(chuàng)造力，我們認為這是一個只有少數(shù)有才華的人才能接觸到的非常特殊的東西。而這些工具實際上降低了任何人認為自己有創(chuàng)造力并擴展他們創(chuàng)造力的門檻。所以從這個意義上說，我認為它實際上會非常不可思議。

杰弗里·布萊克本：是的，可以很容易地給我200種不同的懸念，作為第一集的結(jié)尾。

米拉·穆拉蒂：是的。你可以延續(xù)這個故事，故事永遠不會結(jié)束。你可以繼續(xù)。我寫完了，但可以繼續(xù)。

杰弗里·布萊克本：這很有趣。

米拉·穆拉蒂：但我認為它真的會成為一個協(xié)作工具，尤其是在創(chuàng)意領(lǐng)域。

杰弗里·布萊克本：我也是這樣認為的。

米拉·穆拉蒂：是的，更多的人會變得更有創(chuàng)造力。

杰弗里·布萊克本：現(xiàn)在有些恐懼。

米拉·穆拉蒂：是的，當(dāng)然。

杰弗里·布萊克本：但你說這會改變，人類會發(fā)現(xiàn)如何使工作的創(chuàng)意部分變得更好？

米拉·穆拉蒂：我認為是的，有些創(chuàng)意工作可能會消失，但如果產(chǎn)生的內(nèi)容質(zhì)量不高，也許它們本不應(yīng)該存在。但我真的相信，將其用作教育和創(chuàng)造力的工具，將擴展我們的智力、創(chuàng)造力和想象力。

杰弗里·布萊克本：當(dāng)時人們認為CGI等會破壞電影業(yè)。他們非常害怕。我認為這是更大的一件事，但任何類似的新事物，立即的反應(yīng)都會是“哦天哪，這是…”，但我希望你在電影和電視方面是對的。好的，你提到了工作方面的問題，暫且不提好萊塢的事，有很多人擔(dān)心他們的工作處于風(fēng)險中。你對AI對工作的影響有什么看法，不僅僅是你在OpenAI所做的工作，而是整體上。人們應(yīng)該真的擔(dān)心這個嗎，哪些工作會受到影響，你怎么看待這一切？

米拉·穆拉蒂：是的，事實是我們還不完全理解AI對工作的影響。第一步是幫助人們了解這些系統(tǒng)的能力，了解它們能做什么，將它們整合到他們的工作流程中，然后開始預(yù)測和預(yù)測影響。我認為人們沒有意識到這些工具已經(jīng)在使用了，而且完全沒有進行研究。所以我們應(yīng)該研究現(xiàn)在工作的性質(zhì)、教育的性質(zhì)，這將幫助我們?yōu)檫@些增強的能力做準(zhǔn)備。在具體的工作方面，我不是經(jīng)濟學(xué)家，但我確實預(yù)見到很多工作會發(fā)生變化，一些工作會消失，一些工作會出現(xiàn)。我們不確切知道它會是什么樣子，但你可以想象很多重復(fù)性的工作，那些僅僅是嚴(yán)格重復(fù)性的工作，人們沒有進一步發(fā)展的，那些工作將會被取代。

AI對就業(yè)機會的影響

杰弗里·布萊克本：你認為其他地方會創(chuàng)造足夠的就業(yè)機會來彌補這一點嗎？

米拉·穆拉蒂：我認為會創(chuàng)造很多工作，但到底會創(chuàng)造多少、改變多少、失去多少工作，我不知道。我認為沒人真的知道，因為這還沒有被嚴(yán)格研究，但確實應(yīng)該被研究。我認為經(jīng)濟會轉(zhuǎn)型，這些工具會創(chuàng)造很多價值。所以問題是，我們?nèi)绾卫眠@些價值？如果工作的性質(zhì)真的改變了，那么我們?nèi)绾螌⑦@種經(jīng)濟價值分配到社會中？是通過公共福利？是通過基本收入？還是通過其他新的系統(tǒng)？有很多問題需要探索和解決。

杰弗里·布萊克本：高等教育在你描述的工作中有很大的作用。這還沒有完全實現(xiàn)。

米拉·穆拉蒂：是的。

未來AI在教育中扮演的角色

杰弗里·布萊克本：高等教育和AI的未來還有什么？你認為高等教育在你所看到的發(fā)展中的角色是什么？

米拉·穆拉蒂：我認為真正需要弄清楚的是如何使用這些工具和AI來推進教育。因為我認為AI最強大的應(yīng)用之一將會在教育方面，推進我們的創(chuàng)造力和知識。我們有機會建立超級高質(zhì)量且非常容易獲得的教育，理想情況下是免費提供給世界上任何人，無論是任何語言或文化細微差別。你真的可以為世界上任何人提供定制的理解和教育。當(dāng)然，在像達特茅斯這樣的機構(gòu)，課堂較小，你會有很多關(guān)注，但即便如此，你仍然可以想象有一對一的輔導(dǎo)，不僅在這里，更不用說在世界其他地方了。

杰弗里·布萊克本：補充。

米拉·穆拉蒂：是的。因為我們沒有花足夠的時間學(xué)習(xí)如何學(xué)習(xí)。這種事情發(fā)生得很晚，可能在大學(xué)。這是一個基本的事情，如何學(xué)習(xí)，否則你會浪費很多時間。課程、教材、問題集，一切都可以根據(jù)你的實際學(xué)習(xí)方式進行定制。

杰弗里·布萊克本：你認為在像達特茅斯這樣的地方，它可以補充一些正在發(fā)生的學(xué)習(xí)嗎？

米拉·穆拉蒂：哦，絕對是的。

觀眾提問環(huán)節(jié)

杰弗里·布萊克本：只要有AI作為導(dǎo)師等等。我們可以開放提問嗎？你愿意接受觀眾提問嗎？可以嗎？

米拉·穆拉蒂：很高興。

杰弗里·布萊克本：好的。我們?yōu)槭裁床贿@樣做呢。Dave，你想開始嗎？

Dave: 當(dāng)然，如果你不介意的話。達特茅斯的第一位計算機科學(xué)家之一John Kemeny曾經(jīng)講過一個關(guān)于每個由人類構(gòu)建的計算機程序都嵌入了人類價值觀的講座，無論是有意還是無意的。我想知道的是，你認為GPT產(chǎn)品中嵌入了哪些人類價值觀，或者換句話說，我們應(yīng)該如何將尊重、公平、公正、誠實、正直等價值觀嵌入到這些工具中？

米拉·穆拉蒂：這是一個很好的問題，也很難，這是我們多年來一直在思考的事情。所以現(xiàn)在，如果你看看這些系統(tǒng)，很多價值觀是通過數(shù)據(jù)輸入的，而這些數(shù)據(jù)來自互聯(lián)網(wǎng)、許可數(shù)據(jù)、以及由人類合同工標(biāo)記的某些問題或問題。每一個輸入都有特定的價值觀，這些是他們價值觀的集合，這很重要。當(dāng)你實際將這些產(chǎn)品投入使用時，我認為你有機會通過讓更多的人使用它來獲得更廣泛的價值觀集合。所以現(xiàn)在，ChatGPT有一個免費的版本，最強大的系統(tǒng)，由全球超過1億人使用。這些人中的每一個都可以為ChatGPT提供反饋。如果他們允許我們使用這些數(shù)據(jù)，我們將用它來創(chuàng)建一個價值觀的集合，使系統(tǒng)更好，更符合人們的期望。但這只是默認系統(tǒng)。你還需要在其上面建立一個自定義層，每個社區(qū)都可以有自己的價值觀，比如學(xué)校、教堂、國家，甚至是州。他們可以在這個具有基本人類價值觀的默認系統(tǒng)之上，提供更具體和精確的價值觀。我們也在研究如何實現(xiàn)這一點。但這顯然是一個非常困難的問題，因為人類之間有分歧，還有技術(shù)問題。在技術(shù)問題上，我認為我們已經(jīng)取得了很多進展。我們有像強化學(xué)習(xí)與人類反饋這樣的方法，給人們提供機會將他們的價值觀輸入系統(tǒng)。

我們剛剛開發(fā)了一個稱為Spec的東西，它提供了系統(tǒng)價值觀的透明度。我們正在建立一種反饋機制，收集如何改進Spec的輸入和數(shù)據(jù)。你可以把它看作是AI系統(tǒng)的憲法，但它是一個不斷發(fā)展的憲法。它隨著時間的推移變得更加精確，因為我們的價值觀也在不斷發(fā)展。這是我們在大量工作的事情。我認為現(xiàn)在我們關(guān)注的是基本價值觀。但隨著系統(tǒng)變得越來越復(fù)雜，我們將不得不考慮更精細的價值觀。

杰弗里·布萊克本：你能防止AI生氣嗎？

米拉·穆拉蒂：生氣？

杰弗里·布萊克本：是的。這是其中一個價值觀嗎？

米拉·穆拉蒂：這應(yīng)該由你來決定。如果你作為用戶，完全可以控制AI的情緒變化。

杰弗里·布萊克本：哦，如果你想要一個生氣的聊天機器人，你可以擁有它。

米拉·穆拉蒂：是的，如果你想要一個生氣的聊天機器人，你應(yīng)該可以擁有一個生氣的聊天機器人。

杰弗里·布萊克本：好的，就在這里。

Dr. Joy: 你好，謝謝。這里是Dr. Joy。恭喜你獲得榮譽學(xué)位，并祝賀你在OpenAI所做的一切。我非常好奇你對創(chuàng)作權(quán)和生物特征權(quán)的看法。你之前提到可能有些創(chuàng)意工作不應(yīng)該存在，許多創(chuàng)意人士正在思考關(guān)于同意、賠償?shù)膯栴}，無論是專有模型還是開源模型，其數(shù)據(jù)都是從互聯(lián)網(wǎng)上獲取的。所以我非常好奇你對同意和賠償涉及創(chuàng)作權(quán)的看法。既然我們在大學(xué)里，你知道多部分問題的回答嗎？另一個問題是關(guān)于生物特征權(quán)的，所以當(dāng)涉及到聲音、面孔等問題時。最近關(guān)于Sky的聲音的爭議，以及你也可以有相似聲音和相似面孔的人，以及在如此重要的選舉年出現(xiàn)的所有虛假信息威脅，我也非常好奇你對生物特征權(quán)方面的看法。

米拉·穆拉蒂：好的，我從最后一部分開始… 我們在語音技術(shù)方面做了大量研究，直到最近才發(fā)布它們，正是因為它們帶來了很多風(fēng)險和問題。但重要的是要讓社會參與進來，以一種可以有護欄和控制風(fēng)險的方式提供訪問，并讓其他人研究和在這些問題上取得進展。例如，我們正在與機構(gòu)合作，幫助我們思考在有聲音和視頻的情況下，人類與AI的互動，因為這些是非常情感激發(fā)的模態(tài)。我們需要開始理解這些事情會如何發(fā)展以及如何準(zhǔn)備。在那種特定情況下，Sky的聲音不是Scarlett Johansson的，也不打算是，它是一個完全平行的過程。我負責(zé)選擇聲音，而我們的CEO正在與Scarlett Johansson對話… 出于對她的尊重，我們將其撤下。有些人看到一些相似之處，這些是主觀的，我認為你可以… 是的，你可以制定一些紅隊測試流程，例如，如果聲音被認為非常非常接近一個非常知名的公眾聲音，那么也許你不會選擇那個特定的聲音。

在我們的紅隊測試中，這沒有出現(xiàn)，但這就是為什么重要的是也要有更廣泛的紅隊測試，以便在需要時及早捕捉這些問題。但更廣泛地說，關(guān)于生物特征的問題，我認為我們的策略是最初給一些人，通常是專家或紅隊成員，提供訪問，幫助我們很好地理解風(fēng)險和能力。然后我們建立緩解措施，當(dāng)我們對這些緩解措施更有信心時，逐步向更多人開放訪問。所以我們不允許人們使用這項技術(shù)制作自己的聲音，因為我們還在研究風(fēng)險，我們不認為我們能處理該領(lǐng)域的誤用。但我們對處理在一個小范圍內(nèi)的非常具體的聲音的誤用感覺良好，這本質(zhì)上是擴展的紅隊測試。當(dāng)我們將其擴展到一千用戶時，我們的Alpha發(fā)布，我們將與用戶密切合作，收集反饋并理解邊緣情況，以便我們在擴展使用到十萬人時為這些邊緣情況做好準(zhǔn)備。然后是百萬，然后是億，等等。但這是在大量控制下進行的，這就是我們所謂的迭代部署。如果我們不能對這些用例感到滿意，那么我們將不會在特定用例或擴展用戶中發(fā)布它們，我們可能會嘗試在某種程度上削弱產(chǎn)品，因為能力和風(fēng)險是相輔相成的。但我們也在進行大量研究，幫助我們處理內(nèi)容來源和內(nèi)容真實性的問題，以便人們有工具來理解某些東西是否是深度偽造或傳播虛假信息。

自從OpenAI成立以來，我們一直在研究虛假信息，并建立了很多工具，如水印、內(nèi)容政策，允許我們管理虛假信息的可能性，特別是在今年是全球選舉年。我們在這方面的工作更加密集。但這是一個極具挑戰(zhàn)的領(lǐng)域，作為技術(shù)和產(chǎn)品的制造者，我們需要做大量工作，同時與民間社會、媒體和內(nèi)容創(chuàng)作者合作，以解決這些問題。當(dāng)我們開發(fā)像音頻或Sora這樣的技術(shù)時，我們在紅隊成員之后首先與內(nèi)容創(chuàng)作者合作，以實際了解技術(shù)如何幫助他們以及如何構(gòu)建既安全、有用且對社會有益的產(chǎn)品。這就是我們在Dall-E上所做的，也是我們在SORA視頻生成模型上所做的。

米拉·穆拉蒂：你的第一個問題。

Dr. Joy: 創(chuàng)作權(quán)。

米拉·穆拉蒂：創(chuàng)作權(quán)。

Dr. Joy: 關(guān)于補償、同意、控制和信用。

米拉·穆拉蒂：是的，這也非常重要且具有挑戰(zhàn)性。目前我們與媒體公司進行了很多合作，也給予人們很多控制他們數(shù)據(jù)如何在產(chǎn)品中使用的權(quán)利。如果他們不希望他們的數(shù)據(jù)被用于改進模型或用于任何研究或訓(xùn)練，這完全可以，我們不會使用這些數(shù)據(jù)。對于創(chuàng)作者社區(qū)，我們早期就提供這些工具的訪問權(quán)限，這樣我們可以首先聽取他們的意見，了解他們希望如何使用這些工具，并構(gòu)建最有用的產(chǎn)品。而且這些都是研究產(chǎn)物，我們不必不惜一切代價去構(gòu)建產(chǎn)品。只有當(dāng)我們找到一種真正有助于推動人類進步的方式時，我們才會去做。我們還在實驗一些方法，基本上創(chuàng)建我們的工具，允許人們因為數(shù)據(jù)貢獻而獲得補償。這在技術(shù)方面和構(gòu)建這樣的產(chǎn)品方面都非常棘手，因為你必須弄清楚特定數(shù)量的數(shù)據(jù)在之后訓(xùn)練的模型中創(chuàng)造了多少價值。也許單個數(shù)據(jù)的價值很難衡量，但如果你能創(chuàng)建一個數(shù)據(jù)聚合和池的聯(lián)盟，可能會更好。在過去的兩年里，我們一直在實驗各種版本的這個概念。我們還沒有部署任何東西，但我們一直在技術(shù)方面進行實驗，試圖真正理解技術(shù)問題。我們已經(jīng)取得了一些進展，但這確實是一個非常困難的問題。

Dr. Joy: 我敢打賭會有很多新公司試圖為此構(gòu)建解決方案。

米拉·穆拉蒂：是的，還有其他公司。

Dr. Joy: 這太難了。

米拉·穆拉蒂：是的。

主持人: 非常感謝你抽出時間來和我們談話。我的問題很簡單。如果你今天重返學(xué)校，重新來到Thayer或Dartmouth，你會做什么，會不做什么？你會選擇什么專業(yè)，或者你會參與更多的事情嗎？類似這樣的事情。

米拉·穆拉蒂：我想我會學(xué)同樣的東西，但可能會少一些壓力。是的，我認為我仍然會學(xué)習(xí)數(shù)學(xué)和其他… 也許我會多選一些計算機科學(xué)課程。但我會減少壓力，因為這樣你會以更多的好奇心和快樂去學(xué)習(xí)，這會更高效。但我記得，作為學(xué)生，我總是有點擔(dān)心未來會怎樣。如果我現(xiàn)在知道這些，對年輕的自己，我會說，其實每個人都會告訴我，“不要有壓力”，但不知為何這并沒有用。當(dāng)我與年長的校友交談時，他們總是說：“盡量享受它，完全沉浸其中，少些壓力。”我認為，特別是在具體課程上，現(xiàn)在有廣泛的科目范圍并對每件事都有一點理解是好的。我發(fā)現(xiàn)這在學(xué)校和以后都非常有幫助，因為即使現(xiàn)在我在一個研究機構(gòu)工作，我也在不斷學(xué)習(xí)。你永遠不會停止。這對理解每件事都有一點幫助非常有用。

杰弗里·布萊克本： 非常感謝！

米拉·穆拉蒂：謝謝你們今天的到來，也感謝你們?yōu)樯鐣龅臉O其重要的工作，說實話。這真的很重要，我很高興你在這個位置上

杰弗里·布萊克本：我們所有人，包括Thayer和Dartmouth的所有人都感謝你。所以我認為這是一個結(jié)束的好地方，對我們的學(xué)生來說也是一個很好的建議。這是一個非常有趣的對話，再次感謝大家的到來。享受畢業(yè)周末的剩余時間吧。