AI的調(diào)情有多好笑？

【編者按】

《你看起來好像……我愛你》是一本寫給普通人了解AI的趣味科普書，作者賈內(nèi)爾·沙內(nèi)，擁有一個電子工程學(xué)專業(yè)的博士學(xué)位以及一個物理學(xué)碩士學(xué)位。本書結(jié)集自她在自己的網(wǎng)站上撰寫的關(guān)于人工智能的妙趣橫生的文章，關(guān)于人工智能可以做什么、不能做什么，以及它為什么已經(jīng)影響了我們生活的方方面面。作者在書中舉了大量例子來講述人工智能的相關(guān)實驗，是帶領(lǐng)讀者走近AI世界的一場可愛導(dǎo)覽。本文為該書序言《人工智能無處不在》，由澎湃新聞經(jīng)中信·鸚鵡螺授權(quán)發(fā)布。

教一個AI（人工智能）調(diào)情，絕對不是我常做的事情。

當(dāng)然，我做過很多奇怪的人工智能項目。在我的博客“怪奇人工智能”上，我曾經(jīng)訓(xùn)練過一個AI來給貓取名字——其中有一些不太成功的案例，比如叮當(dāng)先生或者嘔吐者，我還讓一個AI來生成新的菜譜，其中一些菜譜會用到去皮迷迭香和破碎的玻璃作為原料。不過，教AI說一些人類的甜言蜜語是一件完全不同的事情。

人工智能是通過樣本來學(xué)習(xí)的——在我們的情境中是研究一些已有的搭訕俏皮話，然后用它們生成更多全新的話語。問題在于：我的電腦屏幕上的訓(xùn)練數(shù)據(jù)集是一些我從互聯(lián)網(wǎng)上各處收集的俏皮話，而且它們?nèi)己茉愀?。它們?dāng)中包括油膩俗氣的雙關(guān)語和帶有侮辱性的含沙射影。一旦我訓(xùn)練了一個人工智能程序模仿它們，只要點擊一下按鈕，這個程序就會生成成千上萬個糟糕的俏皮話。同時，就像一個易受外界影響的孩子一樣，它不會知道哪些語言應(yīng)該模仿，哪些不應(yīng)該模仿。這個人工智能程序會從一塊對搭訕俏皮話一無所知（甚至不知道英語是什么）的白板開始，從這些樣本中學(xué)習(xí)，盡最大努力來模仿它發(fā)現(xiàn)的所有規(guī)律，當(dāng)然也包括樣本中粗俗的部分。人工智能沒辦法知道哪些話是好的。

我考慮過放棄這個項目，但是我需要寫一篇博文，同時我已經(jīng)花費了許多時間來收集這些用作樣本的俏皮話。所以我開始訓(xùn)練程序。這個人工智能開始尋找樣本中的規(guī)律，發(fā)明并檢驗一些可以幫助它預(yù)測哪些字母應(yīng)該按照何種順序出現(xiàn)在俏皮話中的規(guī)則。最終，訓(xùn)練結(jié)束了。帶著一點兒誠惶誠恐的意味，我命令這個人工智能程序生成一些語句：

你一定是一個三角形？因為你是這里唯一的東西。

嘿，寶貝，你會成為一把鑰匙嗎？因為我能夠忍受你的嘟嘟聲。

你是一根蠟燭嗎？因為你看起來真熱辣。

你真美，你對我和寶貝說蝙蝠。

你看起來像個東西，我愛你。

我感到又驚又喜。這個人工智能的虛擬大腦（復(fù)雜度大概相當(dāng)于一條蠕蟲）沒有能力辨別數(shù)據(jù)集的各種細(xì)節(jié)，比如厭女癥和粗俗。它盡全力應(yīng)付它設(shè)法發(fā)現(xiàn)的規(guī)律……然后獲得一種完全不同——也許更好——的答案，來解決逗笑陌生人的問題。

盡管對我而言，它能生成話語已經(jīng)是一種引人注目的成功了，但對于那些關(guān)于人工智能的知識大多來自新聞頭條和科幻小說的人來說，我的人工智能伙伴表現(xiàn)出的亂無頭緒也許會讓他們感到驚訝。我們常常見到一些公司聲稱人工智能可以像人類一樣區(qū)分語言中各種細(xì)微的差異，甚至做得更好，或者人工智能將很快在許多工作領(lǐng)域代替人類。新聞界發(fā)布消息說，人工智能很快會無處不在。這些說法是正確的——同時也是大錯特錯的。

事實上，人工智能已經(jīng)無處不在了。我們在互聯(lián)網(wǎng)上的體驗取決于人工智能，它決定了我們能看到哪些廣告，它推薦視頻，同時檢測社交媒體上的機器人和惡意網(wǎng)站。許多公司使用人工智能來進(jìn)行簡歷篩選，判斷該面試哪些應(yīng)聘者，也會用人工智能來判斷是否應(yīng)該批準(zhǔn)某項貸款申請。自動駕駛汽車中的人工智能已經(jīng)駕駛了上百萬英里（它們在陷入困惑時偶爾需要人類營救）。我們已經(jīng)把人工智能應(yīng)用在我們的智能手機中，它們會識別我們的語音指令，自動給相片中的人臉歸類貼標(biāo)簽，甚至?xí)谝曨l中加一個讓我們看起來長著兔子耳朵的濾鏡。

但是不需要多長時間，我們就會體會到，這些我們每天都在使用的人工智能并非完美無缺。廣告投放程序會不停地給我們推送我們買過的靴子的廣告。垃圾郵件過濾器有時會讓明顯的騷擾郵件通過，或是在最不合時機的關(guān)頭過濾掉一封至關(guān)重要的郵件。

因為我們?nèi)粘Ｉ钪械脑S多部分受到算法的支配，這些人工智能的“怪癖”除了造成不便，還開始帶來一些嚴(yán)重的后果。視頻網(wǎng)站YouTube（優(yōu)兔）上的推薦算法會把人們引向觀點更加兩極化的內(nèi)容，短短幾次點擊之間，人們就會從主流新聞被引導(dǎo)到去觀看仇視社會的群體和陰謀家的視頻。在假釋、貸款和簡歷篩選方面幫助人類決策的算法是中立的，但是它們也可能像它們要替代的人類那樣充滿偏見——有時更甚之。人工智能控制的監(jiān)控沒有辦法收受賄賂，但它們在被要求做某件事時，也無法出于道德原因而提出反對。研究者發(fā)現(xiàn)，一些看起來無足輕重的細(xì)節(jié)，比如一塊小小的貼紙，就可以讓一個圖像識別的人工智能認(rèn)為一把槍是一臺烤面包機，而安全性能不足的指紋識別器被主人的指紋愚弄的概率是77%。

人們經(jīng)常兜售人工智能比實際上更能干的觀點，號稱他們的人工智能可以完成一些只有科幻小說中才會出現(xiàn)的情景。另一些人則自賣自夸他們的人工智能公正不阿，盡管它們的表現(xiàn)明顯地帶有偏見。同時，通常人們聲稱的人工智能所做的工作，實際上都是人類居于幕后在工作。作為這個星球上的消費者和公民，我們得避免上當(dāng)受騙。我們需要理解我們的數(shù)據(jù)是如何被人工智能使用的，理解我們使用的人工智能究竟是什么。

在“怪奇人工智能”博客上，我花了不少時間用人工智能做了一些有趣的項目。這意味著讓人工智能模仿一些不同尋常的事物，比如俏皮話。另外，我想試試能不能讓它們走出舒適區(qū)，比如我給一個圖像識別算法展示電影人物阿納金·天行者的圖片，然后詢問它看到了什么：它回答說阿納金·天行者是一棵樹，接著便開始和我爭論起來。從我的經(jīng)驗來看，我發(fā)現(xiàn)，即便是最直截了當(dāng)?shù)娜蝿?wù)也可能使人工智能失效，就像你和它開了一個玩笑。但是事實證明，和人工智能開這樣的玩笑——交給它一項任務(wù)，然后看著它不知所措——是一種了解人工智能的絕佳途徑。

事實上，就像我們將在本書中看到的，人工智能算法的內(nèi)部構(gòu)造往往是如此復(fù)雜和怪異，以至于觀察人工智能的輸出可能是唯一一種我們能用來探索它理解了什么、哪里出現(xiàn)了問題的工具。當(dāng)你讓一個人工智能程序畫一只貓或者寫一個笑話時，它犯下的錯誤和它在處理指紋或醫(yī)學(xué)影像時犯的錯誤是類似的，只是當(dāng)它畫出的貓有6條腿、講的笑話里沒有包袱的時候，你可以更容易知道它出了問題。另外，這些錯真的很好笑。

在我嘗試讓人工智能走出它們的舒適區(qū)，進(jìn)入我們的世界時，我曾經(jīng)讓人工智能去寫一篇小說的第一行、在不同尋常的場景中識別綿羊、寫一份菜單、給豚鼠取名字，通常得到的結(jié)果都非常奇怪。但是從這些實驗中，你可以學(xué)到許多有關(guān)人工智能的優(yōu)缺點的知識——以及哪些事情它不太可能在你我的有生之年做到。

這是我學(xué)到的：

人工智能奇怪之處的五點原則：

   人工智能的缺點不是因為它們太聰明，而是因為它們不夠聰明。

   人工智能的腦力大概相當(dāng)于一條蠕蟲。

   人工智能并沒有真正理解你想讓它解決的問題。

   人工智能會完完全全按照你告訴它的指令來執(zhí)行?；蛘?，它至少會盡全力去做。

   人工智能會選擇最容易的路徑。

那么，讓我們一起進(jìn)入人工智能的奇怪世界吧！我們將會了解到人工智能是什么——以及它不是什么。我們會知道它擅長什么，在哪里一定會失敗。我們會知道為什么未來的人工智能也許長得不太會像《星球大戰(zhàn)》中的機器人那樣，反而會更接近一群昆蟲。我們將會知道為什么自動駕駛汽車在世界毀滅、喪尸橫行時不太適合用來逃跑。我們將會知道為什么你永遠(yuǎn)也不應(yīng)該自愿去測試一個分揀三明治的人工智能，同時我們將會遇到行走的人工智能，它不想做任何事只想行走。在這個過程中，我們將會知道人工智能如何工作，如何思考，為什么它將使世界變得更怪異。

《你看起來好像……我愛你：AI的工作原理以及它為這個世界帶來的稀奇古怪》，[美]賈內(nèi)爾·沙內(nèi)著，余天呈譯，中信出版集團·鸚鵡螺2021年4月。