問題9. “如果一個(gè)人工智能機(jī)器變得有意識(shí)，消滅它嗎？”

下述的觀點(diǎn)更好地表達(dá)了地球主義者的態(tài)度。

來信

親愛的德·加里斯教授：

如果人工智能機(jī)器在定義上來說“超越了人類的控制范圍”，那么，為什么要認(rèn)真地思考是否要制造它們呢？讓我們更具體些，您所定義的人工智能機(jī)器“哪一部分應(yīng)該永遠(yuǎn)不要制造出來呢”。我們非常善于制造我們可以控制的強(qiáng)大工具。制造對(duì)人類有危險(xiǎn)的人工智能機(jī)器會(huì)有什么好處呢？為什么不停止制造這些人工智能機(jī)器而僅僅去制造那些無自我意識(shí)的人工智能呢？只有人類和其他的一些動(dòng)物具有自我意識(shí)。把一臺(tái)人工智能機(jī)器放在鏡子前面，如果它可以識(shí)別其映像是自身的話，毀掉它！

回答

這種評(píng)論顯然沒有考慮“硅權(quán)利”。許多宇宙主義者會(huì)認(rèn)為毀掉有意識(shí)的人工智能機(jī)器是一種謀殺行為。我從上述的評(píng)論可以看出這種評(píng)論沒有宇宙主義的同情，因?yàn)樗麊柕?，“制造?duì)人類有危險(xiǎn)的人工智能機(jī)器會(huì)有什么好處呢？”

好，考慮一下這樣的意見如何？——“去制造神一樣的宗教般的吸引力”，或者“去制造出地球上或者更遙遠(yuǎn)的星球上的下一個(gè)主導(dǎo)物種”，或者“去創(chuàng)造出一個(gè)和科學(xué)更加兼容的宗教來達(dá)到‘宇宙意識(shí)’的目的”。或者這樣，那就是“很多人渴望最終得到一個(gè)機(jī)會(huì)，來做一些‘大事’，來看到‘全景’”。

這樣的評(píng)論低估了宇宙主義學(xué)說的力量，它非常強(qiáng)大有力，可能會(huì)影響幾十億人的思想，會(huì)成為影響本世紀(jì)全球政治的力量，并且在某個(gè)時(shí)刻會(huì)間接地導(dǎo)致幾十億人的死亡。請(qǐng)不要簡單地反對(duì)它，它甚至可能成為人類和宇宙中其他幾萬億個(gè)高級(jí)物種所必須面臨的“宇宙主義者過渡”的問題，也許只有少數(shù)物種可以存活下來。宇宙主義可能比我們想象的要有影響得多。