摘要：4月2日，蘭德公司發(fā)布報告《新興技術(shù)和風(fēng)險分析：人工智能和關(guān)鍵基礎(chǔ)設(shè)施》，重點(diǎn)關(guān)注了未來十年關(guān)鍵基礎(chǔ)設(shè)施中人工智能應(yīng)用的技術(shù)可用性、科學(xué)技術(shù)成熟程度、市場需求、政策法律、道德和監(jiān)管障礙、風(fēng)險等。報告將人工智能劃分為三個類別：狹義人工智能（ANI）、通用人工智能和超人工智能。報告預(yù)測，未來十年人工智能很可能仍然只實(shí)現(xiàn)了狹義人工智能；人工智能科學(xué)技術(shù)的成熟度將取決于幾個關(guān)鍵技術(shù)領(lǐng)域，包括高性能計(jì)算、先進(jìn)半導(dǎo)體開發(fā)制造、機(jī)器人、機(jī)器學(xué)習(xí)、自然語言處理等。

該報告重點(diǎn)關(guān)注人工智能，尤其是與關(guān)鍵基礎(chǔ)設(shè)施相關(guān)的人工智能。作者借鑒了有關(guān)智慧城市的文獻(xiàn)，在評估技術(shù)時考慮了四個屬性：技術(shù)可用性、風(fēng)險和情景。本分析中考慮的風(fēng)險和情景與影響關(guān)鍵基礎(chǔ)設(shè)施的人工智能使用有關(guān)。作者比較了短期（最多三年）、中期（三至五年）和長期（五至十年）三個時期的這四個屬性，以評估人工智能關(guān)鍵基礎(chǔ)設(shè)施的可用性和相關(guān)風(fēng)險。

技術(shù)可用性

人工智能領(lǐng)域包含眾多技術(shù)，這些技術(shù)一旦問世，就會被納入人工智能系統(tǒng)。因此，人工智能的進(jìn)步基于幾個基本技術(shù)領(lǐng)域的關(guān)鍵依賴關(guān)系，包括高性能計(jì)算、先進(jìn)半導(dǎo)體開發(fā)和制造、機(jī)器人技術(shù)機(jī)器學(xué)習(xí)、NLP和數(shù)據(jù)科學(xué)（包括關(guān)鍵數(shù)據(jù)的積累和保護(hù)）。具體的應(yīng)用也會根據(jù)各自的時間表走向成熟。ContextualAI的一項(xiàng)分析表明，手寫分析、語音識別、圖像識別、閱讀理解和語言理解都已經(jīng)超越了人類的表現(xiàn)，而其他任務(wù)，如常識完成、小學(xué)數(shù)學(xué)和代碼生成則達(dá)到了大約85%到90%。

人工智能系統(tǒng)的開發(fā)、部署、發(fā)現(xiàn)不足和其他潛在用途，以及快速更新，這樣的循環(huán)可能是人工智能的一個特點(diǎn)。不足為奇的是，這種方法在互聯(lián)網(wǎng)、社交媒體和現(xiàn)在的人工智能等許多技術(shù)中都很常見。

對于關(guān)鍵基礎(chǔ)設(shè)施而言，這意味著依賴于大數(shù)據(jù)、網(wǎng)絡(luò)、高性能計(jì)算和物聯(lián)網(wǎng)的子系統(tǒng)將在人們完全了解其局限性之前就被納入其中：這也意味著如果人工智能系統(tǒng)出現(xiàn)災(zāi)難性故障，尤其是在關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域，其風(fēng)險可能會非常高。

要應(yīng)對這些挑戰(zhàn)，就必須對技術(shù)和適當(dāng)?shù)木徑獯胧┻M(jìn)行編碼開發(fā)。必須清楚地了解人工智能平臺的價值和目標(biāo)，并制定限制條件，防止偏離人類的期望和規(guī)范。報告還認(rèn)為，必須更好地理解無監(jiān)督學(xué)習(xí)的使用；隨著人工智能系統(tǒng)中允許出現(xiàn)無監(jiān)督學(xué)習(xí)，系統(tǒng)的追蹤能力將變得更具挑戰(zhàn)性。

開發(fā)人工智能，尤其是在早期階段，需要獲得關(guān)鍵技術(shù)，而這些技術(shù)目前受到資源可用性的限制。正如《華盛頓郵報》2023年10月的一篇報道所指出的：“要以任何有意義的規(guī)模構(gòu)建人工智能，任何開發(fā)人員都必須具備以下核心技術(shù)，對資源的依賴主要集中在少數(shù)幾家公司”。

開發(fā)人工智能技術(shù)所需的成本和資源主要體現(xiàn)在四個方面：專用設(shè)備（如半導(dǎo)體和高性能計(jì)算機(jī)）、數(shù)據(jù)、基礎(chǔ)設(shè)施和人力資本。半導(dǎo)體是一個關(guān)鍵組成部分。高性能計(jì)算也供不應(yīng)求，但對于處理超大數(shù)據(jù)量仍是必不可少的，而這些數(shù)據(jù)量是獲得對正在開發(fā)的人工智能系統(tǒng)的信心所必需的。

數(shù)據(jù)是人工智能的重要組成部分，隨著用于開發(fā)和訓(xùn)練模型的數(shù)據(jù)量的增加，人們對人工智能模型的信心也會增加。

開發(fā)人工智能系統(tǒng)的成本和復(fù)雜性相對較高，而與人工智能系統(tǒng)互動的成本和易用性相對較低，兩者之間存在資源對立。OpenAI的首席執(zhí)行官表示，“GPT-4的訓(xùn)練成本超過1億美元”，但該產(chǎn)品可在線使用，根據(jù)所要執(zhí)行的任務(wù)，只需支付很少費(fèi)用或無需支付任何費(fèi)用。

報告評估認(rèn)為，這些趨勢可能會繼續(xù)下去。開發(fā)復(fù)雜的人工智能系統(tǒng)將超出可能尋求開發(fā)新人工智能系統(tǒng)的大多數(shù)用戶的能力，但將人工智能系統(tǒng)用于各種合法和非法目的可能會變得更加普遍。政策、法律、道德和監(jiān)管方面的障礙可能會對人工智能技術(shù)的應(yīng)用構(gòu)成重大障礙。

風(fēng)險評估

人工智能對關(guān)鍵基礎(chǔ)設(shè)施的威脅可能來自幾個方面。人工智能可用于開發(fā)和監(jiān)控關(guān)鍵基礎(chǔ)設(shè)施，這可在優(yōu)化設(shè)計(jì)、提高效率和確保安全方面帶來好處。然而，如果在設(shè)計(jì)基礎(chǔ)設(shè)施時使用的輸入信息被不當(dāng)使用或篡改，以這種方式使用人工智能也有可能造成威脅。

人工智能為攻擊者和防御者都帶來了進(jìn)步。微軟公司的一份報告指出：“人工智能技術(shù)可以自動解讀攻擊過程中產(chǎn)生的信號，有效確定威脅事件的優(yōu)先級，并做出適應(yīng)性反應(yīng)，以應(yīng)對敵對行動的速度和規(guī)模?！?/p>

物聯(lián)網(wǎng)功能的不斷融入增加了網(wǎng)絡(luò)攻擊的脆弱性。正如一個消息來源所指出的，“人工智能通過其吸收使用模式數(shù)據(jù)和提供預(yù)期需求精確計(jì)算的能力對電網(wǎng)系統(tǒng)產(chǎn)生影響，使其成為電網(wǎng)管理的一項(xiàng)主要技術(shù)”。攻擊面的擴(kuò)大也會產(chǎn)生其他潛在的漏洞。人工智能系統(tǒng)可用于進(jìn)行網(wǎng)絡(luò)偵察、制定網(wǎng)絡(luò)滲透計(jì)劃，甚至進(jìn)行攻擊，所有這些都無需人工干預(yù)。

內(nèi)部威脅是另一類活動，可用于在人工智能從開發(fā)到使用技術(shù)的多個階段攻擊關(guān)鍵基礎(chǔ)設(shè)施。在開發(fā)人工智能系統(tǒng)的過程中，內(nèi)部人員可能會制造不安全因素和后門，從而成為被利用的目標(biāo)。有監(jiān)督的數(shù)據(jù)或無監(jiān)督學(xué)習(xí)可能在開發(fā)階段被摻雜，導(dǎo)致基礎(chǔ)或變壓器模型的訓(xùn)練不正確。這可能會導(dǎo)致產(chǎn)生錯誤的傳感器信息信號，甚至導(dǎo)致操作員采取不必要或危險的行動。

人工智能系統(tǒng)的自主程度也可能構(gòu)成威脅。例如，在智能電網(wǎng)中，工業(yè)控制系統(tǒng)可能會提醒操作員系統(tǒng)出現(xiàn)故障，并要求采取行動。人類操作員甚至人工智能—人類操作員團(tuán)隊(duì)可能會進(jìn)一步詢問系統(tǒng)，以驗(yàn)證故障信號，而人工智能操作員則可以根據(jù)不正確的訓(xùn)練決定立即采取行動。這兩種情況都可能產(chǎn)生問題。

隨著人工智能的范圍和規(guī)模越來越大，用途越來越普遍，可能會出現(xiàn)更多的問題。例如，能夠規(guī)劃和控制智能城市甚至關(guān)鍵基礎(chǔ)設(shè)施的人工智能平臺可能被用來制定針對這些關(guān)鍵基礎(chǔ)設(shè)施的攻擊計(jì)劃。人工智能還被考慮用于在開發(fā)可用于攻擊重要基礎(chǔ)設(shè)施或人口的先進(jìn)生物和化學(xué)武器方面。

復(fù)雜性也令人擔(dān)憂。報告評估認(rèn)為，隨著人工智能系統(tǒng)變得越來越復(fù)雜并接近AGI，人類將越來越難以理解和評估人工智能進(jìn)程的結(jié)果。

因此，在減少人工智能脆弱性的過程中，必須遵守關(guān)于人工智能技術(shù)的五項(xiàng)原則，即負(fù)責(zé)任、公平、可追溯、可靠和可治理。此外，使用廣義人工智能網(wǎng)絡(luò)（GAN）、人工智能模型的驗(yàn)證和核實(shí)協(xié)議，以及減少與促進(jìn)人工智能開發(fā)和使用的技術(shù)相關(guān)的漏洞也至關(guān)重要。

主要發(fā)現(xiàn)

（1）人工智能是一種變革性技術(shù)，很可能會廣泛應(yīng)用于整個社會，包括關(guān)鍵基礎(chǔ)設(shè)施。

（2）人工智能可能會受到許多與其他信息時代技術(shù)相同的因素的影響，例如網(wǎng)絡(luò)安全、保護(hù)知識產(chǎn)權(quán)、確保關(guān)鍵數(shù)據(jù)保護(hù)以及保護(hù)專有方法和流程。

（3）人工智能領(lǐng)域包含許多技術(shù)，一旦可用，這些技術(shù)將被納入人工智能系統(tǒng)中。因此，人工智能科學(xué)技術(shù)的成熟度將取決于幾個關(guān)鍵技術(shù)領(lǐng)域，包括高性能計(jì)算、先進(jìn)半導(dǎo)體開發(fā)和制造、機(jī)器人、機(jī)器學(xué)習(xí)、自然語言處理以及積累和保護(hù)關(guān)鍵技術(shù)的能力。

（4）為了將人工智能置于當(dāng)前的成熟狀態(tài)，劃分三個人工智能類別是有用的：狹義人工智能（ANI）、通用人工智能和超人工智能。到本次分析的十年結(jié)束時，該技術(shù)很可能仍然只實(shí)現(xiàn)了ANI。

（5）人工智能將為關(guān)鍵基礎(chǔ)設(shè)施和專用智能城市的最終發(fā)展帶來機(jī)遇和挑戰(zhàn)。