Trust AI@TUV SUD專欄：人工智能在工業(yè)4.0中的應(yīng)用及其安全問題

廣州2022年11月1日 /美通社/ -- 歐盟人工智能（Artificial Intelligence，簡稱AI。）法案將于2024年強制執(zhí)行， 為協(xié)助中國人工智能相關(guān)企業(yè)提前應(yīng)對即將到來的國際監(jiān)管，TUV南德意志集團（以下簡稱"TUV南德"）已推出人工智能評估服務(wù)：AI質(zhì)量架構(gòu)評估方案。

本文為Trust AI@TUV SUD系列專欄的第八篇：人工智能在工業(yè)4.0中的應(yīng)用及其安全問題。

人工智能在工業(yè)4.0中的應(yīng)用

隨著電子商務(wù)的發(fā)展，傳統(tǒng)以產(chǎn)品為導(dǎo)向的工業(yè)生產(chǎn)形式正在被以解決方案和以客戶為導(dǎo)向的理念所取代。工廠收到的生產(chǎn)訂單批量越來越小，差異越來越大，直至完全的個性化生產(chǎn)。但是由于成本、速度、精度等因素，或者問題的解決超出人類能力范圍，完全的個性化生產(chǎn)需要生產(chǎn)過程具有更高水平的自主性，而這需要提升生產(chǎn)系統(tǒng)的認(rèn)知能力，只能通過AI技術(shù)來實現(xiàn)。以定制化的客戶需求為出發(fā)點，生產(chǎn)系統(tǒng)將從"自動"轉(zhuǎn)為"自主"，生產(chǎn)和物流策略將在AI的幫助下進行自我優(yōu)化。

AI的使用旨在提高工業(yè)流程的效率和有效性。從工業(yè)的角度來看，AI技術(shù)可以被理解為能夠幫助制造系統(tǒng)感知環(huán)境、處理所感知的事物、獨立解決問題、尋找解決問題的新方法、做出決策的方法和程序，尤其是從經(jīng)驗中學(xué)習(xí)，以便制造系統(tǒng)更熟練地完成動作和任務(wù)。過程中對人工干預(yù)的需求減少了。

在工業(yè)4.0的語境下，在工業(yè)流程中實施AI的關(guān)鍵是資產(chǎn)管理殼(Asset Administration Shell)，它可以連接數(shù)據(jù)源、學(xué)習(xí)機制、系統(tǒng)邊界和人工干預(yù)。工業(yè)4.0的參考模型架構(gòu) (RAMI 4.0) 的結(jié)構(gòu)化網(wǎng)絡(luò)組件和標(biāo)準(zhǔn)化功能接口也為將 AI技術(shù)集成到工業(yè)生產(chǎn)過程中提供了基礎(chǔ)。

AI在工業(yè)環(huán)境中廣泛應(yīng)用的一個領(lǐng)域是對傳感器數(shù)據(jù)的分析和解釋，這些數(shù)據(jù)分布在機器和生產(chǎn)設(shè)施中。 它記錄機器各個不同方面的狀態(tài)，并據(jù)此執(zhí)行動作。其核心目的是識別不明顯的相關(guān)性，比如實現(xiàn)預(yù)測性維護工作。AI還可以用于工業(yè)生產(chǎn)過程中的流程、物流和能耗優(yōu)化，例如，為了響應(yīng)環(huán)境中的波動，必須調(diào)整復(fù)雜的相互關(guān)聯(lián)的機械設(shè)定參數(shù)。"物聯(lián)網(wǎng)"，即分布式數(shù)據(jù)提供者和數(shù)據(jù)用戶的相互通信，是AI的基礎(chǔ)。

人類定義系統(tǒng)邊界

AI包括一系列應(yīng)用程序和技術(shù)。這些應(yīng)用程序和技術(shù)能夠使系統(tǒng)實現(xiàn)自主功能，并使資產(chǎn)增值。"自主"的能力必須控制在人類定義的系統(tǒng)邊界內(nèi)。由人類定義整體系統(tǒng)要達到哪一等級的自主能力，并決定允許AI運行的區(qū)域和功能。一個系統(tǒng)的自主程度不一定由AI的技術(shù)限制決定，還可能受到法律框架、人類行為的預(yù)估或數(shù)據(jù)保護要求等方面的影響。

自主等級定義了所使用的AI技術(shù)的系統(tǒng)邊界，即允許執(zhí)行哪些任務(wù)。舉一個大眾更加熟悉的例子，自主等級3的自動駕駛汽車可以獨立在高速公路上行駛，但不能獨立的離開高速公路。等級3以上的自主系統(tǒng)必須能夠獨立感知環(huán)境并在指定的系統(tǒng)邊界內(nèi)做出"真正的"自主決策，而無需進一步的人工干預(yù)。這引發(fā)了重要的法律問題，例如關(guān)于決策的責(zé)任和可理解性。這些是整個社會需要討論的問題，超越了工業(yè)和政治領(lǐng)域，無論是自動駕駛還是工業(yè)生產(chǎn)過程中AI的使用。

與簡單自動化過程的經(jīng)典程序相比，在流程更復(fù)雜、決策要求更高的情況下，AI的使用意味著不能每次都獲得完全相同的結(jié)果。這是因為學(xué)習(xí)過程使用了大量的數(shù)據(jù)和信息。 使用AI追求的是不斷優(yōu)化流程并在出現(xiàn)問題時做出"正確"的決策。 允許AI系統(tǒng)提出的并非完全符合預(yù)期的方案建議， 但是做出的決定必須始終是合理的，并且盡可能符合預(yù)期。

AI對工業(yè)過程的沖擊可以分為兩個階段：決策（規(guī)則創(chuàng)建/設(shè)計）和執(zhí)行（規(guī)則執(zhí)行），可以認(rèn)為分別是決策所需的技能（在編程時確定）和執(zhí)行決策的動作（在執(zhí)行時產(chǎn)生影響）。在采用了AI輔助技術(shù)的工業(yè)系統(tǒng)設(shè)計中，系統(tǒng)通過初始學(xué)習(xí)過程進行訓(xùn)練，并與部分經(jīng)典編程一起執(zhí)行工業(yè)過程。在初始"設(shè)計"階段，扮演"監(jiān)督者"角色的人類需要提前決定學(xué)習(xí)過程的許可程度，即哪些數(shù)據(jù)可以用于第一個學(xué)習(xí)階段。以及允許AI系統(tǒng)在過程控制期間接收哪些數(shù)據(jù)以進行進一步的學(xué)習(xí)。盡管優(yōu)化過程需要數(shù)據(jù)，但必須避免過擬合。這是因為數(shù)據(jù)分析的過擬合會對現(xiàn)有的問題解決模型產(chǎn)生負(fù)面影響。規(guī)則的執(zhí)行可以按自主等級分類。如下圖所示。

人工智能在工業(yè)應(yīng)用中的倫理討論

工業(yè)生產(chǎn)，特別是工業(yè)4.0中使用AI，有很多倫理方面的問題，但是一般來說"強人工智能"不在討論范圍?？梢砸话阈缘恼J(rèn)為，用于工業(yè)過程的AI旨在通過自動化流程擴展人類的能力。工業(yè)AI應(yīng)用在本質(zhì)上主要是技術(shù)性的應(yīng)用程序，不會對人類生活產(chǎn)生重大沖擊。然而，這并不意味著這些應(yīng)用程序不用受制于工業(yè)法規(guī)，例如職業(yè)安全法規(guī)或功能安全法規(guī)。這些法規(guī)，無論是在歐洲或世界各地，都是基于人類社會長期發(fā)展而來的基本的倫理原則。

關(guān)于"自主原則"，值得一提的是，機器的決策傳統(tǒng)上是基于預(yù)先編程的算法做出的，因而是確定性的。但是盡管深度神經(jīng)網(wǎng)絡(luò)可以被人類將參數(shù)設(shè)定在非常狹小的范圍內(nèi)，仍然可能以不確定的方式行動。因此，現(xiàn)代AI研究人員將"可解釋性"視為人類增強對自主AI的信任的重要領(lǐng)域之一。

人工智能對機械安全的沖擊

隨著AI，物聯(lián)網(wǎng)和機器人技術(shù)的發(fā)展，越來越多的不依賴于人類操作員的先進機械投放市場。特別是協(xié)作機器人，由于可以在環(huán)境中學(xué)習(xí)新的動作而變得更加自主。這些先進機械可以實時處理信息，自學(xué)習(xí)，自主規(guī)劃移動路線，根據(jù)環(huán)境動態(tài)調(diào)整或改進動作，因此給傳統(tǒng)的基于考慮"最壞可能"的風(fēng)險評估并固定安全保護設(shè)置的機械安全理念提出了新的挑戰(zhàn)。

新版機械指令草案對于采用AI的機械產(chǎn)品及其控制系統(tǒng)增加了很多具體的要求:例如：

在核心職業(yè)健康安全要求(EHSR)中，制造商或其歐盟代理需要執(zhí)行的風(fēng)險分析和風(fēng)險降低流程的c)條修改如下:

確定機械產(chǎn)品生命周期內(nèi)可能產(chǎn)生的危險及其關(guān)聯(lián)的危險場景，包括在機器投放市場的時刻起可以預(yù)見的，機器設(shè)計達到的自主等級決定的，全部或部分介入的行為或邏輯可能產(chǎn)生危險。就此而言，當(dāng)機械產(chǎn)品集成了AI系統(tǒng)，機械產(chǎn)品的風(fēng)險評估必須考慮為滿足歐洲議會和歐盟理事會提出的AI法案所執(zhí)行的風(fēng)險評估。

高風(fēng)險機械產(chǎn)品清單中增加了兩項與AI相關(guān)的產(chǎn)品(軟件):

24.保證安全功能的軟件，包括AI系統(tǒng) 

25.嵌入了保證安全功能的AI系統(tǒng)的機械 

人工智能在工業(yè)4.0中的信息安全

• 人工智能與邊緣計算

由于電子產(chǎn)業(yè)的飛速發(fā)展，AI的應(yīng)用也逐漸邊緣化（邊緣計算）。大部分AI只有在訓(xùn)練的時候需要大量計算能力，而在使用時，小型設(shè)備即可滿足其運算要求，比如手機。在工業(yè)4.0中，AI的應(yīng)用也逐漸從云中轉(zhuǎn)移到公司內(nèi)部運行維護，這樣也可減少遠程的成本和風(fēng)險。但是，雖然在邊緣計算中的AI應(yīng)用可以極大地提高產(chǎn)業(yè)效率和智能化，但同時其本身也存在信息安全風(fēng)險，需要以最新的標(biāo)準(zhǔn)來創(chuàng)建和維護基于AI的產(chǎn)品可信度。

"Zero Trust Concept"--零信任理念的提出和使用是為了構(gòu)建可信任的、安全的AI系統(tǒng)應(yīng)用。這一理念是在大量迅速且不斷變化的數(shù)據(jù)通信中，這些參與者最初應(yīng)被分配零信任值，隨后在信任評分系統(tǒng)中"贏得"其他參與者的信任，任何組件都將在數(shù)據(jù)訪問之前先檢查所涉及的身份認(rèn)證和授權(quán)。

同時，AI的設(shè)計也應(yīng)提高互操作性，這樣在整個工業(yè)4.0的流程中獲得更快的速度和更高的穩(wěn)定性。

• 人工智能與工業(yè)4.0價值鏈

AI也可以為公司價值鏈提供重要貢獻，可以評估價值鏈參與者的各方面，如交付可靠性，支付行為，公司狀態(tài)，產(chǎn)品質(zhì)量，市場定位，定價策略，經(jīng)濟形勢，環(huán)境保護，等等。在所有生產(chǎn)參與者運行期間，杜絕任何異常情況，迅速采取行動并更換參與者。但在此類大數(shù)據(jù)互聯(lián)互通的過程中，各數(shù)據(jù)鏈參與者的數(shù)據(jù)訪問以及數(shù)據(jù)保護的問題便顯露出來。嚴(yán)格的數(shù)據(jù)分離才可以提高此部分的安全性：嚴(yán)格的設(shè)置權(quán)限，只有確切相關(guān)方才可以訪問或修改數(shù)據(jù)。

• 安全數(shù)字身份

在工業(yè)4.0中，會有大量分布式的智能設(shè)備參與共建整體智能制造的生產(chǎn)流程。也由于這些去中心化的架構(gòu)，設(shè)備數(shù)字身份的分配和管理也變得復(fù)雜。在大規(guī)模生產(chǎn)中，出于成本原因，可能很難要求每個產(chǎn)品或組件在整個價值鏈中都有唯一不可偽造的身份證明。但是AI可以通過一些其他的數(shù)據(jù)來評估安全身份，如：使用軟硬件、工牌、生物特征來確認(rèn)身份真實性；要求通信參與者的安全通信屬性（如加密和通信的方式和級別）；數(shù)據(jù)的可審查性和可追溯性。AI也可以通過學(xué)習(xí)行為模式來檢測偽造身份的攻擊，如：溝通頻率的變化，通信時的安全屬性區(qū)別，響應(yīng)速度的區(qū)別，網(wǎng)絡(luò)地址的異常，數(shù)據(jù)非常規(guī)變化等。

• 信任基礎(chǔ)設(shè)施

目前工業(yè)4.0相關(guān)工作組仍在討論應(yīng)如何建造全球AI信任基礎(chǔ)設(shè)施（Trust infrastructure）。但這個信任基礎(chǔ)設(shè)施是對全球價值鏈安全運行的先決條件，可以提供必要的安全功能從而使各價值鏈來建立安全的身份認(rèn)證和通信，同時保護網(wǎng)絡(luò)攻擊。在現(xiàn)有設(shè)施，如PKI（Public Key Infrastructures）和CA（Certificate Authorities）中，AI可以通過識別異常通信來保護此類設(shè)施，如：非常規(guī)通信路徑，異常證書組合，首次認(rèn)證后的異常行為等。

• 基于特性的訪問控制

可以對每個組件設(shè)置在不同生產(chǎn)狀態(tài)下基于不同條件的規(guī)則集（如時間、數(shù)據(jù)類型、天氣、溫濕度、功耗轉(zhuǎn)速、依賴關(guān)系等）。對于如此龐大的規(guī)則集，使用AI可以對其模擬進行復(fù)雜測試，并在使用過程中迭代更新，而且可以實時監(jiān)控分析出現(xiàn)的任何異常情況。

• 協(xié)同狀態(tài)監(jiān)控

協(xié)同狀態(tài)監(jiān)控(Collaborative Condition Monitoring)可以應(yīng)用在以上組件的協(xié)作場景。在一條價值鏈中，兩個安全組件通過安全通信相互溝通，基于信任基礎(chǔ)設(shè)施確保認(rèn)證安全，并通過基于特性的訪問控制讀取數(shù)據(jù)。AI可以在其中檢測未經(jīng)授權(quán)或異常的訪問和任何異常數(shù)據(jù)流，監(jiān)控人員也可以通過AI的匯總報告檢索所有信息。

• 資產(chǎn)管理殼

資產(chǎn)管理殼在工業(yè)4.0中的應(yīng)用是極其重要的，不只因為其負(fù)責(zé)了整體系統(tǒng)的信息安全，更因為它包含了各種生產(chǎn)數(shù)據(jù)和商業(yè)機密。AI在監(jiān)控數(shù)據(jù)間諜活動和數(shù)據(jù)篡改操縱方面非常有用，而人類很難對這些不同屬性的龐大數(shù)據(jù)進行實時分析和管理。但AI的分析結(jié)果很難用同一AI軟件進行解釋，因此也同時需要輔助工具，以便人類對其警報進行最終分析和做出決定。

結(jié)語

AI的應(yīng)用可以極大的提高工廠的智能化程度，如：自動化、驅(qū)動控制、生產(chǎn)維護、生產(chǎn)優(yōu)化、異常及殘次品檢測。但同時AI方案在工廠的應(yīng)用中也有很多局限性因素：不能達到100%的覆蓋率，很難分析錯誤原因，數(shù)據(jù)質(zhì)量難以保證，在實施中太過專業(yè)性，先進機械日益提升的自主性和協(xié)作性給機械安全帶來的挑戰(zhàn)，邊緣計算帶來的信息安全等問題。

在選擇適合工業(yè)4.0的AI應(yīng)著重考慮以下屬性：基于產(chǎn)線機械及傳感器數(shù)據(jù)的應(yīng)用；使用遷移學(xué)習(xí)的方法以更容易適應(yīng)新工廠環(huán)境；適用復(fù)雜的傳感器數(shù)據(jù)網(wǎng)絡(luò)；易用性；信息安全。

對于日益采用AI實現(xiàn)自主和協(xié)作功能的智能機械設(shè)備，其制造商，系統(tǒng)集成商和終端業(yè)主都必須執(zhí)行全面的，覆蓋機械安全和信息安全的風(fēng)險評估，并向歐盟公告機構(gòu)申請合規(guī)性評定。