作者：Holly Vatter, IBM市場(chǎng)部人工智能資深產(chǎn)品經(jīng)理

北京2023年5月15日 /美通社/ -- 責(zé)任是一種后天習(xí)得的行為。 隨著時(shí)間的推移，我們清晰地認(rèn)識(shí)到滿足社會(huì)期望、遵守規(guī)則和法律以及尊重他人權(quán)利的必要性。 我們弄清楚了責(zé)任、問(wèn)責(zé)制和后續(xù)獎(jiǎng)勵(lì)措施之間的聯(lián)系。 如果我們負(fù)責(zé)任地行事，那么我們會(huì)獲得積極的回報(bào)；反之，我們則可能會(huì)面臨不良后果，包括罰款、失去信任或地位，甚至被監(jiān)禁。 遵守負(fù)責(zé)任的人工智能 (AI) 標(biāo)準(zhǔn)也是如此。

Gartner 預(yù)測(cè)，到 2025 年，人工智能 (AI) 軟件市場(chǎng)將達(dá)到近 1348 億美元。

構(gòu)建負(fù)責(zé)任的 AI

隨著 AI 以及構(gòu)建和縮放模型對(duì)企業(yè)的業(yè)務(wù)越來(lái)越重要，一個(gè)高度相關(guān)的主題便是如何實(shí)現(xiàn)負(fù)責(zé)任的 AI (RAI)。 企業(yè)越來(lái)越需要積極地推進(jìn)公平、負(fù)責(zé)任且合乎道德的決策，并遵守現(xiàn)行的法律法規(guī)。

管理風(fēng)險(xiǎn)和聲譽(yù)

沒有企業(yè)愿意因?yàn)槌舐劧霈F(xiàn)在新聞中，媒體上最近經(jīng)常報(bào)道一些關(guān)于不公平、不可解釋或帶有偏見的 AI 的案例。 企業(yè)需要保護(hù)個(gè)人隱私并加強(qiáng)信任。 基于錯(cuò)誤數(shù)據(jù)或假設(shè)而采取的錯(cuò)誤或帶有偏見的行為可能導(dǎo)致被起訴并失去客戶、利益相關(guān)者、股東和員工的信任。 最終，這可能導(dǎo)致企業(yè)聲譽(yù)受損以及銷售和收入損失。

堅(jiān)持道德原則

推進(jìn)道德決策的意義在于不偏袒任何群體，這就要求在數(shù)據(jù)采集、構(gòu)建、部署和監(jiān)控模型的過(guò)程中建立公平性并檢測(cè)出帶有偏見的行為。 為了做出公平的決策，企業(yè)還需要能夠適應(yīng)行為模式和概要文件的變化，這可能需要在整個(gè) AI 生命周期中重新訓(xùn)練或重建模型。

根據(jù)政府法規(guī)提供保護(hù)并進(jìn)行擴(kuò)展

AI 法規(guī)正在快速完善和變化，不合規(guī)事件可能導(dǎo)致昂貴的審計(jì)費(fèi)用、罰款和負(fù)面新聞。 在多個(gè)國(guó)家/地區(qū)設(shè)有分支機(jī)構(gòu)的跨國(guó)企業(yè)在滿足當(dāng)?shù)睾蛧?guó)家/地區(qū)的特定規(guī)則和法規(guī)方面面臨一些挑戰(zhàn)。 而醫(yī)療保健、政府和金融服務(wù)等高度監(jiān)管市場(chǎng)中的企業(yè)在滿足行業(yè)特定法規(guī)方面則面臨更多的挑戰(zhàn)。

"不合規(guī)事件的潛在成本十分驚人，它遠(yuǎn)不止于被罰款那樣簡(jiǎn)單。 首先，如果發(fā)生一次不合規(guī)事件，企業(yè)將平均損失 587 萬(wàn)美元的收入。 但這只是冰山一角 - 財(cái)務(wù)影響遠(yuǎn)遠(yuǎn)超出了您的最終收益。

負(fù)責(zé)任的 AI 需要治理

Gartner 將"AI 治理"定義為"為應(yīng)用和使用人工智能技術(shù)而制定政策、分配決策權(quán)并確保企業(yè)對(duì)風(fēng)險(xiǎn)和投資決策負(fù)責(zé)的過(guò)程"。

盡管是出于善意，而且技術(shù)也在不斷進(jìn)步，但實(shí)現(xiàn)負(fù)責(zé)任的 AI 還是困難重重。 負(fù)責(zé)任的 AI 需要 AI 治理；對(duì)于許多企業(yè)來(lái)說(shuō)，這就需要完成大量的手動(dòng)工作，而更改數(shù)據(jù)和模型版本以及使用多種工具、應(yīng)用程序和平臺(tái)則會(huì)加大手動(dòng)工作量。 手動(dòng)的工具和流程可能會(huì)導(dǎo)致代價(jià)高昂的人為錯(cuò)誤，并導(dǎo)致模型缺乏透明度、正確的編目和監(jiān)控。 這些"黑匣子"模型可能會(huì)產(chǎn)生即使是數(shù)據(jù)科學(xué)家和其他關(guān)鍵利益相關(guān)者也無(wú)法解釋的分析結(jié)果。

在解決由管理層、利益相關(guān)者和股東提出的模型性能問(wèn)題時(shí)，可解釋的結(jié)果至關(guān)重要。 客戶有理由要求公司負(fù)責(zé)解釋分析決策的理由，包括信貸、抵押貸款和學(xué)校錄取被拒，以及醫(yī)療保健診斷或治療的細(xì)節(jié)。 向?qū)徲?jì)師或監(jiān)管機(jī)構(gòu)說(shuō)明分析決策的理由時(shí)，還必須提供記錄在案且可解釋的模型事實(shí)。

了解有關(guān)構(gòu)建 AI 治理的更多信息 

IBM watsonx.governance - 推進(jìn)負(fù)責(zé)任、透明和可解釋的 AI 工作流程

IBM 自動(dòng)治理方法可幫助您指導(dǎo)、管理和監(jiān)控企業(yè)的 AI 活動(dòng)。 通過(guò)采用軟件自動(dòng)化，此解決方案有助于增強(qiáng)您滿足法規(guī)要求和解決道德問(wèn)題的能力（無(wú)需額外支付轉(zhuǎn)換當(dāng)前數(shù)據(jù)科學(xué)平臺(tái)的成本）。

在整個(gè) AI 生命周期中，watsonx.governance 解決方案可以監(jiān)控并管理模型的構(gòu)建、部署和監(jiān)控過(guò)程以及事實(shí)集中過(guò)程，從而實(shí)現(xiàn) AI 透明度和可解釋性。 此解決方案的組件包括：

• 生命周期治理 - 就地監(jiān)控、編目和管理 AI 模型。 自動(dòng)捕獲模型元數(shù)據(jù)并提高預(yù)測(cè)準(zhǔn)確性，以便確定 AI 的使用方式以及需要返工模型的位置。
• 風(fēng)險(xiǎn)管理 - 根據(jù)業(yè)務(wù)標(biāo)準(zhǔn)，自動(dòng)生成模型事實(shí)并自動(dòng)執(zhí)行工作流程。 大規(guī)模識(shí)別、管理、監(jiān)控和報(bào)告風(fēng)險(xiǎn)及合規(guī)情況。 使用動(dòng)態(tài)儀表板為利益相關(guān)者提供可定制的結(jié)果。 加強(qiáng)跨多個(gè)區(qū)域和地理位置的合作。
• 法規(guī)合規(guī)性 - 將外部 AI 法規(guī)轉(zhuǎn)化為可自動(dòng)實(shí)施的策略。 更嚴(yán)格地遵守審計(jì)和合規(guī)性法規(guī)，并向主要利益相關(guān)者提供定制報(bào)告。

想要了解 IBM watsonx.governance 是如何幫助企業(yè)構(gòu)建負(fù)責(zé)任的 AI 嗎？ 立即聯(lián)絡(luò) IBM 專家

關(guān)于 IBM

IBM 是全球領(lǐng)先的混合云、人工智能及企業(yè)服務(wù)提供商，幫助超過(guò) 175 個(gè)國(guó)家和地區(qū)的客戶，從其擁有的數(shù)據(jù)中獲取商業(yè)洞察，簡(jiǎn)化業(yè)務(wù)流程，降低成本，并獲得行業(yè)競(jìng)爭(zhēng)優(yōu)勢(shì)。金融服務(wù)、電信和醫(yī)療健康等關(guān)鍵基礎(chǔ)設(shè)施領(lǐng)域的超過(guò) 4000 家政府和企業(yè)實(shí)體依靠 IBM 混合云平臺(tái)和紅帽 OpenShift 快速、高效、安全地實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。IBM 在人工智能、量子計(jì)算、行業(yè)云解決方案和企業(yè)服務(wù)方面的突破性創(chuàng)新為我們的客戶提供了開放和靈活的選擇。對(duì)企業(yè)誠(chéng)信、透明治理、社會(huì)責(zé)任、包容文化和服務(wù)精神的長(zhǎng)期承諾是 IBM 業(yè)務(wù)發(fā)展的基石。了解更多信息，請(qǐng)?jiān)L問(wèn)：https://www.ibm.com/cn-zh

IBM 媒體聯(lián)絡(luò)人：

陳赟，chychen@cn.ibm.com