想象一下，有一種人工智能（AI）不僅僅遵循你的指令，還能自行決定如何實(shí)現(xiàn)你的目標(biāo)。代理型人工智能（Agentic AI）正是如此：這是人工智能的一個(gè)新前沿領(lǐng)域，在這個(gè)領(lǐng)域中系統(tǒng)可以獨(dú)立運(yùn)行。代理型人工智能有潛力革新諸多行業(yè)。但其高度的自主性伴隨著重大的責(zé)任——以及潛在的倫理困境。確保自主導(dǎo)向系統(tǒng)中的責(zé)任性、公平性和安全性是建立對這些技術(shù)的信任和可靠性的核心所在。

Keeley Crockett是IEEE會(huì)員以及《IEEE計(jì)算智能新興話題雜志》的前任副主編，下文中他將重點(diǎn)探討什么是代理型人工智能、它正在如何被使用以及在未來幾年可能會(huì)如何發(fā)展。

你會(huì)如何向沒有技術(shù)背景的人解釋代理型人工智能呢？

代理型人工智能指的是能夠獨(dú)立行動(dòng)以實(shí)現(xiàn)目標(biāo)而不需要持續(xù)人類控制的人工智能系統(tǒng)。這些系統(tǒng)能夠基于其程序設(shè)定和所處理的數(shù)據(jù)來做決策、執(zhí)行操作并適應(yīng)各種情況，通常不需要人類輸入。一個(gè)目標(biāo)可能包含若干個(gè)子目標(biāo)。

關(guān)于這些系統(tǒng)在未來可能的應(yīng)用有幾個(gè)例子。想象一下你有一個(gè)家庭清潔機(jī)器人，你只給它下達(dá)“保持房屋清潔”的指令。然后這個(gè)機(jī)器人就會(huì)在適當(dāng)?shù)臅r(shí)候執(zhí)行任務(wù)，比如當(dāng)它判定地板臟了就進(jìn)行吸塵，飯后就去洗碗，以及定時(shí)把東西放回原位。這個(gè)機(jī)器人理解目標(biāo)并且不需要持續(xù)的指令就能自主行動(dòng)。

另一種情形涉及使用代理型人工智能來運(yùn)營一個(gè)營銷項(xiàng)目。你可能會(huì)告知該系統(tǒng)要將銷售額提高20%。然后，一個(gè)代理型人工智能系統(tǒng)能夠獨(dú)立分析特定時(shí)間段內(nèi)的客戶數(shù)據(jù)，以識(shí)別趨勢和偏好。接著，該人工智能將分析客戶數(shù)據(jù)，基于這一分析開展?fàn)I銷活動(dòng)，并且如果發(fā)現(xiàn)活動(dòng)未達(dá)到預(yù)期效果就進(jìn)行調(diào)整。

代理型人工智能與傳統(tǒng)人工智能模型或自動(dòng)化系統(tǒng)有何區(qū)別？

傳統(tǒng)人工智能模型遵循通常從數(shù)據(jù)中發(fā)現(xiàn)的預(yù)定義規(guī)則。如果沒有某種形式的重新訓(xùn)練、測試和驗(yàn)證，這類模型無法自動(dòng)適應(yīng)意外的變化。而且還需要人類的監(jiān)督和干預(yù)。傳統(tǒng)模型通常是為一項(xiàng)特定任務(wù)而構(gòu)建的，例如分類任務(wù)，即構(gòu)建一個(gè)模型來判定一個(gè)人是否有可能拖欠貸款還款。

代理型人工智能系統(tǒng)能夠獨(dú)立行動(dòng)以實(shí)現(xiàn)特定目標(biāo)，不需要持續(xù)的人類干預(yù)。它們可以從數(shù)據(jù)中學(xué)習(xí)、適應(yīng)新情況并動(dòng)態(tài)調(diào)整自身的行動(dòng)。它們的行為是目標(biāo)驅(qū)動(dòng)的，并且必須弄清楚如何實(shí)現(xiàn)主要目標(biāo)和子目標(biāo)，這就要求它們獨(dú)立于人類對任務(wù)進(jìn)行優(yōu)先級排序和解決問題。

代理型人工智能有哪些倫理影響？

代理型人工智能的使用引發(fā)了幾個(gè)關(guān)鍵問題。在如此復(fù)雜的系統(tǒng)中，如果出現(xiàn)問題，誰來負(fù)責(zé)？需要哪些數(shù)據(jù)和隱私保護(hù)措施？當(dāng)代理型人工智能系統(tǒng)要做出具有現(xiàn)實(shí)世界影響的“道德”決策時(shí)，它應(yīng)該如何應(yīng)對？

這些問題對于傳統(tǒng)人工智能系統(tǒng)也是一樣的。盡管有倫理原則以及現(xiàn)行/新興的立法作為指導(dǎo)，但我們?nèi)栽谂斫獠⑵饰鲞@在實(shí)際運(yùn)作的系統(tǒng)中意味著什么。最大的倫理問題是，人類處于何種位置？

當(dāng)今是否有正在使用的代理型人工智能模型？它們具備何種程度的自主性？

如今，代理型人工智能被應(yīng)用于自動(dòng)駕駛汽車中，基于對車輛周邊環(huán)境的持續(xù)分析來做出駕駛決策。每一次出行都是一次學(xué)習(xí)體驗(yàn)。

一些網(wǎng)絡(luò)安全公司使用代理型人工智能通過對網(wǎng)絡(luò)活動(dòng)的實(shí)時(shí)分析來檢測組織內(nèi)的威脅并進(jìn)行關(guān)聯(lián)。然后，人工智能會(huì)自動(dòng)自主地對潛在的入侵做出響應(yīng)。

我個(gè)人的觀點(diǎn)是，隨著研究的進(jìn)展以及數(shù)據(jù)獲取量的增加，代理型人工智能的應(yīng)用案例將迅速發(fā)展。這些系統(tǒng)的準(zhǔn)確性取決于一個(gè)人愿意分享多少個(gè)人數(shù)據(jù)。