首頁(yè)熱門文章
相關(guān)文章
人工智能：保護(hù)其安全的挑戰(zhàn)
發(fā)布時(shí)間：2018-09-14 分類：交通百科
安全原則：人工智能系統(tǒng)在其整個(gè)運(yùn)行壽命期間應(yīng)是安全可靠的，并在適用和可行的情況下以可核查的方式做到這一點(diǎn)。
當(dāng)一輛新車被介紹到世界各地時(shí)，它必須通過(guò)各種安全測(cè)試，不僅要滿足政府的規(guī)定，還要滿足公眾的期望。事實(shí)上，安全已成為購(gòu)車者的最大賣點(diǎn)。不僅僅是汽車，無(wú)論是從電器到飛機(jī)，制造商都知道，消費(fèi)者希望他們的產(chǎn)品從頭到尾都是安全的。
人工智能也不例外，顯然，對(duì)于一個(gè)ai人工智能產(chǎn)品來(lái)說(shuō)，傷害其所有者或其他人并不符合任何人的最佳利益，但是，這一原理要復(fù)雜得多。當(dāng)一個(gè)系統(tǒng)變得越來(lái)越智能時(shí)，我們是否有能力驗(yàn)證它是否可信，這一點(diǎn)并不確定。在一定的智能水平上，人工智能將能夠重寫自己的代碼，而使用超級(jí)智能系統(tǒng)，我們甚至可能無(wú)法從一開始就理解程序。
什么是人工智能安全?
這一原則觸及了人工智能安全研究倡議的核心：我們?nèi)绾未_保一項(xiàng)旨在學(xué)習(xí)如何修改自身行為的技術(shù)的安全?
人工智能的設(shè)計(jì)使它能夠從與周圍環(huán)境的交互中學(xué)習(xí)，并相應(yīng)地改變其行為，從而為人類提供難以置信的好處。因?yàn)槿斯ぶ悄苣軌虮热祟惛行У亟鉀Q許多問(wèn)題，所以它在改善每個(gè)人的健康和福祉方面有著巨大的潛力。
微軟的聊天機(jī)器人泰伊(Tay)是人工智能如何從環(huán)境中學(xué)習(xí)負(fù)面行為的最新例子，產(chǎn)生的結(jié)果與創(chuàng)建者的想法完全相反。與此同時(shí)，特斯拉汽車事故中，車輛誤認(rèn)為一輛白色的卡車為晴空，提供了一個(gè)例子，人工智能誤解其周圍，并采取致命行動(dòng)的結(jié)果。
研究人員可以嘗試從誤入歧途的人工智能中學(xué)習(xí)，但目前的設(shè)計(jì)往往缺乏透明度，而且當(dāng)今的人工智能基本上都是一個(gè)黑盒子。AI開發(fā)人員不能總是弄清楚AI是如何或?yàn)槭裁磿?huì)采取各種行動(dòng)，而這很可能只會(huì)隨著AI變得更加復(fù)雜而變得更具挑戰(zhàn)性。
將傳統(tǒng)的安全技術(shù)應(yīng)用到人工智能中，給我們提供了一條實(shí)現(xiàn)人工智能安全的具體途徑。如果我們能夠設(shè)計(jì)一種方法，防止惡意攻擊者導(dǎo)致AI采取不可取的行為，那么AI就更不可能獨(dú)立地選擇不受歡迎的行為。人工智能的安全可能是一個(gè)挑戰(zhàn)，但沒(méi)有理由相信它是不可戰(zhàn)勝的。
安全與價(jià)值對(duì)準(zhǔn)
對(duì)人工智能安全的任何考慮還必須包括價(jià)值調(diào)整：我們?nèi)绾卧O(shè)計(jì)能夠與人類價(jià)值的全球多樣性相一致的人工智能，特別是考慮到我們所要求的往往不一定是我們想要的?
安全不僅僅是一個(gè)技術(shù)問(wèn)題，如果你只是讓人工智能與你設(shè)定的任何值完美地結(jié)合起來(lái)，那么問(wèn)題是，人們可以有一系列的值，其中一些是壞的。僅僅是匹配AI，將它與您指定的值進(jìn)行匹配，我認(rèn)為還不夠好。這是一個(gè)良好的開端，是一個(gè)讓人工智能安全的宏偉目標(biāo)，技術(shù)因素也是其中的一個(gè)重要部分;但我再次認(rèn)為，安全也意味著政策和規(guī)范的制定。當(dāng)人工智能越來(lái)越接近于滿足甚至超越人類智能時(shí)，價(jià)值匹配問(wèn)題就變得更加安全了。
以日本為老年人開發(fā)的機(jī)器人為例，他們并不聰明，現(xiàn)在的重點(diǎn)是外表和運(yùn)動(dòng)技能。但是想象一下，當(dāng)這些機(jī)器人中的一個(gè)實(shí)際從事老年護(hù)理工作時(shí)，…它必須同時(shí)執(zhí)行多項(xiàng)任務(wù)，并表現(xiàn)出認(rèn)知靈活性?！@就增加了對(duì)家庭助理員(AGI)的需求。一旦你達(dá)到了人工智能的水平，就很難控制機(jī)器了。我們甚至不能確保人類同胞有正確的目標(biāo);為什么我們要認(rèn)為AGI會(huì)有與我們一致的價(jià)值觀，更不用說(shuō)超級(jí)智能會(huì)有這樣的價(jià)值觀了。
定義安全
但或許是時(shí)候重新考慮安全的定義了，這意味著我們需要把定義從“身體安全”擴(kuò)大到“提供更多的幸福”。我們都希望我們的系統(tǒng)是安全的。此外，隨著人工智能的發(fā)展，可能會(huì)不太清楚這些約束應(yīng)該是什么，我們需要重新思考我們所說(shuō)的“安全”是什么意思，也許是從一開始就在安全中建設(shè)，而不是設(shè)計(jì)一個(gè)有能力的系統(tǒng)，然后增加安全性。
