首頁(yè)熱門(mén)文章
- 1中國(guó)城市停車(chē)終迎來(lái)高光井噴時(shí)代
- 2迪蒙停車(chē)：四部委聯(lián)手推動(dòng)城市智
- 3向雋：共享停車(chē)將遍布全世界每個(gè)
- 4國(guó)務(wù)院、發(fā)改委多舉措推進(jìn)城市智
- 5掌停車(chē)：全國(guó)“兩會(huì)”聚焦停車(chē)難
- 6人工智能停車(chē)已成為橫琴新區(qū)一張
- 7掌停車(chē)：智慧停車(chē)是移動(dòng)互聯(lián)網(wǎng)時(shí)
- 8迪蒙城市停車(chē)：智慧停車(chē)萬(wàn)億金礦
- 9迪蒙城市停車(chē)：深圳“科技治城”
- 10迪蒙城市停車(chē)：深圳力推共享停車(chē)
相關(guān)文章
- 1詳解：我國(guó)充電樁行業(yè)發(fā)展正是時(shí)
- 2淺析：國(guó)內(nèi)外充電樁市場(chǎng)的發(fā)展
- 3淺析：充電樁需求將要爆發(fā)式增長(zhǎng)
- 4詳解：加快充電樁建設(shè)是關(guān)鍵
- 5淺析：電動(dòng)汽車(chē)無(wú)線充電樁標(biāo)準(zhǔn)建
- 6詳解：充電樁安裝的常見(jiàn)問(wèn)題詳細(xì)
- 7淺析：通過(guò)特斯拉的布局來(lái)了解充
- 8淺析：對(duì)充電樁行業(yè)影響因素的分
- 9淺析：為什么充電樁會(huì)逐步取代加
- 10淺析：充電樁的五類(lèi)市場(chǎng)，五種典
人工智能、處方藥，以及我們不了解的事情的風(fēng)險(xiǎn)管理
發(fā)布時(shí)間：2018-09-20 分類(lèi)：交通百科
隨著突破“深度學(xué)習(xí)”導(dǎo)致ai人工智能的復(fù)雜程度迅速增加，在近幾年來(lái)這顧慮正在擴(kuò)大和加深。這些深層次的學(xué)習(xí)系統(tǒng)使用由人類(lèi)大腦運(yùn)作方式啟發(fā)的深層神經(jīng)網(wǎng)絡(luò) -或者，更準(zhǔn)確地說(shuō)，這些深層次的學(xué)習(xí)系統(tǒng)運(yùn)用的是我們目前了解的去模擬人腦的運(yùn)作方式。
這樣的系統(tǒng)可以有效地“自行編程”大部分或絕大部分的程序，由這種系統(tǒng)所產(chǎn)生的代碼可以是非常復(fù)雜的。它們的復(fù)雜性甚至連最初編程系統(tǒng)的人也未必能完全解釋為什么它們?nèi)绱瞬僮鳎?
你不能只憑看一個(gè)深層神經(jīng)網(wǎng)絡(luò)的內(nèi)部來(lái)了解它怎么運(yùn)作，網(wǎng)絡(luò)的推理嵌入在成千上萬(wàn)模擬神經(jīng)元的行為，排列成幾十甚至上百個(gè)錯(cuò)綜復(fù)雜的互聯(lián)層。在第一層的每個(gè)神經(jīng)元會(huì)接收輸入，如在圖像中像素的強(qiáng)度，然后在輸出一個(gè)新信號(hào)之前執(zhí)行計(jì)算。這些輸出被饋送，在一個(gè)復(fù)雜的網(wǎng)絡(luò)，到下一層的神經(jīng)元，依此類(lèi)推，直到總的輸出產(chǎn)生。
此外，由于這樣的系統(tǒng)目前無(wú)法創(chuàng)造一個(gè)易于理解系統(tǒng)推理的“記錄”，有可能沒(méi)人能充分解釋深層次學(xué)習(xí)系統(tǒng)的行為。
這一點(diǎn)，可以肯定的說(shuō)，是一個(gè)真實(shí)的顧慮?，F(xiàn)代人工智能系統(tǒng)的不透明度，使有效管理與人工智能相關(guān)的公共風(fēng)險(xiǎn)變得困難的主要障礙之一。我們已經(jīng)看到自動(dòng)交易系統(tǒng)界討論相關(guān)的問(wèn)題。這些系統(tǒng)的算法足夠的神秘，所以得了“黑箱交易”系統(tǒng)的綽號(hào)。算法交易系統(tǒng)之間的相互作用被廣泛指責(zé)為推動(dòng)2010年閃電崩盤(pán)的禍?zhǔn)住２贿^(guò)，據(jù)我所知，沒(méi)有人認(rèn)為崩盤(pán)的原因是因?yàn)樵O(shè)計(jì)師不理解涉及閃電崩盤(pán)的算法。相反的，那些算法系統(tǒng)之間的相互作用才是令設(shè)計(jì)師難以建模和預(yù)測(cè)的。這使得這些風(fēng)險(xiǎn)比那些不被理解的技術(shù)所產(chǎn)生的風(fēng)險(xiǎn)更加容易管理。
話雖如此，我不把無(wú)知看作為一個(gè)真正難以逾越的障礙，也不認(rèn)為因?yàn)椴涣私饩蛯⒉煌该?a href="http://m.xionganeduics.cn/" target="_blank">人工智能系統(tǒng)的開(kāi)發(fā)完全禁止是一個(gè)明智的做法。人類(lèi)實(shí)際上在這幾百年，甚至幾千年，創(chuàng)建和使用沒(méi)有人能理解的東西。對(duì)我而言，最明顯的例子可能來(lái)自醫(yī)藥領(lǐng)域，即使沒(méi)有人能真正理解為什么治療是安全和有效的，但這領(lǐng)域仍研發(fā)安全有效的治療方法。
在18世紀(jì)90年代，愛(ài)德華·詹納為了賦予人們對(duì)天花病的免疫性而研制出疫苗，當(dāng)時(shí)，沒(méi)有人知道天花病是由病毒引起的。事實(shí)上，人們?cè)诋?dāng)時(shí)甚至還沒(méi)發(fā)現(xiàn)病毒。在18世紀(jì)，傳染性疾病傳播的主要理論是由不良?xì)馕兜臒熿F，半個(gè)多世紀(jì)后 疾病細(xì)菌學(xué)說(shuō) 逐漸獲得認(rèn)可;近一個(gè)世紀(jì)后才發(fā)現(xiàn)了病毒。
如今，甚至有許多醫(yī)生開(kāi)的藥物所作用的機(jī)制只被部分或勉強(qiáng)理解。許多精神病藥物符合這一描述，藥理學(xué)家對(duì)三環(huán)類(lèi)抗抑郁藥似乎能幫助抑郁癥和患有神經(jīng)性疼痛的患者的原因作出假設(shè)。但假設(shè)仍然只是一個(gè)假設(shè)。想必深層次學(xué)習(xí)系統(tǒng)的設(shè)計(jì)師也能夠?qū)ο到y(tǒng)如何達(dá)到當(dāng)前狀態(tài)做出假設(shè)，即使這些假設(shè)可能還不如那些關(guān)于三環(huán)類(lèi)抗抑郁藥來(lái)得靈通。
我們的社會(huì)早已得了共識(shí)，即使沒(méi)有人完全了解藥物并不意味著任何人都不應(yīng)該使用這類(lèi)藥物。但我們已設(shè)法管理有潛質(zhì)的新藥物所帶來(lái)的風(fēng)險(xiǎn)，在它們上藥店的貨架前要求藥物通過(guò)徹底的測(cè)試，并證明是安全的。實(shí)際上，除了核技術(shù)，醫(yī)藥可能是世界上被監(jiān)管最嚴(yán)格的技術(shù)。
許多人(尤其是那些在制藥行業(yè)的人)批評(píng)藥物在批準(zhǔn)使用之前必須經(jīng)過(guò)長(zhǎng)期，艱巨和曲折的過(guò)程。但是，當(dāng)藥物最終投放市場(chǎng)時(shí)，這個(gè)過(guò)程使我們能夠?qū)λ幬锏陌踩苑浅Ｓ行判?或者至少覺(jué)得是“足夠安全”)。而這，反過(guò)來(lái)，意味著我們可以服用那些我們不太了解作用機(jī)制的藥物，因?yàn)槲覀冎?，任何隱患將極有可能已經(jīng)在測(cè)試過(guò)程中暴露出來(lái)。
人工智能能從中吸取什么教訓(xùn)?最明顯的是，有必要確保人工智能系統(tǒng)都經(jīng)過(guò)嚴(yán)格測(cè)試后才可以銷(xiāo)售給公眾，起碼如果人工智能系統(tǒng)不能讓設(shè)計(jì)它的人通過(guò)“顯示其作品”理解其決策過(guò)程。我不相信人工智能系統(tǒng)會(huì)有一個(gè)食品藥品監(jiān)督管理局(FDA)式的超級(jí)監(jiān)管制度。 FDA的模式對(duì)這樣一個(gè)復(fù)雜的數(shù)字技術(shù)即不實(shí)際也不有效，但我們很可能看到的是法院和法律制度要求企業(yè)將深層次的學(xué)習(xí)系統(tǒng)通過(guò)比典型數(shù)字技術(shù)前代產(chǎn)品更廣泛的測(cè)試。
由于這樣的測(cè)試很可能是漫長(zhǎng)的，并需要很多人力才能完成，這種測(cè)試的必要性將使較小的公司在人工智能行業(yè)更難獲得發(fā)展動(dòng)力，進(jìn)一步提高像谷歌，亞馬遜，F(xiàn)acebook，微軟和蘋(píng)果等巨頭的市場(chǎng)力量。也就是說(shuō)，正如在品牌藥品行業(yè)中發(fā)生的現(xiàn)象一樣，人工智能市場(chǎng)力量將日益集中在少數(shù)企業(yè)手中的現(xiàn)象并不會(huì)是個(gè)巧合。
