中國視聽網(wǎng)服務(wù)熱線:400-6789-360
中國視聽網(wǎng)(bfsiu021.cn) > 行業(yè)資訊 > 視聽信息(其它) > 只有了解人之常情,才能開發(fā)出強(qiáng)大且安全的AI
只有了解人之常情,才能開發(fā)出強(qiáng)大且安全的AI
更新時(shí)間:2018-9-14 16:01:38 編輯:夢(mèng)梵 文章來源:中國視聽網(wǎng) 調(diào)整文字大小:【

“知識(shí)”用英國記者Miles Kington的話說就是,知道番茄是水果,而“智慧”是指知道按照常規(guī)不應(yīng)該把番茄放進(jìn)水果沙拉中。

任何AI顯然都需要掌握大量的知識(shí),但是如果要將AI機(jī)器人在社會(huì)中廣泛應(yīng)用,不管是應(yīng)用在高速路、養(yǎng)老院和學(xué)校、商店還是政府,都會(huì)需要學(xué)識(shí)淵博且智慧的AI

另一方面,專注解決AI安全性或者AI一致性的科研人員眼中的人工智能是,在解決一些特定的認(rèn)知任務(wù)上效率可趕上或超越人類的機(jī)器。

目前市面上的大部分AI都屬于這個(gè)狹義的范疇,也就是只能執(zhí)行特定分工的弱人工智能,比如無人駕駛技術(shù)和面部識(shí)別系統(tǒng)。

但是一些科研人員開始研究一種能夠在任何認(rèn)知任務(wù)上超越人類的機(jī)器,也就是強(qiáng)人工智能/通用人工智能(AGI)。雖然什么時(shí)候會(huì)出現(xiàn)第一款AGI,甚至這項(xiàng)技術(shù)有沒有可能實(shí)現(xiàn),都是未知數(shù),但是很明顯這項(xiàng)研究方向?qū)?huì)帶來可以在經(jīng)濟(jì)和社會(huì)中得到更多應(yīng)用的、更強(qiáng)大的、更智能的AI系統(tǒng)。

開發(fā)能夠完成任何認(rèn)知任務(wù)的AI機(jī)器意味著,這款AI不僅要了解關(guān)于番茄的生物知識(shí),還要了解人們處理番茄時(shí)遵循的多變的規(guī)律。

人類社會(huì)充滿了各種各樣的常規(guī),不管是吃飯、穿衣、說話,還是分享信息、對(duì)待別人和追尋目標(biāo),都需要遵守一定的規(guī)矩。真正強(qiáng)大且安全的AI將需要了解不同群體的規(guī)矩各有不同,雖然感覺這么多規(guī)矩沒有必要,但是在特定的群體遵守特定的規(guī)矩也是很重要的。

打個(gè)比方,上面說過番茄放進(jìn)水果沙拉中不符合常規(guī),說的是英國人的規(guī)矩,但是對(duì)于韓國人或者前衛(wèi)的廚師來說并不奇怪。雖然只是個(gè)沙拉放不放番茄的小問題,但是給特定的客人吃,可能會(huì)讓對(duì)方不解、惡心甚至憤怒,不利于維持良好的關(guān)系。

當(dāng)然,上面說的規(guī)矩不局限于事物的搭配這種小事,還包括一些對(duì)于社會(huì)非常重要的問題:誰和誰結(jié)婚、如何對(duì)待孩子、誰享有權(quán)利、企業(yè)如何產(chǎn)出商品和服務(wù)以及如何定價(jià),還有評(píng)判是如何公開的。

 

能夠遵守社會(huì)常規(guī)的成功且安全的AI,不僅需要理解科學(xué)知識(shí),還要了解人類規(guī)范系統(tǒng)的機(jī)制。人類的規(guī)矩跟一成不變的生物學(xué)不同,是敏感多變的,人類每天都在制定與重新制定規(guī)矩以適應(yīng)不斷變化的局勢(shì)。

社會(huì)規(guī)范體系之所以重要,是因?yàn)槿祟愋枰揽恳?guī)范來約束群體、工作、社會(huì)環(huán)境中的每個(gè)個(gè)體。只有在每個(gè)人都遵守一定規(guī)范的情況下,大家才愿意去建立信任、互相接受和共存。

同樣,讓強(qiáng)大的AI也學(xué)習(xí)人類指定的規(guī)范也將會(huì)與此相似,就好像培養(yǎng)孩子在規(guī)范的主流社會(huì)中生存的能力一樣,我們也需要將AI訓(xùn)練出能夠遵守的能力。了解關(guān)于宇宙的大量知識(shí)對(duì)于AI來說并不夠,要想在社會(huì)中有極強(qiáng)的競(jìng)爭力,就還需要了解不同群體中的規(guī)矩。而對(duì)于AI來說,違背規(guī)矩不止會(huì)惹惱群體中的人,可能還會(huì)受到人類的懼怕甚至排斥。

也就是說,要想實(shí)現(xiàn)《生命3.0》中描述那種AI與人類共存的社會(huì),建立強(qiáng)大的AGI,就要先理解最基礎(chǔ)的人類傳統(tǒng),而這將會(huì)是AI研究中面臨的最大挑戰(zhàn)。

更多相關(guān): AI安全
 網(wǎng)友評(píng)論
 編輯推薦
  • 無屏電視開創(chuàng)者,力爭讓每個(gè)家庭都擁有一塊大屏幕
  • “大咖價(jià)到”盤點(diǎn)6·18那些搶瘋了的投影產(chǎn)品
  • 寶麗來(Polaroid)U-100百吋大屏隨性投
  • 大數(shù)據(jù)時(shí)代之下 LED顯示“智”在何方?
  • 夢(mèng)回下花園 | 高塔光影秀
  • 聽威創(chuàng)“重慶故事” 謀大西南可視化未來
  • “投影視界·攜手共贏” 優(yōu)派代理商峰會(huì)于海南三亞完美落幕
  • 專訪轟天炮總經(jīng)理 劉必瑋
設(shè)為首頁 | 商務(wù)信息 | 視聽資訊 | 本站動(dòng)態(tài) | 關(guān)于中國視聽網(wǎng) | 網(wǎng)站地圖 | 網(wǎng)站RSS | 視聽3G | 友情鏈接
本站網(wǎng)絡(luò)實(shí)名:中國視聽網(wǎng)[專業(yè)版]  國際域名:bfsiu021.cn
郵箱:web@av-china.com 電話:+86-755-26730722(十八線) 傳真:+86-755-86024577
版權(quán)所有 2004-2018  深圳市中投傳媒有限公司  粵ICP備05041759號(hào)

深圳網(wǎng)絡(luò)警
察報(bào)警平臺(tái)
公共信息安
全網(wǎng)絡(luò)監(jiān)察
經(jīng)營性網(wǎng)站
備案信息
不良信息
舉報(bào)中心
中國文明網(wǎng)
傳播文明