提到人工智能,很多人都對它表示擔憂,比方說走在人類發(fā)展前沿的霍金、馬斯克,都認為人類不應(yīng)該大力發(fā)展人工智能,擔心日后科幻片中的場景會變成現(xiàn)實,人類發(fā)展人工智能,最后反而被人工智能打敗。
真的會這樣嗎?近日,一個對于人工智能的新研究,再次讓這個問題走上了“風(fēng)口浪尖”,研究者發(fā)現(xiàn),人工智能已經(jīng)學(xué)會了尋找人類的弱點、發(fā)現(xiàn)人類的習(xí)慣規(guī)律,從而對人類進行操控,而在實驗中,人工智能控制人類的成功率,更是一度達到了70%。
人工智能已經(jīng)學(xué)會操控人類行為
來自澳大利亞的科學(xué)家團隊,進行了相關(guān)的實驗,發(fā)現(xiàn)人工智能在實驗中,可以根據(jù)人類的漏洞,來總結(jié)出人類的規(guī)律,最終實現(xiàn)操控人類,引導(dǎo)人類做出選擇,而不是讓人類自主去進行選擇。
在第一個實驗中,人類的參與者和人工智能一起來玩游戲,人工智能的設(shè)定,是它可以學(xué)習(xí)人類參與者的選擇模式,然后從中找出規(guī)律。最終,在選擇紅色還是藍色的問題上,人工智能已經(jīng)可以提前得知人類參與者要選擇什么了,并且有意去在游戲的過程中,引導(dǎo)人類參與者進行不一樣的選擇。
第二個實驗也太同樣是一個小游戲,在游戲的過程中,人類參與者可以在屏幕中看到不同的符號,不過,這些符號中,只有橙色三角形才可以被選擇。在這個實驗中,人工智能的出現(xiàn),讓人類參與者犯錯的概率不斷提升,打亂了人類參與者的思維。
第三個實驗就更有趣了,當然,這個實驗也更加細思極恐。在這個實驗中,人類參與者和人工智能,開始了一場“角色扮演”的游戲,人類參與者扮演的投資者,需要和人工智能合作,通過每輪的收益,決定自己下一輪的投資比率。
而在這個實驗中,人工智能為了讓自己獲得更多的資金,在熟悉了人類參與者的習(xí)慣等之后,開始有意對其進行操控,最終結(jié)果顯示,每輪游戲中,人類參與者都會根據(jù)人工智能的引導(dǎo)而做出選擇。
雖然看起來不過是三個小游戲,但事實上,這里面卻包含著很多的問題:處于初級起步階段的人工智能,就已經(jīng)可以對人類進行操控了,那么,未來的人工智能如果真的發(fā)展到高級人工智能的階段,人類真的可以確信自己,不會受到人工智能的影響嗎?
人工智能會打敗人類嗎?
事實上,人工智能之所以可以操控人類,都是因為在過程中,它們對人類的了解更充分,更加直白一點來說,就是人工智能通過大數(shù)據(jù)分析,從而掌握了人類的習(xí)慣規(guī)律。
所以,有研究者認為,只需要人類在人工智能收集數(shù)據(jù)的時候進行控制,或許就可以避免類似的事情發(fā)生,不過,這并不容易,因為對于人工智能的開發(fā)者來說,雖然人工智能是他們研發(fā)出來的,但是對于人工智能潛在的風(fēng)險和未來的走向,也都是未知的。
畢竟,沒有人知道人工智能如果真的和大數(shù)據(jù)聯(lián)網(wǎng),最終會學(xué)會什么,這個問題也是霍金等反對者最擔心的一個問題,畢竟,高級人工智能有多強大是無法想象的,很有可能要比科幻片中的“機器人”還要厲害。
當然,這個問題目前考慮,還是有點多余的,因為現(xiàn)階段的人工智能,說白了不過是一群“弱智”,它們還并不算是真正意義上的人工智能。舉個例子來說,就好像是南方古猿或者是能人,和現(xiàn)代人類之間的區(qū)別。
不過,時代在進步,人工智能領(lǐng)域也在不斷發(fā)展,未來人類仍然是需要擔憂的,畢竟可能一不小心,就會因為高級人工智能出現(xiàn)問題,而導(dǎo)致災(zāi)難的發(fā)生。
當然,早在80年前,就有研究者提出了“機器人原則”,認為在人類研發(fā)機器人的過程中,必須保證機器人不會傷害人類,同時,機器人也必須服從人類的命令。但是,這個限制真的有用嗎?沒有人知道。
比方說如果未來有種族歧視者,將機器人的程序設(shè)定為:殺掉除了白種人之外的所有人類,那么,在機器人識別的過程中,一場災(zāi)難也就自然會降臨到人類世界之中。所以,不能說這種擔心不存在,而是說,這種擔心在未來很可能會出現(xiàn),你認為呢?
責(zé)編AJX
-
人工智能
+關(guān)注
關(guān)注
1796文章
47811瀏覽量
240590
發(fā)布評論請先 登錄
相關(guān)推薦
嵌入式和人工智能究竟是什么關(guān)系?
人工智能對人類的影響有哪些
《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感
AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感
《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第一章人工智能驅(qū)動的科學(xué)創(chuàng)新學(xué)習(xí)心得
risc-v在人工智能圖像處理應(yīng)用前景分析
單片集成功率放大器件的功率通常在多少
名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新
報名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI
如何提高eCall碰撞測試成功率
![如何提高eCall碰撞測試<b class='flag-5'>成功率</b>](https://file1.elecfans.com/web2/M00/03/ED/wKgaoma_CyCAM8gxAAFE_PT8VSw211.png)
評論