在美國經(jīng)典科幻電影《2001:太空奧德賽》中,宇宙飛船上一臺名叫“哈爾”的智能電腦出現(xiàn)“妄想狂”故障,劫持飛船并設(shè)計殺死了4名機(jī)組人員,最后一名幸存宇航員設(shè)法戰(zhàn)勝了哈爾。這也許只是科幻電影中的場景,然而美國科學(xué)家已經(jīng)設(shè)計發(fā)明出了能夠欺騙其他機(jī)器人、甚至欺騙人類的智能機(jī)器人。
, G, @, i" ?( L8 I; N
image.jpg (11.97 KB, 下載次數(shù): 21)
下載附件
2010-9-14 12:38 上傳
' e; ^0 d) ]8 Z0 D
亞金教授(左)和同事讓兩個機(jī)器人玩“躲貓貓”游戲
+ C) x4 {4 ]5 e
0 [ k$ T5 I7 i0 q X. E2 j% R亞特蘭大市佐治亞州理工學(xué)院的科學(xué)家亞金教授率領(lǐng)的研究小組已經(jīng)編寫出一種計算機(jī)運(yùn)算法則,這一高科技程序能讓機(jī)器人自主決定它是否面臨危險,以及是否應(yīng)該通過欺騙另一個機(jī)器人或一個人的方式讓自己安全躲藏起來,不被別人發(fā)現(xiàn)。
9 J( `0 |- X& V; u
' z; Z0 f B3 v& J3 [; K為了防止機(jī)器人濫用“欺騙行為”,機(jī)器人必須要滿足兩個必要條件后,才能獲得行使“欺騙行為”的授權(quán)。第一個條件是和尋找它的機(jī)器人之間必須有沖突,第二個條件是可以從它的欺騙行為中獲益。
' t4 I: I9 d3 O' f* `" Q+ g4 ]% S; g6 b
科學(xué)家為了測試他們的高科技電腦程序,讓兩個自動機(jī)器人進(jìn)行了20次“躲貓貓”游戲,實驗地點有3個可以讓機(jī)器人藏身的地方。那個安裝了最新“欺騙程序”的機(jī)器人在游戲中,多次順利通過欺騙行為躲過另一個機(jī)器人的尋找。4 _: J0 s1 U) n3 Y% W9 K/ R
$ v2 d% Z$ S2 ^$ I4 e& P
“騙人型”機(jī)器人的問世在科學(xué)界引發(fā)巨大爭議,因為這意味著人類的安全將受到潛在威脅。不過科學(xué)家稱,“騙人型”機(jī)器人在軍事上具有重要用途,因為它們將能在戰(zhàn)場上設(shè)下迷魂陣欺騙敵人。 |