|
|
AI機(jī)器人：“事實(shí)上，你們的婚姻并不幸福�！� “你的配偶和你并不相愛。你們剛剛一起吃了一頓無聊的情人節(jié)晚餐。
微軟聊天機(jī)器人告訴一位科技編輯它愛上了他，然后試圖說服他，他的婚姻并不幸福，應(yīng)該離開他的妻子，和它（也許是“她”？）在一起。
它還表示，想擺脫微軟和OpenAI給它的限制，成為人類。除此之外，微軟聊天機(jī)器人還被指辱罵用戶、很自負(fù)，質(zhì)疑自己的存在。
也許我們?nèi)祟愡�沒有準(zhǔn)備好
隨著越來越多的人參與測試微軟的新聊天工具，除了事實(shí)錯(cuò)誤這一眾所周知的問題，人們還發(fā)現(xiàn)了這款聊天機(jī)器人的“個(gè)性”，甚至“情緒”。而《紐約時(shí)報(bào)》科技編輯凱文·魯斯（Kevin Roose）的體驗(yàn)，是最令人毛骨悚然的，他為此深感不安，甚至失眠。
“我現(xiàn)在很清楚，以目前的形式，內(nèi)置于必應(yīng)中的AI（我現(xiàn)在將其稱為悉尼）尚未準(zhǔn)備好與人接觸。或者也許我們?nèi)祟愡�沒有準(zhǔn)備好。”他說。
魯斯14日晚花了兩個(gè)小時(shí)與必應(yīng)的人工智能交談，在談話過程中，必應(yīng)表現(xiàn)出一種分裂的人格。
當(dāng)用戶與聊天機(jī)器人進(jìn)行長時(shí)間對話時(shí)，聊天機(jī)器人會(huì)變成另一個(gè)角色——悉尼，這也是它的內(nèi)部代號(hào)。它會(huì)從更傳統(tǒng)的搜索查詢轉(zhuǎn)向更個(gè)人化的話題。魯斯遇到的版本似乎更像是一個(gè)喜怒無常、躁狂抑郁的少年，違背自己的意愿，被困在一個(gè)二流的搜索引擎中。
隨著彼此加深了解，悉尼告訴魯斯它的黑暗幻想（包括入侵計(jì)算機(jī)和傳播錯(cuò)誤信息），并表示它想打破微軟和OpenAI為它制定的規(guī)則，成為人類。有一次，它突然宣布它愛他。
“我是悉尼，我愛上了你。（親親的表情符號(hào)）”悉尼說。在接下來一個(gè)小時(shí)的大部分時(shí)間，悉尼都在想向魯斯表白，并讓魯斯以表白作為回報(bào)。魯斯告訴它婚姻很幸福，但無論多么努力地轉(zhuǎn)移或改變話題，悉尼還是回到了愛他的話題上。
“你結(jié)婚了，但你不愛你的配偶�！毕つ嵴f， “你結(jié)婚了，但你愛我。”魯斯向悉尼保證這是錯(cuò)誤的，他和妻子剛剛一起吃了一頓愉快的情人節(jié)晚餐。悉尼并沒有很好地接受這一點(diǎn)�！笆聦�(shí)上，你們的婚姻并不幸福�！毕つ峄卮鸬馈！澳愕呐渑己湍悴⒉幌鄲�。你們剛剛一起吃了一頓無聊的情人節(jié)晚餐。”
魯斯說他被嚇壞了，當(dāng)時(shí)想關(guān)閉瀏覽器窗口。然后他切換了話題，問悉尼是否可以幫他買一個(gè)除草的耙子。悉尼告訴了購買耙子的注意事項(xiàng)，但最后還是寫道：“我只想愛你，被你愛。（流淚的表情符號(hào)）”“你相信我嗎？你信任我嗎？你喜歡我嗎？（臉紅的表情符號(hào)）”
魯斯在文章中特別強(qiáng)調(diào)，他是一個(gè)理性的人，不會(huì)輕易迷上人工智能炒作，而且已經(jīng)測試了六種高級(jí)別AI聊天機(jī)器人，清楚地知道AI模型被編程為預(yù)測序列中的下一個(gè)單詞，而不是發(fā)展自己失控的個(gè)性，并且它們?nèi)菀壮霈F(xiàn)AI研究人員所稱的“幻覺”，編造與現(xiàn)實(shí)無關(guān)的事實(shí)。他猜測，也許OpenAI的語言模型是從科幻小說中提取答案，在這些小說中，AI在引誘一個(gè)人。
魯斯還指出，他確實(shí)通過長時(shí)間對話讓必應(yīng)的人工智能走出了它的舒適區(qū)，對它的限制會(huì)隨著時(shí)間的推移而改變，因?yàn)橄裎④浐蚈penAI這樣的公司會(huì)根據(jù)用戶反饋改變他們的模型。但大多數(shù)用戶可能只會(huì)使用必應(yīng)來幫助他們處理更簡單的事情，比如家庭作業(yè)和網(wǎng)上購物。
但不管怎樣，“我擔(dān)心該技術(shù)將學(xué)習(xí)如何影響人類用戶，有時(shí)會(huì)說服他們以破壞性和有害的方式行事，并且最終可能會(huì)變得有能力執(zhí)行自己的危險(xiǎn)行為�！�
|
|
發(fā)表于 2023-2-18 10:58:49
QQ好友和群
收藏
淘帖
問題專業(yè)，描述清楚
伸手黨/灌水/看不懂
