今日熱議:AI也有缺陷?人類2016年來首次戰勝了最聰明的圍棋機器人
AI統治圍棋棋盤的時代迎來了一絲變數。
據媒體報道,近日,美國圍棋選手Kellin Pelrine擊敗了頂級AI圍棋機器人。
【資料圖】
Pelrine與這臺AI對弈了15場,其中1局是在計算機輔助下進行的測試局,其余14局沒有計算機輔助。最終,Pelrine取得14場全勝的輝煌戰績。
自2016年谷歌旗下的AI圍棋機器人AlphaGo擊敗世界圍棋冠軍李世石以來,人類旗手一直在與AI的對決中處于下風。李世石在輸給AlphaGo的三年后退役。他絕望地把AlphaGo稱為“一個無法被打敗的東西”,認為屬于人類棋手的時代已經結束。
但據媒體報道,被Pelrine打敗的AI圍棋機器人,棋力與AlphaGo不相上下。圍棋段位遠低于李世石的Pelrine究竟找到了什么樣的致勝法寶?
靠AI打敗AI
實際上,Pelrine之所以能打敗AI,靠的也是AI。
Pelrine背后是美國公司FAR AI。這家公司開發了一個發掘bug的圍棋AI,然后讓它和AI圍棋機器人Kata Go下了一百多萬盤棋,專門尋找可以讓人類棋手利用的盲點。結果真的找到了AI的盲點:AI棋手分不清“聲東擊西”。
簡單來說,FAR AI的策略就是不斷利用角落的動作分散AI的注意力,同時,慢慢將中央棋子串成一個大圈來包圍AI棋手。
Pelrine表示,對人類來說,FAR AI的策略很容易就會被發現;然而,哪怕是到包圍圈即將完成的時候,AI棋手也沒有注意到自己的弱點。
由于AI圍棋機器人的底層架構均來自谷歌旗下的AI研究機構DeepMind,所以FAR AI的團隊猜測,這處bug可能是通用的。
此前,Pelrine已經利用這個bug擊敗了頂級AI圍棋機器人Leela Zero。
AI系統的缺陷
加州大學伯克利分校計算機科學教授Stuart Russell表示,這些最先進的AI圍棋機器人被發現存在弱點,表明支撐當今最先進AI的深度學習系統存在根本缺陷。
這樣的缺陷是當今大多數廣泛使用的人工智能系統所共有的,包括OpenAI創建的ChatGPT聊天機器人。
Stuart Russell指出,AI只能“理解”它們過去遇到的特定情況,而無法像人類一樣進行“概括”:
“這再次表明,我們過于草率地認為AI具有超人的智力水平?!?/p>
研究人員對媒體表示,AI圍棋機器人之所以會輸,可能因為“聲東擊西”這一策略很少被使用,意味著AI系統沒有在足夠多的類似棋局中訓練過,無法做出防備。
FAR AI的CEO Adam Gleave表示,如果像AI棋手那樣遭遇大量對抗性攻擊,人工智能系統的缺陷很容易就會暴露,但即便如此,市場對AI應用的熱情不減:
風險提示及免責條款 市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。“我們看到非常大的AI系統幾乎沒有經過驗證就被大規模部署?!?/p>