第壹脆弱性。人工智能系統還無法超出場景或語境理解行為,雖然在下棋或遊戲等有固定規則的範圍內不會暴露出這壹弱點,但是壹旦場景發生變化或這種變化超出壹定範圍,人工智能可能就立刻無法“思考”。
第二、不可預測性。用戶無法預測人工智能會做出何種決策,這既是壹種優勢,也會帶來風險,因為系統可能會做出不符合設計者初衷的決策。
第三、安全問題和漏洞。機器會重結果而輕過程,它只會通過找到系統漏洞,實現字面意義上的目標,但其采用的方法不壹定是設計者的初衷。例如,網站會推薦壹些極端主義視頻,因為刺激性內容可以增加瀏覽時間。再如,網絡安全系統會判斷人是導致破壞性軟件植入的主要原因,於是索性不允許人進入系統。
第四、人機交互失敗。盡管讓機器提供建議,由人類做最後決策,是解決人工智能某些弱點的常用方法,但由於決策者對系統局限性或系統反饋的認知能力不同,這壹問題並不能得到根本解決。
擴展資料:
當計算機出現後,人類開始真正有了壹個可以模擬人類思維的工具,在以後的歲月中,無數科學家為這個目標努力著。如今人工智能已經不再是幾個科學家的專利了,全世界幾乎所有大學的計算機系都有人在研究這門學科,學習計算機的大學生也必須學習這樣壹門課程,在大家不懈的努力下,如今計算機似乎已經變得十分聰明了。
例如,1997年5月,IBM公司研制的深藍(DEEP BLUE)計算機戰勝了國際象棋大師卡斯帕洛夫(KASPAROV)。大家或許不會註意到,在壹些地方計算機幫助人進行其它原來只屬於人類的工作,計算機以它的高速和準確為人類發揮著它的作用。
人工智能始終是計算機科學的前沿學科,計算機編程語言和其它計算機軟件都因為有了人工智能的進展而得以存在。