[討論] 人類對AI恐懼的來源

除了「失業恐懼」這種工業革命發生後就有的情形， 很類似「功高震主」 因為他功能很強又不會累，所以給他更多任務自己執行 「他要是罷工怎麼辦？ 他比你強，要是反抗你，你擋的住嗎?」 典型的作品像「魔鬼終結者」，就是這類恐懼的創作回應 所謂「天網」(Skynet) 變成毀滅人類的開端 「把核彈發射控制權交給AI」，成為人類最終的惡夢， 可歸結到「該不該把重要決定丟給AI做」 其實早已有一些跡象，例如金融市場的「程式交易」， 符合特定條件就大量賣出，往往造成市場劇烈波動 授權與否，一開始是僅靠「這對我利大於弊」來考量， 而在軍事武器上，這種誘惑更大 人類有許多缺點和脆弱性，但法律體系基礎仍是 「只有人類或法人能負責， (除了「無行為能力者」需要監護人負責) 人類以外則是財產或不可抗力」 所以AI做決定產生的災損，必定要找人來承擔 (無論那個人是誰) ，而不是歸因「不可抗力」 即使簡單到只讓AI來開車，爭議也不少， 真實都市的路上狀況太多，再強的AI仍然可能誤判， 於是再度歸結到「AI開車時出車禍，算誰的責任」 隨著AI逐漸進化，這類恐懼也成為約束AI行為的動力， 希望還有時間讓AI產生的利益和可能的危害之間， 達成一種平衡 是否杞人憂天呢? 歡迎各位提出您的看法 -- 我知道有人曾說「拔插頭就好」，當然這是有插頭 可拔的情形 XD -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.163.152.93 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1709733106.A.5E2.html