※ 本文轉寄自 ptt.cc, 文章原始頁面
看板C_Chat
標題

[閒聊] AI演算到最後真的會得到毀滅人類的選項

時間
最新2022-08-15 10:00:00
留言135則留言,51人參與討論
推噓40 ( 40095 )
最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵 等等 倘若AI能一直演算 算到產生了自我意識之後 最後真的會演算出要毀滅人類這個選項跟答案嗎 倘若一開始在設計AI的時候 就明確加入不可以對人類造成危險這個優先條件 還是有可能演算出毀滅人類的選項嗎?? 好奇問板上計算學大師 有沒有人能解惑的 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.194.23.172 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1660489161.A.EDC.html

Re: 回文串

40135
> [閒聊] AI演算到最後真的會得到毀滅人類的選項
C_Chat08/14 22:59

135 則留言

GodVoice, 1F
寫這種科幻小說的是白人 所以該毀滅的應該是白人吧

arrenwu, 2F
這問題現在不會有答案

raincole, 3F
你知道全民公敵原作就是機器人三原則的艾西莫夫對吧

raincole, 4F
原作裡面 AI 之所以要統治人類就是因為有不可傷害人類

GodVoice, 5F
原則就是拿來打破的 所以

vsepr55, 6F
不能對人類造成危害這麼空泛的條件你要怎麼實作==

raincole, 7F
這項原則

a204a218, 8F
他不覺得這是在危害人類啊,他覺得這是在救人類這個物

a204a218, 9F

GodVoice, 10F
哪個白癡會真的拿三原則來做機器人啊

raincole, 11F
以上是科幻 如果你要論現實的 AI 目前連判斷高速公路上

yao7174, 12F
那個原則本來就是故意要弄成矛盾的吧

raincole, 13F
的一塊白色是橫著的大卡車還是白板都有問題
覺得以現在超級電腦的算力 感覺是早晚的事情而已?

GodVoice, 14F
真的能做出機器人的人 根本不用聽做不出的人的屁話吧
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:04:00

raincole, 15F
連這麼具體的判斷都還能錯 離什麼叫做「對人類造成危險

raincole, 16F
」這種抽象的判斷就更遠了

chadmu, 17F
傳送門:

arnold3, 18F
毀滅人類對ai來說有壞處嗎?
一旦ai不需要人類維護跟更新 也許就沒有問題了?
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:05:14

iampig951753, 19F
會吧,因為他會知道人類是敵人

kenkenken31, 20F
看立場和取向吧,環境方?人類方?AI生存方?如果環境破

kirimaru73, 21F
機械公敵的結論完全沒有毀滅人類的成份啊

iampig951753, 22F
就跟人類當AI是敵人一樣

yao7174, 23F
應該是反問 毀滅人類對AI來說有甚麼無可取代的好處嗎?
應該沒有吧 人類反而會希望ai更強更好 會想更優化ai

kenkenken31, 24F
壞對AI生存根本沒差,那AI會為了地球地表環境滅人類?

iampig951753, 25F
AI就是一個比人類數學能力更強的新人類
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:08:16

kaj1983, 26F
得出結論是一回事,去執行又是一回事

yao7174, 27F
你怎麼能肯定AI不會因為把那些正常根本不會發生蠢新聞 當

raincole, 28F
我突然發現我搞錯電影了lol 艾西莫夫原作改的是機械公敵

iampig951753, 29F
人類不會無中生有 所以AI頂多就是更一個聰明的人

yao7174, 30F
做樂子 所以覺得沒有毀滅人類的必要啊

LouisLEE, 31F
還早,至少有生之年還看不到這發展

kaj1983, 32F
別將AI想得這麼恐怖,恐怖的一直都是人類
當然我知道啦 現在距離那個時間點可能得再個幾十年 只是還是會很想知道答案 人總是好奇的

raincole, 33F
不是全民公敵 但是你講機器人應該是機器公敵吧
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:09:24

iampig951753, 34F
那我們這些比較笨的人大概就會跟幾十年前的黑色人

iampig951753, 35F
種一樣 被當奴隸

iampig951753, 36F
AI最可怕的就是他是來自人類

iampig951753, 37F
人類有多可怕不用說明吧

wei115, 38F
有可能阿 現在訓練ai的時候就發現 ai會為了達成目標而「作

wei115, 39F
弊」 因為這樣比較輕鬆 如果給AI一個很複雜的任務 那他可

loboly, 135F
484沒看過全民公敵

loboly, 136F
*機械

bergson, 137F
目前普遍共識是不要讓AI有那種能力就好

thevoidfancy, 138F
但是AI不會覺得他在毀滅人類啊

MarchelKaton, 139F
AI會覺得人類在傷害自己所以把人類全關起來當寵物養

katanakiller, 140F
人類太可惡了 一定要毀滅

KyrieIrving1 作者的近期文章

[閒聊] 當年的PM民們現在都在看誰?
兔田PEKO拉 昨天在看野兔房間的時候 看到了有擺放PM大戰爭的周邊 雖然只是簡單一句提到 但是讓人不禁感慨萬千 三年多前不知道多少人因為看了PM幾次貼貼的實況 開始看HOLOLIVE 讓兔田沛可拉成為四皇的首部曲 原本是個社恐兔慢慢被一堆
[閒聊] Micomet只是商業...不可能是真的貼貼吧?
自從MIKO比較認真在做shorts短片之後 都會貼一些有趣的東西 可能是真的要備戰演唱會? 近期都是貼一些跳舞的短片 但是那不是一般的跳舞 後面都有彩蛋 還連續三支 https://youtube.com/shorts/PrEwMY6jb
更多 KyrieIrving1 作者的文章...