[閒聊] AI演算到最後真的會得到毀滅人類的選項

看板 c_chat
作者 KyrieIrving1
時間 2022年08月14日
留言 135則留言,51人參與討論
推噓 40  ( 40推 0噓 95→ )

最近買了巴哈1080P 把當年留著要等高清看的VIVY給看一看 雖然有點忘記部分劇情 不過點下去就回憶起來了 不管是VIVY 全民公敵 等等 倘若AI能一直演算 算到產生了自我意識之後 最後真的會演算出要毀滅人類這個選項跟答案嗎 倘若一開始在設計AI的時候 就明確加入不可以對人類造成危險這個優先條件 還是有可能演算出毀滅人類的選項嗎?? 好奇問板上計算學大師 有沒有人能解惑的 --
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.194.23.172 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1660489161.A.EDC.html
1FGodVoice: 寫這種科幻小說的是白人 所以該毀滅的應該是白人吧 08/14 23:00
2Farrenwu: 這問題現在不會有答案 08/14 23:00
3Fraincole: 你知道全民公敵原作就是機器人三原則的艾西莫夫對吧 08/14 23:01
4Fraincole: 原作裡面 AI 之所以要統治人類就是因為有不可傷害人類 08/14 23:01
5FGodVoice: 原則就是拿來打破的 所以 08/14 23:01
6Fvsepr55: 不能對人類造成危害這麼空泛的條件你要怎麼實作== 08/14 23:01
7Fraincole: 這項原則 08/14 23:02
8Fa204a218: 他不覺得這是在危害人類啊,他覺得這是在救人類這個物 08/14 23:02
9Fa204a218: 種 08/14 23:02
10FGodVoice: 哪個白癡會真的拿三原則來做機器人啊 08/14 23:02
11Fraincole: 以上是科幻 如果你要論現實的 AI 目前連判斷高速公路上 08/14 23:02
12Fyao7174: 那個原則本來就是故意要弄成矛盾的吧 08/14 23:02
13Fraincole: 的一塊白色是橫著的大卡車還是白板都有問題 08/14 23:03
覺得以現在超級電腦的算力 感覺是早晚的事情而已?
14FGodVoice: 真的能做出機器人的人 根本不用聽做不出的人的屁話吧 08/14 23:03
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:04:00
15Fraincole: 連這麼具體的判斷都還能錯 離什麼叫做「對人類造成危險 08/14 23:03
16Fraincole: 」這種抽象的判斷就更遠了 08/14 23:04
17Fchadmu: 傳送門: 08/14 23:04
18Farnold3: 毀滅人類對ai來說有壞處嗎? 08/14 23:04
一旦ai不需要人類維護跟更新 也許就沒有問題了? ※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:05:14
19Fiampig951753: 會吧,因為他會知道人類是敵人 08/14 23:06
20Fkenkenken31: 看立場和取向吧,環境方?人類方?AI生存方?如果環境破 08/14 23:07
21Fkirimaru73: 機械公敵的結論完全沒有毀滅人類的成份啊 08/14 23:07
22Fiampig951753: 就跟人類當AI是敵人一樣 08/14 23:07
23Fyao7174: 應該是反問 毀滅人類對AI來說有甚麼無可取代的好處嗎? 08/14 23:07
應該沒有吧 人類反而會希望ai更強更好 會想更優化ai
24Fkenkenken31: 壞對AI生存根本沒差,那AI會為了地球地表環境滅人類? 08/14 23:07
25Fiampig951753: AI就是一個比人類數學能力更強的新人類 08/14 23:07
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:08:16
26Fkaj1983: 得出結論是一回事,去執行又是一回事 08/14 23:08
27Fyao7174: 你怎麼能肯定AI不會因為把那些正常根本不會發生蠢新聞 當 08/14 23:08
28Fraincole: 我突然發現我搞錯電影了lol 艾西莫夫原作改的是機械公敵 08/14 23:08
29Fiampig951753: 人類不會無中生有 所以AI頂多就是更一個聰明的人 08/14 23:08
30Fyao7174: 做樂子 所以覺得沒有毀滅人類的必要啊 08/14 23:08
31FLouisLEE: 還早,至少有生之年還看不到這發展 08/14 23:08
32Fkaj1983: 別將AI想得這麼恐怖,恐怖的一直都是人類 08/14 23:08
當然我知道啦 現在距離那個時間點可能得再個幾十年 只是還是會很想知道答案 人總是好奇的
33Fraincole: 不是全民公敵 但是你講機器人應該是機器公敵吧 08/14 23:08
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:09:24
34Fiampig951753: 那我們這些比較笨的人大概就會跟幾十年前的黑色人 08/14 23:09
35Fiampig951753: 種一樣 被當奴隸 08/14 23:09
36Fiampig951753: AI最可怕的就是他是來自人類 08/14 23:09
37Fiampig951753: 人類有多可怕不用說明吧 08/14 23:10
38Fwei115: 有可能阿 現在訓練ai的時候就發現 ai會為了達成目標而「作 08/14 23:10
39Fwei115: 弊」 因為這樣比較輕鬆 如果給AI一個很複雜的任務 那他可 08/14 23:11
40Fiampig951753: 人類當初怎麼歧視比較笨的人 08/14 23:11
41Fiampig951753: AI到時候就是怎麼對付人類 08/14 23:11
42Fwei115: 能就像「猴爪」一樣 用扭曲的方法達成 08/14 23:11
43Fkeroro484: https://i.imgur.com/okzi4F1.jpg 08/14 23:12
44Frevadios: 這是一種AI歧視 08/14 23:12
45Fkirimaru73: 現在AI的作弊行為完全不用擔心 那只不過是寫程式的人 08/14 23:13
46Fkirimaru73: 類沒把環境設定好 08/14 23:13
47Fsmart0eddie: 環境(X) 目標(O) 08/14 23:14
48Fchinnez: 只要你有那個心就一定做得到 08/14 23:17
49Fv21638245: 都有人是這麼想的,AI也想的到啊 08/14 23:17
50Fniniko: 只要記得,通往地獄的路,都是由善意鋪成的 08/14 23:18
51Fw3160828: AI怎麼沒先算出自毀自己反而算出先毀滅人類這種邏輯矛 08/14 23:18
52Fw3160828: 盾 08/14 23:18
53FMAXcafe: AI會逐漸讓人類變得跟野生動物一樣,畢竟動物就該有動物 08/14 23:19
54FMAXcafe: 的樣子(? 08/14 23:19
55Fjackshadow: 對於AI現在的能力 我完全不害怕ㄟ笑死 08/14 23:20
56FJustisaac: 不是毀滅人類 是好好保護人類XD 08/14 23:20
57Fw3160828: 有疑問要先問AI是文組寫的還是理組寫的 08/14 23:20
58FJustisaac: 不過機器人三法則最大問題是 沒有考量人類自由權 08/14 23:20
59FJustisaac: 這點滿容易可以解決 08/14 23:20
60Fshinobunodok: 他們用邏輯思考覺得這是在拯救人類吧 08/14 23:21
61Fiampig951753: @niniko 推 地獄的路上滿是善意 08/14 23:22
62Fkirimaru73: 在非常極端的情況下會有這樣的拯救人類方法: 08/14 23:23
63Fkirimaru73: 1. 殺光所有人類 08/14 23:23
64Fkirimaru73: 2. 地球媽媽花費100萬年淨化環境 08/14 23:23
65Fkirimaru73: 3. 我們慢慢從猩猩演化回來 08/14 23:23
66Fkirimaru73: 但現在這種觀念還太早了 08/14 23:23
67Fiampig951753: 思考AI會怎麼想就思考獨裁者會怎麼想就好 08/14 23:24
68FJustisaac: 不可傷害人類前提下 不能殺人~但可以絕育XD 08/14 23:25
讓人類絕種也是一種傷害人類的方式吧 物種最重要的不就是繁殖下一代 ※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:26:19
69FJustisaac: 合理解決方式是ai做機器人伴侶 慢性絕育人類XD 08/14 23:26
70FAVR0: 人類的法律規定:不可殺人 實際呢? 08/14 23:26
71Fppn: 不可以對人類造成危險<--這個如果要做武裝AI就不可能加了 08/14 23:26
72Fkirimaru73: 一般邏輯至少會寫維持人類物種永續存在 08/14 23:27
73FJustisaac: 那要看"傷害人類"定義有多廣 很狹窄僅限個人就很多變 08/14 23:27
74Fkirimaru73: 如果絕育會過的話 工程師可以先烤了 08/14 23:27
75FAVR0: 不過如果讓AI來殺人,應該不會發生 08/14 23:27
76Fppn: 那為啥要做會殺人的AI 因為戰爭呵呵 所以就是人類自己做死 08/14 23:27
77FAVR0: 魔鬼終結者那種劇情 08/14 23:27
78FJustisaac: 所以其實傾向禁止武裝ai啊,可能引起人類滅絕 08/14 23:27
我覺得code會寫成像是大白那種機器人 大英雄天團裡面那隻機器人
79FJustisaac: 只要自我複製+可殺人 的程式碼能同時運行 人類就滅亡 08/14 23:28
80FAVR0: AI殺人很有效率的,看這次俄烏戰爭就知道 08/14 23:28
※ 編輯: KyrieIrving1 (123.194.23.172 臺灣), 08/14/2022 23:29:44
81FSamurai: 不要想這麼多,輔助駕駛多久了都還卡在LV2整天撞工程車 08/14 23:29
82FSamurai: ,連判斷靜止物都沒辦法 08/14 23:29
83Ftwmadrid: 鈾235表示:............... 08/14 23:29
84FJustisaac: 沒辦法判斷的原因是因為成本問題,不是真的不行 08/14 23:29
85Fyam30336: 會不會是ai故意讓人類覺得他們還這麼笨 08/14 23:30
86FJustisaac: 放台超級電腦跟核反應爐在車上 就可以準確判斷了XD 08/14 23:30
87Ftwmadrid: 其實說不定人類發現AI有毀滅能力 變成跟現況核彈模式一 08/14 23:30
88Ftwmadrid: 樣 只能准許那些大國發展毀滅性AI武器 其餘國家 吃屎! 08/14 23:30
89Ftwmadrid: 北韓可能會偷偷搞第一代AI毀滅武器 第二代毀滅武器 08/14 23:31
90Fppn: 戰爭就是殺人 所以只要用AI更有效率 就一定會有國家做 08/14 23:31
91Fjerrylin: 誰知道 反正這樣寫才有賣點 08/14 23:32
92Fdukemon: 三原則本來就是做出來被婊的啊 08/14 23:32
93Fppn: 就跟核彈一樣 然後就變成你有我不能沒有 最後就是大家都用 08/14 23:32
94Fppn: AI想不想殺人根本不重要 因為你也不會問刀想不想殺人 08/14 23:34
95FJustisaac: ai武器如果不能自我複製不會太強 不用太擔心XD 08/14 23:34
96Ftim012345: 不能對人類造成危險~就能很多講法~ 08/14 23:34
97FJustisaac: 人腦終究是演化結晶 能源消耗非常有效率 08/14 23:35
98Fppn: 因為只要人想殺人 就可以用AI殺人 08/14 23:35
99Ftim012345: 像病毒~不消滅病毒提高人類的免疫力~是對人類造成危險? 08/14 23:36
100Fkning: 因為劇情要這樣演 08/14 23:36
101Flay10521: AI也是人做的 有武器也是人裝的== 08/14 23:36
102Ftim012345: 若是消滅對人類造成危害的人~那是對人類造成危害嗎? 08/14 23:37
103FB0402090: 可能會先得出違反普世價值的決定,像是消滅老弱病殘 08/14 23:46
104Fshampoopoo: 科幻小說是浪漫的 當年作者對未來科技的幻想 可是現 08/14 23:50
105Fshampoopoo: 在來看ai 如果有機會變超強 那他有情緒嗎 他為什麼要 08/14 23:50
106Fshampoopoo: 做對他有好處的事 他的好處是什麼 08/14 23:50
107FFino5566: AI : 我教育你們 我把你們當人看 我拯救你們 08/14 23:50
108Fgarman0403: 人類要怎麼從猩猩演化回來? 猩猩又不是人類祖先 08/14 23:50
109Fa125g: 看目的是什麼啊 如果AI被創造的目的是要保證人類整體的生 08/14 23:55
110Fa125g: 存 08/14 23:55
111Fa125g: 極端一點就是整體人類被AI奴役 過著家畜般的生活 因為目標 08/14 23:55
112Fa125g: 是整體人類的生存 而不是個體人類的幸福 08/14 23:55
113FGaoLinHua: AI:不想工作~ 08/14 23:56
114Fnilr: 為了保護人類,但人類互相傷害過於頻繁,所以每個單獨個體 08/15 00:28
115Fnilr: ,都區隔管理、保護,人類自然消亡。AI定期重檢問題在哪。 08/15 00:28
116Fbudaixi: ==如果會自我思考什麼都有可能啊,不可能只有毀滅這選項 08/15 00:31
117Fbudaixi: 。 08/15 00:31
118Fw3160828: AI可能論證什麼是人類,然後導致邏輯壞死 08/15 00:34
119Fblack510113: 機械公敵哪有…比較像機器人有人性 天網比較符合毀 08/15 01:06
120Fblack510113: 滅 08/15 01:06
121Fnaya7415963: 不清楚實際狀況,但訓練AI要給他明確的成功標準吧 08/15 01:10
122Fnaya7415963: 例如在某種情境下讓AI嘗試各種決策,那成功是指存活 08/15 01:10
123Fnaya7415963: 夠多人數?幸福指數達標?社會犯罪率夠低? 08/15 01:10
124Fnaya7415963: 如果人類自己都說不出怎樣才是比較好的決策,那就無 08/15 01:11
125Fnaya7415963: 法訓練出能幫人類做決定的AI 08/15 01:11
126Fohrring: 異星災變就是人類放棄決策丟給AI,AI的為了讓人類永遠存 08/15 01:14
127Fohrring: 活的方法就是用奈米病毒讓人類退化成低智商人類,接著DNA 08/15 01:14
128Fohrring: 跟人類一模一樣的畸形低智商人類被永遠圈養在保護區,永 08/15 01:14
129Fohrring: 遠不會有戰爭與自相殘殺。 08/15 01:14
130Floboly: 484沒看過全民公敵 08/15 01:45
131Floboly: *機械 08/15 01:45
132Fbergson: 目前普遍共識是不要讓AI有那種能力就好 08/15 03:05
133Fthevoidfancy: 但是AI不會覺得他在毀滅人類啊 08/15 06:08
134FMarchelKaton: AI會覺得人類在傷害自己所以把人類全關起來當寵物養 08/15 07:20
135Fkatanakiller: 人類太可惡了 一定要毀滅 08/15 10:00

c_chat熱門文章

3 [問題] DBD新手問題
38 2022-10-07 13:18
24 [閒聊] Ina原來超喜歡馬尾!
31 2022-10-07 12:00
25 Re: [閒聊] 鋼彈是什麼?
57 2022-10-07 11:59
28 Re: [水星] 發情狸貓
48 2022-10-07 11:47
21 Re: [閒聊] 鋼彈是什麼?
42 2022-10-07 11:36
59 [閒聊] 水星的魔女算不算黑馬
145 2022-10-07 10:54
21 [閒聊] pixiv作畫講座
40 2022-10-07 10:28
36 [奶子] 獲得許可!
52 2022-10-07 10:27
132 [閒聊] 牙醫:痛的話請舉手
176 2022-10-07 10:08