※ 本文轉寄自 ptt.cc, 文章原始頁面
[討論] AGI一定會導致科技奇點嗎
傳統上的想像
很多作品人工智慧是科技奇異點的需求
甚至人工意識 但人工意識種族普遍會加深人類的焦慮
從各種反烏托邦AI作品 駭客任務 甚至質量效應
沙丘跟40k應該也都有AI災難
人類希望存在一個擁有人類思維又擁有超級能力的電腦
但又希望這個電腦不具有人類缺陷
你要不要聽聽自己在講什麼.jpg
好啦 別搞這麼複雜 假設這台AI只是拿來問問題
那你怎麼保證你問的問題是正確的問題?
你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =
所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =
AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者
前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.213.26 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1713675908.A.B44.html
26 則留言
hayuyang 作者的近期文章
16C_Chat
[討論] 中世紀轉生困難問題 可以轉換成對岸吧每次都講中世紀太過遙遠了 太抽象 太難以理解 你是開明先進的西方科學家 掌握一切軍武知識 突然靈魂附體到對岸某個政二代 所以你要打算怎麼玩這個局= =
23C_Chat
[討論] 救世主悖論 我們需要他的能力又懷疑他who watch watchman? 蝙蝠俠 超人 AI 全部都是類似的事情 我們需要一個類似救世主的玩意兒解救我們的悲慘生活 這東西既然可以解救我們的生活 當然可以毀滅我們的生活 一個會想要救世的人上具有對人類悲慘處境的巨大同情心 幾種
Re: [閒聊] 搞半天，魔戒翻最好的是朱學恆喔
※ 引述《SinPerson (Sin號：)》之銘言： : 結果試閱中，甘道夫等人在討論戒指內緣的刻印內容時，同樣的「One Ring to rule them all, one Ring to find them,One Ring to
[閒聊] 跟SJW做法就是對幹 他說得越多 雙標越多
從劍星就可以感覺得出韓國人真不塊是韓國歐巴 韓國的文化輸出產業真的很厲害 從偶像到mmorpg到現在 還敢跟歐美主流文化對幹 幹 有夠派 以前日本sony看到都是直接跪下去的 結果就...(ry 韓國怎麼不出主機啊 我們不要PS了 SJW講
13C_Chat
Re: [閒聊] 搞半天，魔戒翻最好的是朱學恆喔※ 引述《kuninaka ()》之銘言： : 如題 : 我小時候是看朱學恆版的拉 : 覺得順順的，三兩下就把三部曲和哈比人歷險記全部看完 : 後來有個鄧版，文謅謅完全看不下去 : 直到現在又有新譯本，被人抓到一堆翻譯問題 : 搞半天，朱學
![[討論] 被SJW理論耽誤了整個人生 該看啥破防?](https://i.imgur.com/LuWv7rk.jpg)
[討論] 要說自己沒有這領域天份 先比練習量?
漫畫超多天才不用說了 排球少年就很多天才 努力論 很多人都說天才都這麼努力了 那我們這些凡人還努力個P 像兼一 但每個領域幾乎都有靠苦練到頂的 付出的代價當然比有天份的人多很多 但是正常來說 普通人要比的是那些沒天份苦練頂的 而不是天才吧=
18C_Chat
[討論] 有沒有漫畫反殺宗教性社團的啊有一個漫畫 恐怖教授的怪奇課程 這是講說非正統宗教團體跟恐怖份子的議題的漫畫 裡面看到是說 看到就 塊陶 但會被拉攏進團體大部分都是靠各種方法 或者相對好拉攏的 村上春樹問過一個心理治療大師反殺教主的可能性 心理治療專家說到最後是比雙方的硬
噓
推
→
→
推
→
推
推
推
推
→
→
推
→
推
推
推
推
推
→
→
→
→
→
→
→