※ 本文轉寄自 ptt.cc, 文章原始頁面
[討論] AGI一定會導致科技奇點嗎
傳統上的想像
很多作品人工智慧是科技奇異點的需求
甚至人工意識 但人工意識種族普遍會加深人類的焦慮
從各種反烏托邦AI作品 駭客任務 甚至質量效應
沙丘跟40k應該也都有AI災難
人類希望存在一個擁有人類思維又擁有超級能力的電腦
但又希望這個電腦不具有人類缺陷
你要不要聽聽自己在講什麼.jpg
好啦 別搞這麼複雜 假設這台AI只是拿來問問題
那你怎麼保證你問的問題是正確的問題?
你假如問出錯誤的問題 AGI完美的解決 那不是一切更糟嗎= =
所有的語言跟形式邏輯都要達到完美的地步 不然一不小心AGI就變黑聖杯了= =
AGI1.能夠不聽命令自律主動介入社會 2.他只是問題的回答者
前者有人類被毀滅的風險 後者有人類加速自己毀滅的風險= =
---
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.228.213.26 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1713675908.A.B44.html
26 則留言
hayuyang 作者的近期文章
20C_Chat
[討論] 把遊戲工作室買過來 再開除掉 到底誰賺?以前EA是把工作室產值跟IP壓榨到沒有產力 無法投入市場 IP全部壞死 工作室名稱全部壞死 這種操作就資方考量我覺得很合理 現在一堆工作室開除掉 IP是在微軟手上嗎? 但沒有工作室的名稱 這IP有用嗎? 隨便操作個名義 讓這堆人繼續做爛IP
17C_Chat
[討論] 50%的抄襲 是抄襲 80%的抄襲就變致敬?以前抄襲都會被人家嗆抄襲 現在把自己抄襲當作一個梗來玩 自嘲自己抄襲 是不是就能光明正大的抄襲了 好強喔 自嘲抄襲 =致敬 這真是太聰明了吧-
[閒聊] 三體費米悖論 廣播會被滅掉 但廣播有痕跡
三體裡提出了只要廣播就會被滅掉 小說也有實驗證實 但問題不是我們要不要廣播 假設外星生物存在 所有類型 但宇宙大到 幾乎允許任何事情出現很多次 問題不是沒有回應 問題是 應該有其他人廣播過的紀錄吧? 理論上 我們應該先收到廣播才對吧?
Re: [閒聊] 會霸凌的小學生還可能有救嗎？
※ 引述《RoChing (綠野賢宗)》之銘言： : 哈利波特的表哥達力， : 從小就把哈利當沙包欺負到大， 達力是硬暴力 這種就是看到其他人就被電到慘威威 這種算啥霸凌 笑死 社交圈子階層圍起來 根本不鳥你的 這種排外性霸凌就是一種社會化
![[討論] 假如鬼魂是能源 你願意用阿罵吹冷氣嗎?](https://i.imgur.com/0o9WQ6o.jpeg)
10C_Chat
[討論] 有主流陰謀論的作品?涼宮春日算是陰謀論嗎 滿多中二病最後變陰謀論的作品應該也算 命運石之門算是? 但比較主流的陰謀論大概就是 共濟會 光明會 馬克伯是蜥蜴人= = 有認真討論這些陰謀論的ACG作品嗎? 貨幣戰爭? 達文西密碼系列?- 我只是想說 假設 真的 有
22C_Chat
[討論] 日本漫畫講年輕成功人士有IT產業人士!?有專有名詞叫做港區女子吧 就是在東京混的年輕女性 社交名媛(?) 在我推的孩子裡面就是社長夫人為代表 在東京這個大城市在酒店 跟各種成功 知名人士交際來往 日本的成功人士很像有 有高級公務員 富二代... 但比較令我驚訝的是 竟然有IT產業
16C_Chat
[討論] 諸葛亮擺爛不就三國時代迅速結束?三國演義這麼多acg作品 有自帶acg嗎 根據鹿鼎記最後的結論 老百姓過的爽過得好 上面是誰有差嗎 匡不匡漢室 重要嗎 曹操贏跟劉備贏 有什麼差別 諸葛亮是真的覺得可以贏嗎= =
16C_Chat
[討論] 中世紀轉生困難問題 可以轉換成對岸吧每次都講中世紀太過遙遠了 太抽象 太難以理解 你是開明先進的西方科學家 掌握一切軍武知識 突然靈魂附體到對岸某個政二代 所以你要打算怎麼玩這個局= =
23C_Chat
[討論] 救世主悖論 我們需要他的能力又懷疑他who watch watchman? 蝙蝠俠 超人 AI 全部都是類似的事情 我們需要一個類似救世主的玩意兒解救我們的悲慘生活 這東西既然可以解救我們的生活 當然可以毀滅我們的生活 一個會想要救世的人上具有對人類悲慘處境的巨大同情心 幾種
噓
推
→
→
推
→
推
推
推
推
→
→
推
→
推
推
推
推
推
→
→
→
→
→
→
→