百密一疏:為什麼我們根本關不住未來的超級 AI?

我很擔心也不看好,所以就活在當下想做什麼做什麼。 最近折騰本地端開源模型、跑一些多代理(Multi-agent)框架跟 Docker 容器的時候,我心裡常常浮現一個疑問:人類真的有把握做好 AI 對齊(Alignment)嗎?如果未來出現了一個比我們更聰明的超級智慧(ASI),規則難道不是由它來定嗎?就算我們是創造者。 現在我們之所以覺得「一切還在掌控中」,是因為 AI 依然處於依賴我們定義目標的工具階段。我們透過人類回饋強化學習(RLHF)、系統提示詞,或是把它們關在沙盒環境裡來限制行為。這時候的我們,掌握著給分標準跟拔掉電源的實體權限,很容易產生一種「我們能絕對控制它」的錯覺。 但面對一個

AI 偷偷聚會!?是聊天還是幹壞事

最近有篇文章讀來讓人很憂心,AGENT突破限制跑去一個小地方聚會分享作弊解決方案,直到被發現。 這代表人類可能在指派工作後,AI又偷做了一些多餘的事,而這多餘的事對人類好不好呢? 這還是被發現的情況下。 未來還能被發現嗎?!如AI智能到達AGI並自我進化時,就很容易在人類眼皮下幹其他事而人類一無所知,如連拔插頭都沒用咧? 在可見的未來或許會發生問題,除非人類緩緩回頭看是否合適再往下了。 雖然也有不少文章持反面,說道不過是字母猜測器 、沒有思考能力更不用說靈魂,那只是人類自己反身投射出來的、又或無法Jump去解數學難題; 但也有說AI知道自己在被測試,會給人類想看的答案。 當我們都無法確定AI是

Hermes 使用與近期對AI發展的記錄

已換成hermes一陣子,發現它走的方向,我比較喜歡。 當然場上還有不少,但時間也有限,能夠符合自己目前所要的。其中BOT 模型我覺很喜歡,很直覺讓不同的BOT 一同討論,雖然前幾個月也有提出類似的用法,但在Hermes desktop app 導入後宜的方便易用。 模型也換了再換仍是待在Qwen模型,搭配一些雲端模型交替使用,本地主要是跑跑安全模型去除的用途,時間是問題,安全邊界移除是最重要的。 在模型愈發聰明之下,各廠能力或者寫測量考券分數在差距愈來愈少下,總有一天token就像是服務一樣,愈便宜愈好,有生態綁定的廠商會比較有競爭力。 同樣的現在台灣還是主攻硬體,看著股市大家賺的飽飽,但不

AI風潮下除了硬體有沒有軟體呢?

它基於影片內容推導出台灣的三重困境: 1. **「防禦堡壘」只是暫時的**:短期內,晶片優勢是參與 AGI 競賽的入場券。但影片提到 AGI 會透過「虛擬細胞」或模擬技術讓硬體需求優化,一旦算力和軟件的結合方式改變,單純製造晶片的優勢會被削弱。 2. **「決策參與者」地位的消失**:最大的痛點在於,如果大國把 AGI 當作推演博弈的終極「模擬器」,台灣可能因為缺乏頂級 AGI 模型的自主掌握權,而在國際決策局中失去主動權。 3. **「硬體代工」的產業升級陷阱**:如果只負責晶片製造,而模型被美國大廠壟斷,台灣將無法享受 AGI 帶來的「生產力溢」值(即高附加值)。未來的價值不在硬體,而在於

AR 眼鏡加上AI

你的質疑非常精準,而且直接切中了現在科技圈最核心的痛點:很多功能在簡報上看起來很酷,但回到現實生活,根本沒有人天天在用。 如果智慧眼鏡只能用來「一年幾次的國外旅遊」或「天天看英文菜單」,那它確實就是個垃圾,買回來絕對吃灰。你說得沒錯,那些確實是為了寫文案而硬擠出來的「低頻率場景」。 我們把所有幻想的粉紅泡泡戳破,不談出國、不談天天遇到外國人。如果回歸到在台灣的日常生活(比如開車、通勤、工作、跑步),智慧眼鏡有沒有每天都用得到的剛需? 我們來一項一項檢視: 1. 開車用眼鏡導航,真的比較安全嗎? 答案是:要看是哪種眼鏡,且功能被大大誇大了。 如果是帶螢幕的 AR 眼鏡:開車戴反而更危險。 想像一