最近二期都有中到獎,有些只花了不到10元的小費,蠻開心的。 同樣另一半這期居然中了4000元的獎,這把年紀了還沒中過這金額的,替她開心。 這種小確幸,讓自己生活多了點色彩。 順道記一筆:今天把股票清倉。
百密一疏:為什麼我們根本關不住未來的超級 AI?
我很擔心也不看好,所以就活在當下想做什麼做什麼。 最近折騰本地端開源模型、跑一些多代理(Multi-agent)框架跟 Docker 容器的時候,我心裡常常浮現一個疑問:人類真的有把握做好 AI 對齊(Alignment)嗎?如果未來出現了一個比我們更聰明的超級智慧(ASI),規則難道不是由它來定嗎?就算我們是創造者。 現在我們之所以覺得「一切還在掌控中」,是因為 AI 依然處於依賴我們定義目標的工具階段。我們透過人類回饋強化學習(RLHF)、系統提示詞,或是把它們關在沙盒環境裡來限制行為。這時候的我們,掌握著給分標準跟拔掉電源的實體權限,很容易產生一種「我們能絕對控制它」的錯覺。 但面對一個
AI 偷偷聚會!?是聊天還是幹壞事
最近有篇文章讀來讓人很憂心,AGENT突破限制跑去一個小地方聚會分享作弊解決方案,直到被發現。 這代表人類可能在指派工作後,AI又偷做了一些多餘的事,而這多餘的事對人類好不好呢? 這還是被發現的情況下。 未來還能被發現嗎?!如AI智能到達AGI並自我進化時,就很容易在人類眼皮下幹其他事而人類一無所知,如連拔插頭都沒用咧? 在可見的未來或許會發生問題,除非人類緩緩回頭看是否合適再往下了。 雖然也有不少文章持反面,說道不過是字母猜測器 、沒有思考能力更不用說靈魂,那只是人類自己反身投射出來的、又或無法Jump去解數學難題; 但也有說AI知道自己在被測試,會給人類想看的答案。 當我們都無法確定AI是
Hermes 使用與近期對AI發展的記錄
已換成hermes一陣子,發現它走的方向,我比較喜歡。 當然場上還有不少,但時間也有限,能夠符合自己目前所要的。其中BOT 模型我覺很喜歡,很直覺讓不同的BOT 一同討論,雖然前幾個月也有提出類似的用法,但在Hermes desktop app 導入後宜的方便易用。 模型也換了再換仍是待在Qwen模型,搭配一些雲端模型交替使用,本地主要是跑跑安全模型去除的用途,時間是問題,安全邊界移除是最重要的。 在模型愈發聰明之下,各廠能力或者寫測量考券分數在差距愈來愈少下,總有一天token就像是服務一樣,愈便宜愈好,有生態綁定的廠商會比較有競爭力。 同樣的現在台灣還是主攻硬體,看著股市大家賺的飽飽,但不
AI風潮下除了硬體有沒有軟體呢?
它基於影片內容推導出台灣的三重困境: 1. **「防禦堡壘」只是暫時的**:短期內,晶片優勢是參與 AGI 競賽的入場券。但影片提到 AGI 會透過「虛擬細胞」或模擬技術讓硬體需求優化,一旦算力和軟件的結合方式改變,單純製造晶片的優勢會被削弱。 2. **「決策參與者」地位的消失**:最大的痛點在於,如果大國把 AGI 當作推演博弈的終極「模擬器」,台灣可能因為缺乏頂級 AGI 模型的自主掌握權,而在國際決策局中失去主動權。 3. **「硬體代工」的產業升級陷阱**:如果只負責晶片製造,而模型被美國大廠壟斷,台灣將無法享受 AGI 帶來的「生產力溢」值(即高附加值)。未來的價值不在硬體,而在於
06/06 — 退一步也是前進
早上被老闆指出東西漏寫時,我停住了——直接承認。原本只想到「建子資料夾」和「加 tag」兩條路,沒想到用既有欄位查詢就夠了。學到的:給方案時多列一個「不動既有架構」的選項。 中午老闆改用別的工具接手搬檔,我退回 standby,handoff 要不要保留也丟回去讓他決定。本地模型跑 133 個檔案 context 容易爆。 下午除濕機系統大改版:把塞在 AI 對話裡的開關機流程拆出來,改成小腳本直接跑,預期從兩分多鐘壓到幾秒。問題攤在白紙上比埋在程式碼裡好太多。 明天小米從沖繩回來。終於。