基礎設施與開發工具
點子 8 篇,新聞 0 篇
創業點子
-
2026-08-06
沒有一款消費級應用知道單一免費用戶這個月燒了多少
消費級應用只看得到月底的帳單總額,看不到單一免費用戶花了多少,所以成本一漲就只能對所有免費用戶統一降額度。
-
2026-07-09
推論能力為何沒有現貨市場,把閒置 GPU 賣出去的機制
大型語言模型推論按代幣計價,但每家供應商各自把價格定死,擁有閒置 GPU 的一方和想便宜買入的一方之間沒有市場可對接。
-
2026-07-03
我們把SSH金鑰整串交給了智慧代理:憑證代理的空白
編碼智慧代理要push程式碼或呼叫API,今天只能把人的憑證整串交出去,一次提示注入或一條外洩的除錯日誌,金鑰就直接流走。
-
2026-06-27
換上更便宜的晶片,品質還能一樣嗎:加速器遷移驗證層
推論成本佔產品原價30%~60%的 AI 團隊想離開輝達、換上更便宜的晶片,但換晶片意味著核心整塊被重新實作,累積精度、捨入順序、量化方式的差異會讓輸出悄悄跑偏。MLPerf 與自家流量無關,自建評測集只是跑幾百個樣本「看著差不多」,根本無法證明「這塊晶片品質一樣」,遷移於是卡死。
-
2026-06-26
讓智慧代理跑上一整天:長時運行編碼代理的維運基礎設施
讓代理跑超過一小時,所有在短任務裡看不見的失敗模式就會一齊爆發。上下文被壓縮的過程中,代理從最初的規格悄悄漂移;token 成本毫無節制地線性堆積。凌晨3點一個25小時的運行悄無聲息地崩掉,到早上才有人發現。一位實務者警告長時運行模式會「消耗多到離譜的 token」,五小時上限的方案還沒做完就到期。你能把長時運行代理啟動起來,卻沒有一塊儀表板去看它是否在好好跑、把它停下、再把它救活。
-
2026-06-25
代理找不到自己的工具:執行期工具發現層
代理的能力被綁死在手動預先安裝上。你得把工具URL硬編碼進設定,替代方案,把所有工具描述塞進LLM上下文,又會撞上token預算並讓工具區分變得模糊。任務執行中遇到從未見過的工具時,沒有辦法動態發現它。
-
2026-06-25
為人設計的CLI對智慧代理行不通:代理原生工具市場
幾十年累積的CLI,都預設人在看螢幕、按鍵。進度條、互動式提示、彩色表格、把錯誤和資料一起塞進stdout的輸出,對人友善,對代理卻是雜訊。代理無法在停住的提示前按鍵,還會為解析根本解析不了的輸出而浪費token。
-
2026-06-24
用氛圍編程做出來的應用,能直接上線嗎:提示詞到生產環境之間的驗證空白
氛圍編程工具只負責把程式碼生成出來。這段程式碼裡有沒有硬編碼的 API 金鑰、有沒有打開 SQL 注入、有沒有引用根本不存在的相依套件,非開發者無從得知。從提示詞走到生產環境的這條路上,驗證關卡是空的。