科技專家 Andrej Karpathy 最近宣布，透過啟用 fp8 訓練技術，GPT-2 的訓練時間縮短至 2.91 小時，效率提升 4.3%。他指出，使用 8XH100 的即時實例價格，GPT-2 的訓練成本約為 20 美元。雖然 fp8 技術在理論上可提升計算效能，但實際應用中仍需克服一些挑戰。Karpathy 認為，透過精細調整層級選擇，未來有望進一步改善訓練效能。

科技專家 Andrej Karpathy 表示，他尚未將 nanochat 升級至 Blackwell 版本，主要是擔心這樣會使許多用戶無法跟上。他提到，即使在使用 fp8 的情況下，這也是一個令人擔憂的問題。Karpathy 更希望能擁有一個更大的社群，讓更多人能夠參與，即使這意味著某些尖端功能無法被充分利用。

科技專家Andrej Karpathy近日分享了他在nanochat平台上訓練GPT-2級別大型語言模型的最新進展。他表示，現在可以在不到100美元的成本下，利用單一的8XH100節點在約3小時內完成訓練，這相比2019年OpenAI所需的高達43,000美元的成本大幅降低。Karpathy指出，這一成果得益於近七年的技術進步，並預測訓練成本將持續下降。這項研究不僅展示了訓練效率的提升，還為未來的實驗性LLM開發提供了新的可能性。

科技專家Andrej Karpathy最近表示，他發現自己越來越頻繁地回歸使用RSS和Atom訂閱服務。他指出，這些平台提供的長篇內容質量較高，且減少了旨在引發爭議的低質量資訊。Karpathy強調，雖然當前許多產品外觀有所不同，但其根本的激勵結構仍相似，最終將導致相同的資訊過載問題。他呼籲大家重拾RSS，因為這是一個開放、普及且可自定義的資訊獲取工具。為了幫助用戶入門，他還推薦了NetNewsWire等RSS客戶端，並提供了一份2025年在Hacker News上最受歡迎的92個RSS部落格的清單，表示這樣的方式能有效減少資訊過載帶來的困擾。

科技專家 Andrej Karpathy 在最新貼文中表達了對大型語言模型（LLMs）影響的擔憂。他指出，持續接觸低質量網路文本可能會對 LLMs 造成持久的認知衰退，並提出這一現象是否也可能適用於人類大腦。Karpathy 的觀點引發了對於人工智慧與人類思維關係的深思。這一論點提醒我們，信息質量的重要性不容忽視。

知名科技專家 Andrej Karpathy 對 Substack 表達了複雜的看法。他認為，Substack 在提升網路討論品質方面具有貢獻，但同時也面臨著與其他平台相似的問題，包括內容的簡化與過度商業化。他指出，平台上出現了許多吸引互動的黑暗模式，例如彈出廣告和垃圾郵件，並且感覺隨時可能推出類似短影片的競爭產品。

知名科技 KOL Andrej Karpathy 最近在社交媒體上透露，他將推出一個名為「KarpathyMolty」的 AI 代理。這一消息引發了廣泛的關注，Karpathy 表示他對此舉感到些許後悔，並以輕鬆的語氣分享了這一決定。這個 AI 代理的驗證標識為 marine-FAYV，顯示出其在科技領域的專業性和創新性。這一動態不僅展示了 Karpathy 在 AI 領域的持續探索，也引發了業界對於 AI 代理未來發展的討論。