凡人小北:開發垂類 Agent 面臨的 1% 障礙與成本挑戰

凡人小北在其最新的貼文中探討了開發垂類 Agent 時所面臨的挑戰。他強調,雖然 99% 的問題可以通過認真努力來解決,但剩下的 1% 卻可能導致指數級的邊際成本上升。這一小部分問題成為了開發過程中的主要阻力,因為外界對這些極端案例的關注往往超過了對大部分問題已經自動化解決的重視。小北指出,沒有任何客服能夠做到完美無瑕,沒有運營能夠照顧到所有場景,亦無法保證項目能夠實現零事故。這反映出 AI 產品開發中的一種錯位現實:工程視角關注整體覆蓋率和邊際收益,而外部阻力則更關注安全感。因此,開發者最終需要在為 99% 的解決方案付出成本和為那 1% 的極端情況付出無限成本之間做出選擇。理解這一點有助於決定 Agent 的開發程度,因為連人類也無法達到 100% 的完美指標。

來源:https://x.com/frxiaobei/status/2010747701692875157


Posted

in

by