Porozumění je nové úzkým místem práce s AI agenty
Článek argumentuje, že i v éře AI agentů zůstává pochopení psaného kódu důležité, neboť umožňuje tvůrčí participaci na projektu. Autor představuje tři techniky pro efektivní porozumění: explicitní dokumentaci změn s interaktivními prvky a kvízy, mikro-světy k intuitivnímu pochopení systému, a sdílené mentální modely v týmu.
Kontrolovat jen výsledek svého AI agenta, může být zavádějící a dlouhodobě neudržitelný proces. Protože teď to funguje, ale pokud se něco v systému změní a postup jak něco funguje je špatně, výsledek bude taky špatně. Už ve škole nás učili, že znát postu jak dojít k výsledku je hodnotnější jak znalost samotného výsledku a naopak. Tady je to podobné.
Proč je pochopení kódu psaného AI stále důležité, když se agenti zlepšují?
Pochopení umožňuje tvůrčí participaci v každé fázi projektu, ne jen jednorázové ověření výsledku. Protože projektů se skládá z mnoha iterací, porozumění systému určuje schopnost přijít s dalšími nápady k jeho vývoji a zůstat plnohodnotným účastníkem tvůrčího procesu.
Co je konkrétní problém s pouhým čtením kódu změn (diff)?
Tradiční diff je seznam souborů v abecedním pořadí bez vysvětlení. Je těžké z něj pochopit záměr a kontext změny, a čtenář si snadno klame sám sebe, že informaci pochopil, když ji vlastně neupevnil v paměti.
Jakou roli hrají kvízy v procesu porozumění kódu?
Kvízy fungují jako regulátor tempa. Brání tomu, aby se smyčka AI práce točila rychleji než lidské porozumění, a mechanicky ověřují, zda se vývojář opravdu naučil, co se změnilo.
Co autor míní pojmem 'mikro-světy'?
Mikro-světy jsou interaktivní prostředí, kde se lze seznámit se systémem intuitivně, třeba prostřednictvím debuggeru nebo hry-simulace. Umožňují pochopit změny tak, že si jich sám všimnete při práci, místo aby jste je jen čtli.
- Naomi Bashkanksy opouští OpenAI aby mohla v Condu rozvíjet čtení myšlenek pomocí AI — naomibashkansky.com 80 % shoda
- Mysl mimozemšťana: Hlavní vědec OpenAI v nové eseji říká, že jsme vytvořili intelekt, kterému doopravdy nerozumíme — openai.com 79 % shoda
- Inženýrství harnessů pro sebezdokonalování agentů — lilianweng.github.io 77 % shoda
- AI Engineer
- Geoffrey Litt
- Notion
- Andy Matuschak
- Michael Nielsen
- Seymour Papert
- Claude8
- cognitive debt