W trakcie weryfikacji przez człowieka

Data ostatniej aktualizacji:

Evaluating AGENTS.md: Are Repository-Level Context Files Helpful for Coding Agents?

Evaluating AGENTS.md: Are Repository-Level Context Files Helpful for Coding Agents?

Thibaud Gloaguen, Niels Mündler, Mark Müller, Veselin Raychev, Martin Vechev

Zapytaj o ten dokument AI

Kopuj link

Abstrakt

Kluczowe wnioski

Strategie z raportu:

  • Mierzenie rzeczywistego wpływu kontekstu: Zamiast zakładać, że dodatkowe pliki typu AGENTS.md zawsze pomagają AI, należy mierzyć ich wpływ na konkretne zadania. Badania wykazały, że dodawanie obszernego, generowanego kontekstu często wręcz obniża wskaźnik sukcesu rozwiązywania problemów o kilka procent.

Objaśnienie lub prompt

Uruchom testy A/B dla swojego agenta programistycznego. Zleć mu naprawę 5 błędów z wykorzystaniem pliku AGENTS.md i 5 bez niego, a następnie obiektywnie porównaj, w którym przypadku wskaźnik sukcesu był wyższy.


  • Skupienie się na interwencji chirurgicznej (Surgical Intervention): Pliki kontekstowe powinny rozwiązywać tylko te niejednoznaczności, z którymi kod i wbudowane narzędzia agenta nie radzą sobie samodzielnie. Raport nakazuje traktowanie tych plików jako zbiór "drogich prawd", a nie uniwersalną dokumentację.

Objaśnienie lub prompt

Zamiast opisywać w pliku całą architekturę, umieść tam wyłącznie jedną kluczową regułę, np.: "Zawsze używaj niestandardowego wrappera bazy danych z /utils/db.js zamiast bezpośrednich zapytań SQL."


  • Ścisłe monitorowanie kosztów (Inference Cost Tracking): Należy kontrolować zużycie tokenów przy korzystaniu z plików kontekstowych. Raport dowodzi, że ich obecność prowokuje agenta do nadmiernej analizy kodu i wydłuża proces, co zwiększa koszty operacyjne aż o 20%.


Objaśnienie lub prompt

Zwróć uwagę na logi użycia API. Jeśli po dodaniu 50-linijkowego pliku AGENTS.md agent wykonuje dwa razy więcej żądań odczytu plików bez faktycznej poprawy jakości kodu, jest to sygnał, że kontekst należy drastycznie skrócić.


Dobre praktyki:

  • Ręczne tworzenie plików przez ludzi: Zamiast zlecać AI generowanie plików kontekstowych, powinny one być pisane ręcznie przez programistów znających projekt. Raport wykazuje, że tylko zwięzłe, ludzkie pliki przynoszą marginalne korzyści (ok. 4% wzrostu wydajności).

Objaśnienie lub prompt

Jako Tech Lead osobiście napisz 15 linijek najważniejszych i twardych zasad projektowych, zamiast polecać modelowi LLM "wygenerowanie obszernego pliku AGENTS.md dla całego repozytorium".


  • Utrzymywanie ekstremalnej zwięzłości (Keep it Lean): Pliki kontekstowe powinny być maksymalnie krótkie. Najlepsze efekty i oszczędności uzyskuje się, ograniczając objętość pliku do minimum – profesjonalne zespoły często mieszczą się w zaledwie 60 liniach.

Objaśnienie lub prompt

Stwórz plik AGENTS.md zawierający wyłącznie wypunktowaną listę od 3 do 5 kluczowych ograniczeń architektonicznych, które nie wynikają wprost z analizy samego kodu źródłowego.


  • Unikanie dublowania informacji o strukturze: Nie marnuj miejsca i tokenów w plikach kontekstowych na mapowanie katalogów czy opisywanie podstawowych funkcji. Agenci programistyczni doskonale radzą sobie z samodzielnym przeszukiwaniem drzewa plików za pomocą własnych narzędzi.

Objaśnienie lub prompt

Usuń sekcję "Struktura Katalogów" ze swojego AGENTS.md. Agent sam użyje komend terminala (np. 'ls' lub 'find'), aby szybko zorientować się, gdzie znajduje się odpowiedni moduł czy komponent.


Czego unikać?

  • Polegania na auto-generowanym kontekście (LLM-generated context): Zdecydowanie unikaj używania narzędzi i skryptów, które automatycznie budują obszerne pliki AGENTS.md na podstawie analizy repozytorium. Taki wygenerowany "szum" obniża skuteczność AI średnio o 3%.

Objaśnienie lub prompt

Nigdy nie konfiguruj środowiska CI/CD tak, by przy każdym commicie uruchamiało skrypt "Zaktualizuj AGENTS.md przy pomocy ChatGPT" w celu ułatwienia pracy agentom kodującym.


  • Przeładowywania kontekstu (Context Pollution): Unikaj przekraczania granicy kilkuset linii w plikach z wytycznymi. Długie pliki powodują zjawisko interferencji i sprawiają, że asystenci AI gubią kluczowe priorytety zadań pod nawałem instrukcji.

Objaśnienie lub prompt

Nie umieszczaj w pliku historii projektu, misji firmy ani zasad formatowania kodu, które i tak są automatycznie kontrolowane i narzucane przez lintery lub formatery (np. Prettier, ESLint).


  • Wymuszania nieproporcjonalnych procesów: Unikaj instrukcji, które nakładają na agenta sztywne i ciężkie wymogi dla każdego zadania (tzw. over-compliance). Agent zmarnuje czas i tokeny na niepotrzebne kroki, zamiast od razu dostarczyć rozwiązanie małego problemu.

Objaśnienie lub prompt

Całkowicie usuń globalną regułę "Zawsze twórz minimum 5 testów jednostkowych dla każdej wprowadzanej zmiany", ponieważ wymusi to absurdalne koszty w przypadku trywialnych korekt typu poprawa literówki.


Publikacje AI

Prompting

Bezpieczeństwo AI

O mnie

LinkedIn

Mój blog

Wsparcie projektu

Buy me a coffe

Create a free website with Framer, the website builder loved by startups, designers and agencies.