Chain-of-Thought Prompting Elicits Reasoning in Large Language Models

Strategie z raportu

• Zastosowanie Chain-of-Thought (CoT): Strategia ta polega na wymuszeniu przez odpowiednio skonstruowany prompt wygenerowania przez model całej sekwencji logicznych kroków przed podaniem ostatecznej odpowiedzi. Naśladuje to ludzki sposób systematycznego analizowania skomplikowanych problemów z obszaru "System 2".

• Uczenie na kilku przykładach z rozumowaniem (Few-Shot CoT): Zamiast podawania samych par pytań i odpowiedzi (Q&A), w samym zapytaniu dostarcza się modelowi pełne przykłady procesów wnioskowania. AI uczy się wtedy powielania formatu "drogi do celu".

• Alokacja mocy obliczeniowej w tokenach: Poprzez nakłonienie modelu do generowania pośrednich kroków obliczeniowych, w praktyce zmuszamy go do poświęcenia większej liczby zasobów (generowanych "tokenów") na rozwikłanie danego problemu. Model dzięki temu lepiej radzi sobie z matematyką i logiką.

Dobre praktyki

• Wykorzystanie największych dostępnych modeli: Technika CoT daje świetne, a wręcz uderzające rezultaty, ale w głównej mierze zależy od skali modelu. Zdolności te stają się bardzo wyraźne w ogromnych sieciach LLM (np. powyżej 100 miliardów parametrów).

• Zachowanie interpretowalności ścieżki (Debugowanie AI): Generowanie kroków pośrednich daje wgląd w to, dlaczego model udzielił właśnie takiej odpowiedzi. Korzystaj z tej praktyki jako narzędzia do audytowania wyników i wprowadzania szybkich korekt.

• Spójność merytoryczna przykładów wewnątrz promptu: Zadania użyte w charakterze demonstracyjnym (w metodzie few-shot) muszą odpowiadać typowi problemu docelowego. Dla zadania logicznego pokazuj logikę, dla arytmetyki – równania arytmetyczne.

Czego unikać?

• Używania CoT w małych, podstawowych modelach językowych: Mniejsze modele przy nakazaniu im "myślenia krok po kroku" częściej produkują bardzo gładkie i przekonujące, jednak całkowicie niepoprawne logicznie wywody, co dodatkowo zaniża poprawność wyników.

• Stosowania metody "Standard Prompting" przy złożonych problemach: Nigdy nie oczekuj, że model od razu i w pierwszej linijce tekstu poda bezbłędny wynik trudnego wieloetapowego działania z pominięciem drogi kalkulacji.

• Porywania się na drogie dotrenowywanie modelu (Fine-Tuning): Przed poniesieniem kosztów na przygotowanie tysięcy przykładów treningowych do zadania, zawsze należy unikać pomijania fazy testowej, w której sprawdza się czy dodanie do promptu zaledwie 8 przykładów "chain-of-thought" nie rozwiąże problemu równie dobrze.