Chain-of-Thought Prompting

W najnowszej aktualizacjach OpenAI, modele GPT-3.5 i GPT-4 znacząco poprawiły proces wnioskowania, dlatego ta technika straciła na znaczeniu. Warto jednak ją znać, bo w dalszym ciągu może być pomocna, zwłaszcza w trudniejszych zadaniach.

Chain-of-Thought Prompting

Głównym założeniem tej techniki jest to, że dostarczane modelowi przykłady koncentrują się na tym, aby dokładnie opisać proces rozumowania jakim ma się kierować AI. W gruncie rzeczy jest to to technika podobna do tej opisanej we wcześniejszym rozdziale z tą różnicą, że jest skoncentrowana na specyficznym rodzaju wzorca, jakim jest wnioskowanie.

Prompt

Liczby nieparzyste w tej grupie sumują się do liczby parzystej: 8, 9, 15, 12, 2, 1.
A: Dodanie wszystkich liczb nieparzystych (9, 15, 1) daje 25.
Odpowiedź jest fałszywa.

Liczby nieparzyste w tej grupie dają w sumie liczbę parzystą: 17, 19, 4, 8, 12, 24.
A: Dodanie wszystkich liczb nieparzystych (17, 19) daje 36.
Odpowiedź jest prawdziwa.

Liczby nieparzyste w tej grupie dają w sumie liczbę parzystą: 11, 14, 4, 8, 13, 24.
A: Dodanie wszystkich liczb nieparzystych (11, 13) daje 24.
Odpowiedź jest prawdziwa.

Liczby nieparzyste w tej grupie dają w sumie liczbę parzystą: 17, 9, 10, 4, 2.
A: Dodanie wszystkich liczb nieparzystych (17, 9) daje 25.
Odpowiedź jest fałszywa.

Liczby nieparzyste w tej grupie dają w sumie liczbę parzystą: 15, 5, 13, 82, 7, 1. 
A:

Output

Dodanie wszystkich liczb nieparzystych (15, 5, 13, 7, 1) daje 41.
Odpowiedź jest fałszywa.

Zero-shot Chain-of-Thought Prompting

Technika bazująca na prostej idei, aby do prompta nie dodawać przykładu, ale polecenie "zastanów się krok po kroku", które okazało się być bardzo skuteczne. W obecnych wersjach chataGPT można zaobserować, że ten typ wnioskowania jest domyślny, ale warto porównać poniższe przykłady, aby zrozumieć istotę progresu jaki wykonały modele językowe.

Prompt

Poszedłem na targ i kupiłem 10 jabłek. Dałem 2 jabłka sąsiadowi i 2 koledze. Następnie kupiłem jeszcze 5 jabłek i zjadłem 1 jabłko. Ile jabłek mi zostało?

Output

Odpowiedź to 11.

Prompt (Chain-of-Thought)

Poszedłem na targ i kupiłem 10 jabłek. Dałem 2 jabłka sąsiadowi i 2 koledze. Następnie kupiłem jeszcze 5 jabłek i zjadłem 1 jabłko. Ile jabłek mi zostało?
Zastanów się krok po kroku.

Output

Zaczynając od 10 jabłek, dałeś 2 sąsiadowi i 2 koledze, co pozostawiło Ci 6 jabłek. Następnie kupiłeś 5 jabłek, co dało Ci razem 11 jabłek. Po zjedzeniu jednego jabłka, zostało Ci 10 jabłek.