東京大学とGoogleの研究者ら（Takeshi Kojima氏ら）による論文『Large Language Models are Zero-Shot Reasoners』（2022年5月24日にarXivへ投稿、同年のNeurIPSに採択）によれば、大規模言語モデルにタスク固有の例を一切与えなくても、単に『Let's think step by step（順を追って考えてみましょう）』という一文を回答の前に加えるだけで、推論性能が大幅に向上することが示された。具体的には、text-davinci-002モデルを用いた場合、MultiArithベンチマークの正解率は17.7%から78.7%へ、GSM8Kベンチマークの正解率は10.4%から40.7%へと大きく改善したという。この手法は『Zero-shot-CoT』と呼ばれ、原著のChain-of-Thought手法が少数の例題（few-shot）を必要とするのに対し、例題を一切用意しなくても大規模言語モデルが潜在的に持つ推論能力を、最小限かつ汎用的なプロンプトだけで引き出せることを示した点が特徴である。