No upper limit for o1 methods? Yao Ban Ma Teng Yu and others mathematically prove that enough tokens can solve arbitrary problems

马腾宇和Denny Zhou通过数学方法证明,Transformer模型能模拟任意多项式大小的数字电路,理论上无解决问题的上限;CoT (Chain of Thought) 显著提升了Transformer的表达能力,使其能处理更复杂的问题,包括可并行和序列化计算问题;实验验证了CoT在提高Transformer处理各类问题(如模运算、置换群组合、迭代平方、电路值问题)的准确性,显示CoT能有效扩展模型的计算能力。

Search