祖冲之计算圆周率采用的是三国时刘徽发明的” 割圆术”。“割圆术” 是在圆内作一个内接正六边形。内接正六边形的每边长都等于半径,其周长正好是半径的6倍,直径的3倍。求出正六边形总的边长,就可以得到圆周的近似值,刘徽用这个办法求出了3.1416的值。
祖冲之从圆的内接正六边形开始,先算内接正12边形的边长,再算内接正24边形、正48边形的边长,边数一倍又一倍的增加,祖冲之一共算到了正12288边形,由此推算出的圆周率为3.14159251.祖冲之认为,从理论说,把圆周这样分割下去是无穷无尽的。但真正计算起来,却是繁难复杂的。最后,祖冲之将圆分割到了24576边形,得到圆周率为3.14159261.
要知道,那时的人既没有计算尺,更没有计算机,全靠用算筹来计算。边数每翻一番,至少要进行7次运算,其中除了加和减,有两次乘方,两次开方。祖冲之算出来的结果有6位小数,估计他在运算过程中,小数至少要保留10位以上。如果没有熟练的技巧和坚持的毅力,是无法完成的。