设最外层每边x人,最内层每边y人,则有x^2-(y-1)^2=72,(x+y-1)*(x-y+1)=72,考虑x和y为正整数以及奇偶性,有三组方程可解,72=36*2=18*4=12*6,分别为
第一组x+y-1=36,x-y+1=2,解得x=19,y=18,
第二组x+y-1=18,x-y+1=4,解得x=11,y=8,
第三组x+y-1=12,x-y+1=6,解得x=9,y=4。
合本题解有三组,最外层19人,最内层18人,19*19-17*17=72,
最外层11人,最内层8人,11*11-7*7=72,
最外层9人,最内层4人,9*9-3*3=72。
追答如果是三层是无解的,设最外层每边为ⅹ人,则有ⅹ^2-(x-3)^2=72,ⅹ=13.5,不合题意,无解。