円に内接する三角形の面積の最大値

$B,C$ を固定したとき，直線 $BC$ から最も遠くなるように $A$ を取ると面積最大になる。このとき，三角形 $ABC$ は $AB=AC$ の鋭角二等辺三角形。

次に，上記の制約のもと $BC=a$ として三角形 $ABC$ の面積 $S(a)$ を表す。

$BC$ の中点を $M$ とすると，$OM=\sqrt{R^2-\dfrac{a^2}{4}}$ より，

$S(a)=\dfrac{1}{2}BC\times AM\\ =\dfrac{a}{2}\left(R+\sqrt{R^2-\dfrac{a^2}{4}}\right)$

これを $2$ 倍して $a$ で微分すると，

$2S'(a)=R+\sqrt{R^2-\dfrac{a^2}{4}}-\dfrac{a^2}{2\cdot 2\sqrt{R^2-\frac{a^2}{4}}}$

よって $S'(a)=0$ を変形していくと，

$R\sqrt{R^2-\dfrac{a^2}{4}}+R^2-\dfrac{a^2}{4}-\dfrac{a^2}{4}=0$

$R^2\left(R^2-\dfrac{a^2}{4}\right)=\left(\dfrac{a^2}{2}-R^2\right)^2$

$\dfrac{3}{4}a^2R^2=\dfrac{a^4}{4}$

符号に注意すると，

$a=\sqrt{3}R$

これと，$S'(a)$ の符号に注意する （$a$ が $0$ に近いと $S'(a) > 0$，$a$ が $2R$ に近いと $S'(a) <0$ かつ $S'(a)$ は連続） と $a=\sqrt{3}R$ で面積最大となることが分かる。

このとき $ABC$ が正三角形になることは，簡単に分かる（例えば，正弦定理： $\dfrac{a}{\sin A}=2R=\dfrac{2a}{\sqrt{3}}$ より $A=60^{\circ}$ が分かる）。

$S=\dfrac{abc}{4R}$ と正弦定理より

$S=2R^2\sin A\sin B\sin C$

ここで，相加相乗平均の不等式より $\sin A\sin B\sin C\leq \left(\dfrac{\sin A+\sin B+\sin C}{3}\right)^3$

さらに，（$\sin x$ は $0\leq x\leq \pi$ で上に凸なので）イェンゼンの不等式より $\sin A+\sin B+\sin C\leq 3\sin \dfrac{A+B+C}{3}=\dfrac{3\sqrt{3}}{2}$

以上より $S\leq 2R^2\left(\dfrac{\sqrt{3}}{2}\right)^3=\dfrac{3\sqrt{3}}{4}R^2$

等号成立条件は $A=B=C$，つまり正三角形のとき。

$ABC$ が正三角形でないとき，$AB\neq AC$ としても一般性を失わない。このとき $A'BC$ が $A'B=A'C$ となる鋭角二等辺三角形になるような $A'$ を円周上に取れば $A'BC$ の面積を $ABC$ の面積より大きくできる。

つまり，正三角形でないときは，より面積の大きな三角形を構成できるので，面積を最大にするのは正三角形である（注）。