#1の方法は、内積では180度を超えているかどうかの判断はできません。 #2の方法は、外側にあるときでも2つの内積が負になる場合があります。 三角形ABCの回転の方向(A→B→C→Aと回ったときの向きが右周りか左周りか)と、3つの三角形DAB,DBC,DCAの回転の方向が同じであれば三角形の中に入っていることになります。 (3つの三角形DAB,DBC,DCAの回転の方向が全部同じかどうかでも判断できます) 三角形ABCの回転の方向は、 x1(y2-y3)+x2(y3-y1)+x3(y1-y2) の符号で判断できます。 (正なら左周り、負なら右回り)
