수직인 벡터 내적하면 0

ab = abcos90˚ = ab * 0 = 0

이건 원래 알고 있던 방법이고

내가 구상한 AABB 충돌 감지를 써서 간단한 물리 엔진을 만들려고 하는데 물체가 세 개 이상 겹쳐서 벽에 붙으면 무한루프에 빠지는 것 때문에 고생하고 있다. 도움이 될까 싶어서 고전이라는 글(http://chrishecker.com/Rigid_Body_Dynamics)을 읽다가 각운동 부분을 보는 중 벡터의 성분을 이용한 다른 방법이 생각났다.

a = (a0, a1) 에 수직인 벡터 b는 회전 행렬을 써서 돌려보면

b = k(a1, -a0)  (k ≠ 0)

따라서

  ab = k(a0a1 - a1a0) = 0

은 2차원에서 해본 거고 3차원 이상은 모르겠다. 그리고 저 글 다 읽었는데 문제 해결에는 도움이 안 되었다.