<aside> 💡

문제 원인

Backface 판단은 Normal 벡터를 기준으로 하는 것이 아닌 Mesh를 구성하는 삼각형의 인덱스에 의해 결정된다.

이번 문제는 인덱스 방향을 반대로 하여 Mesh의 앞뒤가 바뀐 것이 문제였다. DirectX 는 인덱스를 시계방향으로 설정해야 앞면으로 판단한다.

해당 문제가 발생한 이유는 OpenGL 로 되어있는 소스코드를 활용하다보니 발생한 것이다.

DirectX 와 OpenGL은 인덱스 구성방향이 반대이기 때문이다.

</aside>

<aside> 💡

문제 해결 과정

1. 먼저 쉐이더변수값을 시각화하여 디버깅

• 구의 Normal 벡터부터 기하쉐이더로 시각화해서 살펴보니 의도한대로 나오는 것을 알 수 있었다.

2. N dot V 의 결과가 어떻게 나오는지 시각적으로 디버깅

• N dot V 를 수행해보니 검은색만 나왔다.
• 이를 통해 N 또는 V 벡터에서 문제가 있을 것이라 추측하였다.

3. N 또는 V에 문제가 있을 것이라 판단하여 - N dot V 확인

• 그런데 - N dot V 에서 N dot V 에서 나와야할 결과가 나타났다.

4. PIX로 가서 값을 확인

• PIX 에서는 특정 화면상에 보이는 픽셀의 값을 점검할 수 있다.
• 어셈블리어 레지스터값을 점검해본 결과 View 벡터는 내가 의도한대로 값이 들어가 있었다.
• 그러나 Normal 벡터의 경우 음수여야하는데 양수였다.
• 즉 화면상에 보이는 Normal 벡터가 잘못된 것이었다.
• if 문 Branch로도 시각화하여 Normal 벡터가 음수인지 확인했는데 음수로 잘못된 값을 화면상에 보여주고 있었다.

5. 다시 한 번 더 PIX 의 레지스터값을 점검하니 이상한점이 있었다.

• 구의 원점이 (0, 0, 0) 이기에 화면상에 보이는 픽셀의 실제 월드좌표의 Z값은 음수가 나와야한다.
• 왜냐하면 구의 앞면에 해당하는 부분이 화면에 보이게 되기 때문이다. 앞면에 해당하는 정점의 월드 좌표는 Z값이 음수이다.
• 그런데 positionWorld 의 Z값이 양수인 것이다.

6. 위의 상황을 놓고 고민해보니 원인을 알 수 있었다.

• 상황을 정리하면 아래와 같다.

  1. 기하쉐이더로 Normal 벡터를 시각화할 시의 실제 Normal 벡터값은 정상적이었다.
  2. 그런데 화면상에서 보이는 픽셀의 Normal 값은 반대이며
  3. 해당 픽셀의 positionWorld 값은 Z값이 양수이다.

• 이를 통해 결론내릴 수 있는 것은

• 최종화면에 구의 앞면이 아닌 구의 뒷면을 렌더링하고 있었던 것이었다.

• DirectX 는 기본적으로 Cull Back 옵션을 켜면 Back Face Culling 을 수행해주는데, 앞면을 뒷면이라 판단하고 Culling을 해버린 것이다. 반대로 뒷면은 앞면이라 판단하고 Culling 을 하지 않은 것이다.

• DirectX 는 Mesh 를 구성하는 인덱스순서를 기준으로 앞면과 뒷면을 판단한다.

• 구 Mesh를 생성할 때 Index 순서를 반시계방향으로 설정하여 앞면 뒷면을 잘못 판단하게 된 것이다. </aside>

• 먼저 각 변수값들이 차례차례 올바른지 테스트해볼 필요가 있었다.

노멀벡터를 2가지 방법으로 시각화

float4 PSMain(VSOutput input) : SV_Target
{
    // 월드 공간 법선
    float3 N = normalize(input.normalWorld);

    if (HasMap(USE_NORMAL_MAP))
    {
        float3 tangentNormal = SampleNormal(input.uv);
        float3 T = normalize(input.tangentWorld);
        float3 B = normalize(cross(input.normalWorld, T));
        N = normalize(mul(tangentNormal, TBNMatrix(T, B, input.normalWorld)));
    }

    // [-1,1] 범위의 N 을 [0,1] 범위로 리매핑
    float3 color = N * 0.5f + 0.5f;

    return float4(color, 1.0f);
}

RGB 색상값을 통해 Normal 시각화

기하쉐이더에서 Normal 방향으로 선분을 만들어서 디버깅

기하 쉐이더를 통해 Normal 시각화