멀티 GPU 100% 활용이 안되는 이유?

1. 각 GPU가 한 일을 하나로 합치는 과정(보통 PCI bus를 사용하여 데이터를 주고 받음)에서 bottleneck이 발생

2. 여러대의 컴퓨터를 사용할 경우 각각의 컴퓨터 성능이 달라서 발생하는 성능의 저하도(성능을 균일하게 맞춰주는 과정이 필요)

3. GPU 각자가 맞은 파트를 처리하는게 아니라 GPU_1이 한 일을 GPU_2에게 넘겨주고, 이를 가지고 GPU_2가 일을 하는 식으로 작동하게되면서 필연적으로 노는 리소스가 발생