Замечал такое на манинге scrypt-а, когда карту "гонишь" до предела, только она SICK становится с начала.
Кстати, теоритически такое может быть из-за некачественного райзера тоже.
если проблемы со связью, то обычно начинает ерунду показывать статистика в мси аб: темпа типа -500 или +100500 и желтая полоса на графике
можно просто вывесить активное окошко gpu-z с датчиками зависающей карты и дать нагрузку, если зависнет и повезет, то будет видно либо перегрев либо просадку по напряжению на замерзшей картинке...