Можно ли брать две разные оперативные памяти?
Работать будет но вот на каких таймингах (тебе же надо экстремальные) и главное работа в режиме dual channel - под вопросом.

Именно ради гарантий в прайслистах продают парами или по четыре планки памяти, протестированные на совместимость.
Это как повезет. Может будет, а может нет. Лучше найти такую же.