OpenGL — 3D — график из набора точек
Так в чем собственно у вас проблема, что вы хотите получить?
Загвоздка в инструментах для построения 3D графиков на Qt? Посмотрите на этот qwtplot3d.sourceforge.net/

Нужно ли сортировать\интерполировать\аппроксимировать или нет, уже решать вам исходя из вашей задачи, что нужно получить, на каком интервале, может вам важна последовательность точек?.. Или ваши точки достаточно неравномерно разбросаны и вам не хватает «гладкости»?
ИМХО Qt это не самое лучшее решение в данном случае. Не смотря на то, что я ужасно его люблю и много над ним работаю — графики рисовать мы не умеем. QWT — говенный, натив — сложно.

На вашем месте, пока разработчики Qt не сделают нормальное «scientific drawings», я бы использовал другой инструмент.